こんにちは、HOMELY制作チームです。HOMELYは、お客様のサイトのエラー対応や、制作実績の紹介文の下書きなど、いくつかの業務をAIに任せています。この連載でも何から始めるかを書いてきました。
だから「AIには何でも渡していい」と言う側の会社に見えると思います。でも社内には、AIに絶対に渡さないものと、AIからそのまま受け取らないものを決めたルールがあります。任せる範囲を広げるほど、この線が要りました。
今回は、そのルールをそのまま書きます。渡してはいけないものが2つ、受け取ってはいけないものが1つです。
お急ぎの方は、この記事を約60秒で解説した動画をどうぞ。
1. 「AIに機密を入れるな」が半分正しい理由
通説:社内の情報をAIに入れると漏れる
「AIに入力した内容は学習に使われ、他社に漏れる」。この通説は半分正しいです。無料のチャット型サービスの多くは、初期設定で入力内容をサービス改善(学習)に使うと利用規約に書いています。何も確認せずに顧客リストを貼り付ければ、それは自社の管理外に出た、と考えるべきです。
でも、「何も渡さない」では、AIは何もできない
ここからが本題です。
漏れるのが怖いから何も渡さない、では、AIにはメールの敬語を直してもらうくらいしかできません。業務を任せるなら、社内の資料も、サーバーの中身も、ある程度は渡す必要がある。実際、HOMELYのエラー対応のAIは、お客様のサーバーに入ってファイルを読んでいます。
つまり問題は「渡すか渡さないか」ではなく、渡してはいけないものを名指しで決めているかです。HOMELYが決めたのは、たった2つでした。
2. 1883年、「秘密にするのは鍵だけ」と決まった
少し歴史の話をします。
1883年、オランダの言語学者アウグスト・ケルクホフスが、軍用暗号について論文を書きました。その中の原則が、いまも暗号の世界で基本とされています。暗号の仕組みそのものが敵に知られても、鍵さえ秘密なら安全でなければならない。仕組みを隠すことに頼るな、守るべきは鍵だけだ、という考え方です。
これはAIに何を渡すかの話に、そのまま使えます。仕組みや手順や資料は、渡してもいい。守るべきものを「鍵」に絞って、それだけは渡さない。全部を隠そうとすると、何も守れなくなります。
3. 渡してはいけないもの1つ目:鍵
パスワード、APIキー、アクセストークン。サービスを動かすための「鍵」です。
HOMELYのルールは1行です。鍵はチャットに貼らない。貼らせない。
AIに鍵を使わせる場面は実際にあります。たとえばメールを送る仕組みや、翻訳サービスの呼び出しには鍵が要る。そのときは、鍵を本人だけが読める権限のファイルに置き、AIには「鍵はこのファイルにある」と場所だけを伝えます。私たちはこれを「合鍵を渡す」と「鍵の場所を教える」と呼び分けています。
違いは、記録に残るかどうかです。チャットに貼った鍵は、会話の履歴に残り、履歴は共有され、別のAIにも読まれ、いつか誰かの画面に出る。ファイルに置いた鍵は、手元のパソコンから出ない。AIはそのファイルを読んで使いますが、会話の記録には「ファイルの場所」しか残りません。
そして、もし誰かが誤ってチャットに鍵を貼ってしまったら、使う前に、その鍵を再発行する。貼った瞬間に、その鍵は「漏れたもの」として扱います。消しても、履歴には残っているからです。
4. 渡してはいけないもの2つ目:個人情報
顧客の氏名、連絡先、購入履歴、問い合わせの本文。
これは「AIに渡すと漏れる」だけの話ではありません。個人情報を第三者のサービスに渡すこと自体が、お客様との約束(プライバシーポリシー)と法律の範囲で決まっている。渡す前に、そのAIサービスが入力を学習に使わないと明記しているか、業務利用の契約になっているかを確認する必要があります。
HOMELYで実際にやっている工夫は、そもそも集めないことです。この連載で紹介しているAIクローラーの計測は、AIや検索ボットの到達だけを記録し、人間のアクセスは一切記録しない設計にしました。人の記録が無ければ、AIに渡す・渡さないの判断そのものが要りません。
集めてしまった個人情報をAIに渡す必要があるときは、名前を番号に置き換える、住所を市区町村までにする、といった加工をしてから渡します。AIに必要なのは「傾向」であって「誰か」ではないことがほとんどです。

5. 受け取ってはいけないもの:裏付けのない数字
ここまでは渡す側の話でした。最後は、AIから受け取る側です。
AIに文章の下書きを頼むと、数字が混ざってきます。「導入企業の70%が効果を実感」「作業時間を3分の1に短縮」。それらしく、丁寧で、しかし根拠がない数字です。AIは文章を自然にするために、数字を置く。人はその数字を消しにくい。具体的に見えるからです。
HOMELYの制作実績97件を書き直したとき、「成果の数字はAIに書かせない」と最初に決めました。下書きに数字が出てきたら、その数字の裏付けが自社の記録にあるかを確かめ、無ければ消す。実績ページの記事で「成果の数値は書かない」と書いたのは、この経験からです。
裏付けのない数字は、渡した相手の信頼を1回で失います。そして一度でも根拠のない数字が見つかると、その文章の他の全ての記述が疑われる。鍵を漏らすのと同じくらい、取り返しがつきません。

6. HOMELYならどうするか
もしHOMELYがあなたの会社の担当者なら、AIの利用ルールを長い文書にはしません。壁に貼れる3行にします。

- 鍵は貼らない。パスワード・APIキーはチャットに入れない。入れたら、使う前に再発行する
- 個人情報は加工してから。名前は番号に、住所は市区町村までに。加工できないなら渡さない
- 数字は裏付けを取ってから使う。AIが出した数字は、自社の記録で確かめられるものだけ残す
この3行を守っていれば、あとは何を渡しても、たいてい大丈夫です。ケルクホフスが言ったように、守るべきものを絞ることで、残りを自由に使えます。
あなたの会社のAI利用ルールを、3行で一緒に作ります。
いま社内で使っているAIサービスと業務を伺い、鍵・個人情報・数字の3点で、どこに線を引くかをまとめてお渡しします。→ お問い合わせ
