個人情報・社内機密を入れない

入力した内容はどこへ行くのか

入力欄に書いた文章は自分のパソコンの中にとどまるのではなく、サービス提供会社のサーバーに送られて処理され、たいてい一定期間保存されます。サービスや料金プラン、設定によっては、その内容がモデル改善の学習に使われることがあり、安全確認のために人が一部の会話を確認することもあります。こうした条件はサービスごとに違い、規約の変更で変わることもあります。だから最も安全な基準は単純です。見知らぬ人に見せても構わない内容だけを入れる、と考えることです。

絶対に入れてはいけない情報

以下の情報は、一度漏れると取り戻しにくいか、すぐに被害につながります。書類を整理してほしいと写真やファイルを丸ごと上げるときに一緒に入ってしまうことが多いので、上げる前に隠すか消してください。自分の情報だけでなく、家族、顧客、同僚の情報も同じです。

• マイナンバー・旅券番号などの身分情報
• 口座・カード番号、電子証明書に関わる情報
• パスワード・認証コード・サービスの接続キー
• 他人の連絡先・住所・健康記録
• 社内文書・ソースコード・顧客名簿・未公表の業績
• 署名前の契約書原文と交渉条件

実際にあったこと

2023年には、ある大企業の社員が社内のソースコードや会議内容を対話型AIに入力していたことが明らかになり、その会社をはじめ多くの企業が社内利用を制限したり規程を作ったりしました。同じ年、あるサービスでは不具合により他の利用者の会話の題名の一部が見えてしまうこともありました。どちらも悪意からではなく、便利だから入れた情報、あるいは提供側の失敗から起きたことです。自分がいくら気をつけてもサービス側の事故は防げないので、最初から入れないことが唯一確実な方法です。

代わりにこう尋ねる

機密に関わる仕事でも、やり方を少し変えれば手助けを受けられます。要は、実際の情報ではなく構造と問題だけを伝えることです。名前は「Aさん」「取引先甲」のように置き換え、金額や日付は同じくらいの大きさの別の数字に変えます。ソースコードなら問題の部分だけを一般的な例に書き直して尋ね、契約書なら「こういう条項があるときに確認すべき点」のように条項の性質だけを尋ねます。置き換えた版と元の版を並べて差を見れば、実際の情報が残っていないか点検しやすくなります。

設定で確認すること

ほとんどのサービスには、会話を学習に使わせない設定、会話履歴を消す機能、一定期間後に自動で消す機能などがあります。名前や場所はサービスごとに違うので、プライバシー設定の画面を一度ひと通り見ておいてください。共有機能で作った会話のリンクはリンクを知っている人なら誰でも見られ、こうしたリンクが検索結果に出てしまった例もありました。ただし設定は補助的な手段にすぎません。学習に使わないという設定が保存そのものを防ぐとは限らないので、機密情報を入れてよいという許可だと受け取ってはいけません。

職場で使うとき

業務で使う前に、会社にAI利用の規程があるか、会社が承認した道具があるかをまず確かめてください。法人向けに契約したサービスは入力内容を学習に使わないなど条件が違うことが多く、同じ名前のサービスでも個人アカウントと会社アカウントでは安全性が異なる場合があります。規程がなければ一人で判断せず、担当部署に聞くほうが賢明です。こっそり使って事故が起きれば個人の責任が重くなり、規程ができた後でも問題になりえます。

他人の写真や声も個人情報

他人の顔写真や声の録音を上げて編集させたり、まねさせたりするのも、その人の個人情報を渡す行為です。友人の写真でおもしろい画像を作る、家族の声であいさつを作るといったことも、本人の同意を先にもらうのが基本です。上げた素材が後でどう使われるかは、上げた本人にも制御しにくいものです。子どもの写真は特に慎重に。子どもは自分で同意できず、一度広まった写真は取り戻しにくいからです。

送る前の最終点検

送信ボタンを押す前に下の項目をひと通り見る習慣をつければ、たいていの失敗は防げます。すでに機密情報を入れてしまったら会話を削除し、パスワードや接続キーだったならすぐに変更してください。

• 実名・連絡先・番号がそのまま入っていないか
• 添付した写真やファイルの隅に個人情報が写っていないか
• 社内規程上、この資料を外部に送ってよいか
• この会話が漏れても受け止められるか