個人向けのChatGPT（無料・Plus・Proなど）

　個人向けのChatGPTでは、初期設定のままだと会話がモデルの改善に使われる可能性があります。OpenAIは、設定画面の「データコントロール」で「Improve the model for everyone」（モデル改善への協力）をオフにできると案内しており、オフにすれば、それ以降の新しい会話はモデルの改善に使われないと説明しています。

　つまり、入力内容をモデルの改善に使わせないためには、利用者が設定を確認し、必要に応じて切り替える必要があります。なお、履歴に残さず会話する「Temporary Chat」（一時的なチャット）はモデルの改善に使われませんが、不正利用の監視などのため最大30日間保持される場合があるとされています。

開発者向けのAPIや企業向けプラン（ChatGPT Business・Enterpriseなど）

　一方、開発者向けのAPIや企業向けプラン（ChatGPT Business、Enterpriseなど）は扱いが逆です。OpenAIは、これらのビジネス向け製品やAPIに送られた入力と出力を、初期設定では学習に使わない（明示的に許可した場合を除く）と明記しています。

　APIについては、不正利用監視用ログを原則として最大30日間保持し、その後削除すると説明しています（法令上の保持義務がある場合などを除く）。さらに対象顧客には、その保持自体をなくす（不正利用監視用ログに顧客コンテンツを保存しない）「Zero Data Retention」も用意されていますが、これは申請と承認が必要な仕組みで、誰でも自動で使えるものではありません。

　整理すると、「個人向けのチャットでは初期設定のままだとモデルの改善に使われる可能性がある一方、APIや企業向けプランでは初期設定で学習に使われない」というのが現状の大枠です。とはいえ、これは各社、各プランで異なり、内容も改定されます。

　鉄則は、「どこかで聞いた話」で判断せず、自社が使うサービスの、その時点の公式ドキュメントを一次情報として確認することです。

「学習させない」設定でも、事故で外に出る

　ここで誤解しないでほしいのは、「学習に使われない＝安全」ではないということです。学習に使われなくても、入力データはサービス提供者のサーバに送られて処理され、サービスや機能によっては一定期間保持されます。事故や不具合でそれが他人に見えてしまえば、立派な漏えいです。

　実際、ChatGPTでは2023年3月、システムの不具合によって、一部の利用者に他人のチャット履歴のタイトルなどが表示される事象が起きました。OpenAIの説明によると、原因は利用していたオープンソースソフトウェアのRedisライブラリの不具合でした。

　特定の時間帯に活動していた一部のChatGPT Plus利用者については、氏名や請求先住所、クレジットカードの種類と有効期限、カード番号の下4桁といった支払い関連情報の一部が、他の利用者に見えた可能性もあるとされています。学習に使われるかどうか以前に、「預けたデータは事故で外に出ることがある」という前提を忘れてはいけません。

　同じ時期、この件はプライバシー規制の問題にも発展しました。イタリアのデータ保護当局（Garante）は2023年3月、ChatGPTにおける個人データ処理を暫定的に制限する緊急措置を取りました。その後、OpenAIによる対応を経て、サービスは再開されています。

　日本でも個人情報保護委員会が2023年6月、OpenAIに対し、本人の同意を得ずに要配慮個人情報を取得しないことなどを求める注意喚起を行いました。これらは「規制当局も、AIサービスにおける個人情報の扱いを問題にしている」ことを示す、確かな出来事です。

「持ち出し」という、もう一つの漏えい

　事故と並んで現実的なのが、人を介した持ち出しです。よく引かれるのが、2023年のサムスン電子のケースです。

　複数の報道によると、同社半導体部門の従業員が、社内のソースコードや会議内容をChatGPTに入力していたことが短期間に複数回発覚し、同社は社内での生成AI利用を制限する方針を取ったと伝えられています。

　悪意のある「情報漏えい」ではなく、便利だから使った結果、機密情報が外部サービスに渡ってしまった点に注目してください。これは、どの会社でも起こり得る話です。

　だからこそ必要なのが、個人の判断に頼り切らない、はっきりした「線引き」です。次に、そのまま現場で配れる基準を示します。

入れて良いもの／ダメなもの――線引き表

　下の表は、会社が利用を認め、入力内容がモデルの学習に使われない環境を利用することを前提に、チャットAIに入れる情報を3段階で整理したものです。研修資料や利用ルールにそのまま転記できるよう、難しい言葉は避けました。

　大切なのは、「何を入れるか」を一律で禁じるのではなく、「どの環境で、どう扱うか」で線を引くことです。

　例えば、ソースコードや社内資料も、会社が利用を認めた環境を使い、社内規定や契約上の問題がないことを確認した上で、処理に不要な情報を削除・置換すれば扱える場合があります。これが「条件つきOK」です。

　一方、IDやパスワード、APIキーなどの認証情報や、法令・契約によって外部サービスへの入力が明確に禁じられた情報は、環境を問わず避けます。これが「原則NG」です。要配慮個人情報（健康・病歴など）は取得のルールが厳しく、特に慎重に扱います。

　その他、自社の機密、顧客や従業員の通常の個人情報、取引先から預かった情報、NDAの対象となる情報は、頭から禁止するのではなく「条件つきOK」とします。

　いずれも、入力内容がモデルの学習に使われない環境を選んだ上で、個人情報なら利用目的の範囲内で必要最小限に、取引先情報やNDA対象なら契約が外部サービスの利用を禁じていないかを確認します。

図1　チャットAIに入れて良いもの／ダメなものの線引き。会社が承認し、入力内容がモデルの学習に使われない環境を利用することを前提に、「そのままOK」「条件つきOK」「原則NG」の3段階に分類した

　「原則NG」とした項目について、判断の背景となる主な法令やリスクを確認します。

要配慮個人情報（健康・病歴・信条など）

　個人情報保護法第20条第2項により、取得には原則として本人の同意が必要で、オプトアウトによる第三者提供も認められていません。通常の個人情報より慎重な取り扱いが必要なため、本稿では原則NGとします。

認証情報（ID・パスワード・APIキー）

　認証情報の入力そのものを一律に禁じる一般的な条文があるわけではありません。しかし、漏えいすれば不正アクセスの直接的な入口となります。個人データを扱うシステムの認証情報であれば、個人情報保護法第23条が求める安全管理措置にも関わります。だからこそ、環境を問わず入力しないのが鉄則です。

法令・契約で禁じられた情報

　他社の営業秘密は不正競争防止法で保護されます。同法第2条第6項は営業秘密を定義しており、無断の開示や使用は差し止め、損害賠償の対象になり得ます。NDA違反は民法上の債務不履行（第415条）に、マイナンバー（特定個人情報）の不適切な取り扱いは番号法による厳格な利用・提供制限に抵触する可能性があります。

通常の個人情報

　通常の個人情報も、「利用目的の達成に必要な範囲」（個人情報保護法第18条）を超えて入力することはできず、入力した個人データが学習に使われる場合は、第三者提供に関する規定（同法第27条）との関係も問題になります。

　だからこそ前述の通り、「学習に使われない環境で、利用目的の範囲内で、必要最小限に」という条件つきになります。個人情報保護委員会も、入力した個人データが応答の出力以外の目的（機械学習など）に使われないことを確認するよう注意を促しています。

　逆に、利用条件に問題のない公開情報や、個人・企業・案件を推測できない状態まで削除・置換した素材であれば、比較的安全に活用できます。機密情報や個人情報を含まない英訳や文章の体裁チェックといった使い方も同様です。

やるべきこと

• 「条件つきOK」の情報は、氏名や社名、金額、連絡先など、処理に不要な部分を削除または仮の情報に置き換えてから使う
• 機密情報を扱う場合は、会社が利用を認め、入力内容がモデルの学習に使われない環境を選び、契約や設定を確認する
• 「入れる前の3つの問い」を、研修や掲示を通じて全員の習慣にする

やってはいけないこと

• 「学習に使われない設定だから何でもOK」と考える
• 契約や利用環境を確認しないまま、取引先の資料や見積書を個人向けのAIサービスに貼り付ける
• IDやパスワード、APIキーを、設定や手順の相談として入力する

今日からできる一歩：「入れて良いもの」ポスターを貼る

　立派な規定を作る前に、まずは1枚です。上の線引き表をA4用紙1枚にまとめ、各部署に配布・掲示するだけでも、判断の「ものさし」を共有できます。

　表を見られない場面のために、口頭で使える覚え方も添えましょう。前提として、会社が利用を認めたAIであることを確認した上で、次の3つを自分に問い掛けます。

1. 他人の情報か？
2. 外に出たら困るか？
3. 契約で縛られているか？

　一つでも当てはまれば、いったん止めて、「学習されない環境を選ぶ」「固有名を伏せる」「相手の同意を取る」のいずれかを確認します。

　あわせて、ポスターに「公式に使ってよいツールはこれ」「機密はこの環境で」と書き添えれば、現場は迷いません。ルールは増やすより、1枚で伝わる形にする方が守られます。

　ただ、線引き通りに安全な情報を入れたとして、返ってきた答えはそのまま信じてよいのでしょうか。

　第4回は「AIの答えを信じ過ぎるわな」。もっともらしい誤りである「ハルシネーション」や、見えない指示によってAIが誘導されるリスクを取り上げ、出力をうのみにしないための検証の構えを解説します。

参考情報

• OpenAI Help Center「How your data is used to improve model performance」（モデル改善へのデータ利用・個人向けと業務向けの違い）
• OpenAI Help Center「How do I turn off model training…」「Data Controls FAQ」（「Improve the model for everyone」のオフ手順）
• OpenAI Help Center「Temporary Chat FAQ」（一時的なチャット：学習不使用・最大30日保持）
• OpenAI「Data controls in the OpenAI platform」（API：初期設定で学習不使用、データ保持、ZDR）
• OpenAI「Enterprise privacy」（ビジネス向け製品・APIは初期設定で学習に使わない）
• OpenAI「March 20 ChatGPT outage: Here's what happened」（2023年3月の不具合・支払い情報の一部露出）
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月）
• 個人情報保護委員会「OpenAIに対する注意喚起の概要」（2023年6月）
• 個人情報の保護に関する法律（第18条、第20条第2項、第23条、第27条／e-Gov法令検索）
• 個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」
• 不正競争防止法（第2条第6項「営業秘密」／e-Gov法令検索）
• 不正アクセス行為の禁止等に関する法律（e-Gov法令検索）
• Garante「Artificial intelligence: stop to ChatGPT」（2023年3月）
• Bloomberg「Samsung Bans ChatGPT, Google Bard and Other Generative AI Use by Staff」（2023年5月）