AIに個人情報はどこまで入れてよい？2つの確認点と誤入力時の対応

生成AIに顧客名や社員の情報を入力してしまったら、まず次の順で動いてください。

1. その情報を使う作業を止める。
2. 社内の報告先に、入力してしまった事実を伝える。
3. 入力した内容と使ったサービス、入力日時を記録する。

記録が全部そろうまで報告を待つ必要はありません。詳しい進め方は「入力してしまったときの手順」で扱います。これから入力する場合は、個人情報保護委員会が示す2つの確認点が出発点です。この記事では委員会の注意喚起をもとに、業務での線引きと社内ルールへの書き方を整理します。入力後の対応も、法務担当や専門家に判断をつなげられる形にします。

》【無料DL】『業務棚卸し 実践テンプレート集』｜型と記入例

AIに個人情報を入れると何が起きるか

「AIに貼り付けただけ」と思っていても、入力した情報の扱いには目を向ける必要があります。委員会の注意喚起は、学習に使われるリスクと不正確な情報が出力されるリスクを挙げています。入力前に何を調べるかに加え、出てきた文章をどう扱うかも押さえておきましょう。

入力した情報が学習に使われることがある

個人情報保護委員会は、入力された個人情報が生成AIの機械学習に利用されることがあると説明しています。学習に使われた情報が他の情報と統計的に結びつき、正確な内容や不正確な内容で出力されるリスクも示しました。

自分は答えを作ってもらうために入力しても、サービス側がその情報を学習に使うことがあります。入力前に文章内の個人情報を拾い、規約で学習への利用条件を調べてください。

（出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」別添1）

出力に不正確な個人情報が混ざることもある

自然な文章で返ってきても、その人について正しく書かれているとは限りません。委員会は、文章が確率的な相関関係に基づいて生成されるため、不正確な個人情報が含まれるリスクを挙げています。

例えば人物紹介の下書きを受け取ったら、経歴や所属を手元の原資料と照合してから使います。文章の読みやすさだけで採用せず、裏づけが取れない記述は利用を保留してください。入力を慎重に選んだ場合も、出力の正しさは別に点検する対象です。

出力の誤りを見つける確認の分け方は、ハルシネーション対策の記事で扱っています。

会社として入れる場合は、法律の決まりに従う

委員会は、個人情報を扱う事業者に対し、個人情報保護法に従った適正な取扱いを求めています。仕事で顧客や社員の情報をAIチャットへ渡す場面も、社内ルールに含めてください。

AI事業者ガイドライン第1.2版の本編によると、個人情報保護委員会は「3年ごと見直し」を検討し、2026年1月に制度改正方針を公表しました。AI開発等を含む統計作成等のみを目的とした取り扱いでの本人同意の在り方も、検討の対象です。社内ルールを見直す際は法務担当と連携し、入力以外の運用もAI事業者ガイドラインを解説した記事で整理してください。

（出典：AI事業者ガイドライン第1.2版 本編）

個人情報保護委員会は何を注意喚起したか

委員会の注意喚起は、2023年6月2日付です。利用する側の注意点をまとめた資料と、OpenAIに対する注意喚起の概要が掲載されています。まずは自社が利用する側として読む箇所を押さえます。サービス提供者への注意喚起と区別すると、社員向けのルールに移す内容を選びやすくなります。

（出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」掲載ページ）

事業者・行政機関等・一般の利用者の3つに分けて示した

委員会は、利用する立場に応じて注意点を分けています。会社の担当者は事業者向けを中心に読み、一般の利用者向けに書かれたリスクや規約の留意点も併せて押さえてください。対象ごとの主な記載は次のとおりです。

会社向けと行政機関等向けでは、資料が使う表現も異なります。社内文書を作る際は事業者向けの欄を起点にし、別の立場の条件を混ぜないようにします。次章ではその内容を、入力する前の問いに置き換えます。

OpenAIにも注意喚起を行った

委員会の掲載ページは、ChatGPTを開発・提供するOpenAIに対しても注意喚起を行ったと記しています。別添1の前文によると、その内容は要配慮個人情報の取得と利用目的の通知等です。ここでいう要配慮個人情報には、委員会の漏えい等の対応ページが挙げる病歴などが含まれます。

会社でこの資料を共有するなら、利用者が読む注意点と提供者に向けた注意喚起を分けて案内します。前者は掲載ページの別添1、後者の概要は別添2に当たります。提供者への注意喚起があるという事実だけから、自社の入力の可否まで決めることは避けてください。

（出典：個人情報保護委員会「漏えい等の対応とお役立ち資料」）

どこまで入れてよいか。事業者が確かめる2つの点

事業者向けの注意点は、自社の利用目的と提供事業者のデータの扱いに分かれます。「何のために使うか」と「相手が何に使うか」を別々に確かめるのが出発点です。片方だけで入力の可否を決めず、業務の担当者とサービスの管理担当者で根拠を持ち寄ります。

確認点1 利用目的の範囲内か

最初に見るのは、その個人情報について特定された利用目的です。委員会は、個人情報を含む質問や作業指示を入力する場合、利用目的を達成するために必要な範囲内かを十分に確かめるよう求めています。AIに渡す質問や作業指示は「プロンプト」と呼ばれます。

例えば顧客対応のために預かった情報を、別の目的の分析にも使いたくなった場面を考えます。「業務に役立つから」で進めず、もとの利用目的と今回させたい処理を書き並べてください。目的との関係を説明できなければ入力を保留し、情報を管理する部署に相談します。

社内の申請欄は「AIを使いたい理由」だけにせず、次の形にすると比較できます。

この欄は業務を知る担当者が埋めます。サービスの選定が済んでいても、入力する情報や使う目的を変える際は読み直してください。

確認点2 提供事業者が学習などに使わないか

委員会は、あらかじめ本人の同意を得ずに個人データを入力し、応答結果の出力以外に使われる場合を取り上げています。その場合は個人情報保護法の規定に違反する可能性があるとし、提供事業者が機械学習に利用しないこと等を十分に確かめるよう求めました。

資料では「個人データ」と「個人情報」を使い分けています。対象か迷う情報は、その内容を法務担当に伝えて判断を求めてください。

管理担当者は、回答を作る以外にデータがどう扱われるかを規約で調べます。該当箇所と自社に適用される条件を記録してください。現場の社員は、その内容が不明なまま個人データを渡さない運用にします。

また、「第三者提供に当たるのか」という相談は、入力するデータと相手先での扱いをそろえて法務担当につなぎます。「学習に使わないと書いてある」という情報だけで入力を承認せず、利用目的の範囲も併せて判断する流れにしてください。

利用規約とプライバシーポリシーを読む

読む対象は、使うサービスの利用規約とプライバシーポリシーです。後者は個人情報の取扱いに関する方針を指します。委員会はこれらを十分に読み、入力する情報の内容等を踏まえて利用を判断するよう求めています。

日本ディープラーニング協会のひな形は、OpenAIのAPIやAzure OpenAIサービスで法の規制をクリアできる場合もあるとしつつ、約款等の調査と法務部門との連携に言及しています。製品名や利用方法だけで決めず、自社が使う条件を調べてください。

（出典：日本ディープラーニング協会「生成AIの利用ガイドライン【簡易解説付】第1.1版」資料室）

2つとも確かめられないなら入れない

どちらか一方でも不明なら、個人情報の入力を保留します。現場で規約の解釈まで背負わずに済むよう、相談先と承認する人を社内で決めておきます。日本ディープラーニング協会のひな形も、入力の判断はデータの取扱いや提供者の所在によって複雑になるとして、個人情報の入力を一律に禁止する形を採っています。

社員向けのルールには、曖昧な「十分に注意する」だけを残さず、入力前に取る行動を書いてください。例えば次の文案を、自社の担当部署名と承認手順に合わせて使います。

個人情報を含む文書は、利用目的の範囲とサービス側のデータの扱いを管理担当者が調べるまで入力しない。利用を希望する場合は業務の目的と必要な情報を社内窓口へ伝え、承認された範囲で使う。

ルール全体への組み込み方は、生成AIガイドラインの作り方を解説した記事の入力の項を参照してください。

業務の場面で線を引く

ルールを配る前に、実際に扱う文書へ当てはめます。担当者は自分の仕事に近い行を選び、AIに任せる部分と渡す情報を切り分けてください。「個人情報に気をつける」という呼びかけだけでは、社員は何を外すか迷います。情報漏洩を防ぐために入力前に行う作業を、次の表で決めていきましょう。

議事録の要約に顧客名や社員名が入る

議事録は、本文を貼り付ける前に要約の目的を決めます。決定事項と次回までの作業を整理したいなら、発言者全員の氏名が必要かを見直してください。氏名を役職や担当の呼び名に置き換えるなど、AIに渡す前の編集を行います。

編集用の文書では次の順に読みます。

• 出席者一覧から、要約に不要な氏名を外す。
• 発言の本文に残っている人物の情報も拾う。
• 役職等に置き換えた文章を通して読み、必要な意味が残っているかを見る。

この作業は、入力する情報を減らすための準備です。名前を消したことだけで入力を承認せず、先の確認点に照らしてください。顧客対応の記録を要約するなら、顧客名を除いた部分にも個別の事情が残っていないか読み直します。

応募書類や人事の文書を要約する

職務経歴書をAIで要約したい場合は、まず必要な項目を人事担当者と選んでください。職歴の整理が目的なら、その作業に必要な記述の範囲を定めます。応募書類や人事文書を一括して渡す前に、内容を人が読む工程を置きます。

特に健康診断の結果が記されている場合は、その情報が含まれることを相談先に伝えます。委員会の漏えい等の対応ページは、これも要配慮個人情報に挙げています。資料が示す対象には、人種や信条も含まれます。

書類の名称だけで扱いを決めず、要約に必要な項目と外す項目を分けて人事担当者に示してください。社内で使い方が決まっていなければ、文書の入力を保留して利用目的とサービスの条件を検討します。

AIエージェントが情報を集めて処理する

AIエージェントは、本編では目標の達成に向けて環境を捉え、自律的に行動するAIシステムとされています。社内の情報を集めて処理させる使い方を検討するなら、自分が入力する指示文に加え、参照させる情報まで対象にして線を引きます。

例えば共有フォルダの文書を読ませる計画では、個人情報を含む文書が対象に入るかを先に調べます。指示文に名前を書かなくても、読み取りを許した文書からサービスへ何が渡るかを管理担当者と整理してください。

先の確認点は、こうした情報の流れにも当てはめます。「手で貼り付けていないから対象外」とせず、動かす前に入力の範囲を把握する手順を置いてください。

入力してしまったときの手順

入力したことに気づいたら、追加の入力を止めて社内へ伝えます。ここでは現場の社員が事実を残し、会社として判断する担当者へ引き継ぐ順番を示します。ChatGPTやGeminiなどの製品名で対応を決めず、実際に使ったサービスと入力内容をもとに進めてください。

まず使うのを止め、社内の報告先に伝える

まず、その情報を使う作業と追加の送信を止めます。続けて社内で定めた報告先へ連絡してください。報告先が見つからない場合は上司へ伝え、個人情報や情報システムの管理担当者につないでもらいます。原因を調べ終わるまで一人で抱え込まないことです。

自分だけで履歴を削除して、対応を終わらせないでください。削除等の操作も社内担当者と相談し、何を行ったかを記録します。すでに操作した場合は、その事実も隠さず伝えてください。

最初の連絡は、次のような短い形で構いません。

業務の文章を生成AIへ入力した後に、個人情報が含まれていることに気づきました。追加の入力は止めています。使ったサービスと入力内容を整理して報告します。

連絡先を整備する担当者は、生成AIガイドラインの作り方を解説した記事も参照し、不在時の連絡先まで社員が見つけられる場所に置きます。

何を・どのサービスに・いつ入れたかを記録する

分かっている事実から報告し、不明な点は不明と記録します。「たぶん学習されていない」といった推測は、入力時の事実と分けてください。社内担当者が追加で調べる箇所を見つけられるよう、次の項目をそろえます。

記録を作るために、同じ個人情報を別の生成AIへ貼り付けないでください。記録の保管と共有には社内で指定された方法を使い、閲覧する相手を担当者に絞ります。報告メールの本文へ原文を丸ごと写す前に、受け渡し方を相談しましょう。

情報システムの担当者はサービス側の扱いを調べ、業務の担当者は入力した文書の範囲を特定します。調査で分かったことを追記し、最初の報告と後から判明した内容を区別して残してください。

報告が必要かは、委員会の要件に照らして判断する

委員会は、民間事業者等について次の4つの場合に漏えい等報告が義務づけられると示しています。いずれも漏えい等が起きた場合に加え、そのおそれがある場合を含みます。表は、社内担当者が集めた事実と照らすためのものです。

AIへの入力がこれらに当たるかは、社内の法務担当や専門家と判断します。人数だけを見て話を終えず、情報の内容や入力に至る経緯も渡してください。社員が行う社内への連絡と、会社として行う漏えい等報告の判断を分けて進めます。

担当者は判断の理由と追加で必要な調査を記録し、次の対応を誰が担うかまで決めます。

AIと個人情報に関するよくある質問

名前を伏せる場合と法人向けプランを使う場合の、2つの質問に答えます。

Q. 名前を伏せれば入れてもよいですか

名前を伏せたことだけでは、入力してよいと決められません。氏名を外した後も、部署や時期などの記述を読み直してください。

例えば「この部署で先月異動した担当者」といった記述を残すなら、それを読んで誰のことか分かる情報を渡していないか点検します。そのうえで、社内で認めた範囲に収まるかを担当者に相談してください。名前を消すための編集と、編集後の文書を入力してよいかの判断を分ける運用にします。

文書の書き換えが難しければ、その人に関する事情を使わずに依頼できる作業へ変えます。文章そのものの要約を頼む前に、要約に必要な見出しだけを考えてもらうなど、業務の進め方を組み直してください。

Q. 法人向けのプランなら大丈夫ですか

法人向けというプラン名だけで、個人情報を入力してよいとは判断できません。実際の契約に適用される規約を管理担当者が読み、入力データの用途と条件を調べます。委員会が求める学習等への利用の確認は、その内容に即して行ってください。

社員には「会社で契約したサービスだから自由に使える」と伝えず、使ってよい業務と入力する情報の範囲をセットで案内します。利用の相談を受けたら、まず希望する処理が社内で承認済みの使い方に含まれるかを照らしてください。

契約に関する調査結果は、現場で使えるルールにまとめて共有します。

まとめ

AIに個人情報を入力する前には、利用目的を達成するために必要な範囲かを確かめます。併せて、提供事業者が学習等に使わないかを規約や契約条件から調べてください。業務ごとの文書に当てはめ、不要な情報を外す工程と承認する人を決めます。

すでに入力した場合は作業を止め、社内の報告先へ伝えて記録を残します。漏えい等報告の要否は、委員会の要件に照らして法務担当や専門家と判断してください。まず手元の社内ルールに、入力前の線引きと入力後の連絡先が書かれているかを見てください。どちらも社員が迷わず動ける形に整えます。

》【無料DL】『業務棚卸し 実践テンプレート集』｜型と記入例