AIを安全に使うための基本ルール

結論：AIを安全に使う基本は、「機密情報を入れない」「出力を鵜呑みにしない」「著作権・規約を守る」の3点です。業務で使う場合は、これに「会社のルールに従う」が加わります。

ChatGPTやClaudeのような生成AIは、文章の下書き、調べもの、資料づくりなど、日々の仕事を大きく助けてくれます。一方で、使い方を誤ると、情報漏えい、誤った情報の拡散、他人の権利の侵害といったトラブルにつながることがあります。

ただし、専門的な知識は必要ありません。本記事では、非エンジニアの経営者や事業担当者に向けて、今日から実践できる4つのルールを、実際の事例や公的機関の見解とあわせて解説します。

1. なぜAIの使い方に注意が必要なのか

結論：AIには次の3つの性質があり、知らずに使うと思わぬトラブルになるからです。

• 入力した情報を扱う：入力した内容は、サービス側に保存されたり、AIの改善（学習）に使われたりすることがあります
• もっともらしい誤りを返すことがある：事実と異なる内容を、自信のある口調で答えることがあります
• 生成物に権利の問題が絡む：AIが作った文章や画像にも、他人の著作権やサービスの利用規約が関わります

逆に言えば、この3つを理解して使う分には、必要以上に怖がることはありません。以降の4つのルールは、この3つの性質にそれぞれ対応しています。

2. ルール1：個人情報・機密情報を入力しない

結論：顧客の氏名や連絡先、社外秘の資料、パスワードなどは、AIに入力しないのが原則です。

実際に、2023年には韓国のサムスン電子で、従業員が半導体関連のソースコードや会議の内容をChatGPTに入力していたことが明らかになり、同社が社有端末や社内ネットワークでの生成AIの利用を禁止する事態になりました（Bloomberg、Forbesなどが報道）。報道によれば、入力は「エラーの原因を調べたい」「議事録をまとめたい」といった業務上の必要から行われたものでした。だからこそ、誰にでも起こりうる問題です。

次のような情報は、入力を避けましょう。

• 顧客や取引先の氏名・住所・電話番号・メールアドレス
• 契約書・見積書・請求書など社外秘の資料
• パスワード、APIキー、社内システムのログイン情報
• 未公開の経営情報、従業員の人事情報、個人の機微な情報

個人情報については、個人情報保護委員会も2023年6月の注意喚起で、本人の同意なく個人データを生成AIに入力し、それが回答の出力以外の目的（AIの学習など）で扱われる場合は、個人情報保護法に違反する可能性があると示しています。利用前に、提供事業者がその情報を機械学習に使わないことなどを十分に確認することが必要です。

なお、氏名を伏せ字にしても、他の情報と組み合わせて個人を特定できるなら、個人情報のままです。確実な対策は「入力しない」ことです。学習に使われない設定・プランは重要な条件の一つですが、それだけで個人情報保護法上の問題がなくなるとは限りません。個人データを扱う場合は、提供事業者との契約内容（データの取扱いや保存場所など）も確認し、必要に応じて専門家に相談してください。

3. 入力した内容は学習に使われるのか【サービス別の整理】

入力内容が学習に使われるかどうかは、サービスとプランで異なります。主な既定の扱いを整理します。

Claudeについては、Anthropicが2025年8月28日に発表した個人向け規約の改定で、入力内容をモデルの改善に使うかどうかを利用者が選ぶ方式になりました。同意の画面で許可を選んでいれば学習に使われるため、自分の設定がどうなっているかを必ず確認してください。同社の説明では、オンにした場合は個人を特定しにくい形（識別情報を取り除いた形）で最長5年間保持されます。オフにした場合でも会話は削除するまで履歴に残り、削除した会話は30日以内にサービス側の保存先からも削除されます（不正利用の疑いで検知された会話は、より長く保持されることがあります）。

ここで大切なのは、次の2点です。

• 設定をオフにしても、機密情報を入れてよいわけではありません。会話の履歴はサービス側に残ります。アカウントが乗っ取られたり、共有リンクが外部に出たりすれば、内容は見られてしまいます。また、オフにしても、設定を変える前に入力した分は取り消せない場合があります
• サービスの仕様や設定名は変わります。使い始める前に、その時点の公式ヘルプやプライバシーポリシーで確認してください

4. ルール2：出力をそのまま信じない

結論：AIの答えは「優秀な下書き」と考え、重要な情報は必ず自分で確認しましょう。

AIは、実在しない情報をもっともらしく答えてしまうことがあります。これを「ハルシネーション（幻覚）」と呼びます。有名な例が、2023年に米国で起きた事例です。弁護士がChatGPTに調べさせた判例を裁判所への書面に引用したところ、6件の判例が実在しないものだったことが発覚し、弁護士側が制裁金5,000ドルの支払いを命じられました。しかもこの弁護士は、ChatGPT自身に「これらの判例は実在するか」と確認し、「実在する」という回答を得ていました。

この事例からわかることは2つです。

• AIの答えが正しいかどうかを、同じAIに聞いても確認にならない
• 専門家であっても、確認を省けば同じ失敗をする

とくに、次のような内容は、必ず一次情報（公的機関の資料、原典、公式サイトなど）で裏付けを取ってください。

• 数字・日付・統計などの事実
• 法律・税務・医療など、専門的で責任を伴う情報
• 固有名詞、引用、出典、URL

実務では、「AIで下調べ、人が確認」の流れを習慣にすると安全です。AIが示した出典があれば、実際にリンクを開いて、存在するか、書かれている内容がAIの説明と合っているかを見ます。

5. ルール3：著作権・利用規約を守る

結論：AIの生成物にも、他人の権利や各サービスの規約が関わります。公開や商用利用の前に確認しましょう。

文化審議会著作権分科会の法制度小委員会は、2024年3月に「AIと著作権に関する考え方について」を取りまとめ、文化庁が公表しています。生成物が他人の著作権を侵害するかどうかは、既存の著作物と表現が似ているか（類似性）と、その著作物をもとに作られたといえるか（依拠性）の2点で判断されるという整理です。似た生成物が既存の著作物をもとに作られたといえる場合は、生成する行為や、SNS・ホームページで公開する行為が、著作権侵害になり得ます。また、利用者がその著作物を知らなくても、AIがその著作物を学習していた場合は、依拠性が認められうるとされています。

実務では、次の点に注意します。

• 生成物が既存の作品に酷似していないか、公開前に確認する
• 使うAIサービスの利用規約で、商用利用が認められているかを確認する
• 他人の文章や画像をAIに読み込ませ、そっくりな内容を作らせて公開しない
• AIを使ったことの表示が求められる場面（媒体の規定や契約など）では、正しく明示する

もう一つ知っておきたいのが、生成物そのものの権利です。人の創作的な関与がほとんどない、AI任せの生成物は、著作物として保護されない可能性があります。ロゴやキャラクターなど、自社の資産として守りたいものをAI任せで作ると、著作権では、他社に真似されても止められないことがあります。大切なデザインは、人が手を入れて仕上げる前提で考えましょう。

6. ルール4：業務で使うときは社内ルールに従う

結論：会社で使う場合は、自己判断の前に、使ってよいAIと用途が決まっていないかを確認しましょう。

企業によっては、使えるAIサービスや、入力してよい情報の範囲がルールで決められています。ルールがまだ無い場合でも、上司や情報システムの担当者に相談してから使い始めると安心です。会社が把握していない個人アカウントで業務の情報を扱うことは、情報漏えいの温床になるため避けましょう。

従業員が少ない会社や、社長が1人で運営している会社でも、A4用紙1枚のルールを作っておくと迷いが減ります。次のように、情報を3つに分けるだけでも十分です。

• 入力してよい：すでに公開されている情報、一般的な質問、個人が特定されない文章の下書き
• 条件付きで入力してよい：社内の資料や、案件の概要など。学習に使われない設定・プランのサービスに限る
• 入力しない：顧客の個人情報、パスワードやAPIキー、未公開の契約・財務情報

あわせて、「誰が、どのAIサービスを、何のために使っているか」を把握しておくと、問題が起きたときに、何が漏れた可能性があるのかを調べられます。

7. うっかりを防ぐ習慣と、起きてしまったときの対応

ルールを知っていても、忙しいときには、つい貼り付けてしまうものです。習慣と、起きたときの手順を用意しておきましょう。

うっかりを防ぐ3つの習慣

• 貼り付ける前に3秒だけ見直す：名前、住所、金額、パスワードなどが含まれていないかを確認します
• パスワード・APIキー・認証情報は絶対に貼らない：エラーの相談でも、伏せてから貼ります
• ファイルを添付する前に、中身を開いて確認する：表の隅や別シートに、個人情報が残っていることがあります

機密情報を入力してしまったときの対応

1. 記録する：何を、いつ、どのサービスに入力したかをメモし、画面を保存するなどして内容を残します。削除の前に行ってください
2. 止める：会話の履歴を削除し、学習利用の設定をオフにします。共有リンクを作っていたら無効にします。なお、設定を変える前に入力した分は、取り消せない場合があります
3. 報告する：社内の責任者にすぐ伝えます。隠すと、対応が遅れて被害が広がります
4. 無効化する：パスワードやAPIキーを入力した場合は、他の手順より先に、すぐに変更・再発行します
5. 相談する：顧客の個人情報や、取引先との秘密保持契約の対象情報を入力した場合は、個人情報保護法や契約上の対応が必要になる可能性があるため、専門家や関係窓口に相談します

8. 安全に使うためのチェックリスト

AIに文章を送る前と、出力を使う前に、次の項目を確認してください。

• 機密情報・個人情報を入力していないか
• 使っているサービスの学習利用の設定を確認したか
• 重要な事実は、一次情報で確認したか
• 生成物が既存の作品に似ていないか、利用規約の範囲内か
• 会社のルールに沿った使い方になっているか
• 最終的な判断と責任は、人が持っているか

9. まとめ

• AIを安全に使う基本は、「機密情報を入れない」「出力を鵜呑みにしない」「著作権・規約を守る」の3点。業務では「会社のルールに従う」を加える
• 個人向けプランは、ChatGPTは既定で、Claudeは利用者の選択しだいで、入力内容が学習に使われうる。設定を確認し、個人情報や社外秘は入力しない
• ハルシネーションに備え、重要な事実は一次情報で確認する。同じAIに聞き直すだけでは確認にならない
• 生成物は、公開前に権利と規約を確認する。AI任せの生成物は、著作物として保護されない可能性がある
• ルールを紙1枚にまとめ、起きたときの対応手順も決めておく

AIは、正しく使えば、時間を大きく節約してくれる心強い味方です。まずは今日、自分が使っているAIサービスの設定画面を開き、入力内容の学習利用がオンになっていないかを確認してみてください。数分でできる作業で、情報漏えいのリスクを下げる第一歩になります。