生成AIを使うときの注意点｜入力・回答確認・公開前のチェックリスト

入力前の注意点：外部サービスに渡してよい情報か確認する

生成AIへ文章を貼り付けることも、ファイルや画像をアップロードすることも、情報をサービスに渡す操作です。「文章の修正だけだから」と考えず、入力する内容を確認しましょう。

• 仕事や学校で利用を認められたサービス・アカウントか。
• その資料を外部サービスへ入力してよいか。
• 氏名、連絡先、顧客情報、社員情報などが含まれていないか。
• 未公開の企画、契約内容、社内の売上情報などが含まれていないか。
• 依頼に必要のない情報を削除できないか。
• 利用するサービスや契約で、入力情報がどのように扱われるか確認したか。

名前を置き換えるだけで十分とは限りません

メールの文面を整えるだけなら、実際の氏名や電話番号を含めず、「取引先A」「担当者B」のような仮の情報を使える場合があります。

ただし、名前を消しても、部署、役職、出来事、契約条件などの組み合わせから相手や案件が分かることがあります。名前を置き換えたことだけで、入力してよい資料になったとは判断しないようにしましょう。

資料全体を渡す必要がなければ、扱ってよい内容から必要な部分だけを抜き出します。外部入力が認められていない情報は、仮の名前に変えて入力するのではなく、入力自体を控えてください。

「学習に使われない設定」と「入力してよい情報」は別に確認する

サービスの学習設定を確認することは大切ですが、それだけで社内資料や個人情報を入力してよいと判断できるわけではありません。組織の利用ルール、契約条件、情報の管理方針も確認します。

サービスごとの設定や確認先は、「生成AIに入力した内容は学習される？ChatGPT・Gemini・Claudeの設定」で詳しく紹介しています。

回答確認の注意点：日付・数字・条件を元の情報と照合する

自然な文章や丁寧な説明になっていても、内容が正しいとは限りません。読みやすさの確認と、事実関係の確認を分けて行いましょう。

• 日付、時刻、金額、数量、単位は元の情報と一致しているか。
• 対象者、地域、プランなどの条件が合っているか。
• 「原則」「条件付き」「予定」などの意味が変わっていないか。
• 例外、期限、追加料金などの重要な情報が抜けていないか。
• 元の資料にない理由や約束が加わっていないか。
• 調べた情報なら、その説明を裏付ける公式情報を確認できたか。

調べものは、出典のリンク先まで見る

出典のリンクが表示されていても、回答の説明とリンク先の条件が一致しているとは限りません。料金なら対象のプランや支払い方法、制度なら対象者や適用時期を見ます。

詳しい照合方法は、「生成AIの回答に出典があっても間違う？情報源の確認方法」をご覧ください。

要約や言い換えは、原文から意味が変わっていないかを見る

短くなった文章だけを読むと、何が抜けたかは分かりません。原文と見比べ、期限、料金、対象、例外条件などが残っているか確認します。

例えば「10月15日17時までの申込み」が「10月15日まで」になっていたら、締切時刻が抜けています。文章が読みやすくても、案内として必要な内容を戻す必要があります。

具体的な指示と確認方法は、「生成AIの要約で大事な情報が抜けるときは？指示の出し方と確認方法」で紹介しています。

公開・送信前の注意点：内容・権利・利用ルールを確認する

生成AIの回答が自分の意図に合っていても、そのまま外部へ出してよいとは限りません。メール、資料、ブログ、SNSなど、使う場所に合わせて最終確認します。

• 事実関係の確認が終わり、未確認の内容を断定していないか。
• 個人情報や社内情報が本文・画像・添付に残っていないか。
• 利用するAIサービスの規約で、予定している使い方が認められているか。
• 既存の文章や画像を利用する場合、その利用条件を確認したか。
• 生成物に既存の作品を再現したような表現が含まれていないか。
• 会社や学校で必要な承認、出典表記、AI利用の申告を済ませたか。
• 宛先、添付ファイル、公開範囲は正しいか。

商用利用の可否だけで、権利の確認を終えない

サービスの規約で商用利用が認められていても、他人の著作物との関係は別に確認する必要があります。「AIで作ったから自由に使える」とは考えないようにしましょう。

また、他人の文章や画像をAIに入力する場合も、その資料を使ってよいか、どのような目的で利用するかを確認します。著作権との関係については、文化庁「AIと著作権について」で公表資料を確認できます。

読みやすい文章でも、会社として約束できる内容か確認する

顧客向けの返信では、丁寧な表現にする過程で「必ず対応します」「追加費用はかかりません」など、指示していない約束が入ることもあります。

対応日、返金、値引き、納期などは、実際に認められた内容だけを残してください。必要な場合は社内で承認を受けてから送信します。

具体例：顧客への案内メールを生成AIで整える場合

3段階の確認を、メール作成に当てはめてみましょう。以下は手順を説明するための架空の例です。

1．入力前に、必要な内容だけに絞る

目的が「日程変更のお知らせを丁寧な文章にすること」なら、顧客の電話番号や過去の取引履歴まで渡す必要はありません。外部入力を認められた案内内容だけを使い、宛名は自分で後から入れる方法があります。

2．回答の内容を、指示した条件と見比べる

確認するのは、日付や時刻だけではありません。「変更したい」という相談が、「変更になりました」という確定の案内に変わっていないかも見ます。

3．自分で宛名を入れ、宛先と本文を確認して送る

下書きをメールソフトに移し、実際の宛名や署名を入れます。仮の表記が残っていないか、宛先に間違いがないか、変更前と変更後の日程が分かるかを確認してから送信します。

このように、AIには文章を整える作業を任せ、案内の事実関係や相手との約束は人が確認します。

学校の課題やSNSで使う場合に追加したい確認

学校の課題では、利用できる範囲と申告方法を確認する

生成AIの利用が認められる範囲は、学校や授業、課題によって異なります。説明を聞く、構成を相談する、文章を見直すなどの使い方が認められていても、回答をそのまま提出することまで認められているとは限りません。

課題の指示を読み、分からなければ教員に確認します。AI利用の申告が求められる場合は、その方法に従い、自分で内容を理解したうえで提出しましょう。

SNSでは、画像や動画を出来事の証拠として扱う前に確認する

本物らしい画像や音声でも、実際の出来事を記録したものとは限りません。事件や災害、人物の発言として共有する前に、発信元と公的機関などの情報を確認します。

自分が生成した画像を投稿するときも、実際の写真や出来事と誤解される見せ方になっていないか考えましょう。利用するSNSのルールに従い、必要な表示を行います。

生成AIの注意点についてよくある質問

個人情報を消せば、会社の資料を入力してもよいですか？

個人情報を消しただけでは判断できません。資料に機密情報が含まれていないか、外部サービスへの入力が認められているか、組織のルールや契約条件を確認します。

生成AIの回答を全部確認しなければいけませんか？

用途に合わせて確認します。アイデアを出す段階と、顧客への案内や重要な判断に使う段階では、必要な確認が異なります。外部に出す文章では、事実関係、約束、権利、情報の取り扱いを確認してください。

検索機能を使った回答なら、そのまま信用できますか？

検索を使っていても、情報の読み違いや条件の抜けが起こることがあります。重要な説明は出典を開き、自分が知りたい対象や時点の情報と一致しているか確認します。

利用ルールが分からないときは、どうすればよいですか？

仕事なら上司や情報管理の担当者、学校なら教員などに確認します。承認が必要な資料の入力や、会社としての約束を含む回答の送信は、確認が済んでから行いましょう。

安全な利用の基本を、AIリテラシーとして学ぶ

入力情報を選び、回答を確かめ、利用方法を判断するには、生成AIの特徴や限界を知っておくことが役立ちます。

KLCの無料のAIリテラシー学習ページでは、AI・生成AIの基礎、仕組みと限界、個人情報、著作権、誤情報などを扱っています。

本記事のチェックリストは、利用時の確認を整理したものです。学習ページでは、その背景となる基礎知識を学べます。各社サービスの最新の設定や、勤務先ごとの利用ルールは、それぞれの公式案内や担当者に確認してください。

学んだ基礎知識は、AIリテラシー検定で確認できます。受験料は無料で、合格後に希望する方のみ有料のPDF認定証を発行できます。

参考資料

• 個人情報保護委員会：生成AIサービスの利用に関する注意喚起等について
• 文化庁：AIと著作権について
• KLC：AIリテラシー検定 基礎から学ぶAI入門