仕事でAIを使うときの注意点:入れない情報、確かめる責任、会社で決めるルール
この記事の要点
- AIの失敗は、道具の欠陥より使い方から起きることが多いと、筆者は考えています。代表的なのは、入れてはいけない情報を入れることと、答えを確かめずに使うことです。
- 注意することは4つ:①入れない情報を決める、②答えは人が確かめる、③契約と設定を確かめる、④他人の権利に気をつける。これを会社のルールにまとめます。
- ルールは、小さな会社なら、まず1枚の紙から始められます。この記事の最後に、決めておく項目の表をつけました。
文章の下書き、要約、調べもの。AIは、小さな会社の仕事でも当たり前に使われるようになりました。一方で、「顧客の情報を入れてしまった」「AIの答えをそのまま取引先に送ったら間違っていた」といった失敗も起きています。
筆者は、こうした失敗の多くは、AIの性能ではなく、使い方を決めていなかったことから起きると考えています。この記事では、仕事でAIを使うときに押さえておきたい注意点を、会社で決めるルールの形にまとめます。
よくある失敗
| よくある失敗 | 起きること | 防ぎ方 |
|---|---|---|
| 顧客や利用者の個人情報を、そのまま入れる | 契約によっては、入力した内容がAIの学習に使われたり、保存されたりする。個人情報の扱いとして問題になる | 入れない情報を決める(次の章) |
| AIの答えを確かめずに使う | もっともらしい誤り、古い情報が、そのまま社外の文書に入る | 確かめる人と方法を決める |
| 社員が個人のアカウントで使っている | 会社が把握しないまま、会社の情報が個人の契約のサービスに入る | 使ってよい道具とアカウントを決める |
| 取引先から預かった資料を入れる | 秘密を守る約束(契約)に反するおそれがある | 契約で外に出せない情報は入れない |
| AIで作った文章や画像を、そのまま公開する | 他人の作品に似ていて、権利の問題になるおそれがある | 公開前に人が確かめる |
注意1 入れない情報を決める
まず、AIに入れてよい情報と、入れてはいけない情報を分けます。
| 区分 | 例 |
|---|---|
| 入れない | パスワード・ログイン情報、マイナンバー(法律で使える場面が限られています)、クレジットカードや口座の番号、契約で外に出せないと決まっている取引先の情報 |
| 条件つき | 顧客・利用者・社員の個人情報、社内の未公開の情報。会社として契約したサービスで、入力した内容が学習など他の目的に使われないことを契約・設定で確かめたうえで、決めた範囲だけに限る。個人情報は、本人に示している利用目的の範囲に収まるかを確かめる。病歴など特に慎重な扱いが必要な個人情報(要配慮個人情報)は、その中でもさらに範囲を絞り、個人向けのサービスには入れない |
| 入れてよい | 公開されている情報、一般的な文章の下書き、個人や取引先が分からない形にした業務の手順 |
注意したいのは、名前を消せば安全とは限らないことです。日付・地域・病名・取引の内容などの組み合わせで、誰のことか分かる場合があります。個人情報保護委員会は、生成AIサービスに個人情報を入力するときは利用目的の範囲内に限ること、入力した内容が学習に使われないかを確かめることなどを、注意として公表しています。
注意2 答えは人が確かめる
AIは、もっともらしい誤りを出すことがあります。数字や日付、制度の内容、人名や会社名は、特に誤りが出やすいところです。
- 制度や法律の内容は、官公庁などの元の資料で確かめる。
- 数字・計算は、元のデータと照らし合わせる。
- 社外に出す文書(見積書、お知らせ、取引先へのメールなど)は、送る前に必ず人が読む。
AIが作った文章でも、送ったのは会社です。確かめる責任は、使った側にあります。
注意3 契約と設定を確かめる
同じAIでも、個人向けのプランと法人向けのプランで、入力した内容の扱いが違います。法人向けのプランは、初期設定で入力内容をAIの学習に使わないと、各社が公表しています。個人向けのプランは、料金を払っていても個人向けで、設定によって学習に使われる場合があります。法人向けでも、管理者の設定で学習への提供を選べるサービスがあるので、設定も確かめます。
あわせて、入力した内容がどのくらいの期間保存されるか、管理者が社員の使い方を管理できるかも確かめます。各社の条件は変わることがあるので、契約の前に最新の説明を読みます。道具の選び方は「AIの選び方」の記事にまとめています。
注意4 他人の権利に気をつける
- AIで作った文章・画像が、既存の作品やほかの会社のロゴなどに似ていないかを、公開前に確かめる。
- 他人の文章や画像を読み込ませて、それに似たものを作らせない。
- 使っているAIサービスの利用規約で、作ったものを仕事に使ってよいかを確かめる。
文化庁は、生成AIと著作権について、立場ごとの注意点をまとめたチェックリストを公表しています。
会社で決めておくルール
ここまでの注意を、会社のルールにします。小さな会社なら、まず次の表の項目を1枚にまとめるところから始められます。扱う情報や取引先との契約によっては、項目を足してください。総務省・経済産業省の「AI事業者ガイドライン」にも、AIを業務で使う側(AI利用者)の留意点がまとめられています。
| 項目 | 決めること |
|---|---|
| 使ってよい道具 | どのサービスを、会社のどのアカウントで使うか。個人のアカウントを仕事に使ってよいか |
| 入れてよい情報 | 「入れない/条件つき/入れてよい」の区分(注意1の表) |
| 確かめる人 | AIで作ったものを、誰が、何と照らして確かめるか。社外に出す前の確認 |
| 困ったときの連絡 | 入れてはいけない情報を入れてしまったときに、すぐ誰に伝えるか。履歴の削除などの対応 |
| 見直しの時期 | 道具や条件は変わるので、半年に一度など、見直す時期を決める |
誤って情報を入れてしまったときは、隠さずにすぐ報告できる雰囲気が大切です。入れたのが個人情報の場合、内容や人数によっては、個人情報保護委員会への報告と本人への通知が法律で必要になることがあります(要配慮個人情報やカード番号が含まれる場合など。マイナンバーには別の決まりがあります)。履歴を消せば済むとは限らないため、責任者がすぐに判断できるよう、連絡の決まりを作っておきます。判断に迷うときは、個人情報保護委員会の漏えい等の対応の案内を確認するか、専門家に相談してください。
介護・看護・医療の事業所の場合
記録には病名や心身の状態など、要配慮個人情報が多く含まれます。個人情報保護委員会と厚生労働省の「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」もあわせて確認してください。記録の作業でのAIの使い方は、「訪問看護の書類業務を減らす3つの手順」で詳しく書いています。
まとめ
- AIの失敗の多くは、使い方を決めていないことから起きると、筆者は考えています。
- 入れない情報を決める、答えは人が確かめる、契約と設定を確かめる、他人の権利に気をつける。
- これらを、会社のルールとして1枚にまとめておきます。
参考にした資料
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」(2023年6月)
- 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(2026年3月)
- 文化庁「AIと著作権について」(「AIと著作権に関するチェックリスト&ガイダンス」を含む)
- 個人情報保護委員会・厚生労働省「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」
YOUR COMPANY
あなたの会社なら、どこを見るか
- 社員が、どのAIを、どのアカウントで使っているかを把握しているか
- AIに入れてはいけない情報が、言葉で決まっているか
- AIで作った文書を、社外に出す前に誰が確かめるか決まっているか
- 誤って情報を入れてしまったとき、誰に伝えるか決まっているか
AIの使い方を含む業務の進め方の整理は、弊社の「業務の整理・改善のご相談」としてお受けしています。業務の様子を伺い、弊社で対応できるかどうかをお伝えします。まだ相談の形になっていなくても構いません。

