AIのミス、責任は誰に？「AIのせい」が通用しなかった事例と、仕事で使うときの3つの備え

メールの下書き、資料づくり、調べもの。AIに仕事を手伝ってもらうのは、もう珍しいことではなくなりました。では、AIがまちがえたとき、その責任はだれが負うのでしょうか。

「AIが言ったことだから」は通用するのか。実際にあった出来事をもとに、AIと一緒に働く時代の「責任」の考え方と、今日からできる備えをまとめます。

この記事のポイント

• 結論から言うと、AIのまちがいの責任は、AIではなく、使った人や会社が負うのが基本
• 海外では、チャットボットの誤案内で会社が支払いを命じられたり、AIが作った架空の判例を出した弁護士が処分されたりしている
• 大事なのは「AIを使わない」ことではなく、確認・記録・ルールの3つ

「AIのせい」は通用しなかった、海外の3つの例

1. チャットボットの誤案内で、航空会社に支払い命令（2024年・カナダ）

エア・カナダのWebサイトのチャットボットが、割引運賃の申請について、実際のルールとちがう案内をしました。それを信じた乗客が割引を受けられず、争いになりました。

航空会社は「チャットボットは別の存在で、その発言に会社は責任を負わない」という主張をしましたが、カナダの紛争解決機関はこれを認めず、チャットボットの案内も会社の案内の一部だとして、乗客への支払いを命じました。

2. AIが作った「存在しない判例」を裁判所に提出（2023年・アメリカ）

ニューヨークの弁護士が、ChatGPTを使って作った書面を裁判所に提出しました。ところが、そこに書かれていた判例のいくつかは、AIが作り出した実在しないものでした。弁護士は確認を怠ったとして、罰金を科されています。

3. 双方の弁護士がそろって処分（2026年・アメリカ）

2026年6月には、ミシシッピ州の連邦地裁で、原告・被告の双方の弁護士が架空の判例を引用していたとして、4人全員が処分を受けたと報じられました。AIの使い方そのものより、中身を確かめずに使ったことが問題とされています。

日本ではどう考えられている？

日本でも、考え方の基本は同じです。

• 著作権：文化庁の「AIと著作権に関する考え方について」（2024年3月）では、AIで作ったものでも、既存の作品と似ていて、それをもとにしたといえる場合は、ふつうの創作と同じように著作権の侵害になりうると整理されています。「AIが作ったから」は理由になりません
• 国のガイドライン：総務省と経済産業省の「AI事業者ガイドライン」でも、AIを開発する会社だけでなく、AIを仕事で使う側にも、適切に使う役割があるとされています

つまり、AIは「道具」であり、その道具を使った結果には、使った人や会社が向き合う必要がある、ということです。

AIと一緒に働くときの3つの備え

1. 確認する：AIの答えは「下書き」と考える

• 数字・固有名詞・日付・法律やルールは、元の情報で必ず確かめる
• 「それらしい出典」がついていても、実際にそのページや資料があるかを見る
• お客さんに出す文章や、社外に出す資料は、最後に人が読み直す

2. 記録する：どこにAIを使ったかを残す

• AIを使った作業と、自分で確認した内容をメモしておく
• 問題が起きたとき、「どこで、何を確認したか」を説明できる状態にしておく

3. ルールを守る：会社の決まりと、入れてはいけない情報

• 会社でAIの使い方のルールがあれば、それに従う。ないなら、上司やチームと相談して決めておく
• お客さんの個人情報や、社外秘の情報は、許可されたサービス以外に入力しない
• チャットボットなど、AIがお客さんに直接答える仕組みを作るときは、まちがえたときの連絡先や、人が対応する窓口を用意しておく

「責任が怖いから使わない」でいいの？

ここまで読むと、「AIは危ないから使わないほうがいい」と感じるかもしれません。でも、紹介した例で問題になったのは、AIを使ったことではなく、確かめずにそのまま使ったことです。

人の部下や外部の業者に仕事を頼むときも、できあがったものを確認してから世に出しますよね。AIも同じで、「頼む」と「確かめる」をセットにするだけで、多くのトラブルは防げます。

このブログの考え方

このブログも、AIと相談しながら作っています。記事を書くときも、AIが調べた内容をそのまま載せるのではなく、公式の発表や元の資料にあたって確かめ、参考にした資料を記事の最後にのせるようにしています。

便利さに頼りきると、まちがいに気づけなくなる。かといって、使わないのはもったいない。そのあいだで、「最後に責任を持つのは自分」という意識を持っておくことが、AIと上手に付き合うコツだと思っています。

まとめ

• AIのまちがいの責任は、AIではなく、使った人や会社が負うのが基本
• 海外では、チャットボットの誤案内や、AIが作った架空の判例で、会社や弁護士が責任を問われている
• 日本でも、AIで作ったものの著作権は、ふつうの創作と同じように判断される
• 備えは「確認する」「記録する」「ルールを守る」の3つ。AIの答えは下書きと考える

参考資料

• AIと著作権について（文化庁。「AIと著作権に関する考え方について」を掲載）
• AI事業者ガイドライン（総務省・経済産業省）
• 「チャットボットの誤回答に責任はない」と弁解していたエア・カナダに裁判所が損害賠償支払いを命令（GIGAZINE、2024年2月19日）
• Air Canada Ordered to Compensate Passenger Misled by Chatbot's Incorrect Fare Advice（OECD AI Incidents Monitor。英語）
• ChatGPTで裁判書類生成、嘘判例だらけと気づかず提出した弁護士に罰金5000ドル（テクノエッジ、2023年6月26日）
• 裁判官は「AIのでっち上げ」に忍耐を失いつつある…存在しない「架空の判例」を提出した弁護士4人を制裁（Business Insider Japan、2026年7月24日）

※ 記事の内容は、2026年10月21日時点の情報をもとにしています。法的な判断が必要な場合は、専門家に相談してください。