参考文献：
AIチャットボットが間違えた。その「間違い」で損害を受けた。そのとき、訴えるべき相手は誰なのか——これまでは曖昧だったこの問いに、少しずつ法律が追いつき始めている。
「これはAIです」という但し書きは免罪符にならない
多くのAIサービスは、利用規約に「AIの回答は不正確なことがある」「保証しない」という文言を入れている。ユーザーは何となくそれを受け入れて使い続ける。
だが法の目線は違う。
アメリカの消費者保護法（連邦不公正取引規制やFTC法）の観点では、チャットボットが発した言葉は「会社の代理発言」として扱われる。つまり、企業のウェブサイトに設置されたチャットボットが誤った情報を提供した場合、それは「会社が嘘をついた」に等しいと判断され得る。免責事項の文言があっても、必ずしも法的に有効ではない。
ドイツで初の重要判決
2026年6月、ドイツの裁判所がひとつの答えを出した。「チャットボット運営者は、AIのハルシネーション（事実に反する内容を自信満々に生成する現象）によって生じた損害に対して責任を負う」というものだ。
「AIが勝手に書いたことだから知らない」という言い訳は通じない——これがドイツの裁判所の判断だった。
アメリカでも初の州レベル訴訟
2026年1月、ケンタッキー州の司法長官がCharacter.AI（キャラクターAI）を相手取った訴訟を起こした。これはアメリカで初めての、州政府によるAIチャットボット企業への法的措置だ。
問われたのは「消費者へのリスク開示が不十分」という点。Character.AIはユーザーが感情的に依存しやすいチャットボットを提供しているが、そのリスクをきちんと説明していなかったとされる。
この訴訟が示すのは「既存の消費者詐欺防止法がAIにも適用できる」という考え方だ。特別なAI規制がなくても、今ある法律で戦えるという解釈が広がりつつある。
規制の波は急速に拡大中
2026年だけで25の州でAI関連の法律が成立し、45の州で1,561件のAI関連法案が提出されている。FDAやFTCも、チャットボットの安全性・情報開示・消費者への悪影響を積極的に調査し始めている。
「チャットボットとやり取りしているときは、それを明示せよ」という義務を課す州も増えている。「自分が話しているのが人間かAIかを知る権利」を、法律で保障しようという動きだ。
セキュリティ専門家ブルース・シュナイアーが問う
サイバーセキュリティの世界的権威ブルース・シュナイアーと研究者ネイサン・E・サンダーズは、ガーディアン紙への寄稿でこう指摘する。AIが提供する情報の誤りで人が傷ついたとき、その責任の所在が曖昧であることは「製品の欠陥を隠して販売している」のと変わらないと。
AIチャットボットがあらゆる場面に組み込まれていく今、「AIが間違えたら誰のせいか」という問いは、もはや哲学的な議論ではなく、現実の法的問題になっている。サービスを使う前に、「何かあったときに誰に文句を言えるのか」を意識しておくことが、これからの時代の消費者リテラシーになるかもしれない。
