世界的ベストセラー作家が、AIにたった一つの質問をした。返ってきた答えは、堂々とした「でたらめ」だった。
御年86歳の大作家、AIに聞いてみた
マーガレット・アトウッドという名前にピンとこなくても、Huluドラマ『ハンドメイズ・テイル／侍女の物語』なら聞いたことがあるかもしれない。全体主義国家で女性が「産む道具」にされる衝撃的な物語で、エミー賞を受賞した世界的ヒット作である。その原作者こそ、カナダ出身の作家アトウッドだ。
ポルトガルで開催された文芸フェスティバル「Babell」に登壇した彼女が、AIとの「唯一の体験」を語り、会場を沸かせた。試したのはAnthropic社のチャットボット「Claude」。イギリスの刑事ドラマ『ブラウン神父』について質問したところ、返ってきた答えがまるっきり間違っていたのだという。
「ウソをついた」のではなく「ウソだと気づけない」
アトウッドはこう指摘する。「Claudeは間違った答えを出した。つまり嘘をついた。もちろん、本人は嘘をついている自覚がない。人間ではなく大規模言語モデルだからだ」。AIが大量のテレビ批評を読み込んだものの、ネット上のレビューは結末を明かさないのが慣例であるため、そこから誤った結論を導き出してしまったというわけだ。
ここが重要なポイントになる。AIは「知っているふり」をするのではなく、与えられた情報を統計的につなぎ合わせているだけ。元の情報に偏りや欠落があれば、出力もそのまま歪む。
「ゴミを入れれば、ゴミが出てくる」
アトウッドが繰り返したのは、コンピューター業界の古い格言「Garbage in, garbage out（ゴミを入れればゴミが出る）」だ。「ビジネス目的で使っている人でさえ、AIの出力はいちいち確認しなければならない。なぜなら間違えるからだ」と彼女は述べている。
さらに辛辣だったのが、AI利用者への一言。「人間はロボットではないが、日和見主義者ではある。楽にズルできて、バレにくい方法があれば、使ってしまうものだ」――便利さに飛びつく前に、その中身を疑えという警告である。
86歳の作家がたった1回の体験で見抜いた本質は、私たちが日常的に見落としがちな事実でもある。AIが出す答えは、あくまで「それらしく聞こえる文章」にすぎない。信じるかどうかの判断は、結局のところ人間の仕事なのだ。
