AI企業が大金をかけてチャットボットを賢くしようとした結果、逆にバカになっていく。そんな皮肉な構図が明らかになった。
Futurismの取材によると、AI企業から「高品質な回答データ」を作成する業務を請け負った契約労働者たちが、自分で考えるかわりにChatGPTなど別のAIチャットボットを使い、出力をそのまま提出していたことがわかった。
「蔓延している」と内部関係者
この実態を告発したのは、複数の匿名の内部関係者だ。ある契約労働者は「非常に蔓延している」と証言しており、組織的とまではいかなくとも、個人レベルでは広く行われている実態がうかがえる。
契約労働者の「Alice」（仮名）は、その手口についてこう語っている。
「チャットボットの言語的な癖——たとえば特有の接続詞や定型パターン——を削除すれば、検出されない」
つまり、ちょっとした手直しさえすれば品質チェックをすり抜けられるということだ。企業側の検出体制がそれだけ甘いとも言える。
なぜ丸投げが起きるのか
背景にあるのは、圧倒的に低い報酬だ。
AI企業は「人間のフィードバックによる強化学習（RLHF）」と呼ばれるプロセスで、人間の判断をモデルに反映させようとしている。だがこの作業を担う労働者の待遇は、内容の専門性に見合っていないケースが多いと報告されている。
Aliceはこう指摘した。「企業が質の高いデータを望むなら、質の高い契約を提供すべきだ」。至極まっとうな意見だろう。
大量のデータを短期間で求められ、しかも報酬は最低限。そうなれば「AIに書かせて、体裁だけ整えて出す」という行動に流れるのは、ある意味で合理的な判断とも言える。
AIがAIを食べる「モデル崩壊」
この問題が深刻なのは、単に「手抜きの仕事」で済まないからだ。
AI生成テキストでAIを訓練すると、モデルの出力がどんどん均質化し、やがて意味不明な文章を吐き出すようになる。研究者たちはこの現象を「モデル崩壊」と呼び、数年前から警告を発してきた。
2010年以降、AIの訓練データ量は約9カ月ごとに倍増してきたとされるが、「クリーンなデータの備蓄は危機的に低下している」という指摘もある。つまりインターネット上に転がっている人間由来の高品質テキストは、もうほとんど使い尽くされているのだ。
その不足を補うために人間を雇ったら、その人間がAIを使って穴埋めしていた。蛇が自分の尻尾を飲み込むような、出口のない循環が生まれている。
あなたの生活に何が起きるか
「AIの中身がどうなろうと、自分には関係ない」と思うかもしれない。だが、劣化したAIが医療相談に答え、法律文書を作成し、就職面接のスクリーニングをしている時代において、その品質の低下は回り回って利用者の不利益になる。
AIを改善するために人間を雇い、その人間がAIに頼り、AIがさらに劣化する。この循環の先に待っているのは、「なんとなくそれっぽいが、微妙に間違っている」回答が溢れる世界だ。そして厄介なのは、その間違いにユーザーが気づけないケースが増えることだろう。
