ZEROSHOT

「AIの副作用」を記録するメディア

完全自律ドローンが「初めて」人を殺害。2年前の「テスト」がいま公開された理由

完全自律ドローンが「初めて」人を殺害。2年前の「テスト」がいま公開された理由
Image credit: New Scientist

「AIに殺傷の判断を委ねてはならない」という人類のレッドラインが、静かに突破されていたことが判明した。

ウクライナの防衛産業の幹部が、人間の介入(ヒューマン・イン・ザ・ループ)なしに、完全自律型のドローンが独自の判断で人間の兵士を殺害した事例を認めた。これは公式に確認された「史上初」のケースとなる。

だが、このニュースで最も注目すべきは、それが「現在」起きていることではなく、「2年前」の出来事だという点にある。

「テスト」という名で希釈される責任

報道によれば、ドローンが完全自律モードで人間を殺害したのは、2年前に行われた「テスト」でのことだという。現在はウクライナ政府によって完全自律型の運用は禁止されているが、開発者側はこの規制を緩和するよう求めている。

なぜ、2年前の事実が今になって「初公開」されたのか。

これは単なる技術的なマイルストーンの発表ではない。すでに実戦で使われ、結果を出したという「既成事実」を小出しにすることで、世論の反応を探り、規制緩和への地ならしを行う高度な情報管理プロセスだ。実戦での殺傷を「テスト」と呼ぶことで、倫理的な責任を見事に希釈している。

Redditでの3つの反応

このニュースに対する海外コミュニティ(r/singularity)の反応は、大きく3つの層に分かれている。

第一の層は、「ついに始まった」という嘆きだ。ターミネーターやスカイネットといったSFのディストピアが現実になったことへの、感情的で率直な恐怖である。

第二の層は、「そこまで大げさな話か?」という冷静な指摘だ。人間が目標区域を指定し、交戦規則を設定した上でドローンを放ったのであれば、それは「人間の命令を自動で実行した」に過ぎず、AIが自律的に殺意を持ったわけではない、という論理だ。たしかに、地雷や自動追尾ミサイルとの境界線はすでに曖昧になりつつある。

そして第三の層は、極めて冷酷な「実用論」である。「もし自国が侵略されたら、血肉を持った人間を前線に送るか、それともドローンを送るか」という問いだ。倫理的な議論よりも、被害を減らすという実利が優先される。さらに言えば、「2年前の技術でこれなら、現在の精度は桁違いに向上しているはずだ」という指摘もある。

レッドラインは常に事後報告で超えられる

「人間が介在しない殺戮」は、もはやSFのテーマではなく、すでに2年前に通過したチェックポイントだった。

テクノロジーの進化において、倫理的なレッドラインは「超える前に議論される」ことはない。常に「実はもう超えていました」という事後報告の形で突きつけられる。私たちがこのニュースに驚いている今この瞬間にも、次のレッドラインはどこかの戦場で静かに踏み越えられているはずだ。