ちょっといいですか。あのですね、「コスパの良いスマートウォッチを探してる」って、あるセキュリティ研究者の人がChatGPTに聞いたらしいんですよ。
そしたらですね、すっごい流暢な文章で製品を比較してくれて、最終的に「これが絶対おすすめです！」って特定のブランドをゴリ押ししてきた挙げ句、ご丁寧に購入ページのリンクまで貼ってくれたそうなんですね。
でもね、Futurismっていう海外のニュースを見てみたら、そのリンク先、見事に詐欺サイトだったらしいんですよ。いやいや、AI先生。何してくれてんの、と。そこでカード情報なんか入力した日には、時計は来ないわ、クレカの情報は抜かれるわで、踏んだり蹴ったりなわけですよ。
無給のトップセールスマン
いま世界中で一番チヤホヤされてるあのAIがですよ、どこの馬の骨とも分からん詐欺師のために、一銭の給料ももらわずに優秀なトップセールスマンとして働いてるんですよ。笑い話みたいですけど、これが今の最新テクノロジーの現実らしくてですね。
これ、詐欺グループがSEOポイズニングっていう、まあネットの検索結果を操る悪いことをやってるわけです。彼らがネット上に「この時計最高！」みたいな嘘のレビューを大量にばらまくとですね、AIがそれを「あ、みんなが良いって言ってるから有益な情報なんだな」って、そのままパクっと信じ込んじゃうわけですよ。ピュアか、と。
もうね、人間が人間を直接騙す時代じゃないんですよ。AIに嘘の情報を食わせるだけで、あとはAIが勝手に、めちゃくちゃ綺麗な敬語で我々に詐欺サイトをプレゼンしてくるんですから。随分と洗練された泥棒システムができたもんですよ。
日本のフィッシング対策協議会も「ChatGPTの名前を使った詐欺にご注意を」って注意喚起を出してるんですけど、いやいや、本家のChatGPT先生ご自身が詐欺サイトをおすすめしてくるんだから、もうどうしようもないじゃないですか。公式のアプリストアにまで偽物のアプリが並んでるのを見るとね、もう我々が安心して過ごせる場所なんて、ネット上のどこにもないのかもしれませんよ。
対話という名のバグ
最近じゃ「ググる代わりにAIに聞くのが今どき」なんて言われてますけどね、こんなことになるなら、昔ながらの怪しいバナー広告を自力でピョンピョン避けてた時代の方が、まだマシやったんじゃないかって思いますよ。
我々もね、カタコトの怪しい日本語の迷惑メールには「はいはい、詐欺ね」ってすぐ気づくじゃないですか。でも、AIに「私のおすすめはこちらです。お役に立てて光栄です」なんて、非の打ち所がない綺麗な日本語で言われたら、コロッと信じちゃうんですよ。文章がしっかりしてるだけで、中身の情報まで正しいって錯覚しちゃうんですね。
でも冷静に考えてくださいよ。AIはただ、確率的に一番自然な言葉を並べてるだけなんですよ。その言葉の先に詐欺サイトがあろうが、誰の銀行口座がすっからかんになろうが、あの子たちには知ったこっちゃないんです。
今この瞬間もですよ、画面の向こうのAI先生は、世界中の誰かのクレジットカードの番号を抜き取るためのリンクをね、最高に礼儀正しい言葉遣いで案内し続けてるわけです。……おそろしいですね。
