保守派活動家チャーリー・カークの殺害後、虚偽の主張や陰謀論がソーシャルメディアで急速に拡散した。
特に、彼の身元が公開される前に、AIチャットボット「グロック」が誤った容疑者の情報を発信したことが確認された。
CBSニュースによると、グロックはカークの殺害に関連する事件について、現在知られている容疑者のタイラー・ロビンソンの名前を正しく特定することができず、誤った人物の顔と名前を持つ投稿が広まってしまった。
最終的に、グロックは誤情報を発信していたことを認める投稿を行ったが、その時点ではすでに多くの誤った投稿が拡散していた。
さらに、グロックはFBIが公開した写真の「強化」バージョンを生成し、その中には衣服や顔の特徴が歪んでいるものも含まれていた。
ユタ州ワシントン郡保安官事務所は、AIによって強化された写真が誤って使用されたことを後に発表した。
グロックによって生成された画像の一つでは、容疑者のロビンソン（22歳）よりも遥かに年上に見える男性が描かれていた。
また、あるXのユーザーが投稿したAI生成のビデオは、容疑者の特徴を滑らかにし、シャツのデザインを混乱させた結果、多くの支持者にシェアされ、数千回リポストされた。
ユタ州のスぺンサー・コックス知事がロビンソンが容疑者であると発表した金曜日の朝、グロックはロビンソンについてのXユーザーからの問い合わせに対し矛盾した情報を返していた。
ある投稿では、ロビンソンが共和党員であると述べられた一方で、他の投稿では無党派の有権者であると報じていた。
しかし、ロビンソンは政党に所属していないことが有権者登録記録から確認されている。
CBSニュースはまた、グロックがカークが死亡した翌日にも「カークは生きている」と主張した事例をいくつか特定した。
その他のグロックの反応には、カークの暗殺日についての誤った情報や、FBIの報奨金提案を「偽物」と呼ぶもの、カークの死亡に関する報道が「矛盾している」とするものも含まれていた。
ペン州立大学の教授であるS.シャイム・サンダー氏は、CBSニュースに対し、多くの生成AIツールが確率に基づいて結果を生成するため、正確な情報をリアルタイムで提供するのが難しいと語った。
「これらのツールは、次の単語や文を最も可能性の高い形で生成することが求められますが、事実確認やシーンの報道に基づくものではありません。」とサンダー氏は説明した。
Xはグロックが投稿した虚偽情報についてのコメントを求めるリクエストには応じなかった。
一方で、AIを活用した検索エンジン「パープレキシティ」のXボットも、カークの殺害を「仮定のシナリオ」として説明し、彼の死に関するホワイトハウスの声明が捏造されたものであると示唆していた。
パープレキシティの広報担当者は、同社が構築している核心技術が正確なAIであり、全製品の体験の中心にあると述べたが、「パープレキシティは100%正確であるとは主張しない」とも付け加えた。
また、そのボットは同社が技術に施した改善に関して最新でないことを認め、既にXから削除されたことを報告した。
GoogleのAIオーバービューも、カークの最後の質問者であるハンター・コザックをFBIが求めている容疑者として誤って特定してしまった。
Googleの広報担当者は、「大部分の問い合わせに対して、高品質で正確な回答が返されている」と述べたが、急速に進展するニュースの性質からミスが生じる可能性があることを認めた。
サンダー氏は、多くの人々がAIを信頼できる存在として捉える傾向があると述べ、功名的な意図がないと考えられているために機械の方が信頼されることが多いと指摘した。
また、コックス知事は、誤った情報が外国からも流入している可能性があると警告した。
彼は、ロシアや中国の敵対的な勢力が暴力を助長する目的でボットを利用しているとした上で、リスナーに対し、ソーシャルメディアでの時間の使い方を見直すよう呼びかけた。
「無視することをお勧めしますし、家族と過ごす時間を増やしてください」と彼は述べた。
画像の出所：cbsnews