ワシントン — 米国務省は、人工知能を駆使した技術を利用してマルコ・ルビオ国務長官や他の高官になりすます試みがあることについて、米国の外交官に警告を発しました。
この警告は、務省がルビオになりすました詐欺師が少なくとも3人の外国の外相、1人の米国上院議員、1人の州知事に接触を試みたことを確認した後に送られた、先週の7月3日付けの電報に基づいています。
詐欺メッセージはテキスト、シグナル、ボイスメールを通じて送信され、その受取人については特定されていないと、ワシントン・ポストが最初に報じました。
「米国務省はこの事件について認識しており、現在、問題のモニタリングおよび対処を行っています」と、同省の広報担当者タミー・ブルースは記者団に語りました。
「同省は情報を保護する責任を真剣に受け止めており、将来の事件を防ぐためにサイバーセキュリティの向上に向けた措置を継続的に講じています」と彼女は付け加えました。
彼女は「安全上の理由」および継続中の調査のため、さらにコメントすることを控えました。
この事件は、トランプ政権の高官がターゲットとなった最近の事例の一部であり、5月にはドナルド・トランプ大統領のチーフオブスタッフであるスージー・ワイルズにも類似の事件が明らかになりました。
技術が進化し普及するにつれて、AIを悪用する詐欺の手法は増加する可能性が高いとされ、FBIは今年の春、テキストおよび音声メッセージキャンペーンにおいて米国政府の高官になりすます「悪意のある行為者」がいることを警告しました。
ルビオにまつわる詐欺は不成功であり、「それほど洗練されたものではない」と、関係者の一人は述べました。
それにもかかわらず、2人目の関係者は、特に外国の行為者による情報セキュリティ侵害の努力が増加していることから、すべての従業員および外国政府に情報を提供するのが「賢明である」と判断したと言及しました。
このキャンペーンからの「直接的なサイバー脅威」はないものの、詐欺対象者の情報が外部に共有される可能性があることが警告されています。
FBIは、上級米国官職者になりすまし、他の政府職員や被害者の知人や連絡先を騙そうとするテキストメッセージおよびAI生成の音声メッセージを使った「悪意ある」キャンペーンについて公のサービスアナウンスを出しています。
ルビオが深層偽造技術によって成りすましされたのはこれが初めてではなく、今春には、彼がウクライナに対し、イーロン・マスクのスターリンクインターネットサービスへのアクセスを遮断する意向を示す偽動画が作成されました。
ウクライナ政府はその虚偽の主張に対し反論しました。
近年、AIを悪用した欺瞞の増加に対して、刑事罰やメディアリテラシーの向上などの解決策が提案されています。
深層偽造技術についての懸念から、多くの新しいアプリやAIシステムが開発され、容易に人間を騙せる詐欺を見破るための技術が競争を強いられています。
これらのシステムに取り組むテクノロジー企業は、欺瞞を置く者たちと競争を繰り広げており、バッファロー大学の教授でコンピュータ科学者のシウェイ・リュは、最近の深層偽造の増加を見てきたと述べています。
数年前、偽情報は明らかな欠陥を含んでいました。例えば、不自然な声や余分な指のような、目立つ間違いがありましたが、現在はAIの技術が向上し、人間が見分けるのが難しくなっています。
「リアリズムとクオリティのレベルが向上しています」とリュは述べました。「これは軍拡競争です。今のところ、生成者が優位に立っています。」
ルビオを狙った詐欺は、5月にワイルズの個人の携帯電話の連絡先にアクセスした者から、選挙公務員やビジネス関係者、その他の著名人にメッセージと電話が送られたことに次いで起こりました。
画像の出所：npr