技術企業が連邦政府に人工知能技術を販売しようとする際、新たな規制の障害が立ちはだかっています。それは、自社のチャットボットが「目覚めた」ものでないことを証明することです。
大統領のドナルド・トランプ氏が、AIにおける「グローバル支配」を達成するための広範な新策を発表したことは、規制を削減し、ますます使われるAIツールにアメリカの価値観を確立することを目的としています。
トランプ氏が水曜日に署名した三つのAIに関する大統領令のうちの一つ、「政府における目覚めたAIの防止」は、アメリカ政府がAIのイデオロギー行動に明示的に影響を与えようとした初めての試みを示しています。
この命令が対象とするAI言語モデルの主要プロバイダーであるグーグルのジェミニやマイクロソフトのコパイロットなどは、トランプ氏の反目覚めた指令について、これまで静かにしてきました。この指令は公式の調達規則に組み込まれる前に研究期間を経る必要があります。
テック業界はトランプ氏の広範なAI計画を歓迎しているものの、反目覚めた命令は業界を文化戦争に引きずり込もうとしています。また、業界はできるだけこの問題を避けようとしています。
「これは業界に大きな影響を与えるでしょう」、その中でもテック企業がトランプ政権の他の指令に妥協している中で、シビルライツの擁護者アレハンドラ・モントーヤ・ボイヤー氏は語っています。
この動きはまた、これまでのAIシステムに内在する人種や性別の偏見を解消するための努力を放棄することをテック業界に強いるものです。「まず第一に、『目覚めたAI』というものは存在していません。差別するAI技術と、すべての人々のために実際に機能するAI技術があるだけです」とモントーヤ・ボイヤー氏は述べています。
AI大型言語モデルの行動を形成することは、彼らの構造と生成される内容の内在的なランダム性のために困難です。彼らはインターネット上のほとんどすべての情報で訓練されており、そこでの投稿者の偏見が反映されています。
「テック企業がコンプライアンスを守るのは非常に困難でしょう」と、バイデン政権の元高官で、商務長官ギナ・ライモンドの補佐官であったジム・セクレト氏は言います。「大型言語モデルは、彼らが基づくデータを反映しますが、それには人間の言語のすべての矛盾や偏見が含まれます。」
また、テック企業がどう設計するかには、AIの反応を確認するアノテーション業務を行う世界中の作業者や、実際に人々とどのように対話するかの指示を編纂するシリコンバレーのエンジニアたちも関与しています。
トランプ氏の命令は、テック企業がAIモデルに多様性、公平性、包括性の「破壊的」イデオロギーを取り入れようとする「トップダウン」アプローチを標的にしています。また、批判的人種理論、トランスジェンダー、無意識的バイアス、交差性、システミック・レイシズムといった概念も含まれています。
この指令は、中国の統治共産党の核心的価値観を反映させるためのより厳しい取り組みを引き合いに出すことがあります。セクレト氏は、この命令は「国家の力を利用して、不利な見解と見なすものを排除する」とする中国の手法に似ていると述べています。
しかし、方法論は異なり、中国はAIモデルの監査を通じて直接規制を行い、デプロイ前にそれを承認し、天安門広場の暴動に関する禁止コンテンツをフィルタリングすることを要求します。
トランプ氏の命令は、そのようなフィルターを要求しておらず、テック企業に対して自社の技術がイデオロギー的に中立であることを示すように命じています。「トランプ政権は、連邦契約をレバレッジとして使い、より柔らかいものではあっても強制的なアプローチを取っています」とセクレト氏は述べます。
「それは企業が自己検閲を行う強い圧力を生み出し、政府の好意を保つため、金が流れ続けるようにしています。」
命令の中での「真実を求める」AIという呼びかけは、かつての大統領の同盟者であったイーロン・マスク氏によって造られたGrokチャットボットのミッションに帰属しています。しかし、Grokやその競合他社が新しい政策のもとで優遇されるかどうかは今後の課題です。
トランプ政権のDEI（多様性、公平性、包括性）に対する問題を示すための導入は「表現が際立っているが、実際の指示の言語は企業がコンプライアンスを守るのが難しくないものであるはずだ」と元連邦取引委員会の共和党員技術責任者ニール・チルソン氏は述べています。
「これはイデオロギー的な agenda を禁止するものではなく、単にモデルを導く意図的な方法が開示されねばならないと言っています。」と彼は説明します。「実際には非常に軽いタッチです。」
チルソン氏は、中国のより粗いAI検閲手法との比較を否定しています。「この命令の中には企業に特定のタイプの出力を生産することや、生産しないことを要求するものは何もありません。」と述べます。
AIツールがすでに連邦政府で広く使用されているため、テック企業は慎重に反応しています。オープンAIは、より詳細なガイダンスを待っており、ChatGPTを客観的にするための取り組みがトランプ氏の指令に合致していると信じています。
マイクロソフトは、政府へのオンラインサービスの主要供給者としてコメントを避けました。
マスク氏のxAIは、広報担当者を通じて、トランプ氏のAI発表を称賛する会社のコメントを引用しましたが、調達命令には言及しませんでした。xAIは最近、Grokが軽蔑的なコメントを公に投稿した数日後に、最大2億ドルの米国防契約を受けたと発表しました。
アンソロピック、グーグル、メタ、パルティアも、木曜日の電子メールでのコメントリクエストには応じませんでした。
この命令に関するアイデアは、トランプ氏のAIアドバイザーであるデイビッド・サックス氏や他の影響力のあるシリコンバレーのベンチャーキャピタリストのポッドキャストやソーシャルメディアでの発言の中で、1年以上にわたって浮上してきました。
彼らの不満は、グーグルが2024年2月にリリースしたAI画像生成ツールが歴史的に不正確な画像を生成する問題でした。テック大手はその製品を取り下げて修正しました。
トランプ氏の同盟者は、グーグルのエンジニアが製品に自らの社会的 agenda をハードコーディングしていると主張しました。「100%意図的です」と著名なベンチャーキャピタリストでトランプの顧問であるマーク・アンドリーセン氏は、12月のポッドキャストで述べました。「99%の可能性でデータは明るい人々に偏っているため、システムの中には自動的に、皆は黒人である必要があるという命令が含まれています。」
サックス氏は、この命令の草案作成に参加したDEI施策を争った保守的な戦略家を評価しています。「目覚めた（woke）をどのように定義するかを尋ねられた際、私は一人だけ呼ぶべきだと言いました。クリス・ルフォです。そして今それが法律になっています：連邦政府は目覚めたAIを購入しません」とサックス氏はXに述べています。
ルフォ氏は、これらのシステムの運営憲法内のDEIイデオロギーを特定する手助けをしたと述べています。
しかし、バイデン政権がDEIを推進しすぎたと考える人々の中には、トランプ氏の新しい命令が将来的に政府のAIの政治を形成しようとする努力に悪い前例を設定するという懸念もあります。「AIモデルでイデオロギー的中立を達成するという考え自体が実現不可能です」とマーケットセンターのライアン・ハウザー氏は述べています。「そして、我々は、これらのフロンティアラボがその時々の政治的要件を満たすために発言を変えるだけです。」
画像の出所：apnews