ハリー王子とその妻メーガン妃は、著名なコンピュータ科学者、経済学者、アーティスト、福音主義クリスチャンの指導者、アメリカの保守派評論家スティーブ・バノン氏やグレン・ベック氏と共に、人類を脅かすAI「スーパーインテリジェンス」の禁止を求める声明を発表した。
この声明は、テクノロジーの巨頭であるGoogle、OpenAI、Meta Platformsを標的にしており、彼らは人間の能力を超えるAIを開発しようと競い合っている。
声明は、いくつかの条件が満たされない限り、スーパーインテリジェンスの開発を禁止するよう求めている。
30語の声明にはこうあります。
「私たちは、スーパーインテリジェンスの開発を禁止することを求めます。これは、安全にかつ制御可能に実施できるという広範な科学的合意が得られ、強い公共の賛同がある前には解除されません。」
前文では、AIツールが健康や繁栄をもたらす可能性がある一方で、「多くの主要なAI企業が、すべての認知タスクにおいて人間を大きく上回るスーパーインテリジェンスの構築を目指している」と述べている。このことは、人間の経済的無用化、自由や市民権の損失、国の安全保障リスク、さらには人類の絶滅の可能性に対する懸念を引き起こしている。
ハリー王子は声明に個人的なメッセージを添え、「未来のAIは人類に役立つものであり、人類を置き換えるものであってはならない。進歩の真の試金石は、どれだけ早く進むかではなく、どれだけ賢明に舵を取るかだと思う。」と述べた。
同じく署名したメーガン妃は声明の重要性を強調した。
AIの先駆者スチュアート・ラッセル氏は、他の署名者の一人として、「これは通常の意味での禁止や一時停止ではありません。」と説明しました。「これは、開発者によると、人類絶滅の可能性がある技術に対して、適切な安全対策を要求する提案に過ぎません。それが多すぎる要求でしょうか？」
署名者には、AIの先駆者でありチューリング賞受賞者のヨシュア・ベンジオ氏とジェフリー・ヒントン氏も含まれており、彼らは自らが作り出した技術の危険性に警鐘を鳴らしてきました。
また、署名者の中にはバノン氏やベック氏といったサプライズ人選が含まれており、これは非営利団体「Future of Life Institute」がトランプ大統領の「アメリカを再び偉大に」という運動にアピールする試みです。トランプ氏のホワイトハウスのスタッフがアメリカにおけるAI開発の規制緩和を目指していた時期にもかかわらずのことです。
著名な企業家スティーブ・ウォズニアック氏や英国の億万長者リチャード・ブランソン氏、元アメリカ合衆国統合参謀本部議長マイク・マレン氏、民主党の外交政策専門家スーザン・ライス氏も署名しています。
元アイルランド大統領メアリー・ロビンソン氏や多くの英国および欧州議会議員、元アメリカ合衆国議会のメンバーも参加しており、俳優のスティーブン・フライ氏やジョセフ・ゴードン＝レヴィット氏、音楽家のウィル・アイアム氏も名前を連ねています。ゴードン＝レヴィット氏は、AIが音楽創作において役立つことを受け入れつつも、AIが人間を模倣したり、子供たちを育てたりする必要があるのか疑問を呈しています。
「私たちは、病気を治す手助けや国の安全保障を強化する具体的なAIツールを求めています。」とゴードン＝レヴィット氏は書いています。「しかし、AIが人間を模倣し、子供たちを育て、全ての人間をスロップ中毒者にし、広告主に何十億ドルも提供する必要はあるのか？ほとんどの人はそう望んでいません。」
AIスーパーインテリジェンスに対する懸念は、AI研究コミュニティ内でも続く議論を引き起こす可能性があります。
MITのマックス・テグマーク氏は、「これまで、批判は主に技術者同士の間のものでしたが、今や批判が非常に主流になってきていると思います。」と述べています。
AIの開発を目指す企業は、その製品の能力を誇張することが時にあるため、バブルの懸念を煽っているとのことです。最近、OpenAIは研究者がChatGPTが未解決の数学の問題を解決したと主張した際に批判を受けました。しかし実際には、ChatGPTはすでにオンラインに存在する情報を見つけて要約したに過ぎません。
テグマーク氏は「多くのものが過大評価されているため、投資家として慎重である必要がありますが、それでもAIは過去4年間で急速に進展し、予想以上に進んでいることに変わりはありません。」と説明しました。
テグマーク氏の団体は、2023年3月にも技術巨頭に対し、より強力なAIモデルの開発を一時的に停止するよう求める声明を発表しましたが、主要なAI企業はその要求に応じませんでした。その時の声明の著名な署名者、イーロン・マスク氏は、同時に自身のAIスタートアップを設立しており、競争する立場にいました。
テグマーク氏は今回も、すべての主要なAI開発企業のCEOに連絡を取ったとしましたが、署名を期待していなかったと言います。
「彼らは底辺の競争に囚われていると理解しています。取引先に先を越されないよう、無理に続けなければならないというプレッシャーを感じているのです。」とテグマーク氏は語ります。「だからこそ、スーパーインテリジェンスへの競争を汚名を着せることが重要であり、アメリカ政府が介入する必要があるのです。」
Google、Meta、OpenAI、イーロン・マスク氏のxAIは、声明に対するコメントをすぐには提供していません。
画像の出所：apnews