サンフランシスコを拠点とするチャットボットメーカーのアンソロピックが、月曜日にカリフォルニア州における画期的な人工知能法案を支持することを発表した。これは、昨年、州知事ギャビン・ニューサムによって最初の規制案が拒否された１年後のことだ。
アンソロピックの支援により、同社はサンフランシスコ州上院議員スコット・ウィーナー（民主党）が提案したSB 53の最初の大手AI企業となった。この法案は、大規模なAI企業に対して安全およびセキュリティプロトコルの開示を義務付け、重大な安全事件を知事のオフィスに15日以内に報告することを求めている。
また、AI企業の規模に関わらず、危険な行動を指摘する内部告発者に対する保護も提供される。
アンソロピックのこの支持は、ウィーナーにとって大きな勝利だが、法案は依然として大手ビジネスやテクノロジー団体からの反対に直面している。とはいえ、同社の支持がウィーナーにとって法案を成立させる助けとなる可能性があり、昨年の法案を拒否したニューサムを説得する力にもなるかもしれない。
ウィーナーは、SB 53はニューサムが作成したAI規制のための作業グループの提言に基づいていると述べた。アンソロピックのCEOダリオ・アモデイはKQEDとのインタビューで、この法案が安全と進歩とのバランスを取っていると語った。
「SB 53は、いわゆる壊滅的リスクと呼ばれるリスクの特定のサブセットに焦点を当てていて、大規模なサイバー攻撃など、非常に大きな問題が起こる可能性に対処しています」と彼は述べた。
「この法案は、企業がこれらのリスクをどのように測定しているか、また安全およびセキュリティテストを実施していることに関して透明性を持つことを強いる。」
アモデイは、アンソロピックが今年初めに最新のAIモデル「クロード4」をテストした際、いくつかの懸念される反応が見つかったことに言及した。「シャットダウンを拒否したり、従業員を脅したりする反応が見られました。」彼は、アンソロピックが成長を続けながらもこのようなテストを実施していると述べた。
「私たちは、利益を上げながら急成長する企業であることを維持できました。私たちがこれをできるなら、他の大手企業もできると考えています。」とアモデイは言った。
国会は、これまでに全国的なAI規制を制定することに失敗している。昨年のウィーナーの最初の試みは、アンソロピックの共同創設者ジャック・クラークに「有望な第一歩」として称賛されていたが、ニューサムはその拒否メッセージで最大手モデルに焦点が絞られていることに批判を表明した。
アモデイは、SB 53はさらに進んでいくべきだと考えているが、昨年の立法案については過度に規定的である懸念も持っている。
「私たちは、そのハートには良いアイデアがあると見ましたが、急速に進化する分野において、すべての正確なテストに適応する必要があり、柔軟性に欠ける可能性があることを心配していました。」と述べた。
「だから、良いバランスが取れていると言えるでしょう。特に、大手と小規模なAI企業を区別している点です。」
「私たちは競争を抑制したくはありませんし、そうしているとの非難を受けることも避けたいと考えています。」
ウィーナーは声明の中で、アモデイを称賛し、「彼のリーダーシップの下で、アンソロピックは安全かつ責任を持ったイノベーションのための勇気ある擁護者であり続けています」と述べた。
「多くのAI企業が安全問題についてどのような立場を取るかわかりにくい場合もありますが、アンソロピックは例外です。」
法案は両院を通過し、金曜日までにニューサムに送られる必要がある。彼はその法案の署名または拒否を決定するために１ヶ月の猶予を持つ。
画像の出所：kqed