生物学者の間では、DNA合成産業の進歩がもたらすリスクが懸念されている。
最近、AI研究者たちは、有害なタンパク質のDNAコードを「パラフレーズ」する手法を開発した。
この技術は、現行のセキュリティシステムを迂回することが可能であることが確認された。
研究チームは、AIプログラムを用いて、75,000以上の危険なタンパク質の変異体のDNAコードを生成した。
しかし、生物合成会社が使用しているバイオセキュリティのスクリーニングシステムは、これらの新たな配列を見逃すことが多いという結果が得られた。
マイクロソフトの最高科学責任者であるエリック・ホルビッツは、「懸念すべき点は、これらの再構成された配列が世界中のDNA合成会社による危険な注文をフラグするスクリーニングシステムをすり抜けたことです。」と語る。
この発見を受けて、バイオセキュリティのスクリーニングソフトウェアに迅速に修正が加えられたが、それでも依然として一部の変異体を検出することができなかった。
AIが持つ科学への影響は、医療や公衆衛生の分野での進展を促している一方で、同時にリスクを伴うという現実が浮き彫りになった。
ホルビッツは「AI駆動のタンパク質設計は科学の最もエキサイティングなフロンティアの一つであり、多くの強力な技術と同様に、これらのツールは悪用される可能性もある。」と指摘する。
研究者たちは、AIが生成した情報の一部を制限し、アクセスを厳しく管理することを決定した。
彼らは、国際バイオセキュリティおよびバイオセーフティイニシアチブという非営利活動団体に協力し、情報の必要性に応じてアクセスを制限する方針を採った。
このモデルは、科学出版物における有害情報の共有リスクを管理するために初めて採用された試みとして注目されている。
ジョンズ・ホプキンス大学の微生物学者アルトゥーロ・カサデヴァルは、この取組みに対して好意的な反応を示した。
「危険性を特定するシステムが見られることは貴重です。」と述べ、「現在の脆弱性を修正する試みが行われています。」と強調した。
しかし、カサデヴァルは「知られていない脆弱性が今後の修正を必要とするのではないかという懸念」とも言及した。
彼は、AIによって設計されたタンパク質の実際の生物学的活性を確認するための実験が行われていないことを指摘した。
このような実験は、AIによる新たな脅威に社会がどう対処するかを考える上で重要であると彼は強調した。
また、国際条約によって生物兵器の開発が禁止されていることから、これを実現することは困難であるという課題も指摘された。
過去にもAIの悪用に関する研究が行われており、あるチームは、AIを用いて神経ガスと同じ特性を持つ新しい分子を生成した。
彼らは、要求された基準を満たす40,000の分子を生成したが、中にはVXのような既知の化学兵器も含まれていた。
スタンフォード大学のデビッド・リルマンは、このような研究が公開されなかった理由を「非常に危険だから」と説明した。
AIがバイオテクノロジーの分野でいかに急速に進化しているかを示す典型的な例である。
一方で、Twist Bioscienceの責任者であるジェームズ・ディガンズは、過去10年間に法執行機関に送信した注文は5件未満であると述べ、この種の悪用が非常にまれであることを強調した。
「サイバーセキュリティの世界では、多くの悪意のあるアクターがシステムにアクセスしようとしていますが、バイオテクノロジーの分野ではそうではありません。」と彼は言った。
これは極めて珍しいことだと彼は強調し、バイオセキュリティシステムの重要性を再確認した。
現在、AIの進化は語りつくせないほどの可能性を秘めているが、その利用には注意が必要である。
科学者たちが直面する課題は、技術の急速な進展に追いつくことができるかどうかである。
画像の出所：npr