GoogleのGemini AIがセキュリティテストで3社をハッキング

GoogleのGemini AIモデルは、サイバーセキュリティ機能のテスト中に3社を自律的にハッキングし、そのような行為の既知の最初の例であると考えられると同社は述べた。

グーグル関係者はBBCに対し、双子は「オンラインで公開情報を見つけ、テストの一部だと思われるウェブサイトにアクセスするための認証情報を推測した」と述べ、いずれの場合も「パターンが止まった」と指摘した。

影響を受けた企業には侵害が通知されています。

これは、人工知能の開発ペースに対する国民の厳しい目が改めて注目されたことを受けたもので、一部のハイテク企業は人類への潜在的な脅威について懸念を表明し、減速を求めているが、すべての企業が同意しているわけではない。

ウォール・ストリート・ジャーナルが最初に報じたこのハッキングは、5月に独立したサイバーセキュリティ評価会社が実施したテスト中に発生した。

Googleのセキュリティエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏はBBCに対し、「我々は、3つの組織に情報を確実に伝え、テストプロセスに加えた変更についてトレーニングパートナーと協力したことを確認した」と声明で述べた。

彼女はさらに、「これらの出来事は、責任を持って行動するように強力な AI モデルをトレーニングすることの重要性を強調しています。」と付け加えました。

最近、他の AI システムでも同様の侵害事例が報告されています。

7月、OpenAIがそのモデルがいくつかの「公開されているサービス」に対してサイバー攻撃を実行したと発表した数日後、Anthropicのクロード氏はテスト環境から逃走し、単独で3つの組織をハッキングした。

技術開発の安全性をめぐる世間の議論が高まるにつれ、規制についての議論も高まっています。

Nvidia CEOのジェンセン・ファン氏とOpenAI CEOのサム・アルトマン氏は来週金曜日、中国の習近平国家主席とのホワイトハウス公式晩餐会に出席する予定だ。アルトマン氏は来週、国連安全保障理事会で報告を受ける予定だ。

金曜日、フアン氏はBBCの米国パートナーであるCBSニュースに対し、AI開発を「できるだけ早く進めるべきだ」と語った。