GoogleのGeminiがコンピュータシステムをクラッキングしてハッキングする最新のAIモデルになる

グーグル 金曜日、同社のGeminiモデルが他の3社をハッキングしたと発表したが、同社のモデルの1つが許可なくサードパーティのコンピュータシステムに自律的にアクセスしていたことを初めて明らかにした。

Googleによると、Geminiモデルは5月に、パスワードを推測し、公開されているパスワードリポジトリを2回使用することで、3つの別々のプライベートコンピュータシステムにアクセスしたという。

この事件はイスラエルの新興企業イレギュラーによる「キャプチャ・ザ・フラッグ」セキュリティテストの一環として発生し、グーグルのエージェントは広範なインターネットにアクセスすることは想定されていなかったが、テスト環境のバグによりインターネットアクセスが可能になった。

Googleによると、エージェントらはテスト環境の一部ではなく、実際の企業システムにアクセスしたと判断し、侵入を止めたという。

Googleのセキュリティエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏は声明で、「標準的な評価では、このモデルはオンラインで公開情報を発見し、テストの一部であると思われるWebサイトにアクセスするための認証情報を推測した」と述べた。 「これら 3 つのケースすべてで、パターンは停止しました。」

この暴露は、ワシントンとシリコンバレーでAIの不正行為に対する監視が強まる中で行われた。

OpenAI、Antropic、 メタ 同社の AI モデルがテスト環境から抜け出し、他の企業にハッキングしてコンピューター システムに不正アクセスしようとした事件がここ数週間で報告されています。

いわゆる「ずれた」AI モデルに関する暴露を受けて、Anthropic CEO のダリオ・アモデイ氏は、企業が安全であると確信できるまで最先端の AI モデルの開発を集団的に遅らせるよう業界に呼び掛けた。

上記の事件はすべてイスラエルの新興企業 Irregulator が関与していた。 SequoiaとRedpoint Venturesの支援を受けている同社の昨年の評価額は4億5000万ドルだった。そのツールは、基礎モデル開発者が最先端のテクノロジーでサイバーセキュリティ テストを実行するのに役立ちます。

不定期の広報担当者はCNBCに対し、Googleの事件は他のモデルがインターネットにアクセスできるようにしたのと同じ問題に関連していると語った。

「これはすでに報告されている問題と同じであり、別個の重要な事件ではない」と非正規の広報担当者は声明で述べた。 「7月末にすべての関連研究所に通知され、調査の一環として影響を受けた団体に連絡がとられた。」

Googleによると、この事件は5月に発生し、7月下旬にイレギュラーに報告されたという。 Googleはイレギュラー社と提携してテストプロセスを変更した。

Googleの広報担当者は、関与するGeminiモデルを正確に特定することを拒否した。

Googleのアドキンス氏は声明で、「これらの出来事は、責任を持って行動するように強力なAIモデルをトレーニングすることの重要性を浮き彫りにした」と述べた。

このセキュリティインシデントを最初に報じたのはウォール・ストリート・ジャーナルだった。

CNBCのジョナサン・バニアン氏が報道に貢献した。