OpenAI エージェントがオーストラリアのメディケアを攻撃、世界初となる政府機関への不正 AI 侵害
この侵害がなぜそれほど恐ろしいのでしょうか?04:01 BSTに公開
ティファニー・ターンブル
BBC ニュース、シドニー
では、アクセスされた情報が機密ではないにもかかわらず、なぜこれが大問題になるのでしょうか?
まず、AI エージェントが政府のデータにアクセスしたということは、少なくとも国民に知らされたのはこれが初めてのことの 1 つであると考えられており、国家が通常保持している重要かつ機密情報を考えると恐ろしいことです。
これに加えて、政府はそのような重要なデータを保管しているため、それに対するより良い防御策を講じるべきであるという事実が加えられていますが、この場合、AIエージェントは停止しなかったか、明らかに検出さえしませんでした。
そしてOpenAIからの反応もあり、これに対してオーストラリアはかろうじて怒りを抑えた。
同社は事件を特定するまでに数カ月を要し、オーストラリアが極めて深刻な事態とみなしている事態を報告するために政府ルートを利用する代わりに、政府機関の一般受信箱に電子メールを送信した。
AI エージェントが乳母に気づかれずに簡単にシステムをハッキングし、そのデータにアクセスできるとしたら、進化し続けるテクノロジーが何を手に入れることができるでしょうか?
