Googleは月曜日、人工知能を利用して他社のこれまで知られていなかったデジタル脆弱性を悪用しようとする犯罪グループの試みを妨害したと発表し、サイバーセキュリティに対するAIのリスクについて政府や民間業界で懸念が高まっている。
Googleは攻撃者と標的について限定的な情報を公開しているが、同社の脅威インテリジェンス部門の首席アナリスト、ジョン・ハルトクイスト氏は、これはサイバーセキュリティの専門家が長年警告してきた瞬間を表していると述べ、悪意のあるハッカーが世界中のコンピュータへの侵入能力を高めるために人工知能で武装しているというものだ。
「ここだよ」ハルトクイストは言った。 「AIによる脆弱性と悪用の時代が到来した。」
これは、Anthropic が 1 か月前に発表した Mythos モデルを含め、脆弱性を発見する AI の能力が飛躍的に向上している時期に起こりました。防御を強化しようとしている者の中には、ドナルド・トランプ大統領のホワイトハウスも含まれており、最も強力なAIモデルを公開前にどのように精査する計画に重点を移している。
急速に発展するテクノロジーを巡る民主党ジョー・バイデン大統領のガードレールを撤廃するという選挙公約を達成した後、共和党政権とその同盟国は現在、政府がAIの監督においてより大きな役割を果たしているという複雑なシグナルを送っている。
アメリカン・イノベーション財団の上級研究員で、以前はホワイトハウスのテクノロジー政策顧問を務め、昨年のトランプ大統領のAI政策ロードマップの主執筆者でもあるディーン・ボール氏は、「これに対する規制対応を望まない人もいるし、そうする人もいる」と語る。
「私は規制が好きではない」とボール氏は語った。 「私は物事が規制されないことを望んでいます。しかし、この場合は規制されなければならないと思います。」
Googleは、著名な「脅威アクター」のグループが発見したバグに基づいて大規模な作戦を計画しているのを観察したと述べた。この脆弱性により、2 要素認証をバイパスして一般的なオンライン システム管理ツールにアクセスできるようになりますが、Google は名前を明らかにしませんでした。
同社はこれをゼロデイエクスプロイト、つまりこれまで知られていなかったセキュリティの脆弱性を利用したサイバー攻撃と呼んでいる。 「デイ ゼロ」とは、セキュリティ エンジニアが脆弱性の修正プログラムを開発するのにゼロ日しかかかっていないという事実を指します。
グーグルは影響を受けた企業と法執行機関に通報し、損害が発生する前に業務を停止することができたと述べた。しかし、ハッカーの足跡を追跡したところ、彼らが脆弱性を発見するために大規模な AI 言語モデル (人気のチャットボットを強化しているのと同じテクノロジー) を使用したという証拠を発見しました。
Googleはサイバー攻撃にどのAIモデルが使用されたかは明らかにしておらず、GoogleのGeminiやAnthropicのClaude Mythosではない可能性が高いとだけ述べた。グーグルはまた、どのグループが攻撃の疑いがあるのかは明らかにしなかったが、敵対する政府と関連する証拠はないと述べたが、同社は中国と北朝鮮に関連するグループが同様の手法を模索していると述べた。
ハルトクイスト氏は、ゆっくりと静かに仕事をすることが多い政府のスパイと比べて、犯罪ハッカーはAIの「驚異的なスピード能力」からセキュリティバグを見つけて削除することでさらに何かを得られると述べた。
同氏はインタビューで、「彼らがあなたを恐喝したり、ランサムウェアを起動したりするために必要なデータを入手する前に、彼らを阻止するのは、あなたと彼らの間の競争だ」と語った。 「AI はより速く行動できるため、大きな利点となるでしょう。」
トランプ政権の商務省は先週、バイデン政権がAnthropicおよびChatGPTメーカーのOpenAIと結んだ以前の契約に基づいて、最も強力なAIモデルを公開前に評価するためにGoogle、Microsoft、イーロン・マスク氏のxAIと新たな契約を結んだと発表した。しかしその後、この広告は商務省のウェブサイトから消えた。
これは、アンスロピック社がハッキングやサイバーセキュリティーの仕事において「驚くべき能力」を備えているため、信頼できる少数の組織にのみ任せることができると同社が発表したミトスと呼ばれる新モデルを発表して以来、この月にトランプ政権からさまざまなシグナルが発せられた最新の例となった。
Anthropic は、新しいモデルが公共の安全、国家安全保障、経済にもたらす可能性のある「深刻な」影響から世界の重要なソフトウェアを保護することを期待して、Amazon、Apple、Google、Microsoft などの大手テクノロジー企業と JPMorgan Chase などの企業を結集する Project Glasswing と呼ばれるイニシアチブを作成しました。しかし、トランプ氏と米国政府との関係は、人工知能技術の軍事利用を巡る国防総省やトランプ氏自身との公の場での法的な争いによって複雑化している。
主なライバルである OpenAI もその後、同様のモデルを導入しました。同社は金曜日、コード内の脆弱性を見つけてパッチを適用できるように、「重要なインフラストラクチャの保護を担当する防御者」のみが利用できる、サイバーセキュリティに特化したバージョンのChatGPTをリリースすると発表した。
ボール氏は、長期的には、コーディング能力が向上しているAIツールによって、病院や学校、その他の組織を襲う日常的なサイバー攻撃から私たちの安全が守られるだろうと楽観的だと述べた。しかしそれまでの間、世界中のコンピュータシステムをサポートする「数え切れないほどのソフトウェアコード」が存在し、AIツールがすべてのバグを悪用するために解き放たれれば危険にさらされると同氏は述べた。
これらすべてのソフトウェアを強化するには何年もかかる可能性があり、そのプロセスは米国政府の調整によって支援されるだろうとボール氏は信じている。
一方、ボール氏は、サイバーセキュリティのリスクが大幅に増大する「移行期」が到来し、「世界は実際にさらに危険になる可能性がある」と予測している。