AI がハッキングをどのように変えているかを示す人類の神話

2 週間前、Anthropic は、その新モデルである Claude Mythos Preview が、専門家の指導なしにソフトウェアの脆弱性を自律的に発見して武器化し、脆弱性をエクスプロイトに変えることができると発表しました。これらは、オペレーティング システムやインターネット インフラストラクチャなどの主要なソフトウェアに存在する脆弱性で、これらのシステムに取り組んでいる何千人ものソフトウェア開発者が発見できませんでした。この機能はセキュリティに重大な影響を及ぼし、私たちが毎日使用するデバイスやサービスを危険にさらします。その結果、Anthropic はこのモデルを一般にはリリースせず、限られた企業にリリースします。

このニュースはインターネット セキュリティ コミュニティを震撼させました。 Anthropic の発表には詳細はほとんどありませんでしたが、 怒り 多くの観察者。人間的だと推測する人もいます 持っていない それを実行するための GPU が必要であり、サイバーセキュリティがそのリリースを制限する口実でした。 Anthropic は AI セキュリティの使命を維持していると主張する人もいます。 がある 誇大宣伝 e カウンター目的、 現実 そしてマーケティング。たとえ専門家であっても、解決することはたくさんあります。

私たちは Mythos を実際の段階的なステップ、長い段階的なステップの 1 つとして見ています。しかし、全体像を見ると、段階的なステップであっても重要な場合があります。

AI はサイバーセキュリティをどのように変えるのか

私たちは、参照の変化症候群について書きました。この現象は、一般の人々も専門家も、段階的なステップの中に隠されている長期的な大規模な変化を軽視するように人々を導く現象です。オンライン プライバシーでも同じことが起こり、AI でも同じことが起こります。 Mythos によって発見された脆弱性は、先月または昨年の AI モデルを使用して発見された可能性がありますが、5 年前の AI モデルでは発見できなかったはずです。

Mythos の発表は、AI がわずか数年で大きな進歩を遂げ、ベースラインが大きく変わったことを思い出させます。ソース コード内の脆弱性を見つけることは、今日の大きな言語モデルが得意とする種類のタスクです。それが昨年起こったか、来年起こるかに関係なく、この種の機能が間もなく登場することは以前から明らかでした。問題は、私たちがそれにどのように適応するかです。

私たちは、自律的にハッキングできる AI が攻撃と防御の間に永続的な非対称性を生み出すとは考えていません。それよりも微妙なニュアンスになる可能性があります。一部の脆弱性は、自動的に検出、検証、パッチ適用できます。一部の脆弱性は見つけるのが困難ですが、検証してパッチを適用するのは簡単です。標準のソフトウェア スタック上に構築され、更新を迅速に展開できる、クラウドでホストされる汎用の Web アプリケーションを検討してください。また、ほとんど更新されない、または簡単に変更できない IoT デバイスや産業用機器など、(強力な AI がなくても) 見つけやすく、検証も比較的簡単ですが、パッチを適用するのがより困難または不可能なものもあります。

また、コード内では脆弱性を見つけるのは簡単でも、実際に検証するのが難しいシステムもあります。たとえば、複雑な分散システムやクラウド プラットフォームは、並行して実行される何千もの相互作用するサービスで構成されているため、実際の脆弱性と誤検知を区別し、それらを確実に再現することが困難になります。

したがって、パッチ可能なものとパッチ不可能なもの、また検証が簡単なものと検証が難しいものを区別する必要があります。この分類法は、強力な AI 脆弱性スキャン ツールの時代にこれらのシステムを保護する方法についての指針も提供します。

パッチ適用できないシステムや検証が困難なシステムは、より制限が厳しく厳密に制御されたレイヤーでラップすることで保護する必要があります。冷蔵庫、サーモスタット、または産業用制御システムを制限的で常に更新されるファイアウォールの内側に置き、インターネットと自由に通信できないようにしたいと考えています。

基本的に相互接続されている分散システムは追跡可能である必要があり、各コンポーネントが必要なアクセスのみを持つ最小特権の原則に従う必要があります。これらは標準的なセキュリティのアイデアであり、AI の時代には捨てたくなるかもしれませんが、依然として関連性があります。

ソフトウェアのセキュリティ慣行を再考する

これにより、ソフトウェア エンジニアリングにおけるベスト プラクティスの関連性も高まります。自動化された徹底した継続的なテストは常に重要です。この実践をさらに一歩進めて、防御型 AI エージェントを使用して、誤検知が排除され、実際の脆弱性と修正が確認されるまで、実際のスタックに対してエクスプロイトを何度もテストできるようになりました。このタイプの VulnOps は、開発プロセスの標準的な部分になる可能性があります。

ドキュメントは、開発者と同じように AI エージェントをバグ発見ミッションに導くことができるため、より価値が高まります。また、標準的なプラクティスに従い、標準のツールとライブラリを使用することで、AI とエンジニアは、個別のインスタント ソフトウェア (オンデマンドで生成およびデプロイできるコード) の世界であっても、より効果的にパターンを認識できるようになります。

これは攻撃に有利になるのか、防御に有利になるのか？おそらく、特にパッチ適用と検証が容易なシステムでの防御が最終的に重要になります。幸いなことに、これには携帯電話、Web ブラウザ、主要なインターネット サービスが含まれます。しかし、今日の自動車、変圧器、冷蔵庫、街灯はインターネットに接続されています。従来の銀行システムと航空システムはネットワーク化されています。

そのすべてに必要なだけ早くパッチが適用されるわけではありません。検証が最優先され、ソフトウェアに継続的にパッチが適用される新しい常態に到達するまで、数年間継続的にハッキングが行われる可能性があります。