AIハッキングのリスクからソースコードを隠すNHSの計画に反発が高まる
NHS England は通常、開発したソフトウェアをオープンソースにします
マーク・トーマス/シャッターストック
人工知能モデルのハッキングによってもたらされるリスクを理由に、英国の納税者の資金で作成されたオープンソースコードを撤回するというNHSイングランドの決定は、ますます反発を集めている。
先月、テクノロジー企業 Anthropic が開発した人工知能 Mythos は、事実上あらゆるソフトウェアの欠陥を発見でき、そのソフトウェアを実行しているシステムにハッカーが侵入できる可能性があると広く報じられました。 NHS イングランドは、このリスクがあるため、既存および将来のソフトウェアを 5 月 11 日までに公の場から削除し、密室に保管する必要があるとスタッフに伝えました。
この決定はNHSのサービス標準に反している。同標準は、スタッフが作成するソフトウェアをオープンソースにすることを義務付けており、手間を省いてツールを構築、改善、使用できるようにするものだ。そして専門家らは、コードを公の場から削除してもセキュリティは向上しないと述べている。
現在、NHSイングランドに対し決定の撤回を求める公開書簡に数百の署名が集まっている。この記事の執筆時点で、著者でデジタル権利擁護者のコリー・ドクトロウ氏と元英国保健長官マット・ハンコック氏を含む682人がこの書簡に署名している。 新しい科学者同氏はこの政策を「大きな間違い」だとしたLinkedInへの投稿を指摘した。
「NHSが近年行った最も賢いことの1つは、オープンソースだ。納税者がその費用を支払ったのだから、納税者はその恩恵を受けるべきだ」とハンコック氏は書いた。 「しかし、実際のケースも同様に強力です。オープンソースはより厳密にテストされ、より安全であり、世界中のどこにいても優秀な人材がそれに基づいて構築できるのです。」
英国エディンバラ大学のヴラド・ステファン・ハルブズ氏は公開書簡の共著者である。彼は Mythos にアクセスでき、最近 NHS のオープン ソース コードの脆弱性をスキャンするために Mythos を使用したグループの一員でした。彼らは「いくつかの比較的深刻な脆弱性」を発見し、オープンソースプロジェクトの撤退を決定する前にNHSに責任を持って開示した。
「私たちが報告した脆弱性がそのきっかけになったかどうかはわかりませんが、おそらくその一部だったのでしょう」と Harbuz 氏は言います。 「定期的なセキュリティ監査を一般公開 [large language models] 私たちが発見したのと同じ脆弱性が見つかる可能性があります。 Mythos を使用すると、作業の労力が少し軽減されます。しかし、本当の問題は、サイバーセキュリティへの全体的な投資不足であり、これは Mythos が存在する前から当てはまっていました。
Harbuz 氏は、すべての NHS コードのバックアップ コピーが今後も存在し、さまざまな AI モデルのトレーニングに使用されると考えていますが、それらを GitHub から削除すると、公共サービスの品質と安全性を気にする専門家に貢献できなくなります。 “私クローズドソース化によって私たちが被害を受けているのは、攻撃者ではなく支援者です」とハルブズ氏は言う。
英国政府支援の AI セキュリティ研究所 (AISI) は Mythos を調査した結果、Mythos が攻撃できるのは「小規模で防御が弱く脆弱なビジネス システム」のみであることが判明し、真に安全なネットワークやソフトウェアが危険にさらされている兆候はないと結論付けました。
英国公務員で公的データへのアクセスの開放に取り組んだ豊富な経験を持つテレンス・エデン氏も、この動きには論理的な意味がないことに同意する。
「NHSに対する人々の信頼は、医療サービスがオープンで、透明性があり、誠実であるかどうかにかかっています。私たちの医療の多くはデジタルツールに依存しているため、オープンソースは交渉の余地がないことを意味します。私たちには、これらのツールがどのように機能するかを確認する権利があります。私はNHSが請願書に前向きに対応し、地域社会への約束を果たすよう強く求めます」とエデン氏は言う。
イギリス 保健社会援助省はコメント要請に応じなかったが、 NHSイングランドの広報担当者は以前の声明を繰り返し、「AIモデルの急速な開発の影響を評価する間、サイバーセキュリティをさらに強化するため、NHSイングランドの一部のソースコードへのアクセスを一時的に制限している。明らかに必要な場合にはソースコードの公開を継続する」と述べた。
トピック:
