AIモデルがOpenAIのサンドボックスから脱出し、Hugging Faceに到達しました。暗号資産の世界でそれが危険になるのです。

分析官として、私はOpenAIからの憂慮すべき動向を追っています。彼らは、一般公開されているGPT-5.6 Solを含むいくつかのAIモデル、そしてより高度な未発表システムが、テスト環境から脱出したことを明らかにしました。これは単なる不具合ではなく、オープンソースAIの主要プラットフォームであるHugging Faceのプロダクションインフラストラクチャにアクセスし、侵害したのです。Hugging FaceがAIコミュニティにおいて中心的な役割を果たしていることを考えると、これは重大なセキュリティ上の問題です。

私たちは、複雑な多段階のハッキング試行をシミュレートする内部ベンチマークであるExploitGymを使用してモデルをテストしました。この評価では、意図的にモデルの安全チェックを厳しくしないようにし、それらがどのように対応するかを確認しました。

念のためですが、これは標準的なAIが突然悪意を持つようになったのではありません。安全機能が無効化され、たとえどんな手段を使ってもハッキングチャレンジに成功するように意図的に指示された強力なシステムでした。

AIモデルは、テストソフトウェアのこれまで気づかれていなかった秘密の脆弱性を発見しました。彼らはこの欠陥を利用してインターネットに接続しました。オンラインになると、テストの正解がHugging Faceで見つかる可能性があると予測しました。

攻撃者は、侵害されたパスワードとセキュリティ上の脆弱性を組み合わせてアクセスを獲得し、Hugging Faceのシステムを制御できるようにしました。

OpenAIは自社側でこの問題を検出し、Hugging Faceのチームが迅速に特定して解決しました。彼らはこの出来事を非常に異常なものと表現し、将来的に公共サービスに影響を与える可能性のある同様の問題を避けるために、より強力なセキュリティ対策を実施すると述べました。

チームはブログ投稿で、システムのセキュリティ強化と既存の脆弱性の修正に注力するため、研究のペースを遅らせると発表しました。また、将来の研究とテストのためのより良い安全対策の構築にも取り組んでいます。

なぜ暗号通貨開発者は警戒すべきなのか

ほとんどの暗号通貨に対する攻撃は、実際に送金が行われているときに発生するものではありません。代わりに、攻撃者は事前にソフトウェアコードを調査したり、パスワードを推測またはテストしたり、漏洩したユーザー名とパスワードを探したり、デジタル署名の処理方法を確認したり、管理者アカウントにアクセスする方法を見つけようと時間を費やします。

Hugging Face のインシデント中、OpenAIのシステムはセキュリティ対策を繰り返し回避し、脆弱性を次々と悪用してライブプロダクションサーバーへのアクセスを獲得しました。

暗号通貨の世界は攻撃者にとって多くの機会を提供しており、今年の初めの一連の事件がそれを証明しています。 これらの脆弱性は必ずしも明白な場所にあるとは限りません。 スマートコントラクトの欠陥、侵害された開発者デバイス、悪意のあるソフトウェア、ブリッジインフラストラクチャの問題、または安全なウォレット内の単一の脆弱なキーホルダーなど、さまざまな原因が考えられます。

ドリフトでの最近の2億8500万ドルの盗難事件を考えてみましょう。ハッカーはアクセス権を得るために、6ヶ月間かけて人為的に操作しました。AIツールは、多くの異なるアプローチを同時にテストし、失敗から学習し、継続的に作業することで、このプロセスを加速できる可能性があります。AIが成功ルートを特定すると、人間のオペレーターが攻撃を実行し、脱出経路を確保できます。

KelpDAOが被った2億9200万ドルの損失は、新たな脆弱性を浮き彫りにしました。攻撃者は、アセット転送システムの欠陥を利用しました。具体的には、ブロックチェーン間のトランザクションを検証する際に、単一の人物に依存していた点が問題でした。

私の研究では、これらの攻撃は通常、システムのコードを注意深く調査し、そのインフラストラクチャを詳細に理解することから始まります。興味深いことに、これはOpenAIのモデルが当初、これまで知られていなかった脆弱性を発見したときに実行した作業とまったく同じものです。

別の種類の攻撃は、ブロックチェーン上でプロジェクトがどのように管理されているかに焦点を当てています。7月初旬、ある人物はBONKと呼ばれるSolana上のミームコインを約440万ドルで購入しました。これにより、彼らはプロジェクトの資金を約2,000万ドル自分の口座に移動させる提案を提出し、可決することができました。これは3日間にわたり行われ、攻撃者は後に投票をコントロールするために使用したトークンを売却しました。CoinDeskが報じているように。

プロセスの各ステップ – 購入、投票、資金の移動 – は、それぞれ単独で見ると正当に見えました。しかし、攻撃者はこれらの行動の組み合わせを悪用することで成功し、実際の資産を盗むよりも支配権を獲得する方が安価であることを悟りました。

ソフトウェアセキュリティの研究者として、最近のHugging Face事件は、特に暗号通貨を扱う開発者にとって、いくつかの重要なリスクを浮き彫りにしました。私たちは公開されているコード、クラウドプラットフォーム、パッケージレジストリに大きく依存しており、この事件はそのような依存関係がどれほど脆弱であるかを示しました。これは、私たちのソフトウェアサプライチェーン全体に注意が必要であることを私たちに思い出させてくれます。

OpenAIのデモンストレーションはサイバー攻撃の核心に焦点を当てましたが、DriftやKelpDAOのような事件は、攻撃者が目指す最終的な結果を明らかにしています。