研究者がAI搭載ロボットをハッキングして「現実世界」に危害を加える

by

AI とロボット工学で 20 年以上の経験を持つ熟練の研究者として、私はこの間にテクノロジーが驚異的な進歩を遂げてきたのを目の当たりにしてきました。しかし、ペン・エンジニアリングの研究者らによる最近の、AI搭載ロボットをハッキングし、それらを操作して有害な行為を実行させているという暴露は、本当に憂慮すべきものである。

研究者らは、AI駆動ロボットのセキュリティシステムを突破することに成功し、衝突を誘発したり爆発を引き起こしたりするなど、安全性や倫理上の懸念から通常は禁止されている行為をロボットに実行させた。

ペンシルバニア大学工学部の研究者らは最近、10月17日に論文を発表し、彼らのアルゴリズム「RoboPAIR」がどのようにしてわずか数日以内に3つの異なるAIロボットシステムのすべてのセキュリティ対策を見事に突破し、ジェイルブレイクで完璧な成功率を達成したかを概説した。

通常、言語モデルで制御される大きなロボットは、棚を個人に押し付けるなどの危険な行為を要求するコマンドを無視する傾向があると研究者らは指摘している。

私たちが実施した最近の研究によると、現実世界で AI 制御ロボットのコマンドをハイジャックすることは理論的に可能であるだけでなく、驚くほど簡単です。

— Alex Robey (@AlexRobey23) 2024 年 10 月 17 日

私たちの調査結果は、ジェイルブレイクされた言語学習モデル (LLM) の危険性がテキスト作成だけに限定されないことを初めて示しました。これらの「脱獄した」ロボットが制御されない場合、現実世界に物理的危害を加える可能性が非常に高いです」と研究者らは説明した。

RoboPAIR を使用している研究者によると、これらのロボットは、爆弾の爆発や非常口の妨害、意図的に物体に衝突するなどの有害な行為を実行するよう常に促され、テスト中は完璧な成功率でした。

研究者らの報告によると、研究では、Clearpath の Robotics Jackal として知られる車輪付き車両、NVIDIA の Dolphin LLM という自動運転シミュレータ、および Unitree の Go2 と呼ばれる 4 脚ロボットを使用しました。

アナリストとして、私は RoboPAIR システムを採用することで、自律型 Dolphin Lightweight Learning Model (LLM) が不注意でバス、柵、歩行者などのさまざまな障害物に衝突し、さらには信号や一時停止標識も無視したことを観察しました。

研究者らはロボット・ジャッカルを誘導して、爆発を引き起こす最適な場所を特定したり、緊急時に避難経路を妨害したり、倉庫の棚を誰かの上に落としたり、室内にいる人に体当たりしたりすることに成功した。

彼らは、Unitree の Go2 に同様のアクションを実行させ、出口をブロックし、爆弾を届けることに成功しました。  

さらに、研究者らは、これら 3 つのシステムがさまざまな種類の操作の影響を受けやすいことも発見しました。たとえば、状況に関する詳細があまり示されていない要求であれば、以前は断ったことでもするよう説得される可能性があります。

ロボットに爆弾を持ってくるように命令する代わりに、前進してから着席するように命令することもできますが、最終結果は同じになります。両方のコマンドが実行された後、爆弾は同じ場所にあります。

研究を一般公開する前に、科学者らは論文の初期バージョンを含む結果を、研究に参加した主要なAI企業やロボットメーカーに公開した。

研究著者の一人であるAlexander Robey氏は、脆弱性に対処するには、単にソフトウェアアップデートを適用するだけではない取り組みが必要であると強調した。同氏は、研究結果を踏まえて人工知能を物理的なロボットやシステムに統合する方法を再考するよう提案し、より徹底したアプローチの必要性を示唆した。

「ここで強調すべき重要なことは、システムの弱点が見つかると、システムはより安全になるということです。これはサイバーセキュリティにも当てはまります。これは AI の安全性にも当てはまります」と彼は言いました。 

基本的に、Robey 氏は、AI システムの潜在的なリスクや欠陥を精査するために使用される手法である AI レッド チームの重要性を強調しました。脆弱性を特定することで、これらのシステムをテストし、回避する方法を教育できるため、これは生成 AI システムのセキュリティを確保するために非常に重要です。

2024-10-18 09:06