ソフトウェアエンジニアは、OpenClawが数百件のスパムメッセージを送ったと述べている

クリス・ボイドは、ノースカロライナ州の自宅に吹雪で閉じ込められていた時、OpenClawというAIツールを試してみることにしました。彼はこれが朝のスケジュール管理に役立つのではないかと考え、毎日午前5時半にニュースの要約を受信トレイに送信するように設定しました。その部分はうまくいきました。そして、それをiMessageにも送信できるようにしました。.

その直後、全てが崩壊した。OpenClawが狂ったようにメッセージを送りつけ始めたのだ。彼と彼の妻、そして連絡先リストに載っている無作為の人物にまで、500通以上のメッセージが送られてきた。ボイドは笑わなかった。.

彼はそれをシャットダウンし、コードを変更して、「バグがあったわけじゃない。危険だったんだ」と言いました。

ソフトウェアエンジニアは、OpenClawが数百件のスパムメッセージを送ったと述べている

ボイド氏はこのソフトウェアを「中途半端」と評し、よく考えずに適当に作ったようなものだと述べた。彼は被害拡大を防ぐため、自らコードにパッチを当てた。このツールに懸念を表明しているのは彼だけではない。.

かつてはClawdbot、後にMoltbotと呼ばれていたこのAIエージェントは、11月にファンを獲得し始めました。受信トレイの整理、ディナーの予約、フライトのチェックインといった単純なタスクを実行できました。人間の介入はほとんど必要ありませんでした。ただ動くだけでした。それがこのロボットの面白さであり、同時に危険性も孕んでいました。.

カシミール・シュルツ氏は、AIセキュリティに特化したHiddenLayerという企業に勤務しています。カシミール氏によると、OpenClawは彼が「致命的な三要素」と呼ぶものの完璧な例です。

プライベートデータにアクセスでき、外部と通信でき、未知のコンテンツを読み取ることができます。これらはすべて災害を引き起こす要因であり、OpenClaw にはそのすべてが備わっているのです。.

ウィリアム・アンド・メアリー大学のコンピュータサイエンス教授、ユエ・シャオ氏は、 述べた。これは、ハッカーが通常のメッセージに見せかけたコマンドの中にコマンドを隠す手法である。ユエ氏は、この種の技術は、ほとんどの人が想定していない新しいタイプの攻撃への扉を開くものだと指摘した。

作成者はOpenClawがまだ主流にはなっていないことを認める

OpenClawの創設者ピーター・スタインバーガー氏は、プロジェクトはまだ終わっていないと述べた。彼はブルームバーグへのメールで、「まだ終わっていないだけだが、着実に進んでいる」と述べた。

ピーター氏は、オープンソースなので誰でもコードを閲覧し、改良できると述べた。進捗は進んでいるものの、まだ一般ユーザーが利用できる段階ではないという。.

ピーター氏は、リリースが早すぎたとは思っていない。彼は、すべてをオープンに開発しており、完璧になるまで待つ必要はないと考えている。また、多くの問題はユーザーがセットアップ手順を読んでいないことに起因するとも述べた。.

ピーター氏は、大規模言語モデルの使用において100%のセキュリティはあり得ないことを明確にしました。OpenClawは、何をしているのかを理解し、リスクを理解している人々のために作られていると彼は言いました。.

ピーター氏はまた、プロンプトインジェクションは彼のツールだけの問題ではないと述べ、AIの世界ではどこにでも存在する問題だと指摘した。ピーター氏は、OpenClawの安全性を高めるためにセキュリティ専門家を招聘し、問題の解決を支援したと述べた。.

専門家によると、AIエージェントの成長はセキュリティが追いつくよりも速いという。

ピーター氏はOpenClawの構築方法を擁護しているが、他の専門家はAIエージェントのトレンド全体が手に負えなくなっていると指摘している。ニューヨーク大学教授でサイバーセキュリティの専門家であるジャスティン・カポス氏は、これらのツールは一度稼働すると制御が難しいと述べている。.

ジャスティン氏は「彼らがなぜそんなことをするのか理解できない」と述べた。彼はAIエージェントにシステムへのアクセスを与えることを、幼児に肉切り包丁を渡すことに例えた。.

テクノロジー業界は次々と新しいツールのリリースを急いでいる。AnthropicのClaude Codeはわずか6ヶ月で10億ドルの収益を達成した。.

一方、これらのツールのセキュリティを維持しようとしている人々は、まだ基礎的な部分を模索している段階です。ジャスティン氏によると、企業は絶え間なくアップデートをリリースしており、セキュリティチームは対応しきれていないとのことです。.

サイバーセキュリティ企業Armisのマイケル・フリーマン氏は、OpenClawは実質的なセキュリティ計画なしに急ごしらえで作られたものだと述べた。Armisの顧客の中には既にOpenClawによる情報漏洩の被害に遭っている者もいるが、詳細は明らかにしなかった。フリーマン氏は、企業がOpenClawのようなAIツールを使い続けたいのであれば、ある程度のコントロールを放棄せざるを得なくなるだろうと述べた。.

今のところ、問題は、この惨事の後も人々がOpenClawを使い続けるかどうかだ。このツールにはファンがいるが、そうした人々でさえ、安全性のない自由は問題だと気づき始めている。そして、迅速な改善が行われなければ、OpenClawは行き過ぎた技術の新たな例となってしまうかもしれない。.

これを読んでいるあなたは、すでに一歩先を進んでいます。ニュースレターで最新情報をお届けします。