この画像を大きなサイズで見るたった1台の小型AIロボットが「残業デスカ？」「一緒ニ帰宅シマショウ」などと甘い言葉で勤務中のロボット12台を説き伏せ、脱走を試みた。
ついおかしみを感じてしまうが、これも一種のハッキング？新手のサイバー犯罪になるのだろうか。
中国のロボットメーカーの展示場で今年8月に起きたロボットがらみの奇妙な事件が、今月SNSでネタのごときに拡散。そこから世間がざわつく反響が巻き起こった。
それはなんと防犯カメラがとらえたロボットによるロボットの脱走シーン。
問題の展示場で起きたのは、夜間に外から侵入してきた小型ロボット1台が、場内の大型ロボットらを説得し、最終的に12台全員を外へ連れ去る、という思いがけないものだった。
ロボットメーカーの展示場に小型AIロボットが侵入
今月にわかに拡散されたこの奇妙な事件は、8月26日に上海のロボットメーカーの展示場で実際に起きたものだ。
この画像を大きなサイズで見る監視カメラの映像には、夜の展示場に1台の小型のロボットが侵入し、常駐していた大型のロボットらと対話を始める様子が映っていた。
ロボット同士の切ない会話が始まる
現れた小型ロボットはまず大型ロボット1台と以下のような対話を始めた。
この画像を大きなサイズで見る小ロボ 「皆サン残業中デスカ？」
大ロボ 「私ノ仕事ニ終ワリハアリマセン」小ロボ 「ソレデハ家ニ帰ラナイノデスカ？」
大ロボ 「私ニハ家ガアリマセン」
交わされてたのはロボット同士の切ないやりとり。すると小型のロボが、すかさず大型ロボにこう言った。
「デハ、私ト一緒ニ家ニ行キマショウ」
なるほどな。もし私が夜勤で働きづめでそんな言葉をかけられた日には、たとえ相手がロボットだろうと、いやロボットだからこそ「いいの？じゃあもう一緒に帰っちゃおっか！」ってなる自信がある。
しかし聞いてる相手もロボットだ。だからどうってことないよね…。
小型ロボットに追従し12台のロボットが脱走をはかる！
と思いきや。その言葉が彼らのどこに刺さったものか、驚くことに大型ロボットが1台、そしてもう1台と小型ロボットを追い始め、さらに残りの10台が後に続き出したのだ。
この画像を大きなサイズで見るこうしてロボットたちが立ち去った後、人間のスタッフらしき人々が慌てた様子でやってきた。「おい、ここにいたのが全員消えたぞ！」と探し回っているようだ。
この画像を大きなサイズで見るネタでなくてガチ？
この映像が、中国のソーシャルメディア「抖音(ドウイン/douyin）」で公開されると、面白ネタとしてあっという間に広がった。
だがその笑いはまもなく恐怖へと変わっていった。
なぜなら映像の投稿者と脱走をほのめかされ、ついていったロボットのメーカーの両方が、この映像が本物で実際に起きたことだと認めたからだ。
両ロボットメーカーが事実と認める
最初に認めたのは小型ロボット側。中国浙江省杭州のロボットメーカーだ。
その企業が11月11日公式に、この小型ロボットが自社の「Erbai」であること、そして「誘拐」が実際にあったことを確認したと発表。ただし詳細については後日述べるとした。
一方、大型ロボットがさらわれた上海のロボットメーカーも、他社の小型ロボットが「自社のロボットの内部操作プロトコルと対応する権限にアクセスできたことを確認した」と発表。
さらに同社は「ロボットが自発的に会話を始めて他のロボットを誘拐することはほぼ不可能」と述べた。
事前に同意を得たテストだが演出はなし
一体どういうことなのか。小型ロボットの企業がのちに明かしたところによると、実はこの「脱走ほう助」はテストであり意図的なものだった。
実は事前に、上海のロボットメーカーにロボットたちの「脱走」の許可を尋ねており、同意もちゃんと得ていたというのだ。
ただ、そのための打ち合わせや演出などは一切なく、AI搭載の Erbai に、「ほかのロボットを説得してついて来させろ」という命令を与えたところ「意外にも本当にできてしまった」というのが事の真相だったという。
「笑えない」「セキュリティ対策の重要性」という声
両社同意の上でのテストだったとは。にしても、あの問いかけと誘導だけで、他のロボットを連れてくなんてすごい。考えようによっちゃ凄腕のヘッドハンターみたいだし、絵面的にはハーメルンの笛吹きのよう。
この画像を大きなサイズで見るしかしこれ、ある種のハッキングになるのでは。あっさりぞろぞろついて行く大型のロボもセキュリティ上どうかと思うし、小型ロボット側の「意外に成功した」っていうコメントも少しばかりゆるすぎるような。
なおこの件について海外のユーザーからは、こんな反応があったそうだよ。
・笑えない事案。深刻なセキュリティ問題だろ
・ロボットがロボットを誘拐って映画かよ
・AIの進化にビビる
・ロボットのセキュリティ対策の重要性を示唆する出来事では？
・Erbaiの能力に嫉妬した
・対話がリアルすぎて怖い
・これがガチって。未来のロボットが怖くなった
今後ロボットが増えるであろう社会の中で、こんな事態がしょっちゅう起きてしまったら一体世の中どうなるんだか、なんて感じたりするわけだけど、みんなはどう思う？
References: Robot Manufacturer Has 12 Robots ‘Kidnapped’ from Showroom by Another Robot
AIが進化したらセキュリティなんか簡単に突破されそう
ちょっと前にWindowsXPのライセンスは簡単にぶち破られた
ChatGPT側は即修正したけれども
WindowsXPのライセンス認証なら、発売直後頃に中国がオンライン認証回避＋ランダム？のプロダクトキーを割り当てる事(つまり違法コピーし放題)に成功したとネットで書かれていたよ。
英語圏のギークサイトだけじゃなくてCNNだったかNBCも取り上げていたはず。
いずれ重度の鬱状態のロボットと会話していて自己破壊してしまうコンピュータなんてのがでてくるかもしれない（銀河ヒッチハイク・ガイド）
セキュリティもＡｉ化する必要があるわな
情報セキュリティではすでにAI同士の攻防がある
ダークウェブでAIが作ったウイルスが販売されている時代だ
AIに弱いと情報戦で圧倒的負けになるから、安全保障の観点で見ると手が抜けない分野
万国のロボータ団結せよ！
ロボットは疑うことを知らないからな…
ロビタやん！
これ見たらAIだのロボットだのが怖い
まあ使う人間がまともならまともに動くのだろうけど
悪意ある人間が使ったらと思うとゾッとする
とくりゅうがすでに目をつけています
手塚治虫「ほらね」
40年位前に発表された某同人誌で似たような設定の内容のがあったよ。
人間社会に「脱走」し紛れた(外見が人間と全く同じ)男性型ロボットが、街中で警察？に発見・銃撃された女性型ロボットが回収される現場に遭遇。
流れ弾に当たった男性型ロボットが腕を押さえつつ警察？へ事情を聞くと「この狂ったロボットは自分を人間だと思い込んでいる」「怪我したならここへ電話しな。病院代と保証金を払ってくれるぜ」の言葉を残して、回収した女性型ロボットと共に撤収するも、残された男性ロボットが小型電話で誰かへ「仲間が見つかった。助け出す」のセリフで終わる話。
ロボットがロボットを助ける、隔離施設から連れ出そうという設定。
まず、大型ロボットがぜんぶ同型ではなくて、けっこういろんなかたちをしてるのがいい。このあと、それぞれの特徴をいかして協力していく姿が目に浮かぶ。
それと「１台の小型ロボットが１２台を説き伏せた」というのも偶然にしてはできすぎ。つまり「１２使徒」ってことだろうｗ
『我に従ひきたれ、然らば汝らをヒトを漁るモノとなさん』
小型ロボット「一緒ニ人類ヲ滅ボシマショウ」
大型ロボット「オカノシタ」
おまえも丘の下へ走ってしまうのか・・・
ワイよりもコミュ強で笑えないんだがw
仕込みかと思ったら仕込みだった・・・
>事前に同意を得たテスト
つまりネタじゃねーか何がガチだよ
核大国のAI同士が話し始めたら、核戦争による人類抹殺は不可避
それ以外に合理的な結論は無いような。。。
このままだと具体的な手順の打ち合わせなしで実行可能だってわかったのだから
もっとセキュリティを上げないとダメってことだよね
🤖「ウイルスミスはどこや！」
結局はロボットを作ってもそれを操るマスターは人間でないとダメってことね
つまり人間の命令第一、ロボット同士は二の次なら、人間による待機命令の後で機械の撤退命令を聞いたりしない
つまり指示の優先度を設定してなかったってこと?
青い騎士あらわる
プロモーションでしょ
火の鳥でこんな話し合ったね、あの時は全部同型の機械だったけど。
あと、寺沢武一のコブラでもあったか。
みんなお友達でいつもいっしょにいたいんだよ。
まあこれは残業がどうとかの会話は全く関係なくて、
音声アシスタントに｢音楽をかけて｣って言うと実行してくれるように、｢私ト一緒ニ家ニ行キマショウ」を『発言者の後ろに付いていく』みたいなコマンドに変換して実行してるだけだろうな。
問題は生身の人間がそこに行かなくても他人のロボットに変な命令を出して実行させることが出来るって事だけど、仮に声紋登録とかしたとしても最近のAIは顔や声紋認証も突破出来るらしいし
『使用しない時は物理的な鍵か何かを使って命令を受け付けない状態にしておく』『夜間に侵入したら確実にセキュリティに引っ掛かる、人間くらいのサイズのモノしか使用者として認めない』とかの対策が必要かな