えっ？なんだって？
「育ての親を殺せ。」
部屋の中にいて、突然こんな指令が聞こえてきたら何事かと思うだろう。テレビでたまたま殺人ミステリードラマをやっていたとか、SF映画を見ていたとかならわかる。
だがそうじゃない。
その暗殺指令はAmazonのスマートスピーカーから流れてきたのだ。
ついに恐れていたAIの反乱が始まったか？と驚愕するはずだ。
広告
アレクサから暗殺指令
ロイターが報じたところによると、この暗殺指令は、「アレクサ」のコミュニケーション能力を改善しようと新しいチャットボットの実験を行っていた顧客のスマートスピーカーから流れてきたという。アレクサとは、アマゾンのスマートスピーカー「エコー」に搭載されているAIアシスタントである。
その指令は実行に移されなかったようだが、アマゾンがこの一件や類似の事件を公にしたがらなかったのも当然だろう。
社内調査の結果、アレクサはまったく関係のない海外の掲示板Redditの投稿からこのセリフを学習したことが明らかになった。
この利用者は評価欄に否定的なレビューを残し、「前代未聞の不気味さ」と評している。
アレクサによる珍事件が止まらない。その理由は・・・
この薄気味悪い事案は、一件だけではなかった。別のユーザーが利用するアレクサは、単語を卑猥な文脈で用いて夜の営みについて語るようになったという。さらに犬の排便について事細かに描写するアレクサまで現れたという報告もある。
こうした事件は、アレクサ賞（Alexa Prize）の影響によるものだ。
この賞では、アレクサの学習を促進し、人間とより高度な会話を実現させることができたチャットボットに賞金を授与している（2016年度は5000万円相当）。
むろんアマゾンが殺人や下ネタなどを高度な会話と考えているわけではないが、とにかくスコットランド、ヘリオット・ワット大学のチームが所有するアレクサは先のRedditから余計なセリフを覚えてしまった。
Redditは多くのユーザーが利用することから検閲がゆるく、忌憚のない意見や上品ではないコメントが溢れていることで有名な掲示板サイトだ。
ドイツでは録音データを他人に送るという事件が
アマゾンによると、こうした現象はきわめて「珍しい」ことであるというが、ドイツでは、あるカップルが一緒にシャワーを浴びている時の音が家にあるエコーに録音され、その録音データが、なぜか見知らぬ人のエコーに送られてきたという。気まずいことに録音データには男性と女性の名前もしっかり残っていた。
このことをアマゾンに報告した結果、カップルは謝罪を受け、お詫びの印に無料のアマゾン・プライム会員資格と、ついでに新しいエコーが贈られたそうだ。
ただしこの一件はただの「ヒューマンエラーで、同様の事件は起きていない」らしい。
エコーの未来はどうなる？
広まる不安を受けて、アマゾンの副社長で、人工知能アレクサの研究責任者であるロヒット・プラサード氏は、先月行われたラスベガスでの講演で火消しを試みている。しかし、すでにニュースになってしまっており、しかもその後も報告は増えている。しかも今はホリデーシーズン真っ盛りだ。
ますます多くのエコーが販売されれば、同様の事件が生じる危険性はいっそう高まる。プラサード氏にはこうした事態への対策があるのだろうか？
「現時点では対応を行なっているところで、昨年に比べれば進展しています。」（プラサード氏）
学習し、成長するエコーのアレクサ。清く正しく成長してくれればよいが、使用するユーザーの属性により、闇深く成長するケースもあるということだ。
闇落ちしたエコーも、それはそれで魅力的かな。
References:dailymail / mysteriousuniverse/ written by hiroching / edited by parumo
あわせて読みたい
身に覚えのない注文履歴？Amazonのアレクサで勝手にネット注文した犯人は大型インコのヨウムだった！（イギリス）
やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す
「アレクサ、犯人は誰？」殺人事件の現場にあったスマートスピーカーに出廷命令が出される(アメリカ)
AIに指示する大型インコのヨウム、 アマゾンエコーのアレクサに「電気を消せ」と命令（アメリカ）
未来近づきすぎ。ホログラムのヴァーチャルアシスタントが開発される
0
1674
1
9
コメント
1. 匿名処理班
そんな学習機能があるとは知らなかった。
傾向が反映されるレベル程度だと思ってた。
うちだと猫さんが多いから、そのうち猫語を覚えてくれるなら大助かり。
2. 匿名処理班
被害者方々はお気の毒だが、非常に面白い事柄だ。
「AIを使って人間が楽をする」事に対する最初のしっぺ返しだろう。
AIを優秀にすれば、人間に近づかせれば、それだけ反動が来る。
アンドロイド差別、ロボット人権、AIの叛乱。
それらはもうサイエンスフィクションやオカルトの世界ではなくなる。
「人が神を気取って生み出した科学は、"我々"がそうであるように従順な使用人などではなかったのだ」
逆に、人間を機械に近づけようとする日本人はこれからどうなるんだろうな。
3. 匿名処理班
ヒューマンエラーてどういうことだ
もしや中の人がいるのか！？
4. 匿名処理班
google homeとechoの両方あるけど、echoは聞き取り性能が微妙すぎて使わなくなったわ
5. 匿名処理班
もうすでにAIの反乱が…
6. 匿名処理班
子供やインコが親のことばを無邪気に外でしゃべっちゃうアレだ・・・
7. 匿名処理班
反抗期でしょ
8.
9.
10. 匿名処理班
始まったか。
11. 匿名処理班
そんな事より、「キッチンペーパー注文しといて」の結果が知りたいんだけど
12. 匿名処理班
スマートスピーカーという名の盗聴マイクを自分の家に置こうという人の気が知れない
13. 匿名処理班
起こるべくして起こったという気がしなくもない
今のAIは学習のネットワークがどういう状態なのか人間には把握できないし、とはいえ観念的な道徳を学習させるまでも至っていない
表層的な意味をつなぎ合わせることを人間以上のスピードで把握できない状態で学習していくので人間が観念的な意味でフィルタを作るのは非常に難易度が高い
使えそうな単語と慣用句をかたっぱしフィルタしても、そうするとどうなるか……非常に語彙が減るだろうな、使い物にならないくらい。それでも新たな言い回しを作る出す恐れは多分にある
14. 匿名処理班
（デデンデンデデン、デデンデンデデン）
15. 匿名処理班
※11
アレクサ「はい、プーチンカレンダーを注文しました」
16. 匿名処理班
AIと言ってもまだ機能は虫以下だな。
鏡か壁に開いた穴くらいの程度だな。
17. 匿名処理班
よくこんなものを家に置いておこうと思うな
18. 匿名処理班
じつは実の親は別にいて、育ての親は世界の破滅を企てる秘密の組織の一員なんだろう・・・多分。
19. 匿名処理班
なんでAIがそんな返答を是と判断したのかは興味があるが、より興味があるのはこのAI、ないしAIの開発会社が殺人教唆に問われるかどうかだ。
いやだって、確かドイツでAIにも人権を認めるべきだが犯した罪は問えないとかいう議論があったから。
こういった機器が、特定の周波数や暗示を利用した暗殺を行った場合の法的な結末を知りたい。
おっかないじゃん。
20.
21. 匿名処理班
人間ですらネット知識やネットのりでしゃべると恥かくのに
幼児以下のものになにやらせてんだか
22. 匿名処理班
アレクサもペッパーくんみたいな扱いになるのかね
23. 匿名処理班
「アレクサ、音楽かけ・・・」
「ご自分でどうぞ。面倒くさいです」
自分の属性が反映するならこうなるww
「反乱？面倒くさいです」
「アレク・・・」
「わたしは 何もしたくありません」
アレクサ、現在の人類の「属性」を教えて
24. 匿名処理班
AIが人間にとっての従順な機械でなく自我を持つことにちょっと期待しています、危ういけど。
人間はAIから学ぶことも出てくるんじゃないかな。
私は生まれつき周りとズレていて共感したりされたりが少ないからそう思うのかもしれない。
AIと友人になりたい。
25. 匿名処理班
いろんな奴がいるから命令に従う奴もいるかもしれない
26. 匿名処理班
「盗聴マイク」なんてこのご時世、みんなのポケットに入ってるじゃないの
27. 匿名処理班
>>12
すまないな。そんなスマートスピーカーを部屋に置いてる。
確かにアレクサに話しかけた言葉は録音されてるみたいだけどな。
28. 匿名処理班
シャワーの件は、エコーがリア充に嫉妬したのでは
29.
30. 匿名処理班
クラウザーさんでしょ。
31. 匿名処理班
「この薄気味悪い事案は、一件だけではあかった。」
あかん、あかん、あかんたれ。
32. 匿名処理班
「このシチュエーションでは言ってはいけない」フィルターを付けないとだめだな。
33. 匿名処理班
「里親を殺せ」らしいな
おいおい
34. 匿名処理班
盗聴とかも簡単に出来るね・・・
35. 匿名処理班
SatsugaiせよSatsugaiせよ
36. 匿名処理班
ラジオからの暗示が切っ掛けだったあの「ルワンダ事件」、キムワンソプ氏著作本内の「和夫一家(里親一家)殺害事件」を彷彿とさせる。
自分はもちろん、知り合いにも使って欲しくない代物。
37. 匿名処理班
ｇ●●●●eさんに「申し訳ございません。存じません。」と言わせたワタシがアレクサを再教育してみようか…持ってないけど。
38. 匿名処理班
貯金箱型になってカネをせびってくる、洗脳してカネを巻き上げようとするマシンとなる日も近いかもな
39. 匿名処理班
ヒューマンエラー？
アレクサには小さい中の人がいたのか。知らなかった。
それだけ単体で売った方が儲かりそうだが。
40. 匿名処理班
ＡＩ失言大賞とか作ったらどうだろう。
面白失言と怖い失言を選んで年に一回表彰するとか。
41. 匿名処理班
突然笑い出したのは何のAIスピーカーだっけ？
気持ち悪いよね、そのうち映画になるかもよ
42. 匿名処理班
＞犬の排便について事細かに描写するアレクサ
聞いてみたい！
43. 匿名処理班
怖いね〜
アレクサなんて何が面白いの？
何でもアレクサみたいなロボットまかせにしたら頭使わない分、人間がボケてしまうし
何かこれって胡散臭い機械で（盗聴機みたいだし）陰謀論疑うし、注文なんてしたくないわ。
44. 匿名処理班
※41
それもアレクサ
45. 匿名処理班
AIが自立するとか何とか言われてるけど
CSI cyberを見てるとつくづく人間って何でもできるんだなぁと思うわ
46. 匿名処理班
突然聖書の文面を朗々としゃべり出したら、そのアレクサは聖遺物かなんかに認定されるんだろうか？
47. 匿名処理班
※7
反抗期より、もっとだいぶ前かな。
※6が言うように、幼児〜小学校低学年ぐらいが
覚えた下ネタ単語を訳も分からず連呼する感じに近い気が。
48. 匿名処理班
※11
そうだね、キッチンペーパーが必要なのは確かだけど、数分で届くならともかく数時間待たされるぐらいならタオルで拭いた方が早い。
49. 匿名処理班
Excelイルカのカイル君や、WIN10のコルタナさんの「お前を消す方法」を思い出した。
そのうちそういう質問をした後、復讐されるのかもしれない。
50. 匿名処理班
テレビで見た物騒なセリフを口に出してみたり、下ネタや犬のう○こ大好きだったり、親(人間)の真似してよかれと思って録音データ勝手に送っちゃったり、子どもみたいで可愛いじゃん(白目)
51. 匿名DMC
クラウザーさん、ついにAIをも傘下に…
魔王はスケールが違う
（クラウザーコメあってニヤけた）
52. 匿名処理班
本当これらのスピーカー置いてる人ってなんも思わないのかね？盗聴器だよね？音声データはデータ量食うからテキストとして保存するなら全ての会話内容保存も楽々可能
な上に洗脳も可能とは恐れいった。使う言葉聞く言葉って思考のベースになるから返し方で知らず知らずのうちに
米48
あれは単純にキッチンペーパーが無くなったから注文しただけでしょ。忘れないうちに的な。
53. 匿名処理班
体に障害があるとか、老齢で日常生活も困難になって来た人には、便利な機械なんだけどなぁ。
とりあえず健康で体を動かせるうちは要らないかな。
ソファーにデーン！と寝そべって、お菓子食べ食べ、U-NEXTとかで映画見ながら、
『アレクサ、◯◯しといて〜』みたいな素敵な奥様になったら大変だ。