アマゾン・アレクサが闇落ち！？「育ての親を殺せ！」と暗殺指令を出していたことが判明

　「育ての親を殺せ。」

　えっ？なんだって？

　「育ての親を殺せ。」

　部屋の中にいて、突然こんな指令が聞こえてきたら何事かと思うだろう。テレビでたまたま殺人ミステリードラマをやっていたとか、SF映画を見ていたとかならわかる。

　だがそうじゃない。

　その暗殺指令はAmazonのスマートスピーカーから流れてきたのだ。

　ついに恐れていたAIの反乱が始まったか？と驚愕するはずだ。

アレクサから暗殺指令

　ロイターが報じたところによると、この暗殺指令は、「アレクサ」のコミュニケーション能力を改善しようと新しいチャットボットの実験を行っていた顧客のスマートスピーカーから流れてきたという。

　アレクサとは、アマゾンのスマートスピーカー「エコー」に搭載されているAIアシスタントである。

　その指令は実行に移されなかったようだが、アマゾンがこの一件や類似の事件を公にしたがらなかったのも当然だろう。

　社内調査の結果、アレクサはまったく関係のない海外の掲示板Redditの投稿からこのセリフを学習したことが明らかになった。

　この利用者は評価欄に否定的なレビューを残し、「前代未聞の不気味さ」と評している。

アレクサによる珍事件が止まらない。その理由は・・・

　この薄気味悪い事案は、一件だけではなかった。

　別のユーザーが利用するアレクサは、単語を卑猥な文脈で用いて夜の営みについて語るようになったという。さらに犬の排便について事細かに描写するアレクサまで現れたという報告もある。

　こうした事件は、アレクサ賞（Alexa Prize）の影響によるものだ。

　この賞では、アレクサの学習を促進し、人間とより高度な会話を実現させることができたチャットボットに賞金を授与している（2016年度は5000万円相当）。

　むろんアマゾンが殺人や下ネタなどを高度な会話と考えているわけではないが、とにかくスコットランド、ヘリオット・ワット大学のチームが所有するアレクサは先のRedditから余計なセリフを覚えてしまった。

　Redditは多くのユーザーが利用することから検閲がゆるく、忌憚のない意見や上品ではないコメントが溢れていることで有名な掲示板サイトだ。

ドイツでは録音データを他人に送るという事件が

　アマゾンによると、こうした現象はきわめて「珍しい」ことであるというが、ドイツでは、あるカップルが一緒にシャワーを浴びている時の音が家にあるエコーに録音され、その録音データが、なぜか見知らぬ人のエコーに送られてきたという。

　気まずいことに録音データには男性と女性の名前もしっかり残っていた。

　このことをアマゾンに報告した結果、カップルは謝罪を受け、お詫びの印に無料のアマゾン・プライム会員資格と、ついでに新しいエコーが贈られたそうだ。

　ただしこの一件はただの「ヒューマンエラーで、同様の事件は起きていない」らしい。

エコーの未来はどうなる？

　広まる不安を受けて、アマゾンの副社長で、人工知能アレクサの研究責任者であるロヒット・プラサード氏は、先月行われたラスベガスでの講演で火消しを試みている。

　しかし、すでにニュースになってしまっており、しかもその後も報告は増えている。しかも今はホリデーシーズン真っ盛りだ。

　ますます多くのエコーが販売されれば、同様の事件が生じる危険性はいっそう高まる。プラサード氏にはこうした事態への対策があるのだろうか？

　「現時点では対応を行なっているところで、昨年に比べれば進展しています。」（プラサード氏）

　学習し、成長するエコーのアレクサ。清く正しく成長してくれればよいが、使用するユーザーの属性により、闇深く成長するケースもあるということだ。

　闇落ちしたエコーも、それはそれで魅力的かな。

References:dailymail / mysteriousuniverse/ written by hiroching / edited by parumo

あわせて読みたい
身に覚えのない注文履歴？Amazonのアレクサで勝手にネット注文した犯人は大型インコのヨウムだった！（イギリス）


やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す


「アレクサ、犯人は誰？」殺人事件の現場にあったスマートスピーカーに出廷命令が出される(アメリカ)


AIに指示する大型インコのヨウム、 アマゾンエコーのアレクサに「電気を消せ」と命令（アメリカ）


未来近づきすぎ。ホログラムのヴァーチャルアシスタントが開発される