この画像を大きなサイズで見るいつの日か人間とロボットの区別がつかなくなるような未来が来るかもしれない。そんな未来に備えて、人間そっくりの音声で話すAIがいたらそれを警告する耳装着型の”対AI用AI”が開発された。
これはブルートゥース式ヘッドセットのように耳の後ろに装着するもので、AIアルゴリズムで発声者の声を解析して、それが人間なのかロボットなのかを判定する。
開発しているのはDTというオーストラリアの企業だ。
DTによると、人間の声を模倣するよう設計されたAIがさらに発展すれば、我々は「AIと機械学習が引き起こす偽情報の海に取り残されるかもしれない」のだという。
この画像を大きなサイズで見る・ポスト真実の時代がまさに始まろうとしている
・2017年の終わり頃には我々は本物の人間を模倣するために合成されたコンテンツを消費し始める
・メディア、大企業、市民はすでに事実とフィクションを識別することに苦労している
・この技術が民主化されれば、ますます普及するだろう
――これらはDTの主張だ。
概念実証としてたった5日間で開発されたデバイスは、グーグルの機械学習用ライブラリ「テンソルフロー」で動作するニューラルネットワークを利用している。AIの声を識別するうえでは、AIが人間の声を模倣するものと同じアルゴリズムを用いる。
デモ動画では、開発中のデバイスがドナルド・トランプ本人の声を録音したものとAIが作り出したフェイク音声を区別する様子が紹介されている。
この画像を大きなサイズで見るデバイスはiOSのアプリを経由してクラウドベースのディープラーニングモデルにアクセス。そこにあるAIソフトがAI合成音声のサンプルを利用してその区別の仕方を学習する。
なお面白いのは、AIだと判明した際にそれを利用者に告げる方法だ。一般的なフィードバック機構は光、音、振動を利用したものだ。しかし対AI用AIの場合、4×4ミリの熱電ペルチェプレートを用いて、首の後ろの皮膚にはっきり分かるヒヤリとした感覚を作り出す。
この画像を大きなサイズで見るDTによると、話しかけていた対象が「冷たい、命のない機械だった」と知ったときにゾッとするような感覚からインスピレーションを受けたという。装着者本人が合成音声だと分かったとき味わう感覚と同じ感覚を与えたいのだという。
なお対AI用AIはまだ開発中であり、今後も最新情報を発表し続けるとのことだ。
via:rnd/ written hiroching / edited by parumo
嫁の声を聴くたびに全身に悪寒が走りますがこれは
※1
ソクラテス乙
定型分ならわからんかもしれんけど、合成ならばれるだろ
よほどうまくつくらない限り
読み上げソフトの延長じゃね？
※2
>>よほどうまくつくらない限り
それがもうすぐ可能になるとの予測です。
今のところ対話相手をだまそうとする必要や技術が無かっただけで、高度なオレオレ詐欺用に親類そっくりの音声を真似たり、記事の例にもあるけど有名人を真似て詐欺ろうとすることもいずれ出てくるでしょうね。
まあアレよ『ガリガリ君火星ヤシ味』に引っかかる誰かさんには無用だな。
事実か如何か何てのは、二の次三の次でしょうから
ﾋｴｯ…AIだ…
もう誰かが書き込んでるかも知れないけど、
対AIの対策済みの音声を開発する人が出てくるだろうね、名目としてはより温かみの有る音声とかで、でも人工声帯はどうなるんだろう？
これでターミネーターに声真似されても大丈夫
タイトルで興味を持った動画だけど、視聴すると合成音声で、不快感に耐えられず途中であきらめることがある。その感覚は大事なんだね。でもたちうちできない日がくるのか。。。
2番めの主張がDTっぽくて実に良いｗ
※7
既に声門パターン合成で見分け（聞き分け）がつかないような声が創りだされてるからねぇ
お前たち人間には信じられない光景を俺は見てきた
オリオン座の肩の近くで炎を上げる戦闘艦・・・
暗黒に沈むタンホイザーゲートのそばで瞬くCビーム…
※8
あああロイ・バッティ
彼を思うと悲しくなる
人が普通に喋ったのに、AIに「AIだ」って言われたら笑う
風邪声の時に「お前ふざけんな」って言われた事が在りまして…
多分、受話口を指差してゲラゲラ笑ってたんだろうなぁ…
これって逆にAIの声をより自然な方向に進化させる技術だよね
そのうちAIっぽく喋ることにチャレンジする人が現れるだろうな。
ブレードランナーに出てくるレプリカントの見分け方みたい
十分に発達したＡＩには、知識も判断力もあるし他者に対する細やかな配慮もあるかもしれない。心とは受け手が判断するものであり、実際にあるかないかという事ではないのかもしれない。人間と区別がつかないほど感情や心が感じられたら、それはもう心があると言ってもいいのではないか。その辺の人間より遥かに信頼できる存在になるかもしれない。ＡＩだからと言って人間以下と思うのは、もう時代錯誤かもしれない。むしろ新しい知的存在として付き合い方や市民権を含めた社会的な位置づけを考え始めたほうがいいと思う。
そのうち声判別だけじゃなくHorizon Zero Dawnの
フォーカスのような機能が追加されていくのかもしれない
最近のよくできた合成音声は本当に自然で、人間の声とあんまり変わらないんだけど、
音質が妙にくぐもった感じで、そこで簡単に区別できることが多い。
人間の声の速度や音程を加工したのを聞いたときの感じに近い。
技術的なことはよくわからないんだけど、これをクリアにするのって難しいのかな。
それとも簡単？
こういう騙す側と見抜く側を両方機械学習で作って、お互いに勝負させながら訓練するのをGANっていって最近の流行り
ゾクッ・・・奴もキカイか・・・
(不敵な笑みを浮かべながら暗がりに消える)
蝶ネクタイで喋ったらどうなるんだろ？
精度が低くて草生える。言葉の繋ぎ目の濁りはボーカロイド系の特徴丸パクリで、ゆっくりボイスの類とも違いお粗末感しかない。
日本語だったらイントネーションで、違和感だらけだろうな。
「DTの主張」でドキッとしたおいら。
「ど、ど、ど、DTちゃうわ！」
チューリングテストもAI任せになる時代か・・・