ラジオ番組が秘密裏にAIをパーソナリティに起用、半年後にようやく気付かれ物議

この画像を大きなサイズで見る

　オーストラリアのラジオ局が、AIが生成した女性パーソナリティー音楽番組で起用していたことが判明した。

　この番組は一部のリスナーが、「彼女」の発声するフレーズがどの場面でも同じであることに気づくまで、6か月間放送され続けたという。ということは半年はAIであることがバレなかったのだ。

　指摘を受けて、局側はようやくパーソナリティーがAIであったことを認めたが、リスナーはもちろん業界からも多くの反発を招くことになってしまった。

ラジオ番組に正体不明の女性パーソナリティーが登場

　2024年、オーストラリア・ラジオ・ネットワーク（ARN）傘下にある放送局CADAは、Thy（サイ）という名の新しいパーソナリティーを起用した新番組、「Workdays with Thy（サイのワークデイズ）」の放送をシドニーで開始した。

まずは聴いて、きっとハマる！

平日の午前11時から午後3時まで。仕事中も運転中も、通勤・通学の電車の中や大学でも。「Thy」は世界中から最新・最熱の楽曲をセレクトして、あなたにお届けします。

音楽のプロたちが厳選した、今チャートを賑わせている曲や、これから一気にバズるであろう注目の一曲まで。

番組でいち早くチェックして、「それ、前から知ってたよ」って友だちにちょっと自慢しちゃいましょう。

ヒップホップ、R&Bはもちろん、ポップやダンスミュージックの最前線もバッチリ網羅。今聴いても色あせない懐かしの名曲もたっぷりとお届けします。

なんだか今日はちょっと気分が乗らないな…そんなときは、ThyとCADAがあなたの1日にエナジーとバイブスをチャージ！

テンションを上げたいときは、ここに戻ってきてね！

この画像を大きなサイズで見る

　だがこのThyがどんな人物なのか、プロフィールは一切公開されておらず、その容姿や年齢、経歴などは謎に包まれていた。

　シドニー在住のライター、ステファニー・クームズさんは、自身のブログにこう書いた。

Thyの名字は？ 彼女はいったい誰？　どこから来たの？　この番組のプレゼンターであるはずの女性についての経歴や詳しい情報が一切ないんです

音声を分析した結果AIであることが判明

　毎日4時間も放送を担当しているにもかかわらず、バックグラウンドが何も見えてこない。そのことで、彼女の存在に疑問を抱くリスナーが徐々に増えて行った。

　そして一部のリスナーたちが、彼女が繰り返して使う「old school（昔ながらの）」といったフレーズが全く同じように聞こえることに気づき、音声分析を開始。その結果、Thyが実は人間ではないという疑惑は決定的なものとなった。

この画像を大きなサイズで見る

視聴者に暴かれてからAIであることを公表

　この疑惑を受け、オーストラリア・ラジオ・ネットワーク（ARN）は声明を発表。

　「Thy」はARN社の財務部門に実際に所属する従業員の声と容姿をモデリングし、音声複製ソフトを扱うElevenLabs社の技術で作り上げたAIであることを初めて公表した。

　番組のプロジェクトリーダーであるフェイド・トーメ氏は、次のように説明している。

マイクもスタジオも使わず、あるのはコードとバイブスだけ。これは、ARNとElevenLabsによる「ライブラジオ」の概念そのものに挑戦する実験的な取り組みなのです。

Thyは実在の人物ではないにもかかわらず、本物の人間のように聞こえるし、実際にファンが存在しています

　きっとみんな、Thyの番組がどんなものだったか知りたくなったと思う。一部の音声を流している動画を見つけてきたので、0.57から1:23あたりを見てほしい。

　どうだろう。みんなの耳にはAIに聞こえただろうか。それとも、普通の人間によるしゃべりに聞こえただろうか。

「AIパーソナリティー」には人種問題も絡んでいた？

　現在、オーストラリアでは放送メディアにおけるAIの使用を禁止する規定はない。だが、今回の件が明らかになると、業界内からは大きな反発が起きた。

　オーストラリア声優協会のテレサ・リム副会長は、とくに「Thy」の見た目がアジア系オーストラリア人であることにも触れ、以下のように批判する。

パーソナリティーがAIであることを、最初から正直に明らかにすべきでした。AIであると明言されていなかったため、人々は本物の人間だと勘違いしてしまいました。

ラジオと広告業界で活躍するアジア系オーストラリア人女性の声優兼プレゼンターとして、この業界初の動きはさまざまな意味で不快だと感じています。

彼女がただの「ハリボテ」だったと知って、失望感が決定的になりました。オーストラリアにはアジア系オーストラリア人の女性プレゼンターは限られた数しかいないんです。

だから、そのうちの誰かにチャンスを与えるべきです。すでに厳しい状況にある少数派から、貴重な機会を奪わないでほしい

　今回の件はAIを起用したことだけいとどまらず、人種的な観点からも問題となっているようだ。

　先述のステファニーさんもこのように問題を提起している。

ARNのラジオ番組に出演しているパーソナリティの顔ぶれは、非常に「白人的」です。私はARNが全国展開している三大ブランド、KIIS、GOLD・CADAのパーソナリティーをすべて確認してみました。

合計9つの放送局を調べたところ、「多様性がある」と外見から判断できるのは、たった1人だけでした。

そして、その「1人」とは、「Thy」だったんです

この画像を大きなサイズで見る

生成AIの放送メディアにおける活用の課題と可能性

　批判が大きくなると、ARNは声明を発表した。だが、そこでは人種問題に関しては触れられていない。

これは世界中の放送局が探求している分野であり、この試験運用からは貴重な知見が得られました。

この試験運用は、真に魅力的なコンテンツを創出する上で、実在のパーソナリティが持つど力を改めて浮き彫りにするものです。

私たちは新しい技術がどのように素晴らしいコンテンツをサポートできるか、そしてその成果を向上させられるかを検討しています

　生成AIの進化にともない、YouTubeやTikTokなどで公開されている動画を見ても、どれがAIでどれがホンモノなのかを見分けるのが難しくなってきている。

　そういった動画のコメント欄を見ると、明らかにAIとわかる動画を本物だと思い込んでいる人も見受けられるし、逆に本物の動画をAIと決めつける人もいる。

　ディープフェイクの問題も深刻だ。政治・経済・軍事に関連する動画や有名人のスキャンダルも簡単にAIが生成し、SNSで拡散されてしまう時代なのだ。

この画像を大きなサイズで見る

　シドニーの技術ジャーナリスト、スティーブン・フェネッチさんは、この件に関して次のようにコメントしている。

政府が介入して、AIに関するガイドラインやガードレールを設け、どのように責任を持って使用することができるかを決める必要があると思います。

ARNが実証したように、この種のテクノロジーが実際にマイクを握る人の代わりをするのは非常に簡単です。しかし、それが雇用を犠牲にするものであってはいけません。

かつてアメリカの脚本家や監督たちは、自分たちの仕事を守るためにストライキを起こしました。だから、同じような働きかけが、全国のメディアで必要だと思います

　だが一般のリスナーからは、AIパーソナリティーへの困惑とともに、既存のメディアへの批判も聞こえて来る。

• アナウンサーだって上司に言われたことをそのまま繰り返すだけなのに、何が違うわけ？
• メディアがこれを批判しているのが笑える
• 一体何が問題なの？　AIは本来、低価値の仕事を自動化し、経費を削減するもの。AIを攻撃する人たちは、蒸気機関や電車、自動車、シンセサイザーを禁止しようとする人たちと基本的に同じだと思う
• AIなんて馬鹿げてるわ。国民の半分がインターネットに依存しているんだから、それが全部シャットダウンしたら、みんな気が狂うんじゃない？　私の家には普通のテレビしかないからハッピーよ。携帯電話が使えなくなっても別に困らないわ。固定電話の方がいいもの。昔ながらのやり方が一番よ
  • 犬や孫たちと遊んでいるのが一番幸せ。次に読書ね。百科事典を読破したわ
• テレビのコメンテーターたちの顔もAI生成に見えてきたよ
• 何か月もみんな問題なく聴いていたんだから、そのまま続けてたらいいんじゃない？
• AIに関するあらゆる情報には免責事項を付記すべき。さもなくば何も信じず、あらゆることに疑いを持ち、提示されるすべてのことを批判的に考えるべき

　ARNはThyがAIであったことを認め、番組を終了したが、現在のところ謝罪のコメントは出していない。

　テレサさんはAIの有用性も認めつつ、次のように警笛を鳴らしている。

AIは、適切な保護措置が講じられるならば、AIは放送において非常に強力で前向きなツールとなりえるでしょう。

放送メディアにとって、信憑性と真実性はとても重要です。国民は、放送される内容の出どころが何であるかを知る権利があります。

AIが高度に発達して規制が困難になる前に、今このような議論をする必要があると思います

　生成AIの進化はあまりにも早過ぎて、法的な面やコンセンサスといった部分の整備が追いついていないようにも見える。

　何度も繰り返しになるが、AIの有用性は認めた上で、その活用の方法や方向性を考えていくべきであるのは間違いない。

　問題はやはり、議論が追いつく前に技術や実用化が先に進んでしまっている点にあるのではないだろうか。

　みんなはAIパーソナリティーが登場したらすぐに見分けられる？

編集長パルモのコメント

パルモ

日本語ってすごく繊細で、独特の間とかリズム感とかあるから、欧米で開発された生成AIは、どんなに頑張っても日本人なら半年もかからずに見抜けちゃう気がするんだけどどうだろう。私も生成AIを利用してるけど、変に倒置法にされたり、体言止めにされたりするので、その都度指摘してるけど、何度言っても治らないからな。日本で開発されたAIじゃない限り、日本語を使いこなすのは難しいかも。

References: Radio Station Secretely Uses AI Host for Six Months Without Anyone Noticing

• #海外の反応
• #オーストラリア
• #生成AI
• #ディープフェイク
• #ラジオ