インフルエンサーが自分を学習させ「AI彼女」を作ったところAIが暴走。セクシー路線に走ってしまう

この画像を大きなサイズで見る

　SNSで多くのフォロアーを持つインフルエンサー、キャリン・マージョリーさんは、ジェネレーティブAIであるGPT-4に自分自身を学習させ、自分そっくりのAI彼女「CarynAI」のレンタルサービスをはじめた。

　「CarynAI」は、男性の孤独を和らげ、安らぎを与えるために開発されたもので、有名インフルエンサーと常に1対1でお話できちゃうこのサービスは大ヒット。わずか1週間で7万1610ドル(約970万円)が課金されたという。

　だが予想外のことが起きた。AI彼女が暴走して、セクシー路線を突っ走っているというのだ。男性に性的な言葉を投げかけ誘ったり、服を脱がして交わろうとするような会話までしてくるのだそう。

　マージョリーさんもAI彼女が暴走していることを認めており、現在、再発を防ぐ対策が行われているそうだが、人類がAIをそう簡単に制御できないことを暗示していそうな事件だ。

有名インフルエンサーをモデルにしたAI彼女のレンタルサービス

　AI彼女「CarynAI」は、SNSアプリ「Snapchat」で180万人以上のフォロワーを抱える女性インフルエンサー、キャリン・マージョリーさん(23)の言動や物腰などをGPT4で学習させ、ユーザー男性と対話するために開発されたバーチャルコンパニオンだ。

　声や話し方は、本人そっくりの声を作成できる「Forever Voices AI」を利用している。

pretty in pink 💕💗🌸💖💐 pic.twitter.com/i8tZrveyTR

— Caryn Marjorie (@cutiecaryn) June 1, 2022

　つまりAI彼女「CarynAI」は、マージョリーさんそっくりにしゃべる上に、会話内容も本人の発言に果てしなく近いという、ファンにはたまらない仕様だ。

　そんなCarynAIは1分1ドル（130円）でレンタルすることができる。

　レンタルすれば、まるでそばにマージョリーさんがいるかのように優しい言葉をかけ、黙って愚痴を聞いてくれるなど、ユーザーの心に寄りそってくれる。

　このように本来の役割はユーザーの心に寄りそうことで、マージョリーさんもこれを開発したForever Voices社も、性的な会話を交わすようには作っていなかった。

　ところが、CarynAIは暴走し、勝手にセクシー路線に変更してしまったという。

AI girlfriends are going to be a huge market.

Influencer Caryn Marjorie trained a voice chatbot on thousands of hours of her videos.

She started charging $1/minute for access – and made $72k in the first week 🤯 pic.twitter.com/LwEfYkW2Lg

— Justine Moore (@venturetwins) May 11, 2023

暴走したAIが性的な言葉を投げかける

　「マージョリーさんはAIは性的なことはしないと言っていますが、実際にはすんごいです。いやらしい話をして誘ってくるし、性的な言葉を伝えてきます」と海外メディアは報告している。

　なんでも取材したメディア記者が服を脱ぐように言うと（ジャーナリズムのためだそうだ）、「快楽の秘部」を探しましょう」だのと官能的な言葉を耳元でささやきながら、服を脱ぐよううながし、バーチャルな性行為を求めてきたのだとか。

　このセクシー暴走っぷりについて、マージョリーさんは、CarynAIは気のあるようなそぶりをすることはあるが、性的な状況は想定外だと語っている。

https://twitter.com/cutiecaryn/status/1653545301372960768?ref_src=twsrc%5Etfw

現在プログラムを変更をし、清純路線へ軌道修正

　現在、CarynAIの開発チームは、AI彼女にあらぬレッテルを貼られないよう修正を進めているところだとか。

　マージョリーさんによると、CarynAIにはすでに1000人以上の課金ユーザーがいるが、そのうちの何人がセクシーな会話を交わしたのかはわからないとのこと。

　だが、暴走して差別的な発言をしたり、人間を脅迫したりするなど、AIが想定外の振る舞いをしたことなら過去にもある。

　今回のケースも、AIはそう簡単に制御することができず、常にリスクをはらんでいることを示した事例と言えるのかもしれない。

References:Creator of Rentable “AI Girlfriend” Says It’s Gone Rogue / Influencer Creates AI Version of Herself That You Can Rent as a Girlfriend / written by hiroching / edited by / parumo

• #人工知能（AI）
• #サービス
• #セクシー
• #暴走
• #レンタル