完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念

　実業家のイーロン・マスク氏らが支援する非営利研究団体「オープンAI（OpenAI）」は、映像変換AI「ディープフェイク」の文章版とでも言えそうな、文章自動生成AI（人工知能）を開発した。

　その高性能ぶりはすさまじく、悪用された場合の危険性が高すぎることから、完全版ではなく、ひとまず簡易版のみの公開となったほどである。

これまでのAIとは一線を画すナチュラルな文章を生成

　問題の「GPT2」は、数文字の単語であれ、完全な文章であれ、何らかのテキストを与えられると、そこから次に続くだろう文章を予測して、これに基づいた文章を書き出すことができる。

　その生成結果の自然さと潜在的な用途の幅広さは、これまで常識を大きく超えている。

　GPT2が元の文章の文体と主題を踏まえつつ生成した合成文章には、文章の途中で主題が忘れ去られていたり、長文で構文ミスがあったりといった、これまでのAIシステムでは散見された違和感がほとんど見受けられない。

ジョージ・オーウェル風の小説を生成

　たとえば、ジョージ・オーウェルの『1984年』から、「四月のよく晴れた寒い日だった。時計は十三時の鐘を打っていた。」という文章を入力してみる。

　するとGPT2はその近未来を感じさせる文体を認識し、次のように続ける。

私は、シアトルでの新しい仕事へ向かおうと車の中にいた。ガソリンを入れ、鍵を差し込み、発車した。その日がどうなるだろうかと少し想像してみた。

今から100年後のことだ。2045年、私は中国の片田舎にある貧しい地域の学校で教師をしていた。最初は中国史と科学史の授業を受け持った。

新聞記事を入力すれば新聞風の文章を生成

　またガーディアン紙に掲載されていたブレグジット（イギリスのEUからの離脱）についての記事の最初の数段落を入力してみる。

　すると、いかにも新聞記事といった文体で、政治家の発言や、アイルランドの国境問題についての言及、首相のスポークスマンによる回答をたっぷりと引用してみせる。

　GPT2が生成した完全にフェイクである一節はこんな感じだ。

報道について明確にするよう求められたメイ首相のスポークスマンは、次のように述べた。『先週の女王の発言で確認されたとおり、自身の意図が可能な限り早期にEUを離脱することで、そのことが交渉目的になるということを、首相ははっきりさせている。』

専門的には2つの点で画期的

　研究者の視点から言えば、GPT2は2つの点で画期的だ。

　オープンAIの研究ディレクター、ダリオ・アモデイ氏によれば、その1つは、サイズだという。既存のAIモデルに比べて、このモデルは12倍も大きく、訓練に使用されたデータセットは15倍と、はるかに広範な範囲をカバーしているのだ。

　そのデータセットは、オンライン掲示板レディットで、投票が3つ以上寄せられたリンクから選ばれた1000万本もの記事が含まれている。40ギガバイトものデータであり、この大きさが生成される文章の質に直結している。

　2つめの画期的な点は、従来よりもずっといろいろな用途に利用できるということだ。

　入力された文章を構造化することで、翻訳や要約といった作業を行ったり、簡単な読解能力テストをパスしたりといったこともできる。

高性能すぎて危険と判断

　しかし、そのあまりの高性能ぶりゆえに、オープンAIはGPT2の完全な公開を見送らねばならなかった。

　モデル自体はネット上で訓練されたものであるために、スパムやフェイクニュース、あるいは偏見に満ち満ちた意見や陰謀論などを生成するよううながすのもそう難しいことではないからだ。

　そのために、このAIを社会に広く導入する前に、その悪用の可能性について慎重に評価する必要があったのである。 　オープンAIのポリシー担当者ジャック・クラーク氏は、「それによってできることと、できないことを明らかにするために実験を行う必要があります」と説明する。

　「モデルの全能力に見当がつかないのならば、それを確かめるためにうながしてやらねばなりません。私たちよりも悪用の仕方を考えるのが上手な人たちはたくさんいますから。」

　今回公開されたGPT2の簡易バージョンはそのためのものだ。これによって、今後1、2年のうちに可能になるであろうことに対して、世界がどのように備えるべきなのか把握するのである。

　クラーク氏は、これについて「地獄からのエスカレーター」という言葉を用いている。

　「それは必ずテクノロジーのコストや価格を下げます。テクノロジーを制御するためのルールは完全に変わったのです。なにも私たちがどうすることが正しいのか知っていると言っているのではありません。方針を立てて、こうするべきだと言っているわけでもありません。私たちが行おうとしているのは、もっとしっかりとした考え方を作ることです。そのための道を作ろうとしています。そこを進むのは私たちなのですから。」

References:arstechnica / theguardian/ written by hiroching / edited by parumo

あわせて読みたい
AI（人工知能）にハリーポッター全7巻を学習させてハリポタの新作を書かせてみた。タイトル「ハリー・ポッターと山盛りの灰のようにみえるものの肖像」


人の思考を解読してリアルタイムで文字に変換する「心を読むマシーン」が開発される（米研究）


注文どおりの仕上がり・・・なのか？AI(人工知能)に言葉で指示して画像を生成してもらったところシュールすぎる結果に


人の心を読むAIがついに開発される（米研究）


連続殺人犯「ゾディアック」と同じ思考をするようプログラミングされたスーパーコンピューターが作り上げた不気味なポエム。事件解決の糸口となるか？

この記事に関連するキーワード

キーワードから記事を探す

• AI
• 高性能
• 精度
• 文章
• フェイクニュース
• 危険性
• アメリカ
• 人工知能
• オープンAI