数万人が見抜けなかった。AIが書いたでたらめのブログ記事がランキング1位となる

この画像を大きなサイズで見る

　それはちょっとした実験だった。あるアメリカの大学生が「GPT-3」という文章生成AIが作り出した記事をためしにブログに投稿してみたのだ。

　それはまったくでたらめな記事だったのだが、それがAIによって作られたフェイクであると気づいた人はほとんどおらず、中には登録する人すらいたという。結果数万人が騙され、記事の1つはニュースランキングで1位を獲得したほどだ。

　カリフォルニア大学バークレー校でコンピューター科学を専攻するリアム・ポー氏は、「超簡単です。それが一番怖いところなんですが」と述べている。

危険すぎる文章生成AIの最新バージョン「GPT-3」

　GPT-3は、イーロン・マスクによって設立された非営利団体「OpenAI」が開発した最新かつ最大の文章生成AIモデルだ。

　じつは昨年2月、OpenAIはその旧バージョンにあたる「GPT-2」を開発していたのだが、悪用の恐れがあるとして非公開にしていた。

　ところが11月になってOpenAIは、「これまで悪用されたことを示す確たる証拠はない」と方針を転換。その最新バージョン「GPT-3」が公開された。

　こうして日の目を見ることになったGPT-3だが、一般公開はされていない。今のところ利用できるのは、非公開のベータ版に申し込んだ研究者のみだ。その目的はフィードバックを集め、年末までに市販化することであるという。

　ポー氏も申し込んだのだが、許可を待っている間に、ある博士課程の学生がすでにアクセスを取得していることを知る。そこで彼に願い出て、使わせてもらうことになったのだという。

この画像を大きなサイズで見る

AIが生成した文章を未編集でブログに投稿

　文章の生成に長けたGPT-3だが、じつは弱点もある。それは文章を生成できても、論理的なものではないという点だ。

　そこでポー氏は、投稿するカテゴリーにはきっちりしたロジックがあまり必要のない「生産性」と「自己啓発」を選んだ。

　そして、「Hacker News」というソーシャルニュースサイトに投稿されている同カテゴリーの記事を眺めてよくある単語を探し、それを組み合わせてタイトルを入力。たとえば「非生産的に感じる？ 考えすぎるのはやめよう」や「大胆さと想像力は知性に勝る」といった具合だ。

　見出しとイントロを与えられたGPT-3は、そこから文章を生成。「Hacker News」に「Adolos」という名称でブログを投稿していった。

　ブログに投稿された記事は、どれもAIによって出力されたものをコピペしただけで、ほとんど未編集だという。

　「アイデアをひらめいて、大学院生に連絡して、ブログを作って、それが拡散されるまで、ほんの数時間しかかかっていません」と、ポー氏は話す。

　ポー氏はこうして2週間ほど毎日AIが作り上げた記事を投稿してから、どこか謎めいた雰囲気の記事を投稿して実験を締めくくった。

　その最後の記事のタイトルは、「道徳心が欠如していれば、GPT-3でやっていただろうこと」だ。そこで、これまでの投稿がすべてAIによるものだったことが告白された。

この画像を大きなサイズで見る

AIの文章は人間によるものと認識されるのか？

　ポー氏は、GPT-3の文章が人間が書いたものであると認識されることを証明したかったのだと述べている。

　生成された記事には多少のぎこちなさや間違いもあるが、それがAIによるものである可能性を疑うコメントは、数十ものコメントの中で3、4コメントしかなかったという。しかも、そうしたコメントには、他のメンバーによって低評価が付けられているのだ。

　記事の中には「Hacker News」で第1位を獲得する記事さえあり、数万人が記事がAIによって書かれたという事実を見抜けなかったということになる。

「adolos」という偽名でHacker Newsに投稿し、1位を獲得した記事
「Feeling unproductive? Maybe you should stop overthinking. 」

　この記事にはかなりコメントが寄せられているが、AIが作り出したのではと疑う声はほとんどなかった

この画像を大きなサイズで見る

文章生成AIのリスク

　専門家たちは、こうした文章を生成するAIをずいぶん前から懸念してきた。

　たとえば、関係するキーワードで生成されたスパム記事のおかげで、ネット検索が台無しにされる恐れがある。またGPT-3を開発したOpenAIですら、AIが大量の誤情報をまき散らす兵器として利用される危険性を指摘している。

　ポー氏の実験は、もう少しありふれた別の問題が生じる可能性を示唆している。それは、アクセス数を稼ぎたい人たちが、人々を釣るためのツールとしてAIを使うという可能性だ。

　「とても簡単ですので、大したことのないブログがずらっと並ぶようなこともあるでしょう。オンラインコンテンツの価値は大幅に下がってしまうのではないでしょうか」とポー氏は言う。

　彼は今後もGPT-3で実験を行うつもりであるそうだが、自身がOpenAIに提出した利用申請はまだ通っていないそうだ。「もしかしたら、このことで先方は怒っているのかもしれませんね。」

References:A college kid created a fake, AI-generated blog. It reached #1 on Hacker News. | MIT Technology Review/ written by hiroching / edited by parumo

• #人工知能（AI）
• #記事
• #フェイクニュース
• #ブログ