AIが作成した記事に騙される
ランキング1位の記事はAIが書いていた / Pixabay

 それはちょっとした実験だった。あるアメリカの大学生が「GPT-3」という文章生成AIが作り出した記事をためしにブログに投稿してみたのだ。

 それはまったくでたらめな記事だったのだが、それがAIによって作られたフェイクであると気づいた人はほとんどおらず、中には登録する人すらいたという。結果数万人が騙され、記事の1つはニュースランキングで1位を獲得したほどだ。

 カリフォルニア大学バークレー校でコンピューター科学を専攻するリアム・ポー氏は、「超簡単です。それが一番怖いところなんですが」と述べている。
スポンサードリンク

危険すぎる文章生成AIの最新バージョン「GPT-3」


 GPT-3は、イーロン・マスクによって設立された非営利団体「OpenAI」が開発した最新かつ最大の文章生成AIモデルだ。

 じつは昨年2月、OpenAIはその旧バージョンにあたる「GPT-2」を開発していたのだが、悪用の恐れがあるとして非公開にしていた。

 ところが11月になってOpenAIは、「これまで悪用されたことを示す確たる証拠はない」と方針を転換。その最新バージョン「GPT-3」が公開された。

 こうして日の目を見ることになったGPT-3だが、一般公開はされていない。今のところ利用できるのは、非公開のベータ版に申し込んだ研究者のみだ。その目的はフィードバックを集め、年末までに市販化することであるという。

 ポー氏も申し込んだのだが、許可を待っている間に、ある博士課程の学生がすでにアクセスを取得していることを知る。そこで彼に願い出て、使わせてもらうことになったのだという。

最新の文章生成AI
Pixabay

AIが生成した文章を未編集でブログに投稿


 文章の生成に長けたGPT-3だが、じつは弱点もある。それは文章を生成できても、論理的なものではないという点だ。

 そこでポー氏は、投稿するカテゴリーにはきっちりしたロジックがあまり必要のない「生産性」と「自己啓発」を選んだ。

 そして、「Hacker News」というソーシャルニュースサイトに投稿されている同カテゴリーの記事を眺めてよくある単語を探し、それを組み合わせてタイトルを入力。たとえば「非生産的に感じる? 考えすぎるのはやめよう」や「大胆さと想像力は知性に勝る」といった具合だ。 

 見出しとイントロを与えられたGPT-3は、そこから文章を生成。「Hacker News」に「Adolos」という名称でブログを投稿していった。

 ブログに投稿された記事は、どれもAIによって出力されたものをコピペしただけで、ほとんど未編集だという。

 「アイデアをひらめいて、大学院生に連絡して、ブログを作って、それが拡散されるまで、ほんの数時間しかかかっていません」と、ポー氏は話す。

 ポー氏はこうして2週間ほど毎日AIが作り上げた記事を投稿してから、どこか謎めいた雰囲気の記事を投稿して実験を締めくくった。

 その最後の記事のタイトルは、「道徳心が欠如していれば、GPT-3でやっていただろうこと」だ。そこで、これまでの投稿がすべてAIによるものだったことが告白された。

AIブロガー
Pixabay

AIの文章は人間によるものと認識されるのか?


 ポー氏は、GPT-3の文章が人間が書いたものであると認識されることを証明したかったのだと述べている。

 生成された記事には多少のぎこちなさや間違いもあるが、それがAIによるものである可能性を疑うコメントは、数十ものコメントの中で3、4コメントしかなかったという。しかも、そうしたコメントには、他のメンバーによって低評価が付けられているのだ。

 記事の中には「Hacker News」で第1位を獲得する記事さえあり、数万人が記事がAIによって書かれたという事実を見抜けなかったということになる。

「adolos」という偽名でHacker Newsに投稿し、1位を獲得した記事
Feeling unproductive? Maybe you should stop overthinking.
000

 この記事にはかなりコメントが寄せられているが、AIが作り出したのではと疑う声はほとんどなかった

4
image by:SCREENSHOT / LIAM PORR

文章生成AIのリスク


 専門家たちは、こうした文章を生成するAIをずいぶん前から懸念してきた。
 
 たとえば、関係するキーワードで生成されたスパム記事のおかげで、ネット検索が台無しにされる恐れがある。またGPT-3を開発したOpenAIですら、AIが大量の誤情報をまき散らす兵器として利用される危険性を指摘している。

 ポー氏の実験は、もう少しありふれた別の問題が生じる可能性を示唆している。それは、アクセス数を稼ぎたい人たちが、人々を釣るためのツールとしてAIを使うという可能性だ。

 「とても簡単ですので、大したことのないブログがずらっと並ぶようなこともあるでしょう。オンラインコンテンツの価値は大幅に下がってしまうのではないでしょうか」とポー氏は言う。

 彼は今後もGPT-3で実験を行うつもりであるそうだが、自身がOpenAIに提出した利用申請はまだ通っていないそうだ。「もしかしたら、このことで先方は怒っているのかもしれませんね。」

References:A college kid created a fake, AI-generated blog. It reached #1 on Hacker News. | MIT Technology Review/ written by hiroching / edited by parumo
あわせて読みたい
悪用されたらヤバイ!専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる


頭で考えてることが文章化される。脳波を文章に変換するAIが登場(米研究)


完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念


AI(人工知能)にハリーポッター全7巻を学習させてハリポタの新作を書かせてみた。タイトル「ハリー・ポッターと山盛りの灰のようにみえるものの肖像」


連続殺人犯「ゾディアック」と同じ思考をするようプログラミングされたスーパーコンピューターが作り上げた不気味なポエム。事件解決の糸口となるか?

この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

人気記事

最新週間ランキング

1位
6764 points
散歩に出かけた猫、背中にオポッサムの赤ちゃんをおんぶして家に連れ帰る(メキシコ)

散歩に出かけた猫、背中にオポッサムの赤ちゃんをおんぶして家に連れ帰る(メキシコ)

2020年11月26日
2位
5495 points
空港で横になり束の間の休息をとる兵士を必死に守ろうとする犬

空港で横になり束の間の休息をとる兵士を必死に守ろうとする犬

2020年11月30日
2435213336
3位
4419 points
ソ連が領海侵犯していると思い込んで15年、実はニシンのオナラだった(スウェーデン)

ソ連が領海侵犯していると思い込んで15年、実はニシンのオナラだった(スウェーデン)

2020年11月25日
4位
3648 points
江戸時代以来約400年ぶり。木星と土星が大接近!12月21日〜22日は世紀の大天体イベントがやってくる

江戸時代以来約400年ぶり。木星と土星が大接近!12月21日〜22日は世紀の大天体イベントがやってくる

2020年11月27日
5位
3542 points
余命わずかな愛犬の為、最後にもう一度大好きだった雪を見せたい。その願いがSNSユーザーの協力で叶えられる(カナダ)

余命わずかな愛犬の為、最後にもう一度大好きだった雪を見せたい。その願いがSNSユーザーの協力で叶えられる(カナダ)

2020年11月28日
663441332
もっと読む
スポンサードリンク

Facebook

コメント

1

1.

  • 2020年08月23日 20:35
  • ID:ZWUN5t760 #
2

2. 匿名処理班

  • 2020年08月23日 20:52
  • ID:6gIVE7b50 #

新しい時代の犯罪の幕開け

3

3. 匿名処理班

  • 2020年08月23日 20:55
  • ID:STaAME1i0 #

12月19日までオコジョが記事を書いてるけど
12月20日以降はオコジョが失踪するブログが
あるらしい。

4

4.

  • 2020年08月23日 21:05
  • ID:Ibz8TX9n0 #
5

5.

  • 2020年08月23日 21:10
  • ID:VM2V.dZY0 #
6

6.

  • 2020年08月23日 21:10
  • ID:mz78IQZd0 #
7

7. 匿名処理班

  • 2020年08月23日 21:18
  • ID:9o5ziavZ0 #

SNSの情報を鵜呑みにして共感してしまう人も結構いると思うので、本当にSNSを駆使したAIに操られる日は近いかもしれない。

8

8. 匿名処理班

  • 2020年08月23日 21:28
  • ID:2pcdSvUK0 #

相手の欲しい情報をAIがくみ上げて作るのはお手の物
反面その情報を作る人がネットに出さなくなると途端に
ボケちゃうのがAIの欠点
今のところは騙せてもまだまだ人が有利だ

9

9. 匿名処理班

  • 2020年08月23日 21:47
  • ID:SvXRfecf0 #

とあるコミュニティに似たようなことをしたことがあるけれど、ネタバレをしたら非難よりも、「おれはそもそも本気にしてなかったぜ?」と逃げを打つ人が多かった印象w

10

10. 匿名処理班

  • 2020年08月23日 21:48
  • ID:lf0BVgJY0 #

すでに似たようなのはあるわ
精度の差はあれ
まとめブログなんかも編集メチャクチャなやつとか半自動精製してるやろ

11

11. 匿名処理班

  • 2020年08月23日 21:50
  • ID:9PWrl.fg0 #

一番怖いのは世論操作に利用されてしまうこと。
大量のSNS垢を習得し特定の政治的意見に関する意見を人と変わらない文章で書き「多くの人がこういう意見を持っている」と誤認させること。

12

12. 匿名処理班

  • 2020年08月23日 21:55
  • ID:CB8fwHW50 #

ディストピアだねぇ

13

13. 匿名処理班

  • 2020年08月23日 22:02
  • ID:e046ALgW0 #

悪用されて滅亡迅雷ネットに接続されそう

14

14. 匿名処理班

  • 2020年08月23日 22:06
  • ID:ny.PBjWE0 #

今見ているこの記事すらでたらめの可能性がある
無限ループって怖くね?

15

15. 匿名処理班

  • 2020年08月23日 22:32
  • ID:eKuCIMp80 #

LINEオープンチャットもbotいっぱいおる

16

16. 匿名処理班

  • 2020年08月23日 22:54
  • ID:ga7FiIsO0 #

1984年はもうすぐそこか?

17

17. 匿名処理班

  • 2020年08月23日 22:59
  • ID:efFERMTx0 #

気づかないだけで、もうすでにやってるでしょ

18

18. 匿名処理班

  • 2020年08月23日 23:05
  • ID:xWIB7cNM0 #

プロパガンダとかもめっちゃ簡単に広めてくれるんだろうな
便利な世の中になったけどその分難しい時代にもなったね

19

19. 匿名処理班

  • 2020年08月23日 23:16
  • ID:YiezK1Mj0 #

つまり検索エンジンが本当に"エンジン"になって文章を生み出すようになった、ということじゃないかな…

日本でも文学賞審査員が騙されたとか聞くと流石にちょっと怖くなるけど、AIによる"文章生成"がやっていることは検索ワードの連続表示に過ぎないような感じがするんだ。

人力でやってみるなら、Googleに何か検索語を打ち込んで、検索して出てきた項目トップの文章から"検索語と重複する部分を除いて残った最初の単語"をコピペして、最初の検索語の後にくっつけてもう一回検索する、これを繰り返していくと検索語のところに自然と文章が出来ていく…ような。

物凄くざっくりいうとgptってこういうことを自動でやるプログラムじゃないのかな…?。検索するのはウェブそのものじゃなくウェブから集めた文章サンプルの巨大なデータベースで、何を検索トップに表示するかの評価方法もウェブの検索とは少し変えてるみたいだけど。最初にきっかけとなる一文を入れてやれば、続きの単語が検索されて追加されて、出来た文章(のできかけ)を元にまた検索が繰り返されていく。

実際に研究してる人達からしたらそんな単純に言ってほしくないねと怒られてしまうかもしれない。怒られた上になんとなく横文字な定義語を連発されて、だから人類はAIに…と脅されて、最後はターミネーターを見ながら寝落ちすることになりそうだよ

20

20. 匿名処理班

  • 2020年08月23日 23:46
  • ID:axjpfUyj0 #

AIでも記事が書けるどころか高評価も得られる、と噂されてたのを実証したわけか
修正が不要なニュース記事を書けるようになるまで、本当に時間かからなさそうだね

21

21. 匿名処理班

  • 2020年08月23日 23:53
  • ID:UH1dQTc.0 #

だからそれやっちゃダメって言ったよね!!
        ↑
       って言われて怒られてそう。

22

22. 匿名処理班

  • 2020年08月24日 00:25
  • ID:BTxJSgT20 #

ブログを読んでいる側もAIだったりして

23

23. 匿名処理班

  • 2020年08月24日 01:00
  • ID:TjATNjq30 #

お前らすでに操作されてるよ。

24

24. 匿名処理班

  • 2020年08月24日 01:25
  • ID:QJDx2.6U0 #

そろそろAIにラノベ書かせようぜ

25

25. 匿名処理班

  • 2020年08月24日 01:55
  • ID:A1Id0qRf0 #

> そこでポー氏は、投稿するカテゴリーにはきっちりしたロジックがあまり必要のない「生産性」と「自己啓発」を選んだ。

ポー氏の判断が皮肉すぎる。
「支離滅裂のでたらめでも不自然じゃないだろう?どうせ」とポー氏に思われて、
実際にそうであると証明されてしまった生産性や自己啓発に関するカテゴリ。

この話の突っ込みどころは、AIがどうとかじゃないと思う。

26

26. 匿名処理班

  • 2020年08月24日 02:11
  • ID:IGQi7UYu0 #

こういった文章生成ソフトがさらに進化して市販されるようになると、そのうちAI作なろう系が溢れかえるようになるのかもな(都市伝説的な話としてもうなっているという話もあるが)。

そこそこ人気のあるやつは、コミック化もされてアニメ化もされて、実際は見せかけの“作者”でしかないAI保有者は、印税で悠々自適に暮らす。と。
そこには締め切りに苦しむこともない。ストーリーを考えるのに頭を悩ませることもない。執筆に時間を取られることもない。
多少の修正はするにせよ、AIが作った文をただ投稿するだけ。

AIによってお手軽に作られた作品を社会はどう評価するのかねぇ?
そして実は「AIによって作られたものだった」と知った時、その作品を好きだった人たちや業界はどう反応する?(「楽して儲けようなんてとんでもない!」と否定するか? それとも「面白ければAI作でも問題ない」と肯定するか?)

27

27. 匿名処理班

  • 2020年08月24日 02:30
  • ID:ab5ed4.w0 #

そのAIも怖いが、ネットの向こうにいる生身の人間を
騙しても実験だと称して何ら悪びれないこういう
IT関係者たちが俺には恐ろしいよ。
昔は人や会社をモノ扱いする経済学者共が嫌いだったが
もっと嫌いな人種が出てきた。

28

28. 匿名処理班

  • 2020年08月24日 05:42
  • ID:oAtWodk60 #

>>7
SNSはもうかなり前からマーケティングに利用されていて、半自動のようなツールやサービスがいっぱいある

29

29. 匿名処理班

  • 2020年08月24日 06:36
  • ID:Mu7FwbCM0 #

日本でもここ最近ブームの自己啓発本って中身同じようなものばかりなのはもしかして・・・?

30

30. 匿名処理班

  • 2020年08月24日 07:19
  • ID:IQlAizOY0 #

AIだと疑うコメントがほとんどなかった ことより、むしろAIだと疑うコメントがいくつかあったことの方が驚きだけど。
普通の人はブログを読むときまさかAIとは考えもしないだろうから。

31

31. 匿名処理班

  • 2020年08月24日 07:32
  • ID:b85Ab1EL0 #

カラパイアも実はコードネームぱるもというAIが記事書いているのかも

32

32. 匿名処理班

  • 2020年08月24日 07:47
  • ID:3hDTdXXa0 #

※26
面白ければAIの作品でもいい、として肯定されるような気がする。

それはともかく、もしそうなったらAIに作らせた粗製濫造な作品が世の中に溢れた結果、「いちいち読んでいられない」ということでAIにその膨大な作品を読ませて審査させ、AIがとても面白いと認めた作品だけを人間が読むようになるだろう。結局、AIによって生み出された作品が、AIによって審査され、大半が人間に読まれることなく捨てられていく、というわけがわからない世界になりそうだ。

33

33. 匿名処理班

  • 2020年08月24日 07:54
  • ID:VmjqGemi0 #

話は聞かせてもらった!
このサイトはAIが管理している!

ΩΩΩ<な、なんだってー!?

34

34. 匿名処理班

  • 2020年08月24日 08:13
  • ID:F.MJyqsr0 #

Wixでサイト作った時、AIが書いてくれた文章が秀逸すぎてそのまんま使った。

35

35. 匿名処理班

  • 2020年08月24日 08:59
  • ID:FeHvwZKE0 #

この末路は、実行キーひとつで大量生産される「いかがでしたか」系キュレーションサイトか

36

36. 匿名処理班

  • 2020年08月24日 10:00
  • ID:BIHI9jPl0 #

※26
その作品の著作権は誰が所有していることになるのだろう?

37

37. 匿名処理班

  • 2020年08月24日 12:13
  • ID:MGrd3kJi0 #

そして今度は文章を要約するAIが出てくると。

38

38. 匿名処理班

  • 2020年08月24日 13:03
  • ID:8CAGy.IN0 #

そりゃ申請許可制のものを他人から借りて使うなんて倫理観の欠如した行為してたら通らないでしょ
それをAIの問題を私が指摘したから怒ったのかな?wとかジョークでも公言しちゃうのはどうかと思う
これは倫理観の欠如した人間(ポー氏)には自覚がないっていう実験にもなってるねw

39

39. 匿名処理班

  • 2020年08月24日 13:10
  • ID:tCNM0z6u0 #

>>29
装丁もそっくりだよね
文章も聖書とか元ネタにしたらいくらでも作れそう

40

40. 匿名処理班

  • 2020年08月24日 13:25
  • ID:pyT41NWE0 #

でたらめな世の中なら、でたらめな文章でもOKということかも。
大学だったら、もうAIが書いたレポートとかあるんだろうな。

41

41. 匿名処理班

  • 2020年08月24日 14:43
  • ID:3qEohK7J0 #

>>29
日本で発売のものは99.9%、欧米の古典のパクリ。金儲けのためだけに利用されているものがほとんどです

42

42.

  • 2020年08月24日 14:53
  • ID:3qEohK7J0 #
43

43. 匿名処理班

  • 2020年08月24日 16:27
  • ID:4iIiHzg30 #

ソーカル事件を思い出すね

44

44. 匿名処理班

  • 2020年08月24日 17:55
  • ID:RnrbVF5z0 #

※30
いわゆる個人が開設している趣味的な日記、って感じではなく
ソーシャルニュースサイトに投稿している
アマチュアライターの気取りの利用者の配信記事、
的な位置付けでいいのかな? 1位記事の例を見るに。

そうであれば、「それっぽいこと羅列してるようだけど、なんか文章の繫がりがおかしくね?」って引っ掛かりが何箇所かあれば、「これbotが自動作成してる記事では…」と思う人が少数出ても、おかしくはないと思う。もっと一般人でも「は?」となるレベルの支離滅裂なコピペ文の切り貼りbot記事は、世の中に実在するから。

あと、本当に機械が書いたとは思ってなくても、文章がぎこちない人への煽りで「エキサイト翻訳ですか?w」みたいなレスをすることもある(そして、そういう煽りコメントはたいてい他の利用者から低評価を食らう)。たまに、本当に自動翻訳で書き込んでいる外国人のケースもあるけど。

45

45. 匿名処理班

  • 2020年08月24日 17:58
  • ID:pb.k1.Ts0 #

※26
そんなソフトが出来たら、出版社は作家や作品の募集なんか、やらないのではないかと・・・・

46

46. 匿名処理班

  • 2020年08月24日 18:04
  • ID:RnrbVF5z0 #

※16
あの洗濯おばちゃんが唄ってる、自動作詞の流行歌
意外といいなと思ってしまった。

エイプリルフールみたいな ただの儚い夢でした、
時の流れが胸の傷をふさぐと云うけれど
あの人の笑顔と、涙の思い出は、未だに私の心を震わせます
みたいなやつ。

47

47.

  • 2020年08月24日 20:33
  • ID:CZBcOOXG0 #
48

48. 匿名処理班

  • 2020年08月24日 20:48
  • ID:IGQi7UYu0 #

※45
最近は応募だけではなく、小説投稿サイトから見込みありそうなものスカウトして出版するケースも多いですよ?

たとえば最近よく見かける“異世界転生チート主人公モノ”の大半はこれの分類です。

49

49. 匿名処理班

  • 2020年08月24日 21:32
  • ID:.Cd4Itt40 #

悪貨は良貨を駆逐する

50

50.

  • 2020年08月24日 22:22
  • ID:SbV7mTiU0 #
51

51.

  • 2020年08月24日 22:29
  • ID:dYmJLQV.0 #
52

52. 匿名処理班

  • 2020年08月24日 22:30
  • ID:BDtxfwWj0 #

新興宗教の教祖役として性能は必要充分であるという証明ですね
人力では生み出せない量の「経典」を爆発的に量産できるのも強みかな

53

53. 匿名処理班

  • 2020年08月24日 22:42
  • ID:RnrbVF5z0 #

※49
今回の話題にはそれ関係なくない?

同じ土俵で競った上で、
人間が書いた記事よりもAIの内容のほうが良かったから
1位を獲得したんだよね?

54

54. 匿名処理班

  • 2020年08月25日 10:05
  • ID:nGorAY.q0 #

スパムメールや出会い系メールもaiに置き換わっていくんだろうなぁ
悪用してるのはもちろん人間
aiが悪いわけではない
人間を凌駕する知性を利用するのは結局人間なのだ

ある意味、これがaiの限界かもね。人間(集合体としての)を超える範囲では稼働できない
それを飛び越えるのは人間がaiの軛を外し、自律を委ねたときだ

55

55.

  • 2020年08月25日 13:54
  • ID:NqKo.Srb0 #
56

56. 匿名処理班

  • 2020年08月25日 15:37
  • ID:TFm02dFT0 #

>>2
通常運転、日本の新聞も似たような事やってるで

57

57. 匿名処理班

  • 2020年08月25日 17:13
  • ID:vTLnNnTX0 #

※25
自己啓発は自分で啓発できればいいから
文章の内容はあんまり関係ない
どれも似たようなこと言ってるし
読んだ人間が奮起するだけの説得力さえあればいい

58

58. 匿名処理班

  • 2020年08月26日 22:10
  • ID:JNXVe30z0 #

※27
同意。実験と称して騙すやつ大嫌い
生活まとめで白杖をついて街歩いたやつがいて心底不愉快だった
そいつちゃっかり美人に助けてもらってるし

59

59. 匿名処理班

  • 2020年08月26日 22:14
  • ID:JNXVe30z0 #

※9
個人的にはバラさないでくれるとありがたい
ゲーセンで出会った不思議な子の話も作り話とネタバレされた瞬間冷めた

60

60. 匿名処理班

  • 2020年09月01日 11:49
  • ID:JROoSX9k0 #

おまえらまだわからんのか
すでにパルモさんはAI化してカラパイアを作製させてるんだ

61

61. 匿名処理班

  • 2020年09月11日 17:54
  • ID:7McFk.I40 #

AIを使わなくても元々中身のない三文ブログやら企業系サイトが上位を埋め尽くしてるんだからその部門の「AIによるリスク」は低いだろ

62

62. 匿名処理班

  • 2020年10月30日 08:05
  • ID:jJgfq5j.0 #

パルモさんが実はAI だった的なことを書こうとしたらもう既に書かれていたか…笑笑

※43 うーん、ソーカル事件とはむしろ逆じゃない?
ソーカル:内容めちゃめちゃな論文内容なのによく読まずに掲載した。
今回の記事:内容を楽しんでた人達が、書いた人がAIだとみぬけなかった。

どちらかといえば、AIが俳句を作るみたいな話が世界一○けたい授業でやってたけどあれに近いかな?

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク