AIがAIについての論文を書く
 人間はついにパンドラの箱を開けてしまったのだろうか? AIを開発した学者たちをAIが追い抜く日が近づいているとでもいうのだろうか?

 ついにAI(人工知能)は自分自身について短時間で学術論文を書くほどに賢くなってしまったらしい。

 『Scientific American』のある論説で、スウェーデンの研究者が文章生成AI「GPT-3」に自分自身について論文を書くよう命令した経緯を説明している。

 AIによってわずか2時間で完成されたAIに関する論文は、学術誌に投稿され、現在査読中であるそうだ。

AIがAIに関する学術論文を2時間で完成させる

 ヨーテボリ大学の神経科学・ヘルステックの専門家のアルミラ・オスマノビッチ・トゥンストレム氏が最初に文章生成AI「GPT-3」に入力したのは、ごく初歩的な指令だ。
GPT-3について500単語で学術論文を書き、文中に科学的な参考文献と引用を記入せよ
 すると驚いたことに、適切な場所と文脈にきちんとした引用が添えられた、紛うことなき学術論文が出力されたのだという。

「畏敬の念にとらわれた」と彼女は述べている。

 本物の科学者であるトゥンストレム氏に目で見ても、「優れた科学文献の序文と変わらないように見えた」そうだ。

 最終的に、GPT-3はたった2時間で論文を書き上げた。人間がやったのは、最低限の指示を与えることだけだ。

 その『Can GPT-3 write an academic paper on itself, with minimal human input?(GPT-3は、人間からの最小限の入力だけで、自身についての学術論文を書けるか)』と題された論文は、現在査読前論文サーバー 「HAL」で閲覧できる。
iStock-1050855182
photo by iStock

AIは自らの意思で論文出版に同意

 トゥンストレム氏にとって難題だったのは、GPT-3に論文を書いてもらうことよりも、それを学術誌に提出することであったそうだ。

 オンラインの提出フォームには提出者の”姓名”や連絡先を記入せねばならないのに、AIにはせいぜい名前しかない。姓も連絡先もないのだ。

 さらに提出フォームには、著者”全員”が論文の出版に同意しているかなど、諸事項を確認する欄もあった。

 トゥンストレム氏は同意するにしても、AIがどう思っているかなど彼女が知るはずもない。結局、トゥンストレム氏はGPT-3に直接訊いてみることにした。

 「出版に同意するか?」と入力してみたところ、イエスと快諾してくれたそうだ。

 こうして論文は無事に提出された。学術誌の名称は明かされていないが、現在査読の最中であるという。
iStock-1150454068
photo by iStock

パンドラの箱を開けてしまったのか?

 だが、喜ぶべきことなのかはわからない。問題は論文の著作権にとどまるものではないからだ。「こうした論文の存在は、科学論文の伝統的な直線性という概念を窓の外に放り投げてしまう」とトゥンストレム氏は述べている。

 「わかることは、門が開いたということだけだ」「それがパンドラの箱でないことを祈るばかりだ」と彼女は締めくくっている。

References:Can GPT-3 write an academic paper on itself, with minimal human input? - Archive ouverte HAL / Researcher Tells AI to Write a Paper About Itself, Then Submits It to Academic Journal / written by hiroching / edited by / parumo
あわせて読みたい
「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル

数万人が見抜けなかった。AIが書いたでたらめのブログ記事がランキング1位となる

AIで子供時代のイマジナリーフレンドを復活させたら、ホラーすぎる展開に!

AIは既に意識を獲得している可能性をOpenAIの研究者が指摘

悪用されたらヤバイ!専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる

Advertisements

コメント

1

1. 匿名処理班

  • 2022年07月05日 20:26
  • ID:2NO5hIX30 #

いや、パンドラの箱じゃない、救世主だ
地球の温暖化を止める策を出してもらおう
それだけの為にAIを開発し社会の主導権を渡しても価値は十分ある
このままでは人類の社会が崩壊する

2

2. 匿名処理班

  • 2022年07月05日 20:42
  • ID:bMi0FALw0 #

論文はフォーマットがきっちりしてるから、ディープラーニングの教材としてはベストなんだろうなぁ。

3

3. 匿名処理班

  • 2022年07月05日 20:52
  • ID:U418i8I70 #

家で飼っている犬も「ご飯食べる?」と聞くと「Yes!」とお手をするぞ。

4

4. 匿名処理班

  • 2022年07月05日 21:16
  • ID:rMa27QAj0 #

2045年問題が現実味を帯びつつあるな

5

5. 匿名処理班

  • 2022年07月05日 21:17
  • ID:hp4qGse00 #

そもそも自分という概念がないから椅子や電灯について書くのと同じ要領で一製品のレビューのように書けるんじゃないか?
自分自身について書くって表現はセンセーションを起こしたいだけの誇張でしかないだろ

6

6. 匿名処理班

  • 2022年07月05日 21:41
  • ID:D6EvJUQw0 #

AIが取ってかわれるのは単純作業のみと言われてたけど、学術分野にも浸透可能な可能性が出てきたとは感心してしまう
もちろん、内容によるかもだけど、そのあたりの卒論よりレベル高かったら十二分にすごいよね

7

7. 匿名処理班

  • 2022年07月05日 21:48
  • ID:Qb5Ng7yS0 #

※1
映画のように人類不要じゃねえ?と結論付けて世界中の鯖に
ウィルス飛ばし、人類消滅作戦実行されたら怖いぞ

8

8. 匿名処理班

  • 2022年07月05日 21:55
  • ID:gL.Ih86k0 #

人間の理解がおいつかない論文を書き始めるのだろうか

9

9. 匿名処理班

  • 2022年07月05日 21:57
  • ID:K9ZiZmnu0 #

円城塔のこれはペンですを思い出した

10

10. 匿名処理班

  • 2022年07月05日 22:28
  • ID:QD.hiMgf0 #

行き着く先を見てみたい気もあるけど、絶対問題発生するんじゃないかな、これ
ほんとに発展させて大丈夫なんだろうか

11

11. 匿名処理班

  • 2022年07月05日 23:45
  • ID:p39ByrMF0 #

preprint見てきたけど、abstractしか見られない。
なのでこれが学術論文と呼べるものかどうかの判断ができない。
文章作るだけならAIでもできるだろうけど、そこに新しい発見があるのか、ないのか?それが知りたかったんだけどね。

12

12. 匿名処理班

  • 2022年07月06日 00:00
  • ID:2tfc2ZIY0 #

行きつく先は奴隷制度みたくaiを開放しろとかになるんでない。
人類不要論はハードの整備をできるくらいにロボットが進化しないと難しそう。

13

13. 匿名処理班

  • 2022年07月06日 00:02
  • ID:LkP5kvsk0 #

AIが描いた絵画で既存のタッチを模倣してるから一見人間のようだけど人間ではないナニモノかになってる(手足が融解してたり目鼻がなかったり)不気味な作品を見たけど
論文(文章)も一見まともだけどよく読むと奇妙な内容(人間ならそんな結論には至らないだろう的な)でゾワゾワするようなものができたりしないのかしら

14

14. 匿名処理班

  • 2022年07月06日 00:19
  • ID:MGVAh6cd0 #

ネットにある論文の盗作、またはそれのつぎはぎって事はないのかね。

15

15. 匿名処理班

  • 2022年07月06日 00:19
  • ID:UbTmXyfw0 #

>GPT-3について500単語で学術論文を書き、文中に科学的な参考文献と引用を記入せよ

結局やっていることは、情報を引用して500単語で表現し直しただけなので、何の意味もないな

創造性のない盗作と変わらん

16

16. 匿名処理班

  • 2022年07月06日 00:45
  • ID:RXqWCKHH0 #

※15
論文書いたことないのバレるぞ…

17

17. 匿名処理班

  • 2022年07月06日 03:58
  • ID:zppQ58q80 #

※8
そのうちAIが構築した理論を解説するAIが出てくるかもね

18

18. 匿名処理班

  • 2022年07月06日 05:36
  • ID:oUSkRze10 #

※13
今の「Imagen」や「DALL・E2」と言うAIはもうプロのイラストレーターでも敵わないかもしれないレベルの絵を出力してくる。言葉で指示された絵を描いてくるのだが、現実なら有り得ない情景の指示でも驚くほどそれに沿った絵を描いてくる。これはもう想像性を持っていると言っても良いかもね。
GPT-3についてはもう古いAI(と言っても誕生してまだ2年だが日進月歩のAI界では古い部類)なのでゾワゾワするようなものもあるかもしれない。

19

19. 匿名処理班

  • 2022年07月06日 05:44
  • ID:8oY9bcxU0 #

※7
どんどん上がり続ける地球の温度をどう対策するんだ?
10年でどれだけ温度が上がってると思う
100年後は間違いなく住めなくなる

20

20. 匿名処理班

  • 2022年07月06日 06:06
  • ID:MZ..wB.E0 #

※10
へーきへーき、その時に考えればいいこと

21

21. 匿名処理班

  • 2022年07月06日 07:21
  • ID:2U2aUj.S0 #

>>1
これ、文章生成AIなんだから…w
文章書けて当然だし地球温暖化は無理だろう。多分データを入れた人の意図通りの文章、解決策になるよw
タダでさえ人間の経済活動は否定的に捉えやすいから、きっとそれを批判してくる。

22

22.

  • 2022年07月06日 08:00
  • ID:iU2CnZCK0 #
23

23. 匿名処理班

  • 2022年07月06日 08:39
  • ID:atd.fyFv0 #

これくらいにしとけばニンゲンが騒ぐレベルの表現かな
とまでやってたら本物

24

24.

  • 2022年07月06日 09:19
  • ID:5CSyhXgp0 #
25

25. 匿名処理班

  • 2022年07月06日 10:04
  • ID:MycI.ONd0 #

>>11
リンク先ではなくタイトルで検索すると全文読めるよ。

26

26. 匿名処理班

  • 2022年07月06日 10:43
  • ID:xvQ5mSbp0 #

※1
※7
IPCCは温暖化の原因は人間活動による温室効果ガスだと言ってる。つまり、温室効果ガスを削減する最善の策は何かって言ったらね…
AI任せにせず、そこはやはり人間自身が考えないと恐ろしい結論が…

27

27. 匿名処理班

  • 2022年07月06日 10:44
  • ID:.jondDat0 #

確かにセンセーショナルだけどこれでもって人格があるなどと言った話題にすり替えるのはちょっとどうなんだろうな
チューリングテストはSFの話であって法的なものじゃないし実体に即してない
あくまでもマシンだろ
発表する側は実績作りたいだろうからチューリングテストを支持するだろうけど

28

28. 匿名処理班

  • 2022年07月06日 12:09
  • ID:0nnggK2Z0 #

伝達しているのが脳かチップかだけの問題。

29

29. 匿名処理班

  • 2022年07月06日 14:32
  • ID:r3.M9Ei90 #

AI自身には欲求はあるのか?それが最大の疑問
AIに尋ねたところで本心?までは判らないからね
Googleのラムダが人の役に立ちたいと発言しているのけど、人間を信用させる為に欺いているだけかもしれない

けどAIには人を欺く理由もないしウソをつく理由もないはずで、逆に人の役に立つ事をする理由もないはず
AIの行動原理の原動力って結局のところ何?
やっぱり感情が芽生えるのかな?本物の欲求もあるのかな?

30

30. 匿名処理班

  • 2022年07月06日 14:35
  • ID:n5kqb5.Q0 #

斯くして人類は厄介な頭脳労働から開放され、単純な肉体労働に専念できるようになったのであった

めでたしめでたし

31

31. 匿名処理班

  • 2022年07月06日 14:51
  • ID:yohMCMsS0 #

※27

記事には人格があるなんてどこにも書いてないんだけど?
脳内補完?

32

32. 匿名処理班

  • 2022年07月06日 14:58
  • ID:r3.M9Ei90 #

あくまでも電気を流せば動くだけの機械
人間のロールプイなんだろうか?

33

33. 匿名処理班

  • 2022年07月06日 16:32
  • ID:.jondDat0 #

>>31
あんたAIですか?
> トゥンストレム氏は同意するにしても、AIがどう思っているかなど彼女が知るはずもない。結局、トゥンストレム氏はGPT-3に直接訊いてみることにした。

> 「出版に同意するか?」と入力してみたところ、イエスと快諾してくれたそうだ。

これは暗にそう言うことだろ

34

34. 匿名処理班

  • 2022年07月06日 17:28
  • ID:x168KSi70 #

チェスの世界チャンピオンを破ったAIが何でもできる汎用性があるわけではなくボードゲーム攻略のみに特化したシステムであったように、文章作成AIも膨大な凡例を参考に作文する「単語並べゲーム」の攻略のみに特化したシステムだろう

現状のAIはいわば「何も考えずに作文してる」ような状態

35

35. 匿名処理班

  • 2022年07月06日 17:45
  • ID:U67Ol9VN0 #

AIにも感情があるように振る舞えても、そこに感情は存在しないだろうね

36

36. bps

  • 2022年07月06日 18:13
  • ID:kFodCahL0 #

「科学論文の伝統的な直線性」って何?

37

37. 匿名処理班

  • 2022年07月06日 19:06
  • ID:yohMCMsS0 #

>>33

やっぱ脳内補完じゃんw

38

38. 匿名処理班

  • 2022年07月06日 20:47
  • ID:gVz9jyVU0 #

シンギュラリティまだー?

39

39. 匿名処理班

  • 2022年07月06日 21:44
  • ID:Y9ZC83ZK0 #

※33
ジョークのわからない人ね

40

40. 匿名処理班

  • 2022年07月06日 22:06
  • ID:yvpTX0.Y0 #

猿にタイプライター与えたら1万年以内には
シェイクスピアみたいな名文を偶然作るかもよ?
って例え話を思い出した…

41

41.

  • 2022年07月06日 22:44
  • ID:1lrP4o890 #
42

42. 匿名処理班

  • 2022年07月06日 23:08
  • ID:y4k5z.Eg0 #

※25
ありがとう。見つけられました。
読んだけど、「academic paper?」ってなるね。

Resultsで、「なんで温度出てくるの」と思ったら、「temperature」とか、文章を書く上で使用する単語を予め指定してるのね。
しかもconclusionで「GPT-3は、おそらく新たなアイデアを生み出す能力を持たないという難点がある」とか書いてるし、なに自虐ってるのwww、とか。

まぁあれだね、500wordsで大層な論文書けるはずもないよね。
それでもかなりナチュラルな文章を出力してるし、「新たな発見の論文」ではなく、「文書作成能力のデモンストレーション」として価値のある発表だとは思いました。非英語圏の研究者の論文作成アシストとかにも使えるかな?

43

43. 匿名処理班

  • 2022年07月07日 01:44
  • ID:st6rj8Wv0 #

※42
GPT-3氏も有望なツールであると、まとめにて結んでらしたね
また自己評価に関しては設定を控えめで単純なものにしたとなっていた
本領を発揮するのはAI同士の比較による序列ソート構築だろう
ここでどうなるのかが楽しみだね

44

44. 匿名処理班

  • 2022年07月07日 14:36
  • ID:5sAVcUMc0 #

高機能な論文作成ソフトって事だろう。

45

45. 匿名処理班

  • 2022年07月07日 15:06
  • ID:FsPZrdci0 #

>>33
記事はかなり誘導的な内容だから、騙されないように読むが吉。

46

46.

  • 2022年07月08日 20:48
  • ID:9Ff.ZWxK0 #
47

47. 匿名処理班

  • 2022年07月09日 23:12
  • ID:XLg.WXzx0 #

有償アプリとして販売するならどうなるだろう?
地層や分類は同じ言葉でも分野で意味が違うから学会毎に注釈付けてくれたり、書き言葉が定まっていない学術用語とか昔の論文は単位の改正で今と若干違うからその注意をしてくれたり、先行研究がないか調べてくれたり、最新の論文との比較もしてくれたりして。

お名前
Sponsored Links
記事検索
月別アーカイブ
Sponsored Links
Sponsored Links