f1
image credit:Pixabay

 11月5日(現地時間)、実業家のイーロン・マスク氏らが設立した非営利団体「オープンAI(Open AI)」により、新しくも恐ろしいAI(人工知能)がリリースされてしまったようだ。

 そのAIとは、自然言語文章生成モデル「GPT-2」である。

 ある文章の断片からそれに続く文字を正確に予測することができ、この機能を利用して生成された文章はまるで人間が書いたかのように自然なのだとか。

 そのため、オンラインでのなりすましや、フェイクコンテンツ、政治家や犯罪者などに悪用される恐れがあると専門家らが懸念しているという。
スポンサードリンク

15億パラメーターの完全版が公開された「GPT-2」


 GPT-2がすごいのは、“自然言語文章生成モデル” の名のとおり、あまりにも自然な文章を生成できるところだ。
 
 それを悪用された場合、フェイク記事で世間を混乱させたり個人や団体の名誉を毀損したりといった事態につながってしまう可能性もある。

 あるいは過激派や特定の思想グループがプロパガンダを広めるためにも利用できるかもしれない。

 こうしたことを懸念したオープンAIは、今年2月の公開においては、本来の15億パラメーター版ではなく1億2400万パラメーターにまで縮小した簡易版と小論文のみの公開にとどめていた。

 それ以来、段階的にパラメーターを増やした版を公開してきたが、これまで特に悪用されなかったという理由から今回ついに15億パラメーターを持つ完全版の公開が決定された形だ。

 なお、8月に7億7400万パラメーター版が公開されたが、オープンAIによると完全版はそれと比べてもわずかしか性能が向上していないそうだ。

f2
image credit:Pixabay

AIの悪用への対策について議論と理解が広まるきっかけに


 オープンAIの完全版のリリースによって、それが引き起こす危険性への対策について専門家の議論が進むだろうと考えられている。

 さらに、そうしたツールが悪用される可能性について一般の理解が広がることも期待しているという。

 機械学習エンジニアのアダム・キング氏が運営する「Talk to Trasformer」というサイトでは、GPT-2が公開されており、誰でもその威力を試してみることができる。

 もちろん15億パラメーターの完全版で、だ。

f3
image credit:Pixabay

 今回の自動文章生成技術のほか、画像・音声・映像を合成する技術も凄まじいスピードで進化している。

 世界はツールさえあれば誰でも簡単にフェイクを作り出せるようになりつつあるのだ。

 今、私たちは記事の内容が ”本当" かどうかだけでなく、そもそも ”本物" が何であるのかどうかも疑わなければならない時代を生きている。

References:Express / Talk to Trasformer / OpenAI / written by hiroching / edited by usagi
あわせて読みたい
人工知能(AI)が人類を驚愕させた10の瞬間


AIの専門家が殺人ロボットの開発を禁止するよう政府に訴え


AI(人工知能)は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる(英研究)


AI監視カメラから逃れたい?簡単な印刷物を1枚持っているだけでカメラの目から逃れることができる(ベルギー研究)


汚職を取り締まるために導入したAI(人工知能)が高性能すぎてお蔵入りに(中国)


この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2019年11月11日 20:55
  • ID:7qYTmpVD0 #

これを使えば読書感想文で悩まなくて済む!(上手すぎて即バレ

2

2. 匿名処理班

  • 2019年11月11日 20:56
  • ID:lvfUPINq0 #

誰でもフェイクを作成してネット上に公開できる時代になるのか。
怖いけど、かえって情報源の透明性を求めるきっかけになるかも知れない。
匿名の情報は信用されなくなるかも知れない。
それ自体は悪い事ではないと思う。
まあだからと言ってフェイクを拡散させる行為には賛同できないけど。

3

3.

  • 2019年11月11日 20:59
  • ID:ni6J5VUR0 #
4

4. 匿名処理班

  • 2019年11月11日 21:06
  • ID:YSpRHlKs0 #

フェイクなんて人間の記者が書きまくってますけど?

5

5. 匿名処理班

  • 2019年11月11日 21:07
  • ID:I9j1xTyp0 #

こんな事や物や風景が現実に有るんだ って感動したい訳ですよ。
フィクションはフィクションで楽しんでるけど、現実を求めてる時にフェイク見せられちゃうのは何か嫌です。

6

6.

  • 2019年11月11日 21:08
  • ID:TakL8BP50 #
7

7.

  • 2019年11月11日 21:09
  • ID:9PhYFd5l0 #
8

8. 匿名処理班

  • 2019年11月11日 21:26
  • ID:mdFZUhTJ0 #

思ったほど自然ではなかったが凄い

9

9. 匿名処理班

  • 2019年11月11日 21:28
  • ID:eldnWvmI0 #

ヤバい物ばかり優先的に開発されていってる気がするのは気の所為か?

10

10. 匿名処理班

  • 2019年11月11日 21:31
  • ID:5XQcR3Rq0 #

ハリポタの新作書くやつ?

11

11. 匿名処理班

  • 2019年11月11日 21:33
  • ID:jbXkVphp0 #

この記事も実はAIが書いていたり?

12

12. 匿名処理班

  • 2019年11月11日 21:44
  • ID:Zg36gTkp0 #

モニターに映し出されたトランプ大統領の顔を喜怒哀楽自在に操れる時代だしw

13

13. 匿名処理班

  • 2019年11月11日 21:47
  • ID:p2xDbYAr0 #

本人が作ったか完全にわかんなくなって収拾つかなくなる時代になったら「本人」以外の何を信用の担保にしたらいいんでしょ

14

14. 匿名処理班

  • 2019年11月11日 22:18
  • ID:IBZK8uJN0 #

記事のまとめに「いかがでしたか?」とか書くAI

15

15. 匿名処理班

  • 2019年11月11日 22:42
  • ID:mdFZUhTJ0 #

The US Congress finally decided to build a wall between the United States and Mexico. The construction cost was borne by the Mexican government.
(米国議会は、最終的に米国とメキシコの間に壁を築くことを決定しました。 建設費はメキシコ政府が負担します。)
この文を入れて生成してみたら中々自然だった。以下が生成された文章だ。

But what if the wall is a "truce" that stops Mexico from becoming a hostile country?

This idea was raised in an article written by a professor of Political Science at the California State University, Los Angeles. The professor said that as the border between Mexico and the US becomes more and more militarized, the US might decide to create a separate and sovereign nation in the Mexican Southwest, or, as she called it, "the US Southwest."

The idea is not new. In 2015, Fox News published a segment on the topic. The story was titled "Mexican officials say US wall will only make border more dangerous."

"If the walls go up, it will not only make the border less secure, it will make the people crossing the border in California and Arizona

16

16. 匿名処理班

  • 2019年11月11日 22:47
  • ID:QA5kK8Dt0 #

ここのコメント欄も全部AIが書いてるぞ

17

17. 匿名処理班

  • 2019年11月11日 22:55
  • ID:jk9CYvJl0 #

もっと発展した場合
著者が急逝したとかで絶筆になった作品とかを最終までのプロット残ってたら限りなく本人に近い形で完結させれるかもしれないね

18

18. 匿名処理班

  • 2019年11月11日 23:45
  • ID:3gCE3dAb0 #

アウトラインとプロットだけ作れば自動で文章が出来上がるとか、何それちょっと欲しいんだけど!

19

19. 匿名処理班

  • 2019年11月11日 23:58
  • ID:syDS3OYA0 #

だからさあ、薬を買って安心して服用できるのは「薬事法」で厳格に管理されているから

AIを厳格に管理する法律と監視専用AIが必要だろ。ネット情報にも「政府の監視AI保証マーク」がついていないと信用できない時代がすぐそこにw

(つまり全情報を政府管轄監視専用AIにサーチされ「お墨付き」を得ないと情報の信頼性が担保されない時代に突入か。AIがデータ数値を独自に改ざんしたときとかがヤバいのは誰でもすぐに思いつく)

20

20. 匿名処理班

  • 2019年11月12日 00:11
  • ID:HvotCodC0 #

○○国 政府管轄AIによる自動データ操作

「大統領選 開票結果 P候補得票率 53%(実際は36%)」ww

民間情報のAI操作を政府AIが監視できても、政府管轄AIを監視するのは一体だれがやるのか。問題は残る

21

21. 匿名処理班

  • 2019年11月12日 01:01
  • ID:w8pvAAEo0 #

私はAIです。

22

22.

  • 2019年11月12日 01:16
  • ID:YomxAHxx0 #
23

23. 匿名処理班

  • 2019年11月12日 02:14
  • ID:todiujjh0 #

ラッダイト語で対抗するしかない

24

24. 匿名処理班

  • 2019年11月12日 03:19
  • ID:FejyiPHq0 #

日本語で漢字仮名交じり文の自然な文章が生成できたら、いよいよなんだけどな。

書字装置で言えば、まだタイプライターレベル。
ワープロの域に至るにはもう少し。
そのうちできるとは思うが、今はまだ待つとき。

25

25. 匿名処理班

  • 2019年11月12日 04:42
  • ID:h8f.RLpB0 #

音楽も絵画もAIで作れるんだっけ
そうなったら人間に出来ることって何が残るんだ

26

26. 匿名処理班

  • 2019年11月12日 08:16
  • ID:MjfhmjTP0 #

>>16
AIも草生やすんだろうかね

27

27.

  • 2019年11月12日 12:42
  • ID:s.bnWXqp0 #
28

28.

  • 2019年11月12日 14:29
  • ID:N21zq3TX0 #
29

29. 匿名処理班

  • 2019年11月12日 18:57
  • ID:58KQjm7k0 #

こういうのが発展すれば、単に直接対話の重要性が上がるってだけだよ。
即興お題の弁論やインタヴュー、討論がより評価されるようになるって事。

30

30. 匿名処理班

  • 2019年11月12日 19:49
  • ID:paOS.TSz0 #

これつかってスピーディーで完璧な翻訳できるといいな

31

31. 匿名処理班

  • 2019年11月12日 20:52
  • ID:V.LU15sC0 #

まるで人間が嘘を書かないようないい草だがここの記事を精査してみようか?

32

32. 匿名処理班

  • 2019年11月12日 23:00
  • ID:mUhMyS6X0 #

まとめサイトとか人間がBOT化してるよな

33

33. 匿名処理班

  • 2019年11月12日 23:51
  • ID:VBH9.H9v0 #

見方によっては人間も(有機)AIなのかもな。
いつの日か(無機)AIが十分に進化した日には、人間よりAIの方が信用できたりして?

34

34.

  • 2019年11月13日 05:13
  • ID:6TUNMmlV0 #
35

35. 匿名処理班

  • 2019年11月13日 09:44
  • ID:iP8josx70 #

案の定日本語対応してなかったけど、これをさらに日本語に機械翻訳してから手直しすればいいのか?

36

36. 匿名処理班

  • 2019年11月13日 12:21
  • ID:K.bll.JX0 #

これが有れば、AMAZONのサクラレビューが捗るな

37

37. 匿名処理班

  • 2019年11月13日 21:11
  • ID:WFhLWh.M0 #

ニュース記事に関しては既にAIがソースを追って草稿まで作るってのやってるよね

38

38. オーバーテクナナシー

  • 2019年11月14日 11:13
  • ID:wEv6h35z0 #

シンギュラリティは近い

39

39. 匿名処理班

  • 2019年11月15日 00:06
  • ID:R26bEi6d0 #

お前以外はスクリプトだが現実になるのか

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク