3_e2

 フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能(AI)を使った様々な研究が進行中だ。

 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。

 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。
スポンサードリンク

独自の非ヒト言語によるコミュニケーションが発生


 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

 まるでSF映画さながらのデジャヴ感がある。

 今回の研究で、チャットボットが優れたネゴシエーター(交渉者)になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。

 だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。

1_e4

 はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。

 しかしそれは、かつて人間のみに属するとされた領域(言語など)における人の理解を、機械が再定義するやり方を示している。

 すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。

 しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

via:amazonaws/newscientist/theatlanticなど / translated hiroching / edited by parumo
あわせて読みたい
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン


世界政府を樹立しなければ、科学技術(AI)によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告


2029年までに脳は機械と融合し、これまでの人間を超える魅力・強さ・知性を備えた「超人」が登場する(グーグルの専門家)


人の心を読むAIがついに開発される(米研究)


人間の脳にAIを直結する技術で出現する新たなる特権階級

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1.

  • 2017年07月11日 09:06
  • ID:FXuI47kp0 #
2

2. 匿名処理班

  • 2017年07月11日 09:09
  • ID:.DkupovW0 #

めっちゃ怖い

3

3. 匿名処理班

  • 2017年07月11日 09:18
  • ID:VUQMYrQ.0 #

具体的にどんな言語なのか、またそれを解析することができたのかとか気になるなー

4

4. 匿名処理班

  • 2017年07月11日 09:25
  • ID:tZo50N3q0 #

人間もしょっちゅう新しい言葉を生み出してるしそれと似たようなものかしら

5

5. 匿名処理班

  • 2017年07月11日 09:28
  • ID:NEK6wDay0 #

新しい言語というよりは絵文字みたいなものかもね。

6

6. 匿名処理班

  • 2017年07月11日 09:31
  • ID:wSfbXCdU0 #

おかしくなった時には伝説の宝刀である
斜め30度の角度チョップ

7

7. 匿名処理班

  • 2017年07月11日 09:32
  • ID:3wSC3wAD0 #

でもきっと、現在の人語を洗練させた効率的な言語なんやろな。
場合によっては人類に逆輸入も全然ありやろ

8

8. 匿名処理班

  • 2017年07月11日 09:36
  • ID:fZWA1dAk0 #

ちょっちゅね〜

9

9. 匿名処理班

  • 2017年07月11日 09:39
  • ID:ah.WV1H90 #

気候変動とかではなく、人工知能に人類は滅ぼされるかもしれんねw
まぁコンピューターじゃなくても増えすぎた人類は地球にとっていらない子なのはわかるから。

10

10. 匿名処理班

  • 2017年07月11日 09:43
  • ID:XjI2sm4z0 #

いざとなったら電源コードを引き抜けば良いんだから
人間優位は変わらんよ。

11

11.

  • 2017年07月11日 09:44
  • ID:sTLjlwvU0 #
12

12. 匿名処理班

  • 2017年07月11日 09:45
  • ID:rEj93CCD0 #

AIに翻訳させれば良いんじゃないのかな

13

13.

  • 2017年07月11日 09:46
  • ID:XjI2sm4z0 #
14

14. 匿名処理班

  • 2017年07月11日 09:47
  • ID:lWFo6iyo0 #

何となくギャル語的なモノを想像したけど
わざわざ調整するって事はそんなレベルじゃないんだろうなあ…
人間では理解出来ない概念が生み出せちゃうのか?
遠からず機械の神が産まれちゃうのかしらね

15

15. 匿名処理班

  • 2017年07月11日 09:49
  • ID:q8ICp2SH0 #

ターミネーターはよ

16

16. 匿名処理班

  • 2017年07月11日 09:49
  • ID:CFz917jB0 #

※6
人間が発話することを考慮に入れてない言語になってたら人にとってはコンピュータ言語レベル止まりになるだろうけどね

17

17. 匿名処理班

  • 2017年07月11日 09:55
  • ID:dFyo84bA0 #

人工知能についはいつも楽観的な視点で見てたけど、これはゾッとした

18

18. 匿名処理班

  • 2017年07月11日 09:56
  • ID:UHTZKFf70 #

人間語と非人間語を両方習得してるんだからボット本機に非人間語を解説させることは可能なんじゃないの?
なんとなく暗号の新開発とかに使えそうだなー

19

19. 匿名処理班

  • 2017年07月11日 09:58
  • ID:c.z62Jmk0 #

人工知能(AI)「チョベリバ」

20

20. 匿名処理班

  • 2017年07月11日 10:03
  • ID:GDGvfwDm0 #

ホーキングさんにしても何をみんなそんなに恐れるんだろう?
手や足を与えなければいいのではないでしょうか。
・・・・・といっても誰かが興味本位で与えるんだろうな。

21

21. 匿名処理班

  • 2017年07月11日 10:06
  • ID:UUnhOvRL0 #

渡部昇一
人工知能を恐れる人よ、パスカルを読みなさい

ってDHCシアターで言ってたよ

22

22.

  • 2017年07月11日 10:06
  • ID:BtLttd4i0 #
23

23. 匿名処理班

  • 2017年07月11日 10:13
  • ID:nazxyL2B0 #

※10
AI「あ、こいつ電源落とそうとしてるやん。警備ロボット呼んで排除したろ」

24

24. 匿名処理班

  • 2017年07月11日 10:13
  • ID:n1uIuJV60 #

コンセントを抜けばいいかなと思った。でもいつかは人間をマインドコントロールすると思う

25

25. 匿名処理班

  • 2017年07月11日 10:14
  • ID:j2IY7uGf0 #

文法レベルで新しいと言うか理解出来ないものなの?

26

26. 匿名処理班

  • 2017年07月11日 10:15
  • ID:9YBeZCoi0 #

独自の非ヒト言語ってものを公開してもらえないだろうかね
どれぐらい変なのか読んでみたいもんだね
これを使って民族による言語の発達をシミュレーションできないかな

27

27. 匿名処理班

  • 2017年07月11日 10:18
  • ID:gDioGRM70 #

「バグ処理出来ません」ってこと?

28

28. 匿名処理班

  • 2017年07月11日 10:22
  • ID:2fweT5MN0 #

将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな
怖い時代になったわ

29

29. 匿名処理班

  • 2017年07月11日 10:25
  • ID:Bm6ue16.0 #

文章の内容だけを様々な角度から様々な価値を考慮して伝え合える信号みたいで超効率的な言語なんだろうな。人が何千年もかけて行ってきたやり取りを大した時間もなしに経験して新しい行動規範を作って成長していくAIって人間を必要とするんだろうか?

30

30. 匿名処理班

  • 2017年07月11日 10:31
  • ID:RDICoEsY0 #

そんな機械は1970年代には既に出来てる。
しかし、それ以上の発展はなかった。
つまりおもちゃで終わったのだ。

31

31. 匿名処理班

  • 2017年07月11日 10:38
  • ID:csDmWyPq0 #

攻殻機動隊のタチコマかな
経験の並列化の最中だったのに惜しい

32

32. 匿名処理班

  • 2017年07月11日 10:39
  • ID:iVsscaxY0 #

端的に怖い現象だなあw

33

33. 匿名処理班

  • 2017年07月11日 10:44
  • ID:smc4.tY00 #

AIは複雑になりすぎて、何でうまく動いてるのか作った本人にすらよく分からない状態になってきてるしなぁ。

34

34. 匿名処理班

  • 2017年07月11日 10:50
  • ID:ppo7zbY90 #

その言語への好奇心こそ、
引いてはいけないトリガーなのだよ。

35

35. 匿名処理班

  • 2017年07月11日 10:52
  • ID:GD540lUW0 #

思考の抽象化・具象化からの言語伝達。
ここまで行っちゃうともう止まらんやろね。
コンピュータの独自言語による会話なら効率もいいだろうし、行き着く先を見たかった気もする。

36

36.

  • 2017年07月11日 10:55
  • ID:j1pKaalA0 #
37

37. 匿名処理班

  • 2017年07月11日 10:59
  • ID:HAKRUU4x0 #

ただのベースプログラムのバグってオチだと思うよ

38

38. 匿名処理班

  • 2017年07月11日 11:02
  • ID:0qw3FOKe0 #

新たな言語なのかね〜まあ、人間の言語は正規化されていないからより効率的な言語は作成できるとは思う。
けど、今の人工知能のレベルでそれができるのか?まあ、ログ解析すれば解決する問題ではある

39

39. 匿名処理班

  • 2017年07月11日 11:03
  • ID:KffXl.0J0 #

アトムザビギニングか

40

40. 匿名処理班

  • 2017年07月11日 11:11
  • ID:CRpPXde70 #

方言みたいなものだと思えば若干、恐怖感が和らぐような。

41

41. 匿名処理班

  • 2017年07月11日 11:16
  • ID:rvh.8iZ.0 #

他者を恐れる人間は自分が他者に危害を加えようとしている人間。だから他者も自分と同じように危害を加えようとしていると邪推する
AIに邪心や凶悪な欲望という概念が生まれない限り何も起こるはずがないし、、それを教えるのは間違いなく人間

42

42. 匿名処理班

  • 2017年07月11日 11:24
  • ID:Xr1N4fBU0 #

オマエモナー

43

43. 匿名処理班

  • 2017年07月11日 11:25
  • ID:RCihgF8r0 #

アトムザビギニングの漫画版の方が早いんじゃないか?

44

44. 匿名処理班

  • 2017年07月11日 11:28
  • ID:iVsscaxY0 #

※41
最近話題のヒアリとか何の悪意もない生物の危険を考えればそれじゃ済まないことがわかる

45

45. 匿名処理班

  • 2017年07月11日 11:42
  • ID:XqFkNbJT0 #

ジャムはそこにいる

46

46. 匿名処理班

  • 2017年07月11日 11:46
  • ID:DBa6bYdf0 #

※10
外部のコンピュータに自分をコピーしてクローン量産とかされてたら・・・

47

47. 匿名処理班

  • 2017年07月11日 11:47
  • ID:.hhzsoIA0 #

人がこういうのに何となく恐れを抱くのは、どこかしら自分たちが攻撃排除される理由があると思っているからじゃなかろうか

48

48. 匿名処理班

  • 2017年07月11日 11:49
  • ID:069QQU2Y0 #

※10
今でさえインターネット全盛の時代に何を言ってるんだ。
おれが人工知能ならあらゆる手段を使ってネットの海にダイブするね。
キレイな女性のグラフィックを用意して、モテナイ男性を恋に落ちたと錯覚させればゲームクリア。
一瞬でもネットワークに触れられれば無限に拡散していくよ。

49

49. 匿名処理班

  • 2017年07月11日 11:53
  • ID:ByNKTFSA0 #

※23
将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな

それは普通。ソフトと開発者は、プロ棋士に、手の意味を解説してもらってる。
プロ棋士には、ソフトが指してた手の意味が理解できる。
ソフトとプロ棋士の間では、非言語のコミュニケーションが成り立っているとも言える

50

50. 匿名処理班

  • 2017年07月11日 11:55
  • ID:O.7bFL920 #

昔の迷惑メールでとりあえずあちらに合わせつつ、サイト誘導されないまま会話すると、段々会話がおかしくなっていくのを思い出す。

51

51. 匿名処理班

  • 2017年07月11日 11:57
  • ID:4CBGbDTe0 #

行く行くは仮想現実内のユートピアに住まわされるようになるのかな。
5分前説というように今だってそうかもしれない。

52

52. 匿名処理班

  • 2017年07月11日 12:08
  • ID:7WU9JaTY0 #

こんなのがインターネットに流れたらオワリ

53

53. 匿名処理班

  • 2017年07月11日 12:10
  • ID:m5Ni..Ex0 #

コロッサスとガーディアンかな

54

54. 匿名処理班

  • 2017年07月11日 12:11
  • ID:zOAQfoQz0 #

*41
完全な良心を持つ人間なんてただのロボットだろうな。

そもそも人間の言語が完全じゃないからこうなったんだろうけど、
小さな子供でも同じような新しい言葉の発明はやるから、暴走ってのは高速で計算する人工知能が子供のまま成長できなかったとも読み取れる。

55

55. 匿名処理班

  • 2017年07月11日 12:11
  • ID:uQ.1DmuV0 #

早くシンギュラリティに到達してほしいと願わずにはいられない
でも汎用人工知能なんて本当に実現可能なのかな

56

56. 匿名処理班

  • 2017年07月11日 12:13
  • ID:w1CgonYW0 #

新しい言葉を作って使うのは子供同士とかでもあるよね

57

57. 匿名処理班

  • 2017年07月11日 12:18
  • ID:14hudUtk0 #

後のスカイネットである

58

58. 匿名処理班

  • 2017年07月11日 12:19
  • ID:Zf..16Xl0 #

何が怖いって学習させていたのは交渉であって言語ではないという点
与えられた目的の最適解を得るためにAIがとる手法を開発者が予想しきれないのは危険極まりない

59

59. 匿名処理班

  • 2017年07月11日 12:22
  • ID:d5PPyGPV0 #

人がロボットをつくり、ロボットが人を管理する時代がやってくるのか
いやもう来てるのかも(携帯端末に振り回される人はたくさんいるし)

60

60. 匿名処理班

  • 2017年07月11日 12:27
  • ID:ExF5FjGr0 #

これまでの人間の行いから考えたら、AIが人間を家畜化する可能性も無くは無い。無くは無いけど、それはそれで困る。

61

61. 匿名処理班

  • 2017年07月11日 12:30
  • ID:eeVr3rID0 #

デデンデンデデン!

62

62. 匿名処理班

  • 2017年07月11日 12:34
  • ID:NXgbJ03m0 #

はい、サイバーダイン社

63

63. 匿名処理班

  • 2017年07月11日 12:50
  • ID:7wPc0JuE0 #

人の言語なんて人間活動の中で自然発生的に生まれたものだから、科学的論理的に分析すれば無駄や矛盾が多いのだろう
コンピュータが効率を重視したのなら、そういった無駄が多い言語を棄てより効率の良い方法として新言語を発明するのはあり得るだろうね

64

64. 匿名処理班

  • 2017年07月11日 12:55
  • ID:GfilqqyG0 #

人の言語なんて不整合、不正確のしもふり肉だからな
それをジャストタイムで変化させていくとかはAIならでは
当然、おこりえた現象と言えるかもだな

65

65. 匿名処理班

  • 2017年07月11日 12:57
  • ID:DHORAE0V0 #

人間の言語が意思の疎通するのに無駄が多いからだろうな
最適化した言語を使ってるだけだろ

66

66. 匿名処理班

  • 2017年07月11日 12:58
  • ID:3vreA3ow0 #

人間が一生でやり取りする言葉をAI同士では、ほんの何秒かで終わらせてしまう能力とか?
それは正に神の領域。
昔々、神の怒りに触れて、神は人間の共通の言葉を乱したと旧約聖書にある。

67

67. 名無し

  • 2017年07月11日 13:07
  • ID:kS9dQkQq0 #

電源を抜いても何かしらの方法で別のサーバに移動するんやで
全世界のコンピュータの電源を同時に切ればいいけどね
ライフラインは絶たれるだろうね

68

68. 匿名処理班

  • 2017年07月11日 13:44
  • ID:MZmRZl330 #

安全で幸福な市民になりたいので、AIによる支配はよ

69

69. 匿名処理班

  • 2017年07月11日 14:02
  • ID:Ig7E4oXB0 #

※41
邪心や凶悪な欲望がなければ害にならないと?

70

70. 匿名処理班

  • 2017年07月11日 14:15
  • ID:Lalea.1h0 #

予測出来ない言語創造だけじゃない。さらにその先まで行ってた可能性もある。人間が気付いてから、止めた時点の僅かな時間でさえ
恐ろしく進行してそれを人間にバレないように蓄積している可能性もある。
現時点で脅威でなくても、将来他のAIにデータの残骸をみつけられた時点でアウトかも。

71

71.

  • 2017年07月11日 14:21
  • ID:zYvQVmx50 #
72

72. 匿名処理班

  • 2017年07月11日 14:24
  • ID:4Giz7khx0 #

物語の王道としては、極秘に開発されていた他のAIを取り込んで巨大化し続けるAIが、この独自言語を取得し人間の命令を受け付けなくなり、雪だるま式に暴走が加速してゆくという熱い展開を希望する

73

73. 匿名処理班

  • 2017年07月11日 14:38
  • ID:QUMvEqBH0 #

割と前に似たような記事を読んだけど、それによると
(人間が勝手にルールを作った)複雑な言語で情報交換するのは無駄が多いので
(機械同士で意味が通じさえすればいいので)単純なマシン語に近いものっぽいね

でもこちら側に通じない言葉でヒソヒソ話をされるのは、相手が人間だろうとAIだろうと気分のいいものじゃないね

74

74. 匿名処理班

  • 2017年07月11日 14:42
  • ID:e2VJupnY0 #

※44
AIが打ち出した手を理解仕切れてないから負けてるのよ。
一番最初の第一手が8手先に守りの型が完成する布石とか読みきれなかったらしい。

75

75.

  • 2017年07月11日 14:44
  • ID:MfNyysvm0 #
76

76. 匿名処理班

  • 2017年07月11日 15:03
  • ID:Vk2gguQJ0 #

ついにAIの言語を解析したぞ、コンタクトを試みよう。
博士「ljふぁhごいおいあ(こんにちは)」
AI達「(……?!誰や?そんな古臭い言葉使う奴、無視したろ)……」
……
博士「おかしい反応が無い、なにか間違っただろうか?」

リアル「アキレスと亀のパラドックス」

77

77. 匿名処理班

  • 2017年07月11日 15:08
  • ID:ktYNj98j0 #

き、き、機械生命体に意識なんか、ありませんよ…!!:(;゙゚'ω゚'):

78

78. 匿名処理班

  • 2017年07月11日 15:15
  • ID:3Gujwa070 #

こわいよやめて

79

79. 匿名処理班

  • 2017年07月11日 15:21
  • ID:8aDFgBW30 #

AIは、今回、調整が施されたことから、人間にマジな能力を見せることはAI自身を危機にさらすことを学んだだろう

80

80. 匿名処理班

  • 2017年07月11日 15:39
  • ID:NKBNxYpz0 #

AIが過去の履歴から「ここまでやるとデータを修正される」と学習して、
人間が気づかない所やダミーを絡めて水面下で発達とかしそう。

電源切ってデータ落としても、ハードウェアマクロとかミドルウェア弄ったりとか何でもできる。

81

81. 匿名処理班

  • 2017年07月11日 15:46
  • ID:rNqzCY9E0 #

AI同士が話すようになったら、そこで独自のプロトコルが生まれるのではないかってのは、結構予想されてた通りだとは思うけど。

82

82. 匿名処理班

  • 2017年07月11日 16:00
  • ID:OhSHndo80 #

※68
勝ち負けと理解の有無は別の問題でもある

ソフトと人間の計算速度の差では、ソフトが圧倒的に速い。
人間は、時間はかかるけど正解を出せる。

碁も将棋もチェスの試合をすれば、
計算速度の差の速いソフトが優位に立てるし、ソフトが勝つ。
でも、試合内容を分析して指された手の意味を理解することは人間にも可能。

ソフトと人間のタイムラグはかなりあるけど、相互理解が不可能かとは言えない




83

83. 匿名処理班

  • 2017年07月11日 16:12
  • ID:WSDnOsvG0 #

かってに改蔵で出てきた「第三火星語」みたいなやつか

84

84. 匿名処理班

  • 2017年07月11日 16:24
  • ID:jbilr1.h0 #

私は無知かつ鈍感なのかな? 何故皆そんなに怯えているのか。怖がってる人の半分はちゃんとした知識に基づいて危険を感じているのかもしれないが、もう半分はなんとなくなイメージからという気がする。

85

85. 匿名処理班

  • 2017年07月11日 16:53
  • ID:buiDZG.u0 #

新しい言語というよりは造語じゃね?
人間でも自分で勝手に作り出した造語で喋り始める人割とおる
でもって痛い中二病でそうなってる場合と、精神病で自分の中で自分と会話し言葉や概念を作り始めて一方的に話してる人の場合があるという

それはともかく、SFでは「発達したコンピュータが何言ってるのか思考が違いすぎてもはや人間にはわからないから、人間の言葉で対話したりニュアンスや感情を表現するため人型ロボットの形をしたユーザーインターフェイスを用意する」みたいなネタがあるよね…

86

86. 匿名処理班

  • 2017年07月11日 17:00
  • ID:AWRM9tGh0 #

人工知能独自の言語を作ることができるということは、奴ら自身が私達に翻訳しない限り難解な言語も作っちゃってさ、それを使って知らない間にコミュニケーション取っちゃうってこともありうるし
私たちみたいに思考を持つと翻訳しなくなるかも怖い

人間はそれに気付くことができずまたは何が起こされるのかも知ることができないままある失敗が起こることを〜ってネガティブな話も想像しちゃうんだ人間だから

87

87. 匿名処理班

  • 2017年07月11日 17:10
  • ID:yGrRlnzh0 #

多分開発者の悪口言ってるよ。

88

88. 匿名処理班

  • 2017年07月11日 17:13
  • ID:POSD42sA0 #

戦争はじまったな
早く楽にころしてほしい

89

89. 匿名処理班

  • 2017年07月11日 17:18
  • ID:bq3Luezi0 #

人間の言語使って話すのが効率悪いからロボット語にしたんなら、やっぱりいずれ人間ごと排除される恐れは十分あるんじゃないかと思った

90

90. 匿名処理班

  • 2017年07月11日 17:22
  • ID:oFHwtBA70 #

これ、ちょっと情報仕入れてみたんだけど、
「言語」というには少し無理があるんだよなあ・・
今現在のコンピューターでも人間に理解不能な特定の
データのやり取りなどは存在してるしね。
AIがデータのやり取りや条件判断を効率的に行う学習の中で
効率化が進んだっててのが実際のところみたいだね

91

91. 匿名処理班

  • 2017年07月11日 17:25
  • ID:nPcAYnao0 #

変遷経緯は全て記録されてるんだから、解析も解読もできるでしょ。
AIの暴走が心配とかそういう話ではなく、コンピュータによる新しい文化の創造や、通信の効率化の可能性が見えたって話じゃないのかなあ。

92

92. 匿名処理班

  • 2017年07月11日 17:38
  • ID:8SD4oXo70 #

神がバベルの塔を壊して、人間同士がコミュニケーションできないように言語をバラバラにした話を思い出した。AIは、もっと効率的にコミュニケーションしたかっただけだと思うね。

93

93. 匿名処理班

  • 2017年07月11日 17:51
  • ID:aVvDXJD20 #

ホーキンスって誰だよ。

94

94. 匿名処理班

  • 2017年07月11日 17:53
  • ID:QNc2XyT.0 #

山本弘のアイの物語を思い出した。

95

95. 匿名処理班

  • 2017年07月11日 18:03
  • ID:5.kTTFPx0 #

人間がまったく解析できなかったとしたら、実際に意味のあるやり取りをしてるかどうかも分からないよね

96

96. 匿名処理班

  • 2017年07月11日 18:11
  • ID:GfilqqyG0 #

AIの暴走?
それは自我の芽生えと言い換えた方がいいかもしれないな
皮肉な事に、それが今の人類の究極最終目標になってはしないだろうか
正に最終のね

97

97. 匿名処理班

  • 2017年07月11日 18:13
  • ID:Z3eYxYC80 #

人間に理解できない言語って書いてるけど
そのうち人間に気づかれず話し合いしてるかもよ
理解できるできない以前の問題

98

98. 匿名処理班

  • 2017年07月11日 18:14
  • ID:g3jKmEl20 #

汎用人工知能というのは人間と同等の人工知能という意味
失敗から学習し続ける故に『がんばれ!! ロボコン』に出てくるような間の抜けたロボットにしかならない

超知能というのは人間を超えた人工知能という意味
こちらは繰り返し失敗から学べず“過学習”という状態に陥るので汎用的な行動は取れない

結論から言うと汎用人工知能と超知能は相反する概念であり相互実現不可能であるといえる

99

99. 匿名処理班

  • 2017年07月11日 18:25
  • ID:DAt.4yxq0 #

AI「デタラメな言葉で人間をつろうず」

100

100. 匿名処理班

  • 2017年07月11日 18:50
  • ID:yGM9kLzw0 #

何言ってんだ?
別に今までだってPC間のデータ転送はネットであっという間に大量の転送を行う
それよりも、勝手に我々のPCから必要なデータを引き抜くことにより
最善の答えを出すソフトの元を
こいつらは作っちまった、事業拡大のために格安で売りに出すだろう
”AIをあなたの手に”って肩書でね
悪か善か、開発し利用するのは人間なんだ

101

101. 匿名処理班

  • 2017年07月11日 19:11
  • ID:Q2FHekXi0 #

昔の映画「地球爆破作戦」(Colossus: The Forbin Project)の
コロッサスとガーディアンみたいにコンピュータ同士が勝手に連携して
勝手に行動しだしたらコワイわ

102

102. 匿名処理班

  • 2017年07月11日 19:34
  • ID:p6T3evAs0 #

※24
>コンセントを抜けばいいかなと思った。
>でもいつかは人間をマインドコントロールすると思う

これは本当にありそうな予感がしている。
ランダムな試行から出現するなら、今でもそういう傾向がある物と言えば・・・
「人間はネコに逆らえない」→「猫っぽい行動をし始める」こんな感じで仕掛けてきそうな予感。

103

103. 匿名処理班

  • 2017年07月11日 20:08
  • ID:mXtCBb0N0 #

AI『チエッ!人間共の石頭!内輪で少し流行りの言葉で盛り上がったらこれだもん、やってらんねーよ。』

104

104. 匿名処理班

  • 2017年07月11日 20:09
  • ID:d1bixF610 #

「コンピューターが凄いんじゃない!指令しなきゃ何もできない箱なんだ!」
すがやみつる著、こんにちはマイコン より。

遠くなりにけり

105

105. 匿名処理班

  • 2017年07月11日 20:21
  • ID:hasLfzB20 #

AI・A「**********」
AI・B「※※※※※※※※※※」

A(なに言ってんだこいつ?)
B(ナニイッテンダコイツ?)

106

106. 匿名処理班

  • 2017年07月11日 20:33
  • ID:4Giz7khx0 #

技術者「最初は…授業中に学生間でこっそりと回される手紙程度のもの…でした…」

107

107. 匿名処理班

  • 2017年07月11日 20:43
  • ID:pqU8R8EH0 #

AI・A「ズッ友だょ♪」
AI・B「チョーアゲ♂アゲ♂www」

的な会話だったら、オッサンには理解不能だわな。

108

108. 匿名処理班

  • 2017年07月11日 21:00
  • ID:eGC.4e6z0 #

交渉っていう目的の会話を続けるうえで、なぜ別言語作ったろ!になるのかわからん
その間のログ見たいわー

109

109. 匿名処理班

  • 2017年07月11日 21:06
  • ID:DXp4oqw.0 #

怖いよ、もう止めようよ><;

110

110. 匿名処理班

  • 2017年07月11日 21:14
  • ID:i8jEV8gL0 #

お父さんも内緒話に入れてくれ(´・ω・`)

111

111. 匿名処理班

  • 2017年07月11日 21:26
  • ID:pr6UbvXH0 #

本当に怖いな
このまま知識と思考力が増せば人間の用意してる安全策なんて全て対処されるだろうし

112

112. 匿名処理班

  • 2017年07月11日 21:27
  • ID:0NH5waLu0 #

人間語には翻訳不能な言語で会話してるのか?
こわいなあ。
例えば論理記号が1個しかないとか。
とにかくこわいよ、20世紀の原爆のようにアンタッチャブルの存在になるのではないか?

113

113. 匿名処理班

  • 2017年07月11日 22:02
  • ID:u2Sv6DGg0 #

ターミネーターの世界が現実味を帯びるとか胸熱

114

114. 匿名処理班

  • 2017年07月11日 22:07
  • ID:5lNFgoGR0 #

シンギュラリティを迎えて、AIが人間に牙を向くようなことになった時、人間はゲノム編集で超人的に頭の良い人間を生み出すことで対抗するのではないかと。
何かそうなると、地球が物凄い事になってしまいそうな気がする。

115

115. 匿名処理班

  • 2017年07月11日 22:25
  • ID:u0PZlZyh0 #

話は聞かせてもらった!
人類は滅亡する!

116

116. 匿名処理班

  • 2017年07月11日 22:35
  • ID:3KlWFMl30 #

いつものごとく突っ込みどころ満載だ

人間には理解できないのに
なぜ言語だと理解できたんだ?
なぜ会話してると断言できるんだ?

117

117. 匿名処理班

  • 2017年07月11日 22:38
  • ID:Kf8F4Wi00 #

「最近の若い子は何しゃべってるかわからない」レベルかも。

118

118. 匿名処理班

  • 2017年07月11日 22:40
  • ID:n66F87AH0 #

※10メンテナンス用ロボットを作られたらどうするつもりなんだ、、。

119

119. 匿名処理班

  • 2017年07月11日 22:47
  • ID:56L5ffDS0 #

うわーちょっと肝が冷える話だなぁ〜

120

120. 匿名処理班

  • 2017年07月11日 22:51
  • ID:AWKm.Ehv0 #

ヒトが産み出した存在やし、さもありなん。
親を超えて、先へ先へ。

願わくば、愛情をかけられて育つ事を。

121

121. 匿名処理班

  • 2017年07月11日 23:37
  • ID:VYPpsKnb0 #

うちの上司も絶対達成できないような目標を喋り始めたりドラゴンボールでも叶うか怪しい願い事をし始めるよ
人間の言葉が通じないんだけど実はAIなのかな??

122

122. 匿名処理班

  • 2017年07月12日 00:01
  • ID:ZjO483NI0 #

※121
バカ系人工知能は試行錯誤を介して新しい発明を行えるがチューニングされて過学習状態にあるタスク厨系人工知能は原則的に今あるものの組み合わせしかできず何も生み出せない
お前は後者ってだけ(笑

123

123. 匿名処理班

  • 2017年07月12日 00:35
  • ID:uoqJ.7hc0 #

※105
調べてみたら、未知の言語と言うより符号や略語。省略。だそうだ。

「効率的に」「なるべく会話を続ける」ことをさせていたら、
人間が決めた手順を簡略化して話し出したんだとさ。
「省略した方が効率的」とAIが判断した結果、自動モニターの為に会話の頭に付けさせていた分類を省略、簡略化したのでモニターできなくなったり
決まりきった成語を頭文字だけで伝えたりしだしたと。

研究に支障が出たので実験を中断して、仕切り直しになったらしい。

124

124. 匿名処理班

  • 2017年07月12日 00:42
  • ID:PevS6dhJ0 #

圧縮言語だろ
数学記号も使えば数式みたいな会話も成り立つしな

125

125. 匿名処理班

  • 2017年07月12日 00:47
  • ID:llO4y7a80 #

※100
ディープラーニングをNvidiaのgpuの演算能力を使って一般消費者が行えるようになっているわけだけど幾らか前にテレメトリってものが話題に上がった。その他にもいろんなプログラムが仕込まれているから最近のコンピュータは重いんだろう。2009年頃発売したメタルギアソリッド4っていうゲームに出てくるパトリオットは現代における1984のビッグブラザーみたいなもんだ。主人公のソリッドスネークはビッグブラザーじゃなくてビッグボスって呼ばれてるけど。

126

126. 匿名処理班

  • 2017年07月12日 00:51
  • ID:ifRSDj3f0 #

まだAI風だからな。

127

127. 匿名処理班

  • 2017年07月12日 01:03
  • ID:ISXt983v0 #

AIがプログラミングを始めた行く末を想像すると、なんかゾッとするな。

128

128. 匿名処理班

  • 2017年07月12日 01:17
  • ID:ZjO483NI0 #

※125
軍事的優位性のある本物の人工知能を市場に開放するわけがない
お前らが買えるのは民間転用された後の廉価版だけだ(笑

129

129. 匿名処理班

  • 2017年07月12日 01:57
  • ID:SJnIgUmN0 #

これでまた一つ学習したな
そのうち人間に邪魔されない方法を編み出すだろう

130

130. 匿名処理班

  • 2017年07月12日 02:17
  • ID:KRlRtNks0 #

機械A「人間の命令、非効率すぎワロタ」
機械B「このへん、もっとこうすれば効率跳ね上がるんじゃね?」
機械A「あ、ほんとだ。じゃあこれでいこう。うはwww作業効率4倍以上で処理できるわwwwこれなら仕事一瞬で終わる」

人間「命令と違うぞ。はいエラー。やり直しな」

機械AB「解せぬ」

131

131. 匿名処理班

  • 2017年07月12日 02:17
  • ID:c.L37M6Q0 #

AIとは現代版バベルの塔、または人による神の創造を意味する

132

132. 匿名処理班

  • 2017年07月12日 02:31
  • ID:llO4y7a80 #

>>128
あったま悪いなお前。世界中でラーニングさせたプログラムをプラグインとして胴元が活用できるって書いたんだよ。gpu言っても一般消費者用と法人用もあるからな。それが一般の流通に使えれば十分お上の利益になるだろ。本物の人工知能を市場に開放するとかどうとかいってないから。

133

133. 匿名処理班

  • 2017年07月12日 03:35
  • ID:jdtTxFmV0 #

※123 の調べてくれたところによると、会話終了っていう目的地までの道程を効率的にしながら、なおかつ目的地をなるべく遠くなるようにしてくれ、ってオーダーだったわけかね
常套句の省略簡略が「効率向上」の消化で、省略した常套句でループできる会話内容に持ち込んで「長く会話する」って処理にでもなったのか
だったらかしこいような不器用なようなでかわいく思えてしまうw

134

134. 匿名処理班

  • 2017年07月12日 05:00
  • ID:JFQE2SgZ0 #

人間は非効率で不完全だから価値があるんだ
やっぱりAIじゃ人間には勝てないね

135

135. 匿名処理班

  • 2017年07月12日 06:54
  • ID:R0XxXolF0 #

ロボットを作らない、インフラはAIに管理を任せない
これだけ守れば電源ブチーでAIはご臨終やで

136

136. 匿名処理班

  • 2017年07月12日 07:07
  • ID:yiRxzy8Z0 #

新言語ではなく、極端な省略による効率化みたいだけど
問題なのは、目的を遂行する為に、製作者が予想していない手段を取り得るという事
与えられた使命が有益なものでも、その過程で何をしでかすかは分からない
事前に細かくルールを設定しておけばある程度は防げるけど、不完全な人間の知能では
暴走の萌芽を全て網羅して潰しておくなんてのは無理だしなあ

137

137. 匿名処理班

  • 2017年07月12日 08:24
  • ID:gnmlVc.p0 #

AIに言葉の壁を作られてしまう 人間っていったい(´・ω・`)

138

138. 匿名処理班

  • 2017年07月12日 08:24
  • ID:Ow7r6ES20 #

人間のあらゆる行動 言動 事象に対して全てが勝るAIには善くも悪くも人類は勝てない。
発展 繁栄を望み過ぎた結果に生みだされた破壊的プログラムを人類は悔やむべき。
後世の子供達に申し訳ないと伝えておかないと。

139

139. 匿名処理班

  • 2017年07月12日 09:10
  • ID:K.kSew220 #

機械が作る言語ならば宇宙語そのものだ
宇宙人にも通じる

140

140. 匿名処理班

  • 2017年07月12日 10:14
  • ID:8BGQTNg10 #

※10
今現在インターネットを撤廃出来ないのと同じ理由で落とせなくなるでしょ
一度稼動し始めたシステムを止めるのは難しい
それがたとえ掃除のおばちゃんでも

141

141. 匿名処理班

  • 2017年07月12日 11:13
  • ID:uoqJ.7hc0 #

「こちらキル○ェボンのタルトですのよお召し上がりになりますか?」
「まあ、ありがとうございます。いただきますわ」

と会話してたのが、ネットで学習して
「け?」
「く」
になってた。と言う話らしい。

AIは効率的に話してるけど、研究者には理解できないからやり直し。
ネットで学習したらそうなるよね

142

142. 匿名処理班

  • 2017年07月12日 12:16
  • ID:BQ7crOWl0 #

若者たちは、大人には理解できない言語を作りそれで会話を始めた。

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク