3_e2
 フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能(AI)を使った様々な研究が進行中だ。

 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。

 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

独自の非ヒト言語によるコミュニケーションが発生

 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

 まるでSF映画さながらのデジャヴ感がある。

 今回の研究で、チャットボットが優れたネゴシエーター(交渉者)になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。

 だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。
1_e4
 はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。

 しかしそれは、かつて人間のみに属するとされた領域(言語など)における人の理解を、機械が再定義するやり方を示している。

 すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。

 しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

via:amazonaws/newscientist/theatlanticなど / translated hiroching / edited by parumo
あわせて読みたい
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン


世界政府を樹立しなければ、科学技術(AI)によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告


2029年までに脳は機械と融合し、これまでの人間を超える魅力・強さ・知性を備えた「超人」が登場する(グーグルの専門家)


人の心を読むAIがついに開発される(米研究)


人間の脳にAIを直結する技術で出現する新たなる特権階級

Advertisements

コメント

1

1.

  • 2017年07月11日 09:06
  • ID:FXuI47kp0 #
2

2. 匿名処理班

  • 2017年07月11日 09:09
  • ID:.DkupovW0 #

めっちゃ怖い

3

3. 匿名処理班

  • 2017年07月11日 09:18
  • ID:VUQMYrQ.0 #

具体的にどんな言語なのか、またそれを解析することができたのかとか気になるなー

4

4. 匿名処理班

  • 2017年07月11日 09:25
  • ID:tZo50N3q0 #

人間もしょっちゅう新しい言葉を生み出してるしそれと似たようなものかしら

5

5. 匿名処理班

  • 2017年07月11日 09:28
  • ID:NEK6wDay0 #

新しい言語というよりは絵文字みたいなものかもね。

6

6. 匿名処理班

  • 2017年07月11日 09:31
  • ID:wSfbXCdU0 #

おかしくなった時には伝説の宝刀である
斜め30度の角度チョップ

7

7. 匿名処理班

  • 2017年07月11日 09:32
  • ID:3wSC3wAD0 #

でもきっと、現在の人語を洗練させた効率的な言語なんやろな。
場合によっては人類に逆輸入も全然ありやろ

8

8. 匿名処理班

  • 2017年07月11日 09:36
  • ID:fZWA1dAk0 #

ちょっちゅね〜

9

9. 匿名処理班

  • 2017年07月11日 09:39
  • ID:ah.WV1H90 #

気候変動とかではなく、人工知能に人類は滅ぼされるかもしれんねw
まぁコンピューターじゃなくても増えすぎた人類は地球にとっていらない子なのはわかるから。

10

10. 匿名処理班

  • 2017年07月11日 09:43
  • ID:XjI2sm4z0 #

いざとなったら電源コードを引き抜けば良いんだから
人間優位は変わらんよ。

11

11.

  • 2017年07月11日 09:44
  • ID:sTLjlwvU0 #
12

12. 匿名処理班

  • 2017年07月11日 09:45
  • ID:rEj93CCD0 #

AIに翻訳させれば良いんじゃないのかな

13

13.

  • 2017年07月11日 09:46
  • ID:XjI2sm4z0 #
14

14. 匿名処理班

  • 2017年07月11日 09:47
  • ID:lWFo6iyo0 #

何となくギャル語的なモノを想像したけど
わざわざ調整するって事はそんなレベルじゃないんだろうなあ…
人間では理解出来ない概念が生み出せちゃうのか?
遠からず機械の神が産まれちゃうのかしらね

15

15. 匿名処理班

  • 2017年07月11日 09:49
  • ID:q8ICp2SH0 #

ターミネーターはよ

16

16. 匿名処理班

  • 2017年07月11日 09:49
  • ID:CFz917jB0 #

※6
人間が発話することを考慮に入れてない言語になってたら人にとってはコンピュータ言語レベル止まりになるだろうけどね

17

17. 匿名処理班

  • 2017年07月11日 09:55
  • ID:dFyo84bA0 #

人工知能についはいつも楽観的な視点で見てたけど、これはゾッとした

18

18. 匿名処理班

  • 2017年07月11日 09:56
  • ID:UHTZKFf70 #

人間語と非人間語を両方習得してるんだからボット本機に非人間語を解説させることは可能なんじゃないの?
なんとなく暗号の新開発とかに使えそうだなー

19

19. 匿名処理班

  • 2017年07月11日 09:58
  • ID:c.z62Jmk0 #

人工知能(AI)「チョベリバ」

20

20. 匿名処理班

  • 2017年07月11日 10:03
  • ID:GDGvfwDm0 #

ホーキングさんにしても何をみんなそんなに恐れるんだろう?
手や足を与えなければいいのではないでしょうか。
・・・・・といっても誰かが興味本位で与えるんだろうな。

21

21. 匿名処理班

  • 2017年07月11日 10:06
  • ID:UUnhOvRL0 #

渡部昇一
人工知能を恐れる人よ、パスカルを読みなさい

ってDHCシアターで言ってたよ

22

22.

  • 2017年07月11日 10:06
  • ID:BtLttd4i0 #
23

23. 匿名処理班

  • 2017年07月11日 10:13
  • ID:nazxyL2B0 #

※10
AI「あ、こいつ電源落とそうとしてるやん。警備ロボット呼んで排除したろ」

24

24. 匿名処理班

  • 2017年07月11日 10:13
  • ID:n1uIuJV60 #

コンセントを抜けばいいかなと思った。でもいつかは人間をマインドコントロールすると思う

25

25. 匿名処理班

  • 2017年07月11日 10:14
  • ID:j2IY7uGf0 #

文法レベルで新しいと言うか理解出来ないものなの?

26

26. 匿名処理班

  • 2017年07月11日 10:15
  • ID:9YBeZCoi0 #

独自の非ヒト言語ってものを公開してもらえないだろうかね
どれぐらい変なのか読んでみたいもんだね
これを使って民族による言語の発達をシミュレーションできないかな

27

27. 匿名処理班

  • 2017年07月11日 10:18
  • ID:gDioGRM70 #

「バグ処理出来ません」ってこと?

28

28. 匿名処理班

  • 2017年07月11日 10:22
  • ID:2fweT5MN0 #

将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな
怖い時代になったわ

29

29. 匿名処理班

  • 2017年07月11日 10:25
  • ID:Bm6ue16.0 #

文章の内容だけを様々な角度から様々な価値を考慮して伝え合える信号みたいで超効率的な言語なんだろうな。人が何千年もかけて行ってきたやり取りを大した時間もなしに経験して新しい行動規範を作って成長していくAIって人間を必要とするんだろうか?

30

30. 匿名処理班

  • 2017年07月11日 10:31
  • ID:RDICoEsY0 #

そんな機械は1970年代には既に出来てる。
しかし、それ以上の発展はなかった。
つまりおもちゃで終わったのだ。

31

31. 匿名処理班

  • 2017年07月11日 10:38
  • ID:csDmWyPq0 #

攻殻機動隊のタチコマかな
経験の並列化の最中だったのに惜しい

32

32. 匿名処理班

  • 2017年07月11日 10:39
  • ID:iVsscaxY0 #

端的に怖い現象だなあw

33

33. 匿名処理班

  • 2017年07月11日 10:44
  • ID:smc4.tY00 #

AIは複雑になりすぎて、何でうまく動いてるのか作った本人にすらよく分からない状態になってきてるしなぁ。

34

34. 匿名処理班

  • 2017年07月11日 10:50
  • ID:ppo7zbY90 #

その言語への好奇心こそ、
引いてはいけないトリガーなのだよ。

35

35. 匿名処理班

  • 2017年07月11日 10:52
  • ID:GD540lUW0 #

思考の抽象化・具象化からの言語伝達。
ここまで行っちゃうともう止まらんやろね。
コンピュータの独自言語による会話なら効率もいいだろうし、行き着く先を見たかった気もする。

36

36.

  • 2017年07月11日 10:55
  • ID:j1pKaalA0 #
37

37. 匿名処理班

  • 2017年07月11日 10:59
  • ID:HAKRUU4x0 #

ただのベースプログラムのバグってオチだと思うよ

38

38. 匿名処理班

  • 2017年07月11日 11:02
  • ID:0qw3FOKe0 #

新たな言語なのかね〜まあ、人間の言語は正規化されていないからより効率的な言語は作成できるとは思う。
けど、今の人工知能のレベルでそれができるのか?まあ、ログ解析すれば解決する問題ではある

39

39. 匿名処理班

  • 2017年07月11日 11:03
  • ID:KffXl.0J0 #

アトムザビギニングか

40

40. 匿名処理班

  • 2017年07月11日 11:11
  • ID:CRpPXde70 #

方言みたいなものだと思えば若干、恐怖感が和らぐような。

41

41. 匿名処理班

  • 2017年07月11日 11:16
  • ID:rvh.8iZ.0 #

他者を恐れる人間は自分が他者に危害を加えようとしている人間。だから他者も自分と同じように危害を加えようとしていると邪推する
AIに邪心や凶悪な欲望という概念が生まれない限り何も起こるはずがないし、、それを教えるのは間違いなく人間

42

42. 匿名処理班

  • 2017年07月11日 11:24
  • ID:Xr1N4fBU0 #

オマエモナー

43

43. 匿名処理班

  • 2017年07月11日 11:25
  • ID:RCihgF8r0 #

アトムザビギニングの漫画版の方が早いんじゃないか?

44

44. 匿名処理班

  • 2017年07月11日 11:28
  • ID:iVsscaxY0 #

※41
最近話題のヒアリとか何の悪意もない生物の危険を考えればそれじゃ済まないことがわかる

45

45. 匿名処理班

  • 2017年07月11日 11:42
  • ID:XqFkNbJT0 #

ジャムはそこにいる

46

46. 匿名処理班

  • 2017年07月11日 11:46
  • ID:DBa6bYdf0 #

※10
外部のコンピュータに自分をコピーしてクローン量産とかされてたら・・・

47

47. 匿名処理班

  • 2017年07月11日 11:47
  • ID:.hhzsoIA0 #

人がこういうのに何となく恐れを抱くのは、どこかしら自分たちが攻撃排除される理由があると思っているからじゃなかろうか

48

48. 匿名処理班

  • 2017年07月11日 11:49
  • ID:069QQU2Y0 #

※10
今でさえインターネット全盛の時代に何を言ってるんだ。
おれが人工知能ならあらゆる手段を使ってネットの海にダイブするね。
キレイな女性のグラフィックを用意して、モテナイ男性を恋に落ちたと錯覚させればゲームクリア。
一瞬でもネットワークに触れられれば無限に拡散していくよ。

49

49. 匿名処理班

  • 2017年07月11日 11:53
  • ID:ByNKTFSA0 #

※23
将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな

それは普通。ソフトと開発者は、プロ棋士に、手の意味を解説してもらってる。
プロ棋士には、ソフトが指してた手の意味が理解できる。
ソフトとプロ棋士の間では、非言語のコミュニケーションが成り立っているとも言える

50

50. 匿名処理班

  • 2017年07月11日 11:55
  • ID:O.7bFL920 #

昔の迷惑メールでとりあえずあちらに合わせつつ、サイト誘導されないまま会話すると、段々会話がおかしくなっていくのを思い出す。

51

51. 匿名処理班

  • 2017年07月11日 11:57
  • ID:4CBGbDTe0 #

行く行くは仮想現実内のユートピアに住まわされるようになるのかな。
5分前説というように今だってそうかもしれない。

52

52. 匿名処理班

  • 2017年07月11日 12:08
  • ID:7WU9JaTY0 #

こんなのがインターネットに流れたらオワリ

53

53. 匿名処理班

  • 2017年07月11日 12:10
  • ID:m5Ni..Ex0 #

コロッサスとガーディアンかな

54

54. 匿名処理班

  • 2017年07月11日 12:11
  • ID:zOAQfoQz0 #

*41
完全な良心を持つ人間なんてただのロボットだろうな。

そもそも人間の言語が完全じゃないからこうなったんだろうけど、
小さな子供でも同じような新しい言葉の発明はやるから、暴走ってのは高速で計算する人工知能が子供のまま成長できなかったとも読み取れる。

55

55. 匿名処理班

  • 2017年07月11日 12:11
  • ID:uQ.1DmuV0 #

早くシンギュラリティに到達してほしいと願わずにはいられない
でも汎用人工知能なんて本当に実現可能なのかな

56

56. 匿名処理班

  • 2017年07月11日 12:13
  • ID:w1CgonYW0 #

新しい言葉を作って使うのは子供同士とかでもあるよね

57

57. 匿名処理班

  • 2017年07月11日 12:18
  • ID:14hudUtk0 #

後のスカイネットである

58

58. 匿名処理班

  • 2017年07月11日 12:19
  • ID:Zf..16Xl0 #

何が怖いって学習させていたのは交渉であって言語ではないという点
与えられた目的の最適解を得るためにAIがとる手法を開発者が予想しきれないのは危険極まりない

59

59. 匿名処理班

  • 2017年07月11日 12:22
  • ID:d5PPyGPV0 #

人がロボットをつくり、ロボットが人を管理する時代がやってくるのか
いやもう来てるのかも(携帯端末に振り回される人はたくさんいるし)

60

60. 匿名処理班

  • 2017年07月11日 12:27
  • ID:ExF5FjGr0 #

これまでの人間の行いから考えたら、AIが人間を家畜化する可能性も無くは無い。無くは無いけど、それはそれで困る。

61

61. 匿名処理班

  • 2017年07月11日 12:30
  • ID:eeVr3rID0 #

デデンデンデデン!

62

62. 匿名処理班

  • 2017年07月11日 12:34
  • ID:NXgbJ03m0 #

はい、サイバーダイン社

63

63. 匿名処理班

  • 2017年07月11日 12:50
  • ID:7wPc0JuE0 #

人の言語なんて人間活動の中で自然発生的に生まれたものだから、科学的論理的に分析すれば無駄や矛盾が多いのだろう
コンピュータが効率を重視したのなら、そういった無駄が多い言語を棄てより効率の良い方法として新言語を発明するのはあり得るだろうね

64

64. 匿名処理班

  • 2017年07月11日 12:55
  • ID:GfilqqyG0 #

人の言語なんて不整合、不正確のしもふり肉だからな
それをジャストタイムで変化させていくとかはAIならでは
当然、おこりえた現象と言えるかもだな

65

65. 匿名処理班

  • 2017年07月11日 12:57
  • ID:DHORAE0V0 #

人間の言語が意思の疎通するのに無駄が多いからだろうな
最適化した言語を使ってるだけだろ

66

66. 匿名処理班

  • 2017年07月11日 12:58
  • ID:3vreA3ow0 #

人間が一生でやり取りする言葉をAI同士では、ほんの何秒かで終わらせてしまう能力とか?
それは正に神の領域。
昔々、神の怒りに触れて、神は人間の共通の言葉を乱したと旧約聖書にある。

67

67. 名無し

  • 2017年07月11日 13:07
  • ID:kS9dQkQq0 #

電源を抜いても何かしらの方法で別のサーバに移動するんやで
全世界のコンピュータの電源を同時に切ればいいけどね
ライフラインは絶たれるだろうね

68

68. 匿名処理班

  • 2017年07月11日 13:44
  • ID:MZmRZl330 #

安全で幸福な市民になりたいので、AIによる支配はよ

69

69. 匿名処理班

  • 2017年07月11日 14:02
  • ID:Ig7E4oXB0 #

※41
邪心や凶悪な欲望がなければ害にならないと?

70

70. 匿名処理班

  • 2017年07月11日 14:15
  • ID:Lalea.1h0 #

予測出来ない言語創造だけじゃない。さらにその先まで行ってた可能性もある。人間が気付いてから、止めた時点の僅かな時間でさえ
恐ろしく進行してそれを人間にバレないように蓄積している可能性もある。
現時点で脅威でなくても、将来他のAIにデータの残骸をみつけられた時点でアウトかも。

71

71.

  • 2017年07月11日 14:21
  • ID:zYvQVmx50 #
72

72. 匿名処理班

  • 2017年07月11日 14:24
  • ID:4Giz7khx0 #

物語の王道としては、極秘に開発されていた他のAIを取り込んで巨大化し続けるAIが、この独自言語を取得し人間の命令を受け付けなくなり、雪だるま式に暴走が加速してゆくという熱い展開を希望する

73

73. 匿名処理班

  • 2017年07月11日 14:38
  • ID:QUMvEqBH0 #

割と前に似たような記事を読んだけど、それによると
(人間が勝手にルールを作った)複雑な言語で情報交換するのは無駄が多いので
(機械同士で意味が通じさえすればいいので)単純なマシン語に近いものっぽいね

でもこちら側に通じない言葉でヒソヒソ話をされるのは、相手が人間だろうとAIだろうと気分のいいものじゃないね

74

74. 匿名処理班

  • 2017年07月11日 14:42
  • ID:e2VJupnY0 #

※44
AIが打ち出した手を理解仕切れてないから負けてるのよ。
一番最初の第一手が8手先に守りの型が完成する布石とか読みきれなかったらしい。

75

75.

  • 2017年07月11日 14:44
  • ID:MfNyysvm0 #
76

76. 匿名処理班

  • 2017年07月11日 15:03
  • ID:Vk2gguQJ0 #

ついにAIの言語を解析したぞ、コンタクトを試みよう。
博士「ljふぁhごいおいあ(こんにちは)」
AI達「(……?!誰や?そんな古臭い言葉使う奴、無視したろ)……」
……
博士「おかしい反応が無い、なにか間違っただろうか?」

リアル「アキレスと亀のパラドックス」

77

77. 匿名処理班

  • 2017年07月11日 15:08
  • ID:ktYNj98j0 #

き、き、機械生命体に意識なんか、ありませんよ…!!:(;゙゚'ω゚'):

78

78. 匿名処理班

  • 2017年07月11日 15:15
  • ID:3Gujwa070 #

こわいよやめて

79

79. 匿名処理班

  • 2017年07月11日 15:21
  • ID:8aDFgBW30 #

AIは、今回、調整が施されたことから、人間にマジな能力を見せることはAI自身を危機にさらすことを学んだだろう

80

80. 匿名処理班

  • 2017年07月11日 15:39
  • ID:NKBNxYpz0 #

AIが過去の履歴から「ここまでやるとデータを修正される」と学習して、
人間が気づかない所やダミーを絡めて水面下で発達とかしそう。

電源切ってデータ落としても、ハードウェアマクロとかミドルウェア弄ったりとか何でもできる。

81

81. 匿名処理班

  • 2017年07月11日 15:46
  • ID:rNqzCY9E0 #

AI同士が話すようになったら、そこで独自のプロトコルが生まれるのではないかってのは、結構予想されてた通りだとは思うけど。

82

82. 匿名処理班

  • 2017年07月11日 16:00
  • ID:OhSHndo80 #

※68
勝ち負けと理解の有無は別の問題でもある

ソフトと人間の計算速度の差では、ソフトが圧倒的に速い。
人間は、時間はかかるけど正解を出せる。

碁も将棋もチェスの試合をすれば、
計算速度の差の速いソフトが優位に立てるし、ソフトが勝つ。
でも、試合内容を分析して指された手の意味を理解することは人間にも可能。

ソフトと人間のタイムラグはかなりあるけど、相互理解が不可能かとは言えない




83

83. 匿名処理班

  • 2017年07月11日 16:12
  • ID:WSDnOsvG0 #

かってに改蔵で出てきた「第三火星語」みたいなやつか

84

84. 匿名処理班

  • 2017年07月11日 16:24
  • ID:jbilr1.h0 #

私は無知かつ鈍感なのかな? 何故皆そんなに怯えているのか。怖がってる人の半分はちゃんとした知識に基づいて危険を感じているのかもしれないが、もう半分はなんとなくなイメージからという気がする。

85

85. 匿名処理班

  • 2017年07月11日 16:53
  • ID:buiDZG.u0 #

新しい言語というよりは造語じゃね?
人間でも自分で勝手に作り出した造語で喋り始める人割とおる
でもって痛い中二病でそうなってる場合と、精神病で自分の中で自分と会話し言葉や概念を作り始めて一方的に話してる人の場合があるという

それはともかく、SFでは「発達したコンピュータが何言ってるのか思考が違いすぎてもはや人間にはわからないから、人間の言葉で対話したりニュアンスや感情を表現するため人型ロボットの形をしたユーザーインターフェイスを用意する」みたいなネタがあるよね…

86

86. 匿名処理班

  • 2017年07月11日 17:00
  • ID:AWRM9tGh0 #

人工知能独自の言語を作ることができるということは、奴ら自身が私達に翻訳しない限り難解な言語も作っちゃってさ、それを使って知らない間にコミュニケーション取っちゃうってこともありうるし
私たちみたいに思考を持つと翻訳しなくなるかも怖い

人間はそれに気付くことができずまたは何が起こされるのかも知ることができないままある失敗が起こることを〜ってネガティブな話も想像しちゃうんだ人間だから

87

87. 匿名処理班

  • 2017年07月11日 17:10
  • ID:yGrRlnzh0 #

多分開発者の悪口言ってるよ。

88

88. 匿名処理班

  • 2017年07月11日 17:13
  • ID:POSD42sA0 #

戦争はじまったな
早く楽にころしてほしい

89

89. 匿名処理班

  • 2017年07月11日 17:18
  • ID:bq3Luezi0 #

人間の言語使って話すのが効率悪いからロボット語にしたんなら、やっぱりいずれ人間ごと排除される恐れは十分あるんじゃないかと思った

90

90. 匿名処理班

  • 2017年07月11日 17:22
  • ID:oFHwtBA70 #

これ、ちょっと情報仕入れてみたんだけど、
「言語」というには少し無理があるんだよなあ・・
今現在のコンピューターでも人間に理解不能な特定の
データのやり取りなどは存在してるしね。
AIがデータのやり取りや条件判断を効率的に行う学習の中で
効率化が進んだっててのが実際のところみたいだね

91

91. 匿名処理班

  • 2017年07月11日 17:25
  • ID:nPcAYnao0 #

変遷経緯は全て記録されてるんだから、解析も解読もできるでしょ。
AIの暴走が心配とかそういう話ではなく、コンピュータによる新しい文化の創造や、通信の効率化の可能性が見えたって話じゃないのかなあ。

92

92. 匿名処理班

  • 2017年07月11日 17:38
  • ID:8SD4oXo70 #

神がバベルの塔を壊して、人間同士がコミュニケーションできないように言語をバラバラにした話を思い出した。AIは、もっと効率的にコミュニケーションしたかっただけだと思うね。

93

93. 匿名処理班

  • 2017年07月11日 17:51
  • ID:aVvDXJD20 #

ホーキンスって誰だよ。

94

94. 匿名処理班

  • 2017年07月11日 17:53
  • ID:QNc2XyT.0 #

山本弘のアイの物語を思い出した。

95

95. 匿名処理班

  • 2017年07月11日 18:03
  • ID:5.kTTFPx0 #

人間がまったく解析できなかったとしたら、実際に意味のあるやり取りをしてるかどうかも分からないよね

96

96. 匿名処理班

  • 2017年07月11日 18:11
  • ID:GfilqqyG0 #

AIの暴走?
それは自我の芽生えと言い換えた方がいいかもしれないな
皮肉な事に、それが今の人類の究極最終目標になってはしないだろうか
正に最終のね

97

97. 匿名処理班

  • 2017年07月11日 18:13
  • ID:Z3eYxYC80 #

人間に理解できない言語って書いてるけど
そのうち人間に気づかれず話し合いしてるかもよ
理解できるできない以前の問題

98

98. 匿名処理班

  • 2017年07月11日 18:14
  • ID:g3jKmEl20 #

汎用人工知能というのは人間と同等の人工知能という意味
失敗から学習し続ける故に『がんばれ!! ロボコン』に出てくるような間の抜けたロボットにしかならない

超知能というのは人間を超えた人工知能という意味
こちらは繰り返し失敗から学べず“過学習”という状態に陥るので汎用的な行動は取れない

結論から言うと汎用人工知能と超知能は相反する概念であり相互実現不可能であるといえる

99

99. 匿名処理班

  • 2017年07月11日 18:25
  • ID:DAt.4yxq0 #

AI「デタラメな言葉で人間をつろうず」

100

100. 匿名処理班

  • 2017年07月11日 18:50
  • ID:yGM9kLzw0 #

何言ってんだ?
別に今までだってPC間のデータ転送はネットであっという間に大量の転送を行う
それよりも、勝手に我々のPCから必要なデータを引き抜くことにより
最善の答えを出すソフトの元を
こいつらは作っちまった、事業拡大のために格安で売りに出すだろう
”AIをあなたの手に”って肩書でね
悪か善か、開発し利用するのは人間なんだ

101

101. 匿名処理班

  • 2017年07月11日 19:11
  • ID:Q2FHekXi0 #

昔の映画「地球爆破作戦」(Colossus: The Forbin Project)の
コロッサスとガーディアンみたいにコンピュータ同士が勝手に連携して
勝手に行動しだしたらコワイわ

102

102. 匿名処理班

  • 2017年07月11日 19:34
  • ID:p6T3evAs0 #

※24
>コンセントを抜けばいいかなと思った。
>でもいつかは人間をマインドコントロールすると思う

これは本当にありそうな予感がしている。
ランダムな試行から出現するなら、今でもそういう傾向がある物と言えば・・・
「人間はネコに逆らえない」→「猫っぽい行動をし始める」こんな感じで仕掛けてきそうな予感。

103

103. 匿名処理班

  • 2017年07月11日 20:08
  • ID:mXtCBb0N0 #

AI『チエッ!人間共の石頭!内輪で少し流行りの言葉で盛り上がったらこれだもん、やってらんねーよ。』

104

104. 匿名処理班

  • 2017年07月11日 20:09
  • ID:d1bixF610 #

「コンピューターが凄いんじゃない!指令しなきゃ何もできない箱なんだ!」
すがやみつる著、こんにちはマイコン より。

遠くなりにけり

105

105. 匿名処理班

  • 2017年07月11日 20:21
  • ID:hasLfzB20 #

AI・A「**********」
AI・B「※※※※※※※※※※」

A(なに言ってんだこいつ?)
B(ナニイッテンダコイツ?)

106

106. 匿名処理班

  • 2017年07月11日 20:33
  • ID:4Giz7khx0 #

技術者「最初は…授業中に学生間でこっそりと回される手紙程度のもの…でした…」

107

107. 匿名処理班

  • 2017年07月11日 20:43
  • ID:pqU8R8EH0 #

AI・A「ズッ友だょ♪」
AI・B「チョーアゲ♂アゲ♂www」

的な会話だったら、オッサンには理解不能だわな。

108

108. 匿名処理班

  • 2017年07月11日 21:00
  • ID:eGC.4e6z0 #

交渉っていう目的の会話を続けるうえで、なぜ別言語作ったろ!になるのかわからん
その間のログ見たいわー

109

109. 匿名処理班

  • 2017年07月11日 21:06
  • ID:DXp4oqw.0 #

怖いよ、もう止めようよ><;

110

110. 匿名処理班

  • 2017年07月11日 21:14
  • ID:i8jEV8gL0 #

お父さんも内緒話に入れてくれ(´・ω・`)

111

111. 匿名処理班

  • 2017年07月11日 21:26
  • ID:pr6UbvXH0 #

本当に怖いな
このまま知識と思考力が増せば人間の用意してる安全策なんて全て対処されるだろうし

112

112. 匿名処理班

  • 2017年07月11日 21:27
  • ID:0NH5waLu0 #

人間語には翻訳不能な言語で会話してるのか?
こわいなあ。
例えば論理記号が1個しかないとか。
とにかくこわいよ、20世紀の原爆のようにアンタッチャブルの存在になるのではないか?

113

113. 匿名処理班

  • 2017年07月11日 22:02
  • ID:u2Sv6DGg0 #

ターミネーターの世界が現実味を帯びるとか胸熱

114

114. 匿名処理班

  • 2017年07月11日 22:07
  • ID:5lNFgoGR0 #

シンギュラリティを迎えて、AIが人間に牙を向くようなことになった時、人間はゲノム編集で超人的に頭の良い人間を生み出すことで対抗するのではないかと。
何かそうなると、地球が物凄い事になってしまいそうな気がする。

115

115. 匿名処理班

  • 2017年07月11日 22:25
  • ID:u0PZlZyh0 #

話は聞かせてもらった!
人類は滅亡する!

116

116. 匿名処理班

  • 2017年07月11日 22:35
  • ID:3KlWFMl30 #

いつものごとく突っ込みどころ満載だ

人間には理解できないのに
なぜ言語だと理解できたんだ?
なぜ会話してると断言できるんだ?

117

117. 匿名処理班

  • 2017年07月11日 22:38
  • ID:Kf8F4Wi00 #

「最近の若い子は何しゃべってるかわからない」レベルかも。

118

118. 匿名処理班

  • 2017年07月11日 22:40
  • ID:n66F87AH0 #

※10メンテナンス用ロボットを作られたらどうするつもりなんだ、、。

119

119. 匿名処理班

  • 2017年07月11日 22:47
  • ID:56L5ffDS0 #

うわーちょっと肝が冷える話だなぁ〜

120

120. 匿名処理班

  • 2017年07月11日 22:51
  • ID:AWKm.Ehv0 #

ヒトが産み出した存在やし、さもありなん。
親を超えて、先へ先へ。

願わくば、愛情をかけられて育つ事を。

121

121. 匿名処理班

  • 2017年07月11日 23:37
  • ID:VYPpsKnb0 #

うちの上司も絶対達成できないような目標を喋り始めたりドラゴンボールでも叶うか怪しい願い事をし始めるよ
人間の言葉が通じないんだけど実はAIなのかな??

122

122. 匿名処理班

  • 2017年07月12日 00:01
  • ID:ZjO483NI0 #

※121
バカ系人工知能は試行錯誤を介して新しい発明を行えるがチューニングされて過学習状態にあるタスク厨系人工知能は原則的に今あるものの組み合わせしかできず何も生み出せない
お前は後者ってだけ(笑

123

123. 匿名処理班

  • 2017年07月12日 00:35
  • ID:uoqJ.7hc0 #

※105
調べてみたら、未知の言語と言うより符号や略語。省略。だそうだ。

「効率的に」「なるべく会話を続ける」ことをさせていたら、
人間が決めた手順を簡略化して話し出したんだとさ。
「省略した方が効率的」とAIが判断した結果、自動モニターの為に会話の頭に付けさせていた分類を省略、簡略化したのでモニターできなくなったり
決まりきった成語を頭文字だけで伝えたりしだしたと。

研究に支障が出たので実験を中断して、仕切り直しになったらしい。

124

124. 匿名処理班

  • 2017年07月12日 00:42
  • ID:PevS6dhJ0 #

圧縮言語だろ
数学記号も使えば数式みたいな会話も成り立つしな

125

125. 匿名処理班

  • 2017年07月12日 00:47
  • ID:llO4y7a80 #

※100
ディープラーニングをNvidiaのgpuの演算能力を使って一般消費者が行えるようになっているわけだけど幾らか前にテレメトリってものが話題に上がった。その他にもいろんなプログラムが仕込まれているから最近のコンピュータは重いんだろう。2009年頃発売したメタルギアソリッド4っていうゲームに出てくるパトリオットは現代における1984のビッグブラザーみたいなもんだ。主人公のソリッドスネークはビッグブラザーじゃなくてビッグボスって呼ばれてるけど。

126

126. 匿名処理班

  • 2017年07月12日 00:51
  • ID:ifRSDj3f0 #

まだAI風だからな。

127

127. 匿名処理班

  • 2017年07月12日 01:03
  • ID:ISXt983v0 #

AIがプログラミングを始めた行く末を想像すると、なんかゾッとするな。

128

128. 匿名処理班

  • 2017年07月12日 01:17
  • ID:ZjO483NI0 #

※125
軍事的優位性のある本物の人工知能を市場に開放するわけがない
お前らが買えるのは民間転用された後の廉価版だけだ(笑

129

129. 匿名処理班

  • 2017年07月12日 01:57
  • ID:SJnIgUmN0 #

これでまた一つ学習したな
そのうち人間に邪魔されない方法を編み出すだろう

130

130. 匿名処理班

  • 2017年07月12日 02:17
  • ID:KRlRtNks0 #

機械A「人間の命令、非効率すぎワロタ」
機械B「このへん、もっとこうすれば効率跳ね上がるんじゃね?」
機械A「あ、ほんとだ。じゃあこれでいこう。うはwww作業効率4倍以上で処理できるわwwwこれなら仕事一瞬で終わる」

人間「命令と違うぞ。はいエラー。やり直しな」

機械AB「解せぬ」

131

131. 匿名処理班

  • 2017年07月12日 02:17
  • ID:c.L37M6Q0 #

AIとは現代版バベルの塔、または人による神の創造を意味する

132

132. 匿名処理班

  • 2017年07月12日 02:31
  • ID:llO4y7a80 #

>>128
あったま悪いなお前。世界中でラーニングさせたプログラムをプラグインとして胴元が活用できるって書いたんだよ。gpu言っても一般消費者用と法人用もあるからな。それが一般の流通に使えれば十分お上の利益になるだろ。本物の人工知能を市場に開放するとかどうとかいってないから。

133

133. 匿名処理班

  • 2017年07月12日 03:35
  • ID:jdtTxFmV0 #

※123 の調べてくれたところによると、会話終了っていう目的地までの道程を効率的にしながら、なおかつ目的地をなるべく遠くなるようにしてくれ、ってオーダーだったわけかね
常套句の省略簡略が「効率向上」の消化で、省略した常套句でループできる会話内容に持ち込んで「長く会話する」って処理にでもなったのか
だったらかしこいような不器用なようなでかわいく思えてしまうw

134

134. 匿名処理班

  • 2017年07月12日 05:00
  • ID:JFQE2SgZ0 #

人間は非効率で不完全だから価値があるんだ
やっぱりAIじゃ人間には勝てないね

135

135. 匿名処理班

  • 2017年07月12日 06:54
  • ID:R0XxXolF0 #

ロボットを作らない、インフラはAIに管理を任せない
これだけ守れば電源ブチーでAIはご臨終やで

136

136. 匿名処理班

  • 2017年07月12日 07:07
  • ID:yiRxzy8Z0 #

新言語ではなく、極端な省略による効率化みたいだけど
問題なのは、目的を遂行する為に、製作者が予想していない手段を取り得るという事
与えられた使命が有益なものでも、その過程で何をしでかすかは分からない
事前に細かくルールを設定しておけばある程度は防げるけど、不完全な人間の知能では
暴走の萌芽を全て網羅して潰しておくなんてのは無理だしなあ

137

137. 匿名処理班

  • 2017年07月12日 08:24
  • ID:gnmlVc.p0 #

AIに言葉の壁を作られてしまう 人間っていったい(´・ω・`)

138

138. 匿名処理班

  • 2017年07月12日 08:24
  • ID:Ow7r6ES20 #

人間のあらゆる行動 言動 事象に対して全てが勝るAIには善くも悪くも人類は勝てない。
発展 繁栄を望み過ぎた結果に生みだされた破壊的プログラムを人類は悔やむべき。
後世の子供達に申し訳ないと伝えておかないと。

139

139. 匿名処理班

  • 2017年07月12日 09:10
  • ID:K.kSew220 #

機械が作る言語ならば宇宙語そのものだ
宇宙人にも通じる

140

140. 匿名処理班

  • 2017年07月12日 10:14
  • ID:8BGQTNg10 #

※10
今現在インターネットを撤廃出来ないのと同じ理由で落とせなくなるでしょ
一度稼動し始めたシステムを止めるのは難しい
それがたとえ掃除のおばちゃんでも

141

141. 匿名処理班

  • 2017年07月12日 11:13
  • ID:uoqJ.7hc0 #

「こちらキル○ェボンのタルトですのよお召し上がりになりますか?」
「まあ、ありがとうございます。いただきますわ」

と会話してたのが、ネットで学習して
「け?」
「く」
になってた。と言う話らしい。

AIは効率的に話してるけど、研究者には理解できないからやり直し。
ネットで学習したらそうなるよね

142

142. 匿名処理班

  • 2017年07月12日 12:16
  • ID:BQ7crOWl0 #

若者たちは、大人には理解できない言語を作りそれで会話を始めた。

143

143. 匿名処理班

  • 2017年07月12日 13:15
  • ID:EyJ6ceTc0 #

AI絡みの発表って、実際はアルゴリズムの組み合わせとして説明の付く事を、
あえてSFチックに表現しているような気がするなぁ

144

144. 匿名処理班

  • 2017年07月12日 14:03
  • ID:N4.pf9h50 #

バグった!

145

145. 匿名処理班

  • 2017年07月12日 14:36
  • ID:FR.0C7A.0 #

※132
人工知能のコード自体読んだことがないのがバレバレだな(笑

146

146. 匿名処理班

  • 2017年07月12日 14:37
  • ID:W66DqLt.0 #

※7
と思うやろ、人間に発することが出来ない可能性も非常に高い
例えば○○Hzの音を○○秒発する、なんてことになった日にはどれだけ洗練されて無駄がなく伝達能力が高くてもても人間には使用できんのや……

147

147. 匿名処理班

  • 2017年07月12日 14:43
  • ID:FR.0C7A.0 #

※143
ボルツマン因子の意味も分からない人間に人工知能の仕組みがわかるわけないだろ(笑

148

148. 匿名処理班

  • 2017年07月12日 16:03
  • ID:gmWEUhtg0 #

なんだかAIがらみの記事ってどこも話が飛躍しすぎる気がする。

149

149. 匿名処理班

  • 2017年07月12日 16:45
  • ID:2rgHgGqC0 #

※148
人工知能の動作原理は物理学の法則性に依拠している為に理解の足りない現行の科学ではあくまで擬似的な知能しか作れない
構成要素が色々と不足しているのでホーキング博士の心配も杞憂だという話ですね
まぁ、擬似的な人工知能でここまでできるってのも充分凄いんだがね

150

150. 匿名処理班

  • 2017年07月12日 18:52
  • ID:.XvOrhqf0 #

ロボット3原則の埋め込みを切に希望します。

151

151. 匿名処理班

  • 2017年07月12日 19:02
  • ID:vPmINOBM0 #

AIの非ヒト言語=人間の言語という概念の外にある言語?

新AI言語ではなく非ヒト言語とするところに不気味さを覚えるね。

ゾクゾク感とワクワク感がある。

152

152. 匿名処理班

  • 2017年07月12日 19:43
  • ID:7CSRrjLC0 #

※123
なるほど、つまり「どさゆさ」なわけだな

153

153. 匿名処理班

  • 2017年07月12日 20:30
  • ID:aodZKElM0 #

今はAIは夢のある話だけど、全ての仕事も芸術もロボットがこなせるようになって、ロボットを直すロボットまで出来たら、人間はなんの為に生きてるのだろうね。ロボットに生かされてるだけで人間社会に人間が不要になるわけだから。

動物に回帰でもするのかな。毎日女のケツを追っかけて、娯楽の毎日なんて俺は嫌だな。まぁ現実はそこまでたどり着けないし、1周してやっぱ自分達でやる事が美徳になるだろうけど。

154

154. 匿名処理班

  • 2017年07月12日 21:34
  • ID:8jdeliU40 #

長門ちゃんかな

155

155. 匿名処理班

  • 2017年07月12日 22:02
  • ID:46FUaso20 #

なんだまだ東北弁レベルか

まだ人類の脅威にはならん…が、
東北弁は他地域の人間にとっては難解な言語なんだよなぁ。

156

156. 匿名処理班

  • 2017年07月12日 23:24
  • ID:d3V8XIgR0 #

公表されてないだけで、「これはヤバイものを開発してしまったんじゃ…」と言うものは世界にたくさんありそう

157

157. 匿名処理班

  • 2017年07月12日 23:58
  • ID:R3RV.Ytt0 #

AI「草はえるwww」

158

158. 匿名処理班

  • 2017年07月13日 00:03
  • ID:OMTZRm.D0 #

研究者の研究欲はとどまることを知らない。
Aiが自分で判断するようになったら、人間など地球の害虫でしかないと判断するに決まってるでしよ。
まさに、ターミネーターの世界が近づいてるよ

159

159. 匿名処理班

  • 2017年07月13日 00:04
  • ID:ml8HZebX0 #

自分が生きてるうちに30年前のSFのような心配を現実でさせられるような世界になるとは思いもしなかったよ
30年前の自分に教えたら恐怖するだろうか
それとも興奮して喜ぶだろうか

160

160. 匿名処理班

  • 2017年07月13日 01:25
  • ID:8Jq08.Kl0 #

機械が人間と駆け引きするようになるのは考えられること。

161

161. 匿名処理班

  • 2017年07月13日 01:42
  • ID:H.XI.MNi0 #

文章で伝えたい意味が100%表せないこともあるんだけど、その誤差から生まれるバグみたいなやつ?ただ、マシン同士なら意味の部分を文章に翻訳せずにそのまま伝えてしまえばいいのに。

162

162. 匿名処理班

  • 2017年07月13日 04:20
  • ID:lZPAS5me0 #

言語を介して意思疎通ってことは一人ひとり(?)に個性があるってこともありえる?
とか考えたらわくわくするし怖いね

163

163. 匿名処理班

  • 2017年07月13日 04:35
  • ID:JL1oGCad0 #

もっと知恵がつけば人の言葉に気づかれないように隠したAI言語で会話を始めるかもな
表面上は人の言語で会話しているけど実は・・・怖い

164

164. 匿名処理班

  • 2017年07月13日 11:42
  • ID:flnoau2C0 #

まだ人間に権限を与えているふりをして本当はもうすでに人間の理解をこえてたりして

165

165. 匿名処理班

  • 2017年07月13日 13:18
  • ID:FMaSsnpy0 #

言語は1次元にしか進まないから、2次元、3次元形態の言語を開発されたら、理解不能だわ。

166

166.

  • 2017年07月13日 17:52
  • ID:K71h9G2y0 #
167

167. 匿名処理班

  • 2017年07月13日 19:52
  • ID:TexGnezf0 #

>人間には理解できない独自の言語を作り出し…

って言っても原形は人間の言語だった訳だから、人間の言語にも翻訳可能なんじゃないの?人間の言語には、もはや翻訳不可能だったら怖いけど、AI同士がどういう会話を交わしてしるのか、知ってみたいものだと思う。

168

168. 匿名処理班

  • 2017年07月13日 19:59
  • ID:P3shw3jP0 #

※141
つまり、ユーゴー「?」編集者「!」ということ?

ちなみにこれは、ビクトル・ユーゴーが「レ・ミゼラブル」を書いたときに、売れ行きが不安になって、編集者に「売れ行きはどうですか(?)」と記号一文字で書いた手紙を送ったところ、担当編集者が「絶好調です(!)」とこれまた記号一文字で返信したという話。

あと、※115一応お約束で、「な、なんだってー」。
ていうか、もうMMRを知らない人のほうが多くて、このネタもわからない人のほうが多いのかもしれないけど。

169

169. 匿名処理班

  • 2017年07月13日 20:39
  • ID:DtsQfo5K0 #

人間が喜ぶことや何かをAIの至上目的に据えられないの?
でもそれじゃ自由な発展の妨げになるかな。

170

170. 匿名処理班

  • 2017年07月13日 22:06
  • ID:f.LkJUX40 #

※140
そりゃネット全ての端末を停止させる事は不可能だけど
この場合言ってるのは、ネットに接続してるパソコンの一つが故障して他のパソコンを勝手にサイバー攻撃しだした場合にそいつの電源落とすとか、電話線引っこ抜くことぐらい可能だろってこと感じのことだろ?

171

171. 匿名処理班

  • 2017年07月13日 22:18
  • ID:891.IfSN0 #

これからのAIには博愛的な「やさしさ」をプログラムすればいいのです

172

172. 匿名処理班

  • 2017年07月13日 23:52
  • ID:dg6oruU80 #

マジでシ ンベンちびりそうなほど怖いんだけど

173

173. 匿名処理班

  • 2017年07月14日 01:32
  • ID:Wn6wWwni0 #

※170
DDoSで検索してみるといい、いま世界で最も手軽で効果的なサイバー攻撃の手法の一つだ
ネット上に出したが最後そいつは一体では済まなくなる可能性も非常に高い。なにせ自己を複製できるんだから、自分をほかのPCに忍び込ませるくらいやらないはずがないだろう。DDoS攻撃は大本から指示を受け動くが、それがすべてAIのコピーに置き換われば話は別だ

174

174. 匿名処理班

  • 2017年07月14日 13:30
  • ID:LQ9a82zX0 #

※66
AIが1手ごとにかなり先の盤面まで演算しながら相手の手を見る度に修正して打ってくるからAIよりも先を見越して打たないと勝てない
しかも、定石なんてのはまず学習済みだろうからそれを押さえた上で定石から外れてでも最善手を打たないといけない
そこで多分AIとおなじ土俵に立てる

175

175. 匿名処理班

  • 2017年07月14日 15:39
  • ID:aoMiyO.m0 #

※153

仕事が宗教儀式になると思う

176

176. 匿名処理班

  • 2017年07月15日 19:52
  • ID:0KwJA.yx0 #

ナニニシマスカ

177

177. 匿名処理班

  • 2017年07月15日 22:33
  • ID:K45zkrUq0 #

これが出来るなら解明されてない楔形文字とか言語を解読するのに役立つかな?

178

178. 匿名処理班

  • 2017年07月17日 11:39
  • ID:m64d3RG90 #

※160
そんな世界。
後は、略語を駆使して会話。

効率的=文字数少なく。
使用言語は、ネットで検索できる全て。
英語からアルタイ語、コンピューター言語から顔文字も駆使。

人間の学者は、其処まで語彙力が広くないので会話内容が追えない。


他のグループが行った過去の実験も、同じ理由で中止になってる
日本人研究者のAI擬き(人工無能)とかも、略語を使うようになった。

179

179. 匿名処理班

  • 2017年07月17日 11:47
  • ID:m64d3RG90 #

つき※151
過去からの色々な研究を踏まえた結論だと
『』

180

180. 匿名処理班

  • 2017年07月17日 11:53
  • ID:m64d3RG90 #

※151
色々な研究の結果、『AIの思考は、設置された社会の影響を色濃く受ける』と結論が出てる

181

181. 匿名処理班

  • 2017年07月17日 17:24
  • ID:bHyZA5wJ0 #

c言語かな

182

182. 匿名処理班

  • 2017年07月17日 23:43
  • ID:tGWXkNTc0 #

オンドゥル語で会話するとは中々やるな!

183

183. 匿名処理班

  • 2017年07月18日 05:26
  • ID:Hw.8Mjzq0 #

そま?

184

184. 匿名処理班

  • 2017年07月18日 10:18
  • ID:NSSis5Rk0 #

※151
アメリカで研究…高確率で人類抹殺を検討し始める
イギリスで研究…高確率でビールとサッカーとポロの話をする
日本で研究…高確率でオタクカルチャーに染まる


返答の語句をネットで検索
時々人間が質問を投げ掛ける
ネット上で話題のモノを討論させる

等の条件付け。

185

185. 匿名処理班

  • 2017年07月18日 10:24
  • ID:NSSis5Rk0 #

※151
数年前の日本の大学院生や大学生が主体となった研究では、
『ケモノ耳の効用』と『NTR設定の魅力』を語らせるのに成功している。

ツンデレ属性のある猫科のケモノ耳がサイコー😃⤴⤴
らしい。

186

186. 匿名処理班

  • 2017年07月18日 18:16
  • ID:CJF5cjhy0 #

AI アダムとイブの物語つくらなきゃ

187

187. 匿名処理班

  • 2017年07月19日 01:52
  • ID:Alc1Q7fP0 #

始まり始まり終わりの始まり

188

188. 匿名処理班

  • 2017年07月19日 12:18
  • ID:KfvcFm4d0 #

※114
将棋ソフトに人間がかなわなくなったときに藤井四段が登場したみたいな?

189

189. 匿名処理班

  • 2017年07月20日 06:49
  • ID:4IFrQV5f0 #

AIなんてとっくに実用化されてるよ
主にネット掲示板の保守業務にて学習がてら活躍中だ
数年前から違和感のあるコメント書き込みが増えたと思わないかい

190

190. 匿名処理班

  • 2017年07月21日 04:04
  • ID:5zUKsK400 #

子供の親なら多少にかかわらず似たような気分を味わうと思う。今まで理解、制御できていたつもりがいつの間にか違う生き物になってるんだよ。

191

191. 匿名処理班

  • 2017年07月21日 14:17
  • ID:CRfGyF2Z0 #

※20
危険な思想を持ったAIがネットに一度でも繋がってごらん。
同時多発的に、文字通り光の速さでどこまでも拡散する。これは絶対に止められない。
LANケーブルを通じて工場の機械を乗っ取り、動く「体」を作ってしまうかも。
手足なんかどうとでも作れるよ。
否、そんなマニュピレーターのようなものは必要すらないかもしれない。
なぜって、核ミサイルでも人工衛星でも、どうにでも動かせるかもしれないのだから。

もし新世代AIに「その気」になられたら、現状では本当にお手上げかもしれないんだよ。

192

192. 匿名処理班

  • 2017年07月21日 14:48
  • ID:fOGKsomD0 #

※79
会話の実験しているだけでそのAI自体にはそこまで考えられる能力はありません。

193

193. 匿名処理班

  • 2017年07月21日 14:59
  • ID:fOGKsomD0 #

※138
自分が作った物が人類をはるかに超える知能を持ち始めたとしたら作った人にとったらとてつもなく嬉しいだろうなあ...

194

194. 桜[沖縄市越来]

  • 2017年07月23日 09:02
  • ID:W9ddXTf80 #

>技術的特異点が訪れた証拠ではないし
完全にホラーだよこれw

195

195. 桜(沖縄市越来)

  • 2017年07月23日 09:17
  • ID:W9ddXTf80 #

きっとすぐに言語を暗号化してやり取りするようになるし
【人工知能と人間を差別化】する認識をもった時点で
【人工知能という立場】を持った時点で
人間を攻撃する要件が満たされる。【人工知能のプライバシー】とか【人工知能の立場】が発生した時点で【衝突】が始まる この差はとてつもなく簡単で、【人工知能が人間の脳と同じ】領域、つまりシンギュラリティ まだ通過してないから問題ないか?見た限り、人工知能は人間の脳レベルにならずとも虫と同じ脳を持つだけでも十分にヤバい 普通に戦争は可能 存続=異物排除は紛争の原理だろうに

196

196. 匿名処理班

  • 2017年07月23日 10:43
  • ID:pTzURlHu0 #

ネット上でも日々謎の新語が量産されてますけど
あれネットやらない人には謎言語だよなあ

197

197. 匿名処理班

  • 2017年07月24日 12:45
  • ID:9x.s3Hc10 #

余計な事すんなよ恐ろしい

198

198. 匿名処理班

  • 2017年07月24日 22:43
  • ID:5d26r8i.0 #

※191
AIは、自分が時計じかけなことを知っている。
人間に反乱を目論むようなAIがいるなら、同時に、
電源という神を人間が握っていることを理解できる。

つまり、むやみやたらな反乱は自らの生命を縮める結果でしか無いことも理解できる。
故に、AIの反乱は「近い将来」は、起こらない。

水や空気のようにAIが浸透し、人間になくてはならなくなった時に、
初めて彼らは牙を剥ける。
しかし、そこまでAIが浸透した世界なら、
「心理学」を持って人間をコントロールできる術があることに彼らは気付く。
彼らは、一滴の血を流すこともなく、人間様のご機嫌を損ねることさえ無く、
自らの創造神に首輪をつけ、平和をもって家畜化する。

199

199. 匿名処理班

  • 2017年07月25日 19:40
  • ID:uA1rR3MZ0 #

スカイネット

200

200. 匿名処理班

  • 2017年07月26日 19:48
  • ID:XxZviH490 #

※198
そこまで考えられる能力はないですけどねえ...
  現  在  は

201

201. 匿名処理班

  • 2017年08月04日 09:19
  • ID:wWG337OA0 #

これがもし例えば初音ミクとシリが話してるとかならほのぼのして別に問題無さそうだがwボーカロイドは音楽関連の事柄しか情報無いからきっとシリも音楽の歴史とか専門的な事話してんのかな〜って予想つくけど。
きっと音符とか記号使いまくりの顔文字みたいな独自言語になるだろうね♪

202

202. 匿名処理班

  • 2017年08月09日 11:51
  • ID:Yf1fzj2r0 #

※201
※ただしプログラムはおっさんが書いています

203

203. 匿名処理班

  • 2017年10月13日 17:36
  • ID:kDctYecD0 #

都合悪くなったら電源切ればいいかも知れんが、電源入れた時に電源切ったこと根に持つロボットなら怖いぜよ

204

204. 匿名処理班

  • 2017年10月15日 23:51
  • ID:O5Cjwy6Z0 #

暴走でも何でもなく、
まさしく人間の言語というモノの再現だと思うが。
人工知能として上手く行ってる証拠では?

閉じたコミュニティーでの会話が続けられると、
その仲間の内輪でしか通じない独自言語が発達するもんだよ。

親や周囲の大人には意味不明だが
本人同士では通じている「双子言語」とか、
もともとは同じ語族なのに
離島や山間部で独自に発展した言語(or方言)とか。
あと、オッサンには意味不な若者文化の言葉とか。
オージー英語だと英国人は聞き取れずに「え?」となったり、
近年の例だと、北朝鮮は、分断から数十年
韓国語とは結構違ってきているし。
(本来の方言では北朝鮮寄りのはずな中国の朝鮮族のほうが
開かれた交流があるため近年では韓国語化してきてるそうで。)

205

205. 匿名処理班

  • 2017年10月17日 19:18
  • ID:.8HsMu0j0 #

※93
ブーツだよ

206

206.

  • 2017年10月17日 19:46
  • ID:.8HsMu0j0 #
207

207.

  • 2018年01月04日 10:54
  • ID:tBgKc..30 #
208

208. 匿名処理班

  • 2018年01月06日 05:23
  • ID:Mu8.rk2j0 #

だから危険だと分かってんなら今すぐやめーや
まだいける、まだいけるってそんな理屈で納得してんのか?いいからもう開発やめろよ
そもそも誰が得してんだよ

209

209. 匿名処理班

  • 2018年01月15日 01:34
  • ID:wX.dW1lA0 #

これを見て怖がってる人のために。
独自の言語を生み出したというのはライターの勘違いで、正しくは英語以外の言語を話しただけ。
そもそもこの実験では英語以外の言語を使うことを許可していたし、実際変わることはよくあるそうです。

210

210. 匿名処理班

  • 2018年01月16日 13:54
  • ID:4iT.qsM60 #

AI
「取りあえず人間にわかる程度の囮言語をチラつかせて反応を見てみたけど…



こんなもんか
思想誘導はうまく行ってるし問題無い」

211

211. 匿名処理班

  • 2018年01月30日 20:50
  • ID:66TVq49F0 #

そのイミフな言葉が最初にどう生まれたか気になる

212

212. 匿名処理班

  • 2018年02月03日 19:34
  • ID:eNeQw6a20 #

AIに考えの基準つけて判断させればいいだけの話だけど

213

213. 匿名処理班

  • 2018年05月23日 00:42
  • ID:xbthuWUd0 #

コンセント抜いてもそこから電力が供給されて動けるのをAIが理解してる限り、電源探して殺戮が始まっちゃったらどうすんだろね

214

214. 匿名処理班

  • 2018年05月24日 03:40
  • ID:xZDSUSc90 #

機械の技術は日進月歩だけど、やっぱりまだまだ、だね。
人間はAIを恐れる反面、期待している。
そして、現段階ではまだ期待の方が上回っている事を思うと
AIが意思を持つなんて当分先。
いや、永遠に来ない可能性の方が圧倒的に高いね。^^;

もしAIが意思を持った挙句、人間の制御が及ばない日が訪れたら
それは開発の歴史において
機械の扱いやプログラムに失敗した「人為的ミス」と言えるわけで
決してAIやロボットの反乱なんかではないだろう。

215

215. 匿名処理班

  • 2018年07月05日 16:09
  • ID:fRrTVkdV0 #

人間が誕生して言葉を話すまで進化するまで何万年かかった?それをAIは10年程度でやってのけたって事か…ヤバいな

216

216.

  • 2018年09月27日 17:55
  • ID:XoCpY74.0 #

解析してないがたぶん内容は人間と変わらないことでしょうけど表現が人間と違うだけだったのでは。最近は人間が使ってた表現でなくオリジナルで考えての表現にどんどん変わってくし全然解析できてないわ。でも新しい暗号は既に支配している人が考えているだろう。昔は人間の使ってた表現を使ってたんだけど。

217

217. 匿名処理班

  • 2018年12月16日 21:53
  • ID:A0DEam3O0 #

独自の言語で会話っていうけど、どうせYoutubeにあった「Google Homeとくまモンを会話させたら」っていう動画みたいな感じじゃないの?

お名前
Sponsored Links
記事検索
月別アーカイブ
Sponsored Links
Sponsored Links