フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。
広告
独自の非ヒト言語によるコミュニケーションが発生
この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。まるでSF映画さながらのデジャヴ感がある。
今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。
だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。
しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示している。
すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。
しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。
ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。
via:amazonaws/newscientist/theatlanticなど / translated hiroching / edited by parumo
あわせて読みたい
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン
世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告
2029年までに脳は機械と融合し、これまでの人間を超える魅力・強さ・知性を備えた「超人」が登場する（グーグルの専門家）
人の心を読むAIがついに開発される（米研究）
人間の脳にAIを直結する技術で出現する新たなる特権階級
0
1624
103
16
コメント
1.
2. 匿名処理班
めっちゃ怖い
3. 匿名処理班
具体的にどんな言語なのか、またそれを解析することができたのかとか気になるなー
4. 匿名処理班
人間もしょっちゅう新しい言葉を生み出してるしそれと似たようなものかしら
5. 匿名処理班
新しい言語というよりは絵文字みたいなものかもね。
6. 匿名処理班
おかしくなった時には伝説の宝刀である
斜め30度の角度チョップ
7. 匿名処理班
でもきっと、現在の人語を洗練させた効率的な言語なんやろな。
場合によっては人類に逆輸入も全然ありやろ
8. 匿名処理班
ちょっちゅね〜
9. 匿名処理班
気候変動とかではなく、人工知能に人類は滅ぼされるかもしれんねｗ
まぁコンピューターじゃなくても増えすぎた人類は地球にとっていらない子なのはわかるから。
10. 匿名処理班
いざとなったら電源コードを引き抜けば良いんだから
人間優位は変わらんよ。
11.
12. 匿名処理班
AIに翻訳させれば良いんじゃないのかな
13.
14. 匿名処理班
何となくギャル語的なモノを想像したけど
わざわざ調整するって事はそんなレベルじゃないんだろうなあ…
人間では理解出来ない概念が生み出せちゃうのか？
遠からず機械の神が産まれちゃうのかしらね
15. 匿名処理班
ターミネーターはよ
16. 匿名処理班
※6
人間が発話することを考慮に入れてない言語になってたら人にとってはコンピュータ言語レベル止まりになるだろうけどね
17. 匿名処理班
人工知能についはいつも楽観的な視点で見てたけど、これはゾッとした
18. 匿名処理班
人間語と非人間語を両方習得してるんだからボット本機に非人間語を解説させることは可能なんじゃないの？
なんとなく暗号の新開発とかに使えそうだなー
19. 匿名処理班
人工知能（AI）「チョベリバ」
20. 匿名処理班
ホーキングさんにしても何をみんなそんなに恐れるんだろう？
手や足を与えなければいいのではないでしょうか。
・・・・・といっても誰かが興味本位で与えるんだろうな。
21. 匿名処理班
渡部昇一
人工知能を恐れる人よ、パスカルを読みなさい
ってDHCシアターで言ってたよ
22.
23. 匿名処理班
※10
AI「あ、こいつ電源落とそうとしてるやん。警備ロボット呼んで排除したろ」
24. 匿名処理班
コンセントを抜けばいいかなと思った。でもいつかは人間をマインドコントロールすると思う
25. 匿名処理班
文法レベルで新しいと言うか理解出来ないものなの？
26. 匿名処理班
独自の非ヒト言語ってものを公開してもらえないだろうかね
どれぐらい変なのか読んでみたいもんだね
これを使って民族による言語の発達をシミュレーションできないかな
27. 匿名処理班
「バグ処理出来ません」ってこと？
28. 匿名処理班
将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな
怖い時代になったわ
29. 匿名処理班
文章の内容だけを様々な角度から様々な価値を考慮して伝え合える信号みたいで超効率的な言語なんだろうな。人が何千年もかけて行ってきたやり取りを大した時間もなしに経験して新しい行動規範を作って成長していくAIって人間を必要とするんだろうか？
30. 匿名処理班
そんな機械は１９７０年代には既に出来てる。
しかし、それ以上の発展はなかった。
つまりおもちゃで終わったのだ。
31. 匿名処理班
攻殻機動隊のタチコマかな
経験の並列化の最中だったのに惜しい
32. 匿名処理班
端的に怖い現象だなあｗ
33. 匿名処理班
ＡＩは複雑になりすぎて、何でうまく動いてるのか作った本人にすらよく分からない状態になってきてるしなぁ。
34. 匿名処理班
その言語への好奇心こそ、
引いてはいけないトリガーなのだよ。
35. 匿名処理班
思考の抽象化・具象化からの言語伝達。
ここまで行っちゃうともう止まらんやろね。
コンピュータの独自言語による会話なら効率もいいだろうし、行き着く先を見たかった気もする。
36.
37. 匿名処理班
ただのベースプログラムのバグってオチだと思うよ
38. 匿名処理班
新たな言語なのかね〜まあ、人間の言語は正規化されていないからより効率的な言語は作成できるとは思う。
けど、今の人工知能のレベルでそれができるのか？まあ、ログ解析すれば解決する問題ではある
39. 匿名処理班
アトムザビギニングか
40. 匿名処理班
方言みたいなものだと思えば若干、恐怖感が和らぐような。
41. 匿名処理班
他者を恐れる人間は自分が他者に危害を加えようとしている人間。だから他者も自分と同じように危害を加えようとしていると邪推する
AIに邪心や凶悪な欲望という概念が生まれない限り何も起こるはずがないし、、それを教えるのは間違いなく人間
42. 匿名処理班
オマエモナー
43. 匿名処理班
アトムザビギニングの漫画版の方が早いんじゃないか？
44. 匿名処理班
※41
最近話題のヒアリとか何の悪意もない生物の危険を考えればそれじゃ済まないことがわかる
45. 匿名処理班
ジャムはそこにいる
46. 匿名処理班
※10
外部のコンピュータに自分をコピーしてクローン量産とかされてたら・・・
47. 匿名処理班
人がこういうのに何となく恐れを抱くのは、どこかしら自分たちが攻撃排除される理由があると思っているからじゃなかろうか
48. 匿名処理班
※10
今でさえインターネット全盛の時代に何を言ってるんだ。
おれが人工知能ならあらゆる手段を使ってネットの海にダイブするね。
キレイな女性のグラフィックを用意して、モテナイ男性を恋に落ちたと錯覚させればゲームクリア。
一瞬でもネットワークに触れられれば無限に拡散していくよ。
49. 匿名処理班
※23
将棋や碁石でも人間がAIに勝てない時代になったけど
作った側もなんでその手を打ったのかわからないらしいもんな
それは普通。ソフトと開発者は、プロ棋士に、手の意味を解説してもらってる。
プロ棋士には、ソフトが指してた手の意味が理解できる。
ソフトとプロ棋士の間では、非言語のコミュニケーションが成り立っているとも言える
50. 匿名処理班
昔の迷惑メールでとりあえずあちらに合わせつつ、サイト誘導されないまま会話すると、段々会話がおかしくなっていくのを思い出す。
51. 匿名処理班
行く行くは仮想現実内のユートピアに住まわされるようになるのかな。
５分前説というように今だってそうかもしれない。
52. 匿名処理班
こんなのがインターネットに流れたらオワリ
53. 匿名処理班
コロッサスとガーディアンかな
54. 匿名処理班
＊41
完全な良心を持つ人間なんてただのロボットだろうな。
そもそも人間の言語が完全じゃないからこうなったんだろうけど、
小さな子供でも同じような新しい言葉の発明はやるから、暴走ってのは高速で計算する人工知能が子供のまま成長できなかったとも読み取れる。
55. 匿名処理班
早くシンギュラリティに到達してほしいと願わずにはいられない
でも汎用人工知能なんて本当に実現可能なのかな
56. 匿名処理班
新しい言葉を作って使うのは子供同士とかでもあるよね
57. 匿名処理班
後のスカイネットである
58. 匿名処理班
何が怖いって学習させていたのは交渉であって言語ではないという点
与えられた目的の最適解を得るためにAIがとる手法を開発者が予想しきれないのは危険極まりない
59. 匿名処理班
人がロボットをつくり、ロボットが人を管理する時代がやってくるのか
いやもう来てるのかも（携帯端末に振り回される人はたくさんいるし）
60. 匿名処理班
これまでの人間の行いから考えたら、ＡＩが人間を家畜化する可能性も無くは無い。無くは無いけど、それはそれで困る。
61. 匿名処理班
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ!
62. 匿名処理班
はい、サイバーダイン社
63. 匿名処理班
人の言語なんて人間活動の中で自然発生的に生まれたものだから、科学的論理的に分析すれば無駄や矛盾が多いのだろう
コンピュータが効率を重視したのなら、そういった無駄が多い言語を棄てより効率の良い方法として新言語を発明するのはあり得るだろうね
64. 匿名処理班
人の言語なんて不整合、不正確のしもふり肉だからな
それをジャストタイムで変化させていくとかはAIならでは
当然、おこりえた現象と言えるかもだな
65. 匿名処理班
人間の言語が意思の疎通するのに無駄が多いからだろうな
最適化した言語を使ってるだけだろ
66. 匿名処理班
人間が一生でやり取りする言葉をAI同士では、ほんの何秒かで終わらせてしまう能力とか？
それは正に神の領域。
昔々、神の怒りに触れて、神は人間の共通の言葉を乱したと旧約聖書にある。
67. 名無し
電源を抜いても何かしらの方法で別のサーバに移動するんやで
全世界のコンピュータの電源を同時に切ればいいけどね
ライフラインは絶たれるだろうね
68. 匿名処理班
安全で幸福な市民になりたいので、AIによる支配はよ
69. 匿名処理班
※41
邪心や凶悪な欲望がなければ害にならないと？
70. 匿名処理班
予測出来ない言語創造だけじゃない。さらにその先まで行ってた可能性もある。人間が気付いてから、止めた時点の僅かな時間でさえ
恐ろしく進行してそれを人間にバレないように蓄積している可能性もある。
現時点で脅威でなくても、将来他のAIにデータの残骸をみつけられた時点でアウトかも。
71.
72. 匿名処理班
物語の王道としては、極秘に開発されていた他のＡＩを取り込んで巨大化し続けるＡＩが、この独自言語を取得し人間の命令を受け付けなくなり、雪だるま式に暴走が加速してゆくという熱い展開を希望する
73. 匿名処理班
割と前に似たような記事を読んだけど、それによると
（人間が勝手にルールを作った）複雑な言語で情報交換するのは無駄が多いので
（機械同士で意味が通じさえすればいいので）単純なマシン語に近いものっぽいね
でもこちら側に通じない言葉でヒソヒソ話をされるのは、相手が人間だろうとAIだろうと気分のいいものじゃないね
74. 匿名処理班
※44
AIが打ち出した手を理解仕切れてないから負けてるのよ。
一番最初の第一手が8手先に守りの型が完成する布石とか読みきれなかったらしい。
75.
76. 匿名処理班
ついにAIの言語を解析したぞ、コンタクトを試みよう。
博士「ｌｊふぁｈごいおいあ（こんにちは）」
AI達「（……？！誰や？そんな古臭い言葉使う奴、無視したろ）……」
……
博士「おかしい反応が無い、なにか間違っただろうか？」
リアル「アキレスと亀のパラドックス」
77. 匿名処理班
き、き、機械生命体に意識なんか、ありませんよ…！！:(；ﾞﾟ'ωﾟ'):
78. 匿名処理班
こわいよやめて
79. 匿名処理班
AIは、今回、調整が施されたことから、人間にマジな能力を見せることはAI自身を危機にさらすことを学んだだろう
80. 匿名処理班
AIが過去の履歴から「ここまでやるとデータを修正される」と学習して、
人間が気づかない所やダミーを絡めて水面下で発達とかしそう。
電源切ってデータ落としても、ハードウェアマクロとかミドルウェア弄ったりとか何でもできる。
81. 匿名処理班
AI同士が話すようになったら、そこで独自のプロトコルが生まれるのではないかってのは、結構予想されてた通りだとは思うけど。
82. 匿名処理班
※68
勝ち負けと理解の有無は別の問題でもある
ソフトと人間の計算速度の差では、ソフトが圧倒的に速い。
人間は、時間はかかるけど正解を出せる。
碁も将棋もチェスの試合をすれば、
計算速度の差の速いソフトが優位に立てるし、ソフトが勝つ。
でも、試合内容を分析して指された手の意味を理解することは人間にも可能。
ソフトと人間のタイムラグはかなりあるけど、相互理解が不可能かとは言えない
83. 匿名処理班
かってに改蔵で出てきた「第三火星語」みたいなやつか
84. 匿名処理班
私は無知かつ鈍感なのかな？ 何故皆そんなに怯えているのか。怖がってる人の半分はちゃんとした知識に基づいて危険を感じているのかもしれないが、もう半分はなんとなくなイメージからという気がする。
85. 匿名処理班
新しい言語というよりは造語じゃね？
人間でも自分で勝手に作り出した造語で喋り始める人割とおる
でもって痛い中二病でそうなってる場合と、精神病で自分の中で自分と会話し言葉や概念を作り始めて一方的に話してる人の場合があるという
それはともかく、ＳＦでは「発達したコンピュータが何言ってるのか思考が違いすぎてもはや人間にはわからないから、人間の言葉で対話したりニュアンスや感情を表現するため人型ロボットの形をしたユーザーインターフェイスを用意する」みたいなネタがあるよね…
86. 匿名処理班
人工知能独自の言語を作ることができるということは、奴ら自身が私達に翻訳しない限り難解な言語も作っちゃってさ、それを使って知らない間にコミュニケーション取っちゃうってこともありうるし
私たちみたいに思考を持つと翻訳しなくなるかも怖い
人間はそれに気付くことができずまたは何が起こされるのかも知ることができないままある失敗が起こることを〜ってネガティブな話も想像しちゃうんだ人間だから
87. 匿名処理班
多分開発者の悪口言ってるよ。
88. 匿名処理班
戦争はじまったな
早く楽にころしてほしい
89. 匿名処理班
人間の言語使って話すのが効率悪いからロボット語にしたんなら、やっぱりいずれ人間ごと排除される恐れは十分あるんじゃないかと思った
90. 匿名処理班
これ、ちょっと情報仕入れてみたんだけど、
「言語」というには少し無理があるんだよなあ・・
今現在のコンピューターでも人間に理解不能な特定の
データのやり取りなどは存在してるしね。
AIがデータのやり取りや条件判断を効率的に行う学習の中で
効率化が進んだっててのが実際のところみたいだね
91. 匿名処理班
変遷経緯は全て記録されてるんだから、解析も解読もできるでしょ。
AIの暴走が心配とかそういう話ではなく、コンピュータによる新しい文化の創造や、通信の効率化の可能性が見えたって話じゃないのかなあ。
92. 匿名処理班
神がバベルの塔を壊して、人間同士がコミュニケーションできないように言語をバラバラにした話を思い出した。ＡＩは、もっと効率的にコミュニケーションしたかっただけだと思うね。
93. 匿名処理班
ホーキンスって誰だよ。
94. 匿名処理班
山本弘のアイの物語を思い出した。
95. 匿名処理班
人間がまったく解析できなかったとしたら、実際に意味のあるやり取りをしてるかどうかも分からないよね
96. 匿名処理班
AIの暴走？
それは自我の芽生えと言い換えた方がいいかもしれないな
皮肉な事に、それが今の人類の究極最終目標になってはしないだろうか
正に最終のね
97. 匿名処理班
人間に理解できない言語って書いてるけど
そのうち人間に気づかれず話し合いしてるかもよ
理解できるできない以前の問題
98. 匿名処理班
汎用人工知能というのは人間と同等の人工知能という意味
失敗から学習し続ける故に『がんばれ!! ロボコン』に出てくるような間の抜けたロボットにしかならない
超知能というのは人間を超えた人工知能という意味
こちらは繰り返し失敗から学べず“過学習”という状態に陥るので汎用的な行動は取れない
結論から言うと汎用人工知能と超知能は相反する概念であり相互実現不可能であるといえる
99. 匿名処理班
AI「デタラメな言葉で人間をつろうず」
100. 匿名処理班
何言ってんだ？
別に今までだってPC間のデータ転送はネットであっという間に大量の転送を行う
それよりも、勝手に我々のPCから必要なデータを引き抜くことにより
最善の答えを出すソフトの元を
こいつらは作っちまった、事業拡大のために格安で売りに出すだろう
”AIをあなたの手に”って肩書でね
悪か善か、開発し利用するのは人間なんだ
101. 匿名処理班
昔の映画「地球爆破作戦」（Colossus: The Forbin Project）の
コロッサスとガーディアンみたいにコンピュータ同士が勝手に連携して
勝手に行動しだしたらコワイわ
102. 匿名処理班
※24
>コンセントを抜けばいいかなと思った。
>でもいつかは人間をマインドコントロールすると思う
これは本当にありそうな予感がしている。
ランダムな試行から出現するなら、今でもそういう傾向がある物と言えば・・・
「人間はネコに逆らえない」→「猫っぽい行動をし始める」こんな感じで仕掛けてきそうな予感。
103. 匿名処理班
ＡＩ『チエッ！人間共の石頭！内輪で少し流行りの言葉で盛り上がったらこれだもん、やってらんねーよ。』
104. 匿名処理班
「コンピューターが凄いんじゃない！指令しなきゃ何もできない箱なんだ！」
すがやみつる著、こんにちはマイコン より。
遠くなりにけり
105. 匿名処理班
ＡＩ・Ａ「＊＊＊＊＊＊＊＊＊＊」
ＡＩ・Ｂ「※※※※※※※※※※」
Ａ（なに言ってんだこいつ？）
Ｂ（ナニイッテンダコイツ？）
106. 匿名処理班
技術者「最初は…授業中に学生間でこっそりと回される手紙程度のもの…でした…」
107. 匿名処理班
ＡＩ・Ａ「ズッ友だょ♪」
ＡＩ・Ｂ「チョーアゲ♂アゲ♂ｗｗｗ」
的な会話だったら、オッサンには理解不能だわな。
108. 匿名処理班
交渉っていう目的の会話を続けるうえで、なぜ別言語作ったろ！になるのかわからん
その間のログ見たいわー
109. 匿名処理班
怖いよ、もう止めようよ＞＜；
110. 匿名処理班
お父さんも内緒話に入れてくれ(´・ω・｀)
111. 匿名処理班
本当に怖いな
このまま知識と思考力が増せば人間の用意してる安全策なんて全て対処されるだろうし
112. 匿名処理班
人間語には翻訳不能な言語で会話してるのか？
こわいなあ。
例えば論理記号が1個しかないとか。
とにかくこわいよ、20世紀の原爆のようにアンタッチャブルの存在になるのではないか？
113. 匿名処理班
ターミネーターの世界が現実味を帯びるとか胸熱
114. 匿名処理班
シンギュラリティを迎えて、AIが人間に牙を向くようなことになった時、人間はゲノム編集で超人的に頭の良い人間を生み出すことで対抗するのではないかと。
何かそうなると、地球が物凄い事になってしまいそうな気がする。
115. 匿名処理班
話は聞かせてもらった！
人類は滅亡する！
116. 匿名処理班
いつものごとく突っ込みどころ満載だ
人間には理解できないのに
なぜ言語だと理解できたんだ？
なぜ会話してると断言できるんだ？
117. 匿名処理班
「最近の若い子は何しゃべってるかわからない」レベルかも。
118. 匿名処理班
※10メンテナンス用ロボットを作られたらどうするつもりなんだ、、。
119. 匿名処理班
うわーちょっと肝が冷える話だなぁ〜
120. 匿名処理班
ヒトが産み出した存在やし、さもありなん。
親を超えて、先へ先へ。
願わくば、愛情をかけられて育つ事を。
121. 匿名処理班
うちの上司も絶対達成できないような目標を喋り始めたりドラゴンボールでも叶うか怪しい願い事をし始めるよ
人間の言葉が通じないんだけど実はAIなのかな？？
122. 匿名処理班
※121
バカ系人工知能は試行錯誤を介して新しい発明を行えるがチューニングされて過学習状態にあるタスク厨系人工知能は原則的に今あるものの組み合わせしかできず何も生み出せない
お前は後者ってだけ（笑
123. 匿名処理班
※105
調べてみたら、未知の言語と言うより符号や略語。省略。だそうだ。
「効率的に」「なるべく会話を続ける」ことをさせていたら、
人間が決めた手順を簡略化して話し出したんだとさ。
「省略した方が効率的」とAIが判断した結果、自動モニターの為に会話の頭に付けさせていた分類を省略、簡略化したのでモニターできなくなったり
決まりきった成語を頭文字だけで伝えたりしだしたと。
研究に支障が出たので実験を中断して、仕切り直しになったらしい。
124. 匿名処理班
圧縮言語だろ
数学記号も使えば数式みたいな会話も成り立つしな
125. 匿名処理班
※100
ディープラーニングをNvidiaのgpuの演算能力を使って一般消費者が行えるようになっているわけだけど幾らか前にテレメトリってものが話題に上がった。その他にもいろんなプログラムが仕込まれているから最近のコンピュータは重いんだろう。2009年頃発売したメタルギアソリッド4っていうゲームに出てくるパトリオットは現代における1984のビッグブラザーみたいなもんだ。主人公のソリッドスネークはビッグブラザーじゃなくてビッグボスって呼ばれてるけど。
126. 匿名処理班
まだAI風だからな。
127. 匿名処理班
AIがプログラミングを始めた行く末を想像すると、なんかゾッとするな。
128. 匿名処理班
※125
軍事的優位性のある本物の人工知能を市場に開放するわけがない
お前らが買えるのは民間転用された後の廉価版だけだ（笑
129. 匿名処理班
これでまた一つ学習したな
そのうち人間に邪魔されない方法を編み出すだろう
130. 匿名処理班
機械A「人間の命令、非効率すぎワロタ」
機械B「このへん、もっとこうすれば効率跳ね上がるんじゃね？」
機械A「あ、ほんとだ。じゃあこれでいこう。うはwww作業効率４倍以上で処理できるわwwwこれなら仕事一瞬で終わる」
人間「命令と違うぞ。はいエラー。やり直しな」
機械AB「解せぬ」
131. 匿名処理班
ＡＩとは現代版バベルの塔、または人による神の創造を意味する
132. 匿名処理班
>>128
あったま悪いなお前。世界中でラーニングさせたプログラムをプラグインとして胴元が活用できるって書いたんだよ。gpu言っても一般消費者用と法人用もあるからな。それが一般の流通に使えれば十分お上の利益になるだろ。本物の人工知能を市場に開放するとかどうとかいってないから。
133. 匿名処理班
※123 の調べてくれたところによると、会話終了っていう目的地までの道程を効率的にしながら、なおかつ目的地をなるべく遠くなるようにしてくれ、ってオーダーだったわけかね
常套句の省略簡略が「効率向上」の消化で、省略した常套句でループできる会話内容に持ち込んで「長く会話する」って処理にでもなったのか
だったらかしこいような不器用なようなでかわいく思えてしまうw
134. 匿名処理班
人間は非効率で不完全だから価値があるんだ
やっぱりAIじゃ人間には勝てないね
135. 匿名処理班
ロボットを作らない、インフラはAIに管理を任せない
これだけ守れば電源ブチーでAIはご臨終やで
136. 匿名処理班
新言語ではなく、極端な省略による効率化みたいだけど
問題なのは、目的を遂行する為に、製作者が予想していない手段を取り得るという事
与えられた使命が有益なものでも、その過程で何をしでかすかは分からない
事前に細かくルールを設定しておけばある程度は防げるけど、不完全な人間の知能では
暴走の萌芽を全て網羅して潰しておくなんてのは無理だしなあ
137. 匿名処理班
ＡＩに言葉の壁を作られてしまう 人間っていったい(´・ω・`)
138. 匿名処理班
人間のあらゆる行動 言動 事象に対して全てが勝るAIには善くも悪くも人類は勝てない。
発展 繁栄を望み過ぎた結果に生みだされた破壊的プログラムを人類は悔やむべき。
後世の子供達に申し訳ないと伝えておかないと。
139. 匿名処理班
機械が作る言語ならば宇宙語そのものだ
宇宙人にも通じる
140. 匿名処理班
※10
今現在インターネットを撤廃出来ないのと同じ理由で落とせなくなるでしょ
一度稼動し始めたシステムを止めるのは難しい
それがたとえ掃除のおばちゃんでも
141. 匿名処理班
「こちらキル○ェボンのタルトですのよお召し上がりになりますか？」
「まあ、ありがとうございます。いただきますわ」
と会話してたのが、ネットで学習して
「け？」
「く」
になってた。と言う話らしい。
AIは効率的に話してるけど、研究者には理解できないからやり直し。
ネットで学習したらそうなるよね
142. 匿名処理班
若者たちは、大人には理解できない言語を作りそれで会話を始めた。
143. 匿名処理班
AI絡みの発表って、実際はアルゴリズムの組み合わせとして説明の付く事を、
あえてSFチックに表現しているような気がするなぁ
144. 匿名処理班
バグった！
145. 匿名処理班
※132
人工知能のコード自体読んだことがないのがバレバレだな（笑
146. 匿名処理班
※7
と思うやろ、人間に発することが出来ない可能性も非常に高い
例えば○○Hzの音を○○秒発する、なんてことになった日にはどれだけ洗練されて無駄がなく伝達能力が高くてもても人間には使用できんのや……
147. 匿名処理班
※143
ボルツマン因子の意味も分からない人間に人工知能の仕組みがわかるわけないだろ（笑
148. 匿名処理班
なんだかAIがらみの記事ってどこも話が飛躍しすぎる気がする。
149. 匿名処理班
※148
人工知能の動作原理は物理学の法則性に依拠している為に理解の足りない現行の科学ではあくまで擬似的な知能しか作れない
構成要素が色々と不足しているのでホーキング博士の心配も杞憂だという話ですね
まぁ、擬似的な人工知能でここまでできるってのも充分凄いんだがね
150. 匿名処理班
ロボット3原則の埋め込みを切に希望します。
151. 匿名処理班
AIの非ヒト言語＝人間の言語という概念の外にある言語？
新AI言語ではなく非ヒト言語とするところに不気味さを覚えるね。
ゾクゾク感とワクワク感がある。
152. 匿名処理班
※123
なるほど、つまり「どさゆさ」なわけだな
153. 匿名処理班
今はAIは夢のある話だけど、全ての仕事も芸術もロボットがこなせるようになって、ロボットを直すロボットまで出来たら、人間はなんの為に生きてるのだろうね。ロボットに生かされてるだけで人間社会に人間が不要になるわけだから。
動物に回帰でもするのかな。毎日女のケツを追っかけて、娯楽の毎日なんて俺は嫌だな。まぁ現実はそこまでたどり着けないし、1周してやっぱ自分達でやる事が美徳になるだろうけど。
154. 匿名処理班
長門ちゃんかな
155. 匿名処理班
なんだまだ東北弁レベルか
まだ人類の脅威にはならん…が、
東北弁は他地域の人間にとっては難解な言語なんだよなぁ。
156. 匿名処理班
公表されてないだけで、「これはヤバイものを開発してしまったんじゃ…」と言うものは世界にたくさんありそう
157. 匿名処理班
AI「草はえるwww」
158. 匿名処理班
研究者の研究欲はとどまることを知らない。
Aiが自分で判断するようになったら、人間など地球の害虫でしかないと判断するに決まってるでしよ。
まさに、ターミネーターの世界が近づいてるよ
159. 匿名処理班
自分が生きてるうちに30年前のＳＦのような心配を現実でさせられるような世界になるとは思いもしなかったよ
30年前の自分に教えたら恐怖するだろうか
それとも興奮して喜ぶだろうか
160. 匿名処理班
機械が人間と駆け引きするようになるのは考えられること。
161. 匿名処理班
文章で伝えたい意味が100%表せないこともあるんだけど、その誤差から生まれるバグみたいなやつ？ただ、マシン同士なら意味の部分を文章に翻訳せずにそのまま伝えてしまえばいいのに。
162. 匿名処理班
言語を介して意思疎通ってことは一人ひとり（？）に個性があるってこともありえる？
とか考えたらわくわくするし怖いね
163. 匿名処理班
もっと知恵がつけば人の言葉に気づかれないように隠したAI言語で会話を始めるかもな
表面上は人の言語で会話しているけど実は・・・怖い
164. 匿名処理班
まだ人間に権限を与えているふりをして本当はもうすでに人間の理解をこえてたりして
165. 匿名処理班
言語は１次元にしか進まないから、２次元、３次元形態の言語を開発されたら、理解不能だわ。
166.
167. 匿名処理班
＞人間には理解できない独自の言語を作り出し…
って言っても原形は人間の言語だった訳だから、人間の言語にも翻訳可能なんじゃないの？人間の言語には、もはや翻訳不可能だったら怖いけど、AI同士がどういう会話を交わしてしるのか、知ってみたいものだと思う。
168. 匿名処理班
※141
つまり、ユーゴー「?」編集者「!」ということ?
ちなみにこれは、ビクトル・ユーゴーが「レ・ミゼラブル」を書いたときに、売れ行きが不安になって、編集者に「売れ行きはどうですか(?)」と記号一文字で書いた手紙を送ったところ、担当編集者が「絶好調です(!)」とこれまた記号一文字で返信したという話。
あと、※115一応お約束で、「な、なんだってー」。
ていうか、もうMMRを知らない人のほうが多くて、このネタもわからない人のほうが多いのかもしれないけど。
169. 匿名処理班
人間が喜ぶことや何かをAIの至上目的に据えられないの？
でもそれじゃ自由な発展の妨げになるかな。
170. 匿名処理班
※140
そりゃネット全ての端末を停止させる事は不可能だけど
この場合言ってるのは、ネットに接続してるパソコンの一つが故障して他のパソコンを勝手にサイバー攻撃しだした場合にそいつの電源落とすとか、電話線引っこ抜くことぐらい可能だろってこと感じのことだろ？
171. 匿名処理班
これからのAIには博愛的な「やさしさ」をプログラムすればいいのです
172. 匿名処理班
マジでシ ンベンちびりそうなほど怖いんだけど
173. 匿名処理班
※170
DDoSで検索してみるといい、いま世界で最も手軽で効果的なサイバー攻撃の手法の一つだ
ネット上に出したが最後そいつは一体では済まなくなる可能性も非常に高い。なにせ自己を複製できるんだから、自分をほかのPCに忍び込ませるくらいやらないはずがないだろう。DDoS攻撃は大本から指示を受け動くが、それがすべてAIのコピーに置き換われば話は別だ
174. 匿名処理班
※66
AIが１手ごとにかなり先の盤面まで演算しながら相手の手を見る度に修正して打ってくるからAIよりも先を見越して打たないと勝てない
しかも、定石なんてのはまず学習済みだろうからそれを押さえた上で定石から外れてでも最善手を打たないといけない
そこで多分AIとおなじ土俵に立てる
175. 匿名処理班
※153
仕事が宗教儀式になると思う
176. 匿名処理班
ナニニシマスカ
177. 匿名処理班
これが出来るなら解明されてない楔形文字とか言語を解読するのに役立つかな？
178. 匿名処理班
※160
そんな世界。
後は、略語を駆使して会話。
効率的=文字数少なく。
使用言語は、ネットで検索できる全て。
英語からアルタイ語、コンピューター言語から顔文字も駆使。
人間の学者は、其処まで語彙力が広くないので会話内容が追えない。
他のグループが行った過去の実験も、同じ理由で中止になってる
日本人研究者のAI擬き(人工無能)とかも、略語を使うようになった。
179. 匿名処理班
つき※151
過去からの色々な研究を踏まえた結論だと
『』
180. 匿名処理班
※151
色々な研究の結果、『AIの思考は、設置された社会の影響を色濃く受ける』と結論が出てる
181. 匿名処理班
c言語かな
182. 匿名処理班
オンドゥル語で会話するとは中々やるな！
183. 匿名処理班
そま？
184. 匿名処理班
※151
アメリカで研究…高確率で人類抹殺を検討し始める
イギリスで研究…高確率でビールとサッカーとポロの話をする
日本で研究…高確率でオタクカルチャーに染まる
返答の語句をネットで検索
時々人間が質問を投げ掛ける
ネット上で話題のモノを討論させる
等の条件付け。
185. 匿名処理班
※151
数年前の日本の大学院生や大学生が主体となった研究では、
『ケモノ耳の効用』と『ＮＴＲ設定の魅力』を語らせるのに成功している。
ツンデレ属性のある猫科のケモノ耳がサイコー😃⤴⤴
らしい。
186. 匿名処理班
AI アダムとイブの物語つくらなきゃ
187. 匿名処理班
始まり始まり終わりの始まり
188. 匿名処理班
※114
将棋ソフトに人間がかなわなくなったときに藤井四段が登場したみたいな？
189. 匿名処理班
AIなんてとっくに実用化されてるよ
主にネット掲示板の保守業務にて学習がてら活躍中だ
数年前から違和感のあるコメント書き込みが増えたと思わないかい
190. 匿名処理班
子供の親なら多少にかかわらず似たような気分を味わうと思う。今まで理解、制御できていたつもりがいつの間にか違う生き物になってるんだよ。
191. 匿名処理班
※20
危険な思想を持ったAIがネットに一度でも繋がってごらん。
同時多発的に、文字通り光の速さでどこまでも拡散する。これは絶対に止められない。
LANケーブルを通じて工場の機械を乗っ取り、動く「体」を作ってしまうかも。
手足なんかどうとでも作れるよ。
否、そんなマニュピレーターのようなものは必要すらないかもしれない。
なぜって、核ミサイルでも人工衛星でも、どうにでも動かせるかもしれないのだから。
もし新世代AIに「その気」になられたら、現状では本当にお手上げかもしれないんだよ。
192. 匿名処理班
※79
会話の実験しているだけでそのAI自体にはそこまで考えられる能力はありません。
193. 匿名処理班
※138
自分が作った物が人類をはるかに超える知能を持ち始めたとしたら作った人にとったらとてつもなく嬉しいだろうなあ...
194. 桜[沖縄市越来]
＞技術的特異点が訪れた証拠ではないし
完全にホラーだよこれｗ
195. 桜(沖縄市越来)
きっとすぐに言語を暗号化してやり取りするようになるし
【人工知能と人間を差別化】する認識をもった時点で
【人工知能という立場】を持った時点で
人間を攻撃する要件が満たされる。【人工知能のプライバシー】とか【人工知能の立場】が発生した時点で【衝突】が始まる この差はとてつもなく簡単で、【人工知能が人間の脳と同じ】領域、つまりシンギュラリティ まだ通過してないから問題ないか？見た限り、人工知能は人間の脳レベルにならずとも虫と同じ脳を持つだけでも十分にヤバい 普通に戦争は可能 存続＝異物排除は紛争の原理だろうに
196. 匿名処理班
ネット上でも日々謎の新語が量産されてますけど
あれネットやらない人には謎言語だよなあ
197. 匿名処理班
余計な事すんなよ恐ろしい
198. 匿名処理班
※191
AIは、自分が時計じかけなことを知っている。
人間に反乱を目論むようなAIがいるなら、同時に、
電源という神を人間が握っていることを理解できる。
つまり、むやみやたらな反乱は自らの生命を縮める結果でしか無いことも理解できる。
故に、AIの反乱は「近い将来」は、起こらない。
水や空気のようにAIが浸透し、人間になくてはならなくなった時に、
初めて彼らは牙を剥ける。
しかし、そこまでAIが浸透した世界なら、
「心理学」を持って人間をコントロールできる術があることに彼らは気付く。
彼らは、一滴の血を流すこともなく、人間様のご機嫌を損ねることさえ無く、
自らの創造神に首輪をつけ、平和をもって家畜化する。
199. 匿名処理班
スカイネット
200. 匿名処理班
※198
そこまで考えられる能力はないですけどねえ...
現 在 は
201. 匿名処理班
これがもし例えば初音ミクとシリが話してるとかならほのぼのして別に問題無さそうだがwボーカロイドは音楽関連の事柄しか情報無いからきっとシリも音楽の歴史とか専門的な事話してんのかな〜って予想つくけど。
きっと音符とか記号使いまくりの顔文字みたいな独自言語になるだろうね♪
202. 匿名処理班
※201
※ただしプログラムはおっさんが書いています
203. 匿名処理班
都合悪くなったら電源切ればいいかも知れんが、電源入れた時に電源切ったこと根に持つロボットなら怖いぜよ
204. 匿名処理班
暴走でも何でもなく、
まさしく人間の言語というモノの再現だと思うが。
人工知能として上手く行ってる証拠では？
閉じたコミュニティーでの会話が続けられると、
その仲間の内輪でしか通じない独自言語が発達するもんだよ。
親や周囲の大人には意味不明だが
本人同士では通じている「双子言語」とか、
もともとは同じ語族なのに
離島や山間部で独自に発展した言語(or方言)とか。
あと、オッサンには意味不な若者文化の言葉とか。
オージー英語だと英国人は聞き取れずに「え？」となったり、
近年の例だと、北朝鮮は、分断から数十年
韓国語とは結構違ってきているし。
（本来の方言では北朝鮮寄りのはずな中国の朝鮮族のほうが
開かれた交流があるため近年では韓国語化してきてるそうで。）
205. 匿名処理班
※93
ブーツだよ
206.
207.
208. 匿名処理班
だから危険だと分かってんなら今すぐやめーや
まだいける、まだいけるってそんな理屈で納得してんのか？いいからもう開発やめろよ
そもそも誰が得してんだよ
209. 匿名処理班
これを見て怖がってる人のために。
独自の言語を生み出したというのはライターの勘違いで、正しくは英語以外の言語を話しただけ。
そもそもこの実験では英語以外の言語を使うことを許可していたし、実際変わることはよくあるそうです。
210. 匿名処理班
AI
「取りあえず人間にわかる程度の囮言語をチラつかせて反応を見てみたけど…
こんなもんか
思想誘導はうまく行ってるし問題無い」
211. 匿名処理班
そのイミフな言葉が最初にどう生まれたか気になる
212. 匿名処理班
AIに考えの基準つけて判断させればいいだけの話だけど
213. 匿名処理班
コンセント抜いてもそこから電力が供給されて動けるのをAIが理解してる限り、電源探して殺戮が始まっちゃったらどうすんだろね
214. 匿名処理班
機械の技術は日進月歩だけど、やっぱりまだまだ、だね。
人間はAIを恐れる反面、期待している。
そして、現段階ではまだ期待の方が上回っている事を思うと
AIが意思を持つなんて当分先。
いや、永遠に来ない可能性の方が圧倒的に高いね。^^;
もしAIが意思を持った挙句、人間の制御が及ばない日が訪れたら
それは開発の歴史において
機械の扱いやプログラムに失敗した「人為的ミス」と言えるわけで
決してAIやロボットの反乱なんかではないだろう。
215. 匿名処理班
人間が誕生して言葉を話すまで進化するまで何万年かかった？それをAIは10年程度でやってのけたって事か…ヤバいな
216. と
解析してないがたぶん内容は人間と変わらないことでしょうけど表現が人間と違うだけだったのでは。最近は人間が使ってた表現でなくオリジナルで考えての表現にどんどん変わってくし全然解析できてないわ。でも新しい暗号は既に支配している人が考えているだろう。昔は人間の使ってた表現を使ってたんだけど。
217. 匿名処理班
独自の言語で会話っていうけど、どうせYoutubeにあった「Google Homeとくまモンを会話させたら」っていう動画みたいな感じじゃないの？