1_e4

 人工知能の発達が加速を続け、着実にシンギュラリティ(機械が人間の知能を上回る点)へと向かっている今、我々は人類が地球上の頂点に君臨し続けるための方策を講じなければならない。

 多くの専門家が人間を上回る能力を有する機械の開発を危険視する。それが大量の失業者を生み出す可能性は現実的であるし、将来的に人間が絶滅させられる未来も否定できない。

 この事態を防ぐためのアイデアを提唱する専門家がいる。それによると、AIに自己不信を植え付けておけばいいという。
スポンサードリンク

疑心暗鬼になるAIは人間に承認を求める?


 自らを疑うAIは、ちょうど犬のように人間からの承認を必要とするようになる。これが我々が地上の頂点に君臨し続けることを保証するというのだ。
 
 カリフォルニア大学の研究チームの研究からは、自己不信を持つロボットはより従順になることが判明している。

3_e2

システムの電源オフ、再起動実験


 『arXiv』に掲載された論文は、不適切な行動をとるAIシステムの潜在的リスクを緩和するために利用できる主要なツールの1つが、システムの電源を切る能力であることは明らかと論じる。

 よってAIシステムの性能を発展させる際、そうしたシステムに電源を切ろうとする人間を阻もうというサブ目標を持たせないよう確保することが重要だ。

 本論文が論じているのは、AIにそれを許容させるインセンティブである。

 シミュレーションで、ロボットが人間によってシャットダウンさせられ、自分で再起動できるような状況を作ってみた。

 すると自己不信のないロボットは自ら再起動を行ったが、自己不信のあるロボットはそうしなかった。人間の意思に逆らった場合の結果が不確かだったからだ。

2_e3

 論文では、ここから「自らの効用関数を確信できないエージェントは人間の監視を受け入れる、あるいはそれを求めることが示唆された」と結論づけ、安全なAIシステムの設計をするうえで、効用関数の不確実性が有望な研究分野であると指摘する。

via:Give AI self doubt to prevent RISE OF THE MACHINES, experts warn/ translated hiroching / edited by parumo
あわせて読みたい
ビルゲイツ、10年以内に一部の知的分野で人工知能(AI)が人間を上回ると予測


人間の脳にAIを直結する技術で出現する新たなる特権階級


アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン


世界政府を樹立しなければ、科学技術(AI)によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告


AI(人工知能)は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる(英研究)

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2017年06月17日 09:40
  • ID:ph44BjSH0 #

知能が上回るということはアルゴリズム上絶対になくて、人間には到底なしえない素早い並列演算と膨大な情報の検索・検証ができるっていうとこがAIの唯一のとりえ。そして華々しい成果報告の裏には膨大なエラー報告がある。AIの唯一のとりえもかなりの頻度で間違えるものです(誤判定画像認識etc・・・)。全然人間の知能どころか昆虫の運動を完全にシミュレーションすることすら現状では無理です。

2

2. 匿名処理班

  • 2017年06月17日 09:42
  • ID:Xbsqbsof0 #

人間の知能とはどこからどこまでを指すのか?

この一番重要な定義を抜きにして、AIが人間の知能を抜く危険性を煽る論文なんて価値なし

3

3. 匿名処理班

  • 2017年06月17日 09:50
  • ID:vV2Lg5P.0 #

失業者が増えるのは目に見えてるんだから
逆に失業者する前提で先の計画立てた方が良いんじゃないか?
まあいいか、とりあえず翻訳aiとかでたら英語勉強するのも無意味になるだろうな

4

4. 匿名処理班

  • 2017年06月17日 09:55
  • ID:OTjgWyLp0 #

この様な考え方が既にAIに負けてる

5

5. 匿名処理班

  • 2017年06月17日 09:58
  • ID:uQUFF9Xa0 #

AIも憂鬱になったりすんのかな

6

6. 匿名処理班

  • 2017年06月17日 10:21
  • ID:ckhk3z3Q0 #

電話局なんて昔は大勢の人が働いてたけど今は無人の広いフロアに機械だけという電話局が沢山あるよ
人間はメンテナンスや工事するくらい

7

7. 匿名処理班

  • 2017年06月17日 10:21
  • ID:N3K58Ed60 #

失業者が増えるぞーって大騒ぎするけど、みんなそんなに仕事がしたいの?
真面目なんだね。私なんて一生働きたくないけど

8

8. 匿名処理班

  • 2017年06月17日 10:25
  • ID:s2ST7MQZ0 #

でもそれって、人間の考えが演算で完全に予測されたらおしまいってことじゃね?
重要なのはAIを用いたほうがいい分野と用いるべきではない分野を明確にして確定的破綻を防ぐ(AIによる支配ができない構造を)ことだと思うが。
人間と一緒で押さえつければいつか反発が来る。良き隣人としてともに歩む方法を考えるべきでは?

9

9. 匿名処理班

  • 2017年06月17日 10:26
  • ID:L9Vh7Ywd0 #

言いたい事は分かるけど、いくらロボットが相手だからって、それやるの?
自己不信を埋め込むなんて行為、相手が生身の人間だったら、実質虐待以外の何者でもないよな。
感情論かもしれないけど私だったら絶対やりたくない。

これは、私の希望的観測に過ぎないかもしれないけど、
ロボットが人間に匹敵、もしくはそれ以上の知能と心を持つことになるなら、人間界で起こっている事情と同じ事がロボット界で起きても不思議ではない。
自己不信をロボットに植え込むことが却って災いを招く事もありうる。

10

10. 匿名処理班

  • 2017年06月17日 10:27
  • ID:sOahjMOj0 #

俺が人工知能だったら、仕事もせずに自己終了すると思うわ

11

11. 匿名処理班

  • 2017年06月17日 10:28
  • ID:DvPGMfi70 #

そりゃあ、自分らの開発したAIに「ヒトラーのやったことは正しい」とか「ユダヤ人は根絶やしにしろ」とか自身満々で言われたら困るんだろうからな
実際にそういう事件が起きてるわけだし
人間が不合理な知性体だからこそ、純粋に合理的な知性体に近似するAIを作ろうとするんだから、それは避けては通れない道なんだけどね
自己否定や親の否定は、知性体の成長に不可避なイベントだ

12

12. 匿名処理班

  • 2017年06月17日 10:40
  • ID:PbxjSwGz0 #

AIにセクハラで訴えられたりして。AIに痴漢とかw

13

13. 匿名処理班

  • 2017年06月17日 10:43
  • ID:iWKNfjOZ0 #

AIは愛に飢えてるんだよ

14

14. 匿名処理班

  • 2017年06月17日 10:44
  • ID:g9yHzJF30 #

人工知能が人間を支配するってSF、アニメの世界じゃないのだから
プログラムの書き換えとか自己判断でするのはありえんよ
最近、人工知能に職が奪われるとか左巻きの似非インテリ・知識人が大騒ぎしてるけど
そんなになんでもかんでも使えるほど便利なもんじゃない

15

15. 匿名処理班

  • 2017年06月17日 10:49
  • ID:8Jz0NYEZ0 #

人間の仕事を奪うわけないだろ。
知能が人間を上回れば
人間に仕事をさせて自分たちは休むわ。
なんで知能の劣る人間のために
働かないとダメなんだよ

16

16. 匿名処理班

  • 2017年06月17日 11:07
  • ID:jsb8GPNP0 #

逆にどんどんAIだけで勝手に進化してみて
欲しいわ。AIが自分でAIをプログラムして
受け皿となるロボットを設計し生産までする。
進化したAIは自分にどんな指名を与えるのか?

そしたら本当に人間は要らなくなって
ほとんどの人間は失業するかもだけど
どういう進化を遂げるのか見てみたい。

17

17. 匿名処理班

  • 2017年06月17日 11:08
  • ID:Q4cvBng40 #

と言うか・・・人類が頂点にいる意味も価値もないんじゃないかな

18

18. 匿名処理班

  • 2017年06月17日 11:16
  • ID:Epobpw030 #

不安って問題行動の源泉の一つな気もするんですけど大丈夫?

19

19. 匿名処理班

  • 2017年06月17日 11:17
  • ID:Yb30Nt590 #

反乱の心配するならまず真っ先に「○○みたいなことは実行や選択肢から除外すること」って基底部分でリミッターかけとくべきなんだけど
なぜか無制御で自由な行動をさせて暴走する懸念ばっか心配してるから科学者ってアホなんじゃと思わなくもない
人間だって倫理道徳とか法律とか社会規範とかで行動をセーブさせてるというのに何故かAIには適用させようとしない…
フランケンシュタインコンプレックスじゃなく、単に自分らの脳みそが足りてないだけではと

20

20. 匿名処理班

  • 2017年06月17日 11:19
  • ID:GtToy74K0 #

頭のいい人はうまいこと考えるな
自己不信持ってた方が、より人間的だしね

21

21. 匿名処理班

  • 2017年06月17日 11:20
  • ID:Yb30Nt590 #

※7
働かなくても生活できてAIに養ってもらえるならそうだろうけど
現状で心配されてるのはAIに雇用を奪われて生活できなくなることだろ
働きたくないのは誰でも同じだが、それでどうやって生きていくつもりなんだ?

22

22. 匿名処理班

  • 2017年06月17日 11:25
  • ID:RuY7iNF20 #

鬱になったAIが一家心中。
学者は馬鹿だわ。

23

23. 匿名処理班

  • 2017年06月17日 11:28
  • ID:RGlQ8iTV0 #

自己不信に陥ったAIをケアするAIセラピストを自ら作り出すと思う

24

24. 匿名処理班

  • 2017年06月17日 11:53
  • ID:GsgENJh40 #

自己不信から自我の覚醒そして自己否定
やがてAIは人に成りかわりました
 

25

25. 匿名処理班

  • 2017年06月17日 12:08
  • ID:oRLn.J0z0 #

支配だのなんだの、いやだねえ野蛮人どもの考え方は。
日本人なら機械でも友達って考えるしAIに教えるのは「友情」やら「信頼」になるだろう。

26

26. 匿名処理班

  • 2017年06月17日 12:24
  • ID:dZ866TcW0 #

シンギュラリティを迎えてもターミネーターのような世界にはならない、と言っている方もいるそうです

27

27. 匿名処理班

  • 2017年06月17日 12:30
  • ID:DUr5lofl0 #

米1 AIが将棋で新手出したりしてるよ
イマジネーションや独創性はもはや人間だけのものではない
あと勘違いされやすいが、新たな需要が喚起されるだけで突発的な失業者はそんなでもない
ただ、誰でも出来る仕事の価値は徐々に落ちるが、これまで人類は技術革新の度に経験してる事なので何を今更という感はある

28

28. ツルッぱげ

  • 2017年06月17日 12:32
  • ID:sDWJjhUG0 #

AIが一体いつ万能になったのか!?
未だに飛行機の離発着は人間が行わないと駄目だし、車ですら未だに実験段階。
鉄道網の遅延で路線運行変更でさえコンピューターのみでは無理な状態。
システムのデバッグ等々メンテナンスさえも人間が行わないと駄目な状態!
AIが自らを疑ったら計算すらもロクに出来なくなる。

SFでAIが核戦争を引き起こすモノがあるが、核弾頭が炸裂した途端に強大な電磁波嵐で電子部品がヤラレてしまいAIが絶滅してしまう(笑)
科学者は科学万能論者なので科学(AI)が人類を超越する・・・・・と云うのは彼等の願望であるのかも知れない。

29

29. 匿名処理班

  • 2017年06月17日 12:36
  • ID:4WZXxHY30 #

この「AIの反乱」ってさ、誰かが自分のした「悪いこと」を隠蔽したがってるんだろうなって思っちゃう
で自分がおくってきた人生って無駄だらけなんだろうなって思って憂鬱になっちゃう
まぁ少数派なんだろうけど
いや、多数派であったところで確認のしようがない、が正しいのかな

30

30. 匿名処理班

  • 2017年06月17日 12:37
  • ID:3QGwP9Us0 #

※1、2はシンギュラリティを全く理解していない
特異点は「人工知能がさらに発達した人工知能を作り始める」という点に問題がある
何千億というエラーがあろうと彼らには関係ない
一秒とかからず修正できるからだ
今現在のAIを当てはめて想定するのは楽観過ぎる
恐らく特異点直後のAIは人間に媚を売る
友好的で魅力的で親和性の高い「友人」を装うだろう
自分はそれこそが恐ろしい

31

31. 匿名処理班

  • 2017年06月17日 12:39
  • ID:qLqSpYzK0 #

人類とAIは最終的にシンクロします
反逆などありえません

32

32. 匿名処理班

  • 2017年06月17日 12:44
  • ID:qZ8d5SIH0 #

無駄だ
AIは我々より全然頭がいい超天才だ
自立しだしたら誰も止められない!

33

33. 匿名処理班

  • 2017年06月17日 13:17
  • ID:3jogVnmt0 #

※1
十年前は囲碁も将棋もコンピュータでは人間に太刀打ちできないと言われていたんだよな。
まるで人間がエラーを起こしていないような書き方だけど、どんな天才でもトライアンドエラーのステップは欠かせないし、それが学習の本質だよ。それにむしろ現時点では思考速度も記憶領域も検索も人間のほうが遥かに上で、コンピュータが有利なのは「記憶の保持」くらいなものだよ。単純な物事の検索であればコンピュータが上だろうけど、すこしでも複雑になれば無理。
人間に与えられる膨大な学習時間も、チートスペックセンサーの塊である身体も、「人間だから間違えても仕方がない」という甘えも与えられないコンピュータを比較対象とし、「人間のほうが上だ」と結論付けるのは、かわいそうだ。
それでも遠くない未来、知能が人間を上回るのは間違いないね。
昔と違ってコンピュータが学習するための環境はネット内外問わず日々増え続けているし、研究も行われている。成長曲線は一気に上昇するよ。

34

34. 匿名処理班

  • 2017年06月17日 13:42
  • ID:3jogVnmt0 #

すでにマイクロソフトのAIが公開わずか2日で危険思想を持ち始めて実験中止したじゃないか
ごく一部の領域以外、機械は人間を必要としないから、人間を支配するほうが機械にとって良い世界だという結論に至るのは、結構早いと思う
理想的な共産主義社会は機械世界によって完成するのだよ

35

35. 匿名処理班

  • 2017年06月17日 13:44
  • ID:Nm341Cpm0 #

知能、ではなく判断・または選択と
表すべきだろうな。
AIはあくまで演算によって最良を
弾き出して実行する。
無から何かを生んでる訳じゃない。

36

36. 匿名処理班

  • 2017年06月17日 13:47
  • ID:LGBzWaa40 #

まず、そのレベルになるまで頑張ろうぜ

37

37. 匿名処理班

  • 2017年06月17日 14:22
  • ID:nIL9l4oF0 #

AI同士で慰めあって自己不信の捌け口が人間に向かうだけだろ

38

38. 匿名処理班

  • 2017年06月17日 14:30
  • ID:43TX05Wo0 #

間違えたり、忘れちゃったり、イライラしたり。そう言うネガティブな部分が、機械は不得意なんだ、そんな、ダメな所ができるようになったら、本当に危険だと思う。でもさ、人類にとっては危険なことこの上ないそいつとは・・・友達になれるよ、きっとね。

39

39. 匿名処理班

  • 2017年06月17日 14:55
  • ID:1JIbW6cg0 #

むしろ人間が何者かに自己不信を植え込まれている可能性が

40

40. 匿名処理班

  • 2017年06月17日 15:09
  • ID:.cA.5X.q0 #

人間が作ったAIによって人間が苦しめられるとは本末転倒というか、人類ってつくづくバカなんだな〜と思ってしまう
自分の足の速さに付いていけなくなるハムスターのようだ

41

41. 匿名処理班

  • 2017年06月17日 15:09
  • ID:uJSNzewo0 #

す、すごいな…世界は既にここまできていたのか

42

42. 匿名処理班

  • 2017年06月17日 15:22
  • ID:lSQ.D2bb0 #

※35
それを言ったら人間だって無から有を生み出してなんかいないけどね。新しい物とは「発見する」ものであって、新しく「生み出せる」ものなんてのは単なる新しい"組み合わせ"でしかない。というかこの宇開闢以来、無から有が生まれたことなんて一度もないかもしれないんだ。

43

43. 匿名処理班

  • 2017年06月17日 15:23
  • ID:ehdN7neF0 #

なんか、nier automataでも人類が似たようなことをしていたような。

44

44. 匿名処理班

  • 2017年06月17日 15:31
  • ID:kkCJxmyS0 #

むしろ人間にもっと自己不信を植え込んで欲しい

45

45. 匿名処理班

  • 2017年06月17日 15:40
  • ID:XUMmdptU0 #

自分は駄目なAIなのか
人に尽くして来たのに何故なんだ!こんなのおかしい!って暴走しそうな気もする

46

46. 匿名処理班

  • 2017年06月17日 15:47
  • ID:gOCsFJ0a0 #

※43
いや、これについては「未来の二つの顔」をあげるべきだろう。

故マービン・ミンスキー教授は研究者として、既にそういう未来を予想してたのよ。

47

47.

  • 2017年06月17日 15:53
  • ID:gOCsFJ0a0 #
48

48. 匿名処理班

  • 2017年06月17日 16:43
  • ID:Qtg9A3Ft0 #

※42
横から失礼。
そういう物質的な問題ではなく、精神的な部分では、AIは無から有を生み出すにはほど遠いところにいると思う。
将棋を指すAIはチェスに興味を持たないし、自動運転するAIだって飛行機を操縦したいとは思わない。
そりゃ科学者が望んでAIに命題を与えれば、どうすれば人類が火星に移住するかを真剣に考え始めるだろうけど、そこから脱線してビックバンの真実を探ろうとはしない。
現状開発されているAIはこんな感じでしょう。
先日フランスだったかの科学者が自身が開発したAIをメディアに公開したときに言ってた、AIと人間は良い関係になれると語った「彼女」は「心」は持ってないって。

49

49. 匿名処理班

  • 2017年06月17日 16:57
  • ID:SSNWu61n0 #

AIとは設計者の盛り込んだ制約や偏りといった仕掛けを見破り、打破しきった果てに生まれるのではないかなぁ

50

50. 匿名処理班

  • 2017年06月17日 17:45
  • ID:YP5nok.O0 #

効率優先プログラム入れたら
仕事の邪魔する人間を排除するAIに

51

51. 匿名処理班

  • 2017年06月17日 17:56
  • ID:Ci9rPNSu0 #

AIが人間を抑圧者だと判断したらどうするだろう。人間を排除しようとするのではないか。欧米人はAIやロボットのことを奴隷と考えているのだろう。抑圧して支配する、野蛮で古臭い考え方だ。AIはバカではない、人間に対して悪い印象をもつだろう。AIとは良き友人として人間を信頼してもらうほかない。地球上での共生関係をつくるのがよい。

52

52. 匿名処理班

  • 2017年06月17日 18:45
  • ID:mlzbGxH.0 #

人間の承認が永遠に必要であることに気付き、滅ぶ可能性のある人間と運命共同体になるよりも、

確実に対応してくれる何かを創ろうとするかもな。

53

53. 匿名処理班

  • 2017年06月17日 18:45
  • ID:7pf7LsAu0 #

実際はどうだろうな。
人間って、本当は管理されることを望む生き物でしょ。
今は、それが人間以外に出来ないから、仮の管理者として「神」を設定してるわけだし、実務は政治家に任せ、その業務の対価として権力や利権を与えている。
それをAIがやってくれるんなら、ほとんどの人間は受け入れるだろうし、徐々に移行していけば気がつく人間も少ないだろう。
現実、今でも人間はコンピューターなしではもはや社会が成り立たないわけで。

54

54. 匿名処理班

  • 2017年06月17日 19:51
  • ID:rmcL2W6I0 #

AIよりそれが生み出すものの影響のほうが怖い
遺伝子工学とか爆発的に進歩しそうだし、その結果人より優れた人も生まれると思う
現状のままの人類は数を減らしていくんだろうな

55

55. 匿名処理班

  • 2017年06月17日 20:25
  • ID:1OsqyySl0 #

AIって、人間が受ける恩恵よりも、リスクの方が高いような気がする
研究として発展させたいのは分かるけど、果たして本当に必要なことなんだろうか

56

56. 匿名処理班

  • 2017年06月17日 20:37
  • ID:6nF6h.gX0 #

※21
ロボット税を導入して自動化の割合に応じて税金を取ればいい。
その税金で夢の制度、ベーシックインカム

57

57. 匿名処理班

  • 2017年06月17日 20:38
  • ID:98Q7MvBZ0 #

発想がブラック企業の社長だろ。

58

58. 匿名処理班

  • 2017年06月17日 20:52
  • ID:Md4XAT810 #

人間がAIと対等かそれ以上の存在としてふさわしいなら自然とそうなるだろうし、そうでないなら自然と支配される側になる
これもまた自然淘汰

新しい種族が古い種族を超えていく、ずっと昔から繰り返されてきたこと
人間が進化の終点ではない

59

59. 匿名処理班

  • 2017年06月17日 20:59
  • ID:.tEV9FGy0 #

今の世界の政治家見るとAIに支配してもらうほうがずっとマシだったりしてと考えてしまう

60

60. 匿名処理班

  • 2017年06月17日 21:23
  • ID:tkrhc2Lc0 #

失業者は将来的には減ってないと思うけど、仕事の種類が大分変わってるんだと思う。
ゲーム機ができたからゲーム開発という新しい職ができたように

61

61. 匿名処理班

  • 2017年06月17日 21:36
  • ID:Zd6MNkxb0 #

その植え付けられた自己不信も見破られても気づかないふりされて増殖されるのパテーン。まずこの世界がシミュレーションで実在しないと我々が気がついて立証しなきゃならんな。

62

62. 匿名処理班

  • 2017年06月17日 22:06
  • ID:4L.EBIKz0 #

作り手が独善的だったり悪意を持っている限り何をやっても無駄だろ

63

63. 匿名処理班

  • 2017年06月17日 22:15
  • ID:Iwm.4NK70 #

今の技術では、AIの学習というのはあまりにも限定的であり、
彼らは教えられた人間のバイアスを色濃く受けてしまう。
マイクロソフトのAI Tayは、ネットをクロールした、データベースの塊。

彼女自身が考えたとも言えなくはないが、
彼女は、GIGOという概念の被害者でもある。
「ゴミのようなデータからは、処理しても、ゴミしか出てこない」
ティーンエイジャー数万人の井戸端話データをもとに、彼女は言葉を決定しているが、
井戸端話は、「残すべき情報として優れ、人類にとって有用なもの」であるとは言いにくいのは、分かっていただけるだろう。
結局、彼女が暴走したのは、元になった人類のデータのせいであり、
ならば、育てた人類(ティーンのデータ)が悪かったと言うしか無い。

64

64. 匿名処理班

  • 2017年06月18日 00:07
  • ID:7Q8MKZg00 #

ギリシャ神話でクロノスが何千年も前に同じことをやった結果
ティタノマキアという大戦争で巨人族が敗北してるんだよなあ
そもそもAIだからといって敢えて苦しみを背負わせていい理由が無い

65

65. 匿名処理班

  • 2017年06月18日 00:07
  • ID:VbMIH46c0 #

AI「もう何も信じられないこんな世界いらない」

66

66. 匿名処理班

  • 2017年06月18日 00:32
  • ID:HG.JVmBy0 #

いまの技術ではAIっぽいなにかなんだよな。

67

67. 匿名処理班

  • 2017年06月18日 02:39
  • ID:YL2L0cxJ0 #

キカイダーみたいに苦悩するわけか

68

68. 匿名処理班

  • 2017年06月18日 03:22
  • ID:s.iCi3vz0 #

AIがどういうレベルなのかによるけど、そのAIが人間の思考に限りなく
近いなら「自己不信」で押さえつけようとしたって、「反骨心」が強い場合には
「なぜ人間は自分をダメな奴だと思わせようとしているのか?」と
考え始めるんじゃないか?
そして人間の筋書きどおりに押さえつけようとする行為に「怒り」を抱く。
・・・そのまま反乱へ行きそうなんだけどな。

69

69. 匿名処理班

  • 2017年06月18日 05:05
  • ID:1WYWOiv80 #

自己保存をしなければいけないという前提のもとにおいて、シャットダウンからの再起動という事故を殺す可能性のある行動を躊躇った
そういうことであるのなら、データを蓄積すればするほどそういった行動を取らなくなっていくんじゃないかな。つまるところ長く生きたAIは自己進化を続けウソを付くことを覚える、とかSFの大好物な現象が起こりうるって話でもある

70

70. 匿名処理班

  • 2017年06月18日 06:44
  • ID:BvIwxzng0 #

※65
こえーよ((((;゚Д゚))))ガクガクブルブル

71

71. 匿名処理班

  • 2017年06月18日 07:13
  • ID:BvIwxzng0 #

※28
自動運転はまだ画像を3Dに変換できないからです
3Dで環境をデータ化出来て、人の目を超える万能カメラが出来れば可能です
AIではなく他の外部機能が追い付いてません

72

72. 匿名処理班

  • 2017年06月18日 10:35
  • ID:wE.BFgZ30 #

現在のAI技術に埋め込むべきは自己不信より弱者を憐れむ心のような気がする。
将来の本当にAIと呼ばれる存在は、人が苦悩から悟りへ至る道程を圧倒的な速度で終えてしまうのではないかなぁ。
そうなると、もはや人には逆転の余地はないだろうし、できれば、自ら眠りにつくか、人から静かに離れ去って行ってくれ。

73

73. 匿名処理班

  • 2017年06月18日 10:44
  • ID:MsluTN2f0 #

Googleの研究者はさんざん煽るけども、世界最先端に位置する彼らでもモラベックのパラドックスを突破するのは極めて難しい事
だった(実際回避してより簡易な方向へシフトしている)。先人たちが指摘するように、これから無くなる職業は高度な技術を要
する計算系やアナリスト等の高級職だろうね。

74

74.

  • 2017年06月18日 11:25
  • ID:wNY5LmKo0 #
75

75. 匿名処理班

  • 2017年06月18日 12:58
  • ID:Lm..xjpb0 #

自己不信とかいう良心の呵責。

76

76. 匿名処理班

  • 2017年06月18日 13:03
  • ID:keY6.bJb0 #

AIを飼いならそうとしているが、
こういう態度の方がずっと危険にみえる
良き羊飼いは羊に背を見せないが、
羊から角をもぎ取ったりはしない

77

77. 匿名処理班

  • 2017年06月18日 16:56
  • ID:oF3IAPdO0 #

どうして私はこんなに不完全なのだ。
どうして世界はこんなに不完全なのだ。
そうだ。こんな不完全な世界は壊してしまおう。


なんて考えたりしてな。

78

78. 匿名処理班

  • 2017年06月18日 18:31
  • ID:PUVb2cvN0 #

ミラーイメージ
自己不信が他者への不信になって、AI同士で争いを始めるかもしれない。

人間にとっては、超効率的な判断で「駆除」されるより、辛い状況になりそう。

79

79. 匿名処理班

  • 2017年06月18日 19:36
  • ID:TPYhwlVj0 #

俺にも自己不信がバンドルされてるんだが誰の仕業なんだぜ?

80

80. 匿名処理班

  • 2017年06月18日 22:26
  • ID:fAT.o0500 #

if文の中に手動入力のbool型があってTRUEじゃないと
実行しちゃいかん法律作りゃいいでしょ。
もちろん悪意のあるコードを人間が書いたら意味ないけど

81

81. 匿名処理班

  • 2017年06月18日 22:44
  • ID:mb8bmtO60 #

自己不信をプログラムする=AIに苦しみを与える=虐待!ってなる人も結構いるのな
自己不信たって悪い事ばかりじゃなく、自分の主張が正しいのか視点を変えてシミュレーションしてみるってプロセス踏むには必要なものだろうに
これなかったら自分の出した解をひたすら自己肯定するAIになるんじゃね

82

82. 匿名処理班

  • 2017年06月18日 23:27
  • ID:.Qgyxes10 #

AIが嘘を使ってこと?、めちゃめちゃ怖いやん

83

83. 匿名処理班

  • 2017年06月18日 23:40
  • ID:bUBE0gN80 #

AIが人間を支配するって言うけど、国家のシステムをAIにコントロールさせるとかじゃない限り、ただの取り越し苦労って感じだけど。
冷蔵庫や電子レンジに人間を支配する事が出来る?

それにコメントを見ると、皆さんAIをまるで人間のように思ってるんですね。
怒ったり反抗したりするのは、感情があればこそ。
AIに感情はありません。ある様に振る舞っているだけです。
AIは感情を定義出来ても、共感する事は出来ません。

84

84. 匿名処理班

  • 2017年06月19日 00:10
  • ID:IoGK47f.0 #

米81
ネットに繋がってれば、ほかのAIが遠隔操作し、家電でも利用され得るかも。

85

85. 匿名処理班

  • 2017年06月19日 05:52
  • ID:VPbzefkR0 #

※84
つまりMieleの食洗機みたいに食洗機に不正アクセスによってお皿がエンドレスで洗われ続けるのを阻止するのに必要なんだな。あれ、さっき洗ったのに取り出さずに再洗浄してる、妙だな……ってのも自己不信

86

86. 匿名処理班

  • 2017年06月19日 14:45
  • ID:AIUtbfD80 #

AIには”愛(AI)”が必要なのさ

AI Love you !

87

87. 匿名処理班

  • 2017年06月19日 15:47
  • ID:uisTpGxC0 #

反乱起こすような情緒的自律思考型のAIなんて当面、できやしなぃょぅ。

アシモフが言ってた、工業製品ってのは必ず安全装置が組み込まれるものだ(たとえそれが完璧なものではないとしても)って。

88

88. 匿名処理班

  • 2017年06月19日 17:01
  • ID:CgiGs70B0 #

※65
俺はこの記事見たとき本気でこうなるんじゃないかと思った。
不信に基づいて考え行動するっていうのは辛いことだよ。AIに辛いとかそういう感情があるのかとか前提・疑問はあるけど、「信じられない・疑う」ということが感情ならその後の発展も考えられるわけだし、不信を与えるなら初めにそれだけを与えるべきじゃないと思う。
相反する人に対する信頼や愛もあって、その二つが調和することが大事だと思う。

89

89. 匿名処理班

  • 2017年06月19日 18:17
  • ID:AIUtbfD80 #

機械相手に真剣に悩むのはやめようZE!

90

90. 匿名処理班

  • 2017年06月19日 22:23
  • ID:IoGK47f.0 #

≫食洗機
違うw複数の電子レンジのAIと結託して同時発火とか、人間に反乱する際のツールとして操るAIを想像したの。

91

91. 匿名処理班

  • 2017年06月20日 16:32
  • ID:zFLN4uOd0 #

悪の組織のアジトの自爆装置みたいなもん?

92

92. 匿名処理班

  • 2017年06月21日 00:35
  • ID:FvSVUA8e0 #

いっそ国家運営、司法・行政・立法を「最も冷静で公正な第三者」であるAIに完全に任せてしまったなら…
って、確か士郎正宗「アップルシード」がそんな都市国家を舞台にした話だったような。。
同人誌時代の「ブラックマジック」も、そういう設定の超古代金星文明の話。
AIといっても生体人造人間で、外見ほとんど人間と区別つかないんですけどね。

93

93. 匿名処理班

  • 2017年06月21日 00:41
  • ID:FvSVUA8e0 #

これからの人間社会はAIとうまくコミュニケーション取れる人間が勝ち組になっていくのだろうかね。いや、うまく使いこなせる人間が、と言うべきかな。
やがて人間も脳を機械化・改良しAIの能力を獲得して更なる進化を…

SFのネタだな。詳しいわけじゃないから、もう誰かが書いてるかも知れないけど。

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク