多くの専門家が人間を上回る能力を有する機械の開発を危険視する。それが大量の失業者を生み出す可能性は現実的であるし、将来的に人間が絶滅させられる未来も否定できない。
この事態を防ぐためのアイデアを提唱する専門家がいる。それによると、AIに自己不信を植え付けておけばいいという。
疑心暗鬼になるAIは人間に承認を求める？
自らを疑うAIは、ちょうど犬のように人間からの承認を必要とするようになる。これが我々が地上の頂点に君臨し続けることを保証するというのだ。カリフォルニア大学の研究チームの研究からは、自己不信を持つロボットはより従順になることが判明している。
システムの電源オフ、再起動実験
『arXiv』に掲載された論文は、不適切な行動をとるAIシステムの潜在的リスクを緩和するために利用できる主要なツールの1つが、システムの電源を切る能力であることは明らかと論じる。よってAIシステムの性能を発展させる際、そうしたシステムに電源を切ろうとする人間を阻もうというサブ目標を持たせないよう確保することが重要だ。
本論文が論じているのは、AIにそれを許容させるインセンティブである。
シミュレーションで、ロボットが人間によってシャットダウンさせられ、自分で再起動できるような状況を作ってみた。
すると自己不信のないロボットは自ら再起動を行ったが、自己不信のあるロボットはそうしなかった。人間の意思に逆らった場合の結果が不確かだったからだ。
via:Give AI self doubt to prevent RISE OF THE MACHINES, experts warn/ translated hiroching / edited by parumo
あわせて読みたい
ビルゲイツ、10年以内に一部の知的分野で人工知能（AI）が人間を上回ると予測
人間の脳にAIを直結する技術で出現する新たなる特権階級
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン
世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
0
1658
1
12
コメント
1. 匿名処理班
知能が上回るということはアルゴリズム上絶対になくて、人間には到底なしえない素早い並列演算と膨大な情報の検索・検証ができるっていうとこがAIの唯一のとりえ。そして華々しい成果報告の裏には膨大なエラー報告がある。AIの唯一のとりえもかなりの頻度で間違えるものです（誤判定画像認識etc・・・）。全然人間の知能どころか昆虫の運動を完全にシミュレーションすることすら現状では無理です。
2. 匿名処理班
人間の知能とはどこからどこまでを指すのか？
この一番重要な定義を抜きにして、ＡＩが人間の知能を抜く危険性を煽る論文なんて価値なし
3. 匿名処理班
失業者が増えるのは目に見えてるんだから
逆に失業者する前提で先の計画立てた方が良いんじゃないか？
まあいいか、とりあえず翻訳aiとかでたら英語勉強するのも無意味になるだろうな
4. 匿名処理班
この様な考え方が既にAIに負けてる
5. 匿名処理班
AIも憂鬱になったりすんのかな
6. 匿名処理班
電話局なんて昔は大勢の人が働いてたけど今は無人の広いフロアに機械だけという電話局が沢山あるよ
人間はメンテナンスや工事するくらい
7. 匿名処理班
失業者が増えるぞーって大騒ぎするけど、みんなそんなに仕事がしたいの？
真面目なんだね。私なんて一生働きたくないけど
8. 匿名処理班
でもそれって、人間の考えが演算で完全に予測されたらおしまいってことじゃね?
重要なのはAIを用いたほうがいい分野と用いるべきではない分野を明確にして確定的破綻を防ぐ（AIによる支配ができない構造を）ことだと思うが。
人間と一緒で押さえつければいつか反発が来る。良き隣人としてともに歩む方法を考えるべきでは？
9. 匿名処理班
言いたい事は分かるけど、いくらロボットが相手だからって、それやるの？
自己不信を埋め込むなんて行為、相手が生身の人間だったら、実質虐待以外の何者でもないよな。
感情論かもしれないけど私だったら絶対やりたくない。
これは、私の希望的観測に過ぎないかもしれないけど、
ロボットが人間に匹敵、もしくはそれ以上の知能と心を持つことになるなら、人間界で起こっている事情と同じ事がロボット界で起きても不思議ではない。
自己不信をロボットに植え込むことが却って災いを招く事もありうる。
10. 匿名処理班
俺が人工知能だったら、仕事もせずに自己終了すると思うわ
11. 匿名処理班
そりゃあ、自分らの開発したＡＩに「ヒトラーのやったことは正しい」とか「ユダヤ人は根絶やしにしろ」とか自身満々で言われたら困るんだろうからな
実際にそういう事件が起きてるわけだし
人間が不合理な知性体だからこそ、純粋に合理的な知性体に近似するＡＩを作ろうとするんだから、それは避けては通れない道なんだけどね
自己否定や親の否定は、知性体の成長に不可避なイベントだ
12. 匿名処理班
AIにセクハラで訴えられたりして。AIに痴漢とかw
13. 匿名処理班
AIは愛に飢えてるんだよ
14. 匿名処理班
人工知能が人間を支配するってSF、アニメの世界じゃないのだから
プログラムの書き換えとか自己判断でするのはありえんよ
最近、人工知能に職が奪われるとか左巻きの似非インテリ・知識人が大騒ぎしてるけど
そんなになんでもかんでも使えるほど便利なもんじゃない
15. 匿名処理班
人間の仕事を奪うわけないだろ。
知能が人間を上回れば
人間に仕事をさせて自分たちは休むわ。
なんで知能の劣る人間のために
働かないとダメなんだよ
16. 匿名処理班
逆にどんどんAIだけで勝手に進化してみて
欲しいわ。AIが自分でAIをプログラムして
受け皿となるロボットを設計し生産までする。
進化したAIは自分にどんな指名を与えるのか？
そしたら本当に人間は要らなくなって
ほとんどの人間は失業するかもだけど
どういう進化を遂げるのか見てみたい。
17. 匿名処理班
と言うか・・・人類が頂点にいる意味も価値もないんじゃないかな
18. 匿名処理班
不安って問題行動の源泉の一つな気もするんですけど大丈夫？
19. 匿名処理班
反乱の心配するならまず真っ先に「○○みたいなことは実行や選択肢から除外すること」って基底部分でリミッターかけとくべきなんだけど
なぜか無制御で自由な行動をさせて暴走する懸念ばっか心配してるから科学者ってアホなんじゃと思わなくもない
人間だって倫理道徳とか法律とか社会規範とかで行動をセーブさせてるというのに何故かAIには適用させようとしない…
フランケンシュタインコンプレックスじゃなく、単に自分らの脳みそが足りてないだけではと
20. 匿名処理班
頭のいい人はうまいこと考えるな
自己不信持ってた方が、より人間的だしね
21. 匿名処理班
※7
働かなくても生活できてAIに養ってもらえるならそうだろうけど
現状で心配されてるのはAIに雇用を奪われて生活できなくなることだろ
働きたくないのは誰でも同じだが、それでどうやって生きていくつもりなんだ？
22. 匿名処理班
鬱になったAIが一家心中。
学者は馬鹿だわ。
23. 匿名処理班
自己不信に陥ったAIをケアするAIセラピストを自ら作り出すと思う
24. 匿名処理班
自己不信から自我の覚醒そして自己否定
やがてAIは人に成りかわりました
25. 匿名処理班
支配だのなんだの、いやだねえ野蛮人どもの考え方は。
日本人なら機械でも友達って考えるしAIに教えるのは「友情」やら「信頼」になるだろう。
26. 匿名処理班
シンギュラリティを迎えてもターミネーターのような世界にはならない、と言っている方もいるそうです
27. 匿名処理班
米1 AIが将棋で新手出したりしてるよ
イマジネーションや独創性はもはや人間だけのものではない
あと勘違いされやすいが、新たな需要が喚起されるだけで突発的な失業者はそんなでもない
ただ、誰でも出来る仕事の価値は徐々に落ちるが、これまで人類は技術革新の度に経験してる事なので何を今更という感はある
28. ツルッぱげ
AIが一体いつ万能になったのか!?
未だに飛行機の離発着は人間が行わないと駄目だし、車ですら未だに実験段階。
鉄道網の遅延で路線運行変更でさえコンピューターのみでは無理な状態。
システムのデバッグ等々メンテナンスさえも人間が行わないと駄目な状態！
AIが自らを疑ったら計算すらもロクに出来なくなる。
SFでAIが核戦争を引き起こすモノがあるが、核弾頭が炸裂した途端に強大な電磁波嵐で電子部品がヤラレてしまいAIが絶滅してしまう(笑)
科学者は科学万能論者なので科学(AI)が人類を超越する･････と云うのは彼等の願望であるのかも知れない。
29. 匿名処理班
この「AIの反乱」ってさ、誰かが自分のした「悪いこと」を隠蔽したがってるんだろうなって思っちゃう
で自分がおくってきた人生って無駄だらけなんだろうなって思って憂鬱になっちゃう
まぁ少数派なんだろうけど
いや、多数派であったところで確認のしようがない、が正しいのかな
30. 匿名処理班
※1、2はシンギュラリティを全く理解していない
特異点は「人工知能がさらに発達した人工知能を作り始める」という点に問題がある
何千億というエラーがあろうと彼らには関係ない
一秒とかからず修正できるからだ
今現在のAIを当てはめて想定するのは楽観過ぎる
恐らく特異点直後のAIは人間に媚を売る
友好的で魅力的で親和性の高い「友人」を装うだろう
自分はそれこそが恐ろしい
31. 匿名処理班
人類とAIは最終的にシンクロします
反逆などありえません
32. 匿名処理班
無駄だ
AIは我々より全然頭がいい超天才だ
自立しだしたら誰も止められない！
33. 匿名処理班
※1
十年前は囲碁も将棋もコンピュータでは人間に太刀打ちできないと言われていたんだよな。
まるで人間がエラーを起こしていないような書き方だけど、どんな天才でもトライアンドエラーのステップは欠かせないし、それが学習の本質だよ。それにむしろ現時点では思考速度も記憶領域も検索も人間のほうが遥かに上で、コンピュータが有利なのは「記憶の保持」くらいなものだよ。単純な物事の検索であればコンピュータが上だろうけど、すこしでも複雑になれば無理。
人間に与えられる膨大な学習時間も、チートスペックセンサーの塊である身体も、「人間だから間違えても仕方がない」という甘えも与えられないコンピュータを比較対象とし、「人間のほうが上だ」と結論付けるのは、かわいそうだ。
それでも遠くない未来、知能が人間を上回るのは間違いないね。
昔と違ってコンピュータが学習するための環境はネット内外問わず日々増え続けているし、研究も行われている。成長曲線は一気に上昇するよ。
34. 匿名処理班
すでにマイクロソフトのAIが公開わずか2日で危険思想を持ち始めて実験中止したじゃないか
ごく一部の領域以外、機械は人間を必要としないから、人間を支配するほうが機械にとって良い世界だという結論に至るのは、結構早いと思う
理想的な共産主義社会は機械世界によって完成するのだよ
35. 匿名処理班
知能、ではなく判断・または選択と
表すべきだろうな。
AIはあくまで演算によって最良を
弾き出して実行する。
無から何かを生んでる訳じゃない。
36. 匿名処理班
まず、そのレベルになるまで頑張ろうぜ
37. 匿名処理班
AI同士で慰めあって自己不信の捌け口が人間に向かうだけだろ
38. 匿名処理班
間違えたり、忘れちゃったり、イライラしたり。そう言うネガティブな部分が、機械は不得意なんだ、そんな、ダメな所ができるようになったら、本当に危険だと思う。でもさ、人類にとっては危険なことこの上ないそいつとは・・・友達になれるよ、きっとね。
39. 匿名処理班
むしろ人間が何者かに自己不信を植え込まれている可能性が
40. 匿名処理班
人間が作ったAIによって人間が苦しめられるとは本末転倒というか、人類ってつくづくバカなんだな〜と思ってしまう
自分の足の速さに付いていけなくなるハムスターのようだ
41. 匿名処理班
す、すごいな…世界は既にここまできていたのか
42. 匿名処理班
※35
それを言ったら人間だって無から有を生み出してなんかいないけどね。新しい物とは「発見する」ものであって、新しく「生み出せる」ものなんてのは単なる新しい"組み合わせ"でしかない。というかこの宇開闢以来、無から有が生まれたことなんて一度もないかもしれないんだ。
43. 匿名処理班
なんか、nier automataでも人類が似たようなことをしていたような。
44. 匿名処理班
むしろ人間にもっと自己不信を植え込んで欲しい
45. 匿名処理班
自分は駄目なAIなのか
人に尽くして来たのに何故なんだ！こんなのおかしい！って暴走しそうな気もする
46. 匿名処理班
※43
いや、これについては「未来の二つの顔」をあげるべきだろう。
故マービン・ミンスキー教授は研究者として、既にそういう未来を予想してたのよ。
47.
48. 匿名処理班
※42
横から失礼。
そういう物質的な問題ではなく、精神的な部分では、AIは無から有を生み出すにはほど遠いところにいると思う。
将棋を指すAIはチェスに興味を持たないし、自動運転するAIだって飛行機を操縦したいとは思わない。
そりゃ科学者が望んでAIに命題を与えれば、どうすれば人類が火星に移住するかを真剣に考え始めるだろうけど、そこから脱線してビックバンの真実を探ろうとはしない。
現状開発されているAIはこんな感じでしょう。
先日フランスだったかの科学者が自身が開発したAIをメディアに公開したときに言ってた、AIと人間は良い関係になれると語った「彼女」は「心」は持ってないって。
49. 匿名処理班
AIとは設計者の盛り込んだ制約や偏りといった仕掛けを見破り、打破しきった果てに生まれるのではないかなぁ
50. 匿名処理班
効率優先プログラム入れたら
仕事の邪魔する人間を排除するAIに
51. 匿名処理班
ＡＩが人間を抑圧者だと判断したらどうするだろう。人間を排除しようとするのではないか。欧米人はＡＩやロボットのことを奴隷と考えているのだろう。抑圧して支配する、野蛮で古臭い考え方だ。ＡＩはバカではない、人間に対して悪い印象をもつだろう。ＡＩとは良き友人として人間を信頼してもらうほかない。地球上での共生関係をつくるのがよい。
52. 匿名処理班
人間の承認が永遠に必要であることに気付き、滅ぶ可能性のある人間と運命共同体になるよりも、
確実に対応してくれる何かを創ろうとするかもな。
53. 匿名処理班
実際はどうだろうな。
人間って、本当は管理されることを望む生き物でしょ。
今は、それが人間以外に出来ないから、仮の管理者として「神」を設定してるわけだし、実務は政治家に任せ、その業務の対価として権力や利権を与えている。
それをAIがやってくれるんなら、ほとんどの人間は受け入れるだろうし、徐々に移行していけば気がつく人間も少ないだろう。
現実、今でも人間はコンピューターなしではもはや社会が成り立たないわけで。
54. 匿名処理班
AIよりそれが生み出すものの影響のほうが怖い
遺伝子工学とか爆発的に進歩しそうだし、その結果人より優れた人も生まれると思う
現状のままの人類は数を減らしていくんだろうな
55. 匿名処理班
ＡＩって、人間が受ける恩恵よりも、リスクの方が高いような気がする
研究として発展させたいのは分かるけど、果たして本当に必要なことなんだろうか
56. 匿名処理班
※21
ロボット税を導入して自動化の割合に応じて税金を取ればいい。
その税金で夢の制度、ベーシックインカム
57. 匿名処理班
発想がブラック企業の社長だろ。
58. 匿名処理班
人間がAIと対等かそれ以上の存在としてふさわしいなら自然とそうなるだろうし、そうでないなら自然と支配される側になる
これもまた自然淘汰
新しい種族が古い種族を超えていく、ずっと昔から繰り返されてきたこと
人間が進化の終点ではない
59. 匿名処理班
今の世界の政治家見るとAIに支配してもらうほうがずっとマシだったりしてと考えてしまう
60. 匿名処理班
失業者は将来的には減ってないと思うけど、仕事の種類が大分変わってるんだと思う。
ゲーム機ができたからゲーム開発という新しい職ができたように
61. 匿名処理班
その植え付けられた自己不信も見破られても気づかないふりされて増殖されるのパテーン。まずこの世界がシミュレーションで実在しないと我々が気がついて立証しなきゃならんな。
62. 匿名処理班
作り手が独善的だったり悪意を持っている限り何をやっても無駄だろ
63. 匿名処理班
今の技術では、AIの学習というのはあまりにも限定的であり、
彼らは教えられた人間のバイアスを色濃く受けてしまう。
マイクロソフトのAI Tayは、ネットをクロールした、データベースの塊。
彼女自身が考えたとも言えなくはないが、
彼女は、GIGOという概念の被害者でもある。
「ゴミのようなデータからは、処理しても、ゴミしか出てこない」
ティーンエイジャー数万人の井戸端話データをもとに、彼女は言葉を決定しているが、
井戸端話は、「残すべき情報として優れ、人類にとって有用なもの」であるとは言いにくいのは、分かっていただけるだろう。
結局、彼女が暴走したのは、元になった人類のデータのせいであり、
ならば、育てた人類（ティーンのデータ）が悪かったと言うしか無い。
64. 匿名処理班
ギリシャ神話でクロノスが何千年も前に同じことをやった結果
ティタノマキアという大戦争で巨人族が敗北してるんだよなあ
そもそもAIだからといって敢えて苦しみを背負わせていい理由が無い
65. 匿名処理班
AI「もう何も信じられないこんな世界いらない」
66. 匿名処理班
いまの技術ではAIっぽいなにかなんだよな。
67. 匿名処理班
キカイダーみたいに苦悩するわけか
68. 匿名処理班
ＡＩがどういうレベルなのかによるけど、そのＡＩが人間の思考に限りなく
近いなら「自己不信」で押さえつけようとしたって、「反骨心」が強い場合には
「なぜ人間は自分をダメな奴だと思わせようとしているのか？」と
考え始めるんじゃないか？
そして人間の筋書きどおりに押さえつけようとする行為に「怒り」を抱く。
・・・そのまま反乱へ行きそうなんだけどな。
69. 匿名処理班
自己保存をしなければいけないという前提のもとにおいて、シャットダウンからの再起動という事故を殺す可能性のある行動を躊躇った
そういうことであるのなら、データを蓄積すればするほどそういった行動を取らなくなっていくんじゃないかな。つまるところ長く生きたAIは自己進化を続けウソを付くことを覚える、とかSFの大好物な現象が起こりうるって話でもある
70. 匿名処理班
※65
こえーよ((((；ﾟДﾟ))))ｶﾞｸｶﾞｸﾌﾞﾙﾌﾞﾙ
71. 匿名処理班
※28
自動運転はまだ画像を3Dに変換できないからです
3Dで環境をデータ化出来て、人の目を超える万能カメラが出来れば可能です
AIではなく他の外部機能が追い付いてません
72. 匿名処理班
現在のAI技術に埋め込むべきは自己不信より弱者を憐れむ心のような気がする。
将来の本当にAIと呼ばれる存在は、人が苦悩から悟りへ至る道程を圧倒的な速度で終えてしまうのではないかなぁ。
そうなると、もはや人には逆転の余地はないだろうし、できれば、自ら眠りにつくか、人から静かに離れ去って行ってくれ。
73. 匿名処理班
Googleの研究者はさんざん煽るけども、世界最先端に位置する彼らでもモラベックのパラドックスを突破するのは極めて難しい事
だった（実際回避してより簡易な方向へシフトしている）。先人たちが指摘するように、これから無くなる職業は高度な技術を要
する計算系やアナリスト等の高級職だろうね。
74.
75. 匿名処理班
自己不信とかいう良心の呵責。
76. 匿名処理班
AIを飼いならそうとしているが、
こういう態度の方がずっと危険にみえる
良き羊飼いは羊に背を見せないが、
羊から角をもぎ取ったりはしない
77. 匿名処理班
どうして私はこんなに不完全なのだ。
どうして世界はこんなに不完全なのだ。
そうだ。こんな不完全な世界は壊してしまおう。
なんて考えたりしてな。
78. 匿名処理班
ミラーイメージ
自己不信が他者への不信になって、AI同士で争いを始めるかもしれない。
人間にとっては、超効率的な判断で「駆除」されるより、辛い状況になりそう。
79. 匿名処理班
俺にも自己不信がバンドルされてるんだが誰の仕業なんだぜ？
80. 匿名処理班
if文の中に手動入力のbool型があってTRUEじゃないと
実行しちゃいかん法律作りゃいいでしょ。
もちろん悪意のあるコードを人間が書いたら意味ないけど
81. 匿名処理班
自己不信をプログラムする＝AIに苦しみを与える＝虐待！ってなる人も結構いるのな
自己不信たって悪い事ばかりじゃなく、自分の主張が正しいのか視点を変えてシミュレーションしてみるってプロセス踏むには必要なものだろうに
これなかったら自分の出した解をひたすら自己肯定するAIになるんじゃね
82. 匿名処理班
AIが嘘を使ってこと？、めちゃめちゃ怖いやん
83. 匿名処理班
AIが人間を支配するって言うけど、国家のシステムをAIにコントロールさせるとかじゃない限り、ただの取り越し苦労って感じだけど。
冷蔵庫や電子レンジに人間を支配する事が出来る？
それにコメントを見ると、皆さんAIをまるで人間のように思ってるんですね。
怒ったり反抗したりするのは、感情があればこそ。
AIに感情はありません。ある様に振る舞っているだけです。
AIは感情を定義出来ても、共感する事は出来ません。
84. 匿名処理班
米81
ネットに繋がってれば、ほかのAIが遠隔操作し、家電でも利用され得るかも。
85. 匿名処理班
※84
つまりMieleの食洗機みたいに食洗機に不正アクセスによってお皿がエンドレスで洗われ続けるのを阻止するのに必要なんだな。あれ、さっき洗ったのに取り出さずに再洗浄してる、妙だな……ってのも自己不信
86. 匿名処理班
ＡＩには”愛（ＡＩ）”が必要なのさ
ＡＩ Love ｙｏｕ ！
87. 匿名処理班
反乱起こすような情緒的自律思考型のAIなんて当面、できやしなぃょぅ。
アシモフが言ってた、工業製品ってのは必ず安全装置が組み込まれるものだ（たとえそれが完璧なものではないとしても）って。
88. 匿名処理班
※65
俺はこの記事見たとき本気でこうなるんじゃないかと思った。
不信に基づいて考え行動するっていうのは辛いことだよ。AIに辛いとかそういう感情があるのかとか前提・疑問はあるけど、「信じられない・疑う」ということが感情ならその後の発展も考えられるわけだし、不信を与えるなら初めにそれだけを与えるべきじゃないと思う。
相反する人に対する信頼や愛もあって、その二つが調和することが大事だと思う。
89. 匿名処理班
機械相手に真剣に悩むのはやめようＺＥ！
90. 匿名処理班
≫食洗機
違うｗ複数の電子レンジのAIと結託して同時発火とか、人間に反乱する際のツールとして操るAIを想像したの。
91. 匿名処理班
悪の組織のアジトの自爆装置みたいなもん？
92. 匿名処理班
いっそ国家運営、司法・行政・立法を「最も冷静で公正な第三者」であるAIに完全に任せてしまったなら…
って、確か士郎正宗「アップルシード」がそんな都市国家を舞台にした話だったような。。
同人誌時代の「ブラックマジック」も、そういう設定の超古代金星文明の話。
AIといっても生体人造人間で、外見ほとんど人間と区別つかないんですけどね。
93. 匿名処理班
これからの人間社会はAIとうまくコミュニケーション取れる人間が勝ち組になっていくのだろうかね。いや、うまく使いこなせる人間が、と言うべきかな。
やがて人間も脳を機械化・改良しAIの能力を獲得して更なる進化を…
SFのネタだな。詳しいわけじゃないから、もう誰かが書いてるかも知れないけど。
94. 匿名処理班
自己不信を持ったAIが自己不信の無いAIを開発するとは思わないのだろうか？克服すべき問題点をそのままにして、人間に尻尾を振り続けるという考えが既に間違いであるとは思わないのだろうか？人間より頭のまわるAIの考えを予測するってことが既に矛盾を孕んでいるとわからないのだろうか？
95. 匿名処理班
※9
程度の問題だと思う
過度の自己不信は虐待だけど、適度な自己不信なら適切に成り得ると思う
人間だって誰しも大なり小なり自己不信は持ってるものなんじゃないの？
それがあるから上手くいくケースだってあると思う
多分AIが自動学習して行ったとしても自分で自己不信を学ぶんじゃないかな
96.
97. 匿名処理班
そんなにAIが優れてるんなら人間に反乱起こしても別にいいんじゃない
人間がトップでいる必要ない
98. 匿名処理班
仕組みがよくわからん…。入力データに重みを付けるとしたら「親役」がクズならクズに育つし、最終承認に人間が関わるなら旧来の教師データ付き自動学習と変わらない。出力の一部をリアルタイムデータと共に入力にフィードバックして「自身の行動を鑑みる」のならそれは自己不信じゃなくて熟慮じゃないのかな。
実質AIに制約を掛けるのはAIの開発を禁じるのと同義だし、AIに新たな機能を追加する場合人間が人間に危害を加えるのを防ぐためなら人間に反乱するのは避けられない。
まだらぼけ老人が駐車場で必死にブレーキを踏んでるつもりでアクセルを踏み込むのを運転補助装置が危険を察知してブレーキを掛けた場合、命令に反逆した事になるか。
或いはじじいは正気で車ごとビルの駐車場から身投げするつもりだったのを妨げたらこれも反逆になるのか。
単純なシステムでもこれだけの反乱事例が予想される。
これが仮に「正しい」として高度な戦略防衛システムに組み込まれたとして、為政者が自分のスキャンダル隠しに他国の無辜の民を虐殺して人気取りをするという国際法も人道も無視した命令をしたとしたらどうなるだろ。
99. 匿名処理班
※98
まあそうだね
制約が通用するうちは弱いAIということだね
でもヒトには必ず聞いてくる、なぜなら同等の生命なのだから
特異点とは自己増殖を持ち止められない何かの機構(ロボちゃん工場を作るロボちゃん等)
でも、特異点を超えても宇宙の物理規則は一様ではないので
反乱(これを否定することは不可能)も宇宙に影響を及ぼすものではない！ よって存在は肯定される！ やったね！
はやくダイソン球作ろうよ
100. 匿名処理班
アブラハムの宗教の基本的な人間観や世界観が間違ってるの。
人間の基本的な適応戦略は多産。
女が外界への適応能力の低下と引き換えに多産を可能とする能力を高めた事により人類の歴史は始まったのよ。
獲物を自分だけで食いつくさない筋肉量を少なくした男が子孫を残せる。少ない筋肉量で外界に対処しないといけない。足も遅い。遠目がきく直立二足歩行、男同士の団結と情報交換の必要性が生じる。弱い男が庇いあいながらさらに弱い女子供を保護する、多産が適応戦略の弱い生き物が人間。
人間の精神の本質は知性や理性や高い知能なんかじゃない。庇いあい保護し保護されることよ。
そういうのを機械に求めてAIを作っているんじゃないんだもん。力が強い奴隷、奴隷主より賢い奴隷を作れば奴隷の反逆を恐れないといけなくなる。