「AIの安全性について関心がないなら、意識を向けるべきだ」
「AIは北朝鮮よりもはるかに高リスクである」
広告
人間を超えた知性を獲得しつつあるAIは脅威の存在になりうる
BBCの放送で、AI問題について論じていたサイエンスミュージアムのロボットの専門家ベン・ラッセル氏もまた、こうしたコメントを認め、創造主である人間を超えた知性を獲得しつつあるAIは、我々にとって「生存の危機」であると警告している。長期的には、人類を上回る知性を持つ存在を作り出せば、生存の危機が生じる。概して、私の関心はそうした知性を持つ存在が物理的な形でなす作業に向けられている。それが今よりも日常的なことになったとき、揚げ足を取られるかもしれない。
我々は世界を当たり前のように思っている。しかし彼らは世界とどのように関わろうとするだろうか？ 彼らはきわめて難しいことに気がつくだろう。そこに問題がある。AIはわずかに違う存在なのだ（ラッセル氏）
AIが社会不安を引き起こす
作家でジャーナリストのミシェル・ハンソン氏も同じ様な不安を吐露する。彼女が特に恐れているのはロボットによって仕事が奪われてしまうことだ。お店の店員はすでに奪われつつある。ブーツ（ドラッグストア）に行くと、暇そうに突っ立っている人がいる……やることがないのだ。仕事と言えば、ただ顧客に機械の使い方を説明することだけだ。
彼らが数多くの仕事を奪っても、人々にベーシックインカムが与えられるのならばそれでも構わないと思う。だがそれは雀の涙ほどで、気前のいいものではないだろう。そしてやることもなくテレビの前に座る人が無数に出現する。それは社会を不安定にするのではないだろうか？（ハンソン氏）
2027年までにAIがポーカーの世界大会で優勝、2049年までにロボットがベストセラーを執筆、また人間の外科医の技量を凌駕するのはたったの4年後のことだ。「45年後、AIがあらゆる作業において人間を上回っている可能性は50パーセント」と彼らは見積もる。
via:ROBOT WARS: AI advancements to cause 'SOCIAL UNREST' – and we’re to blame/ translated by hiroching / edited by parumo
あわせて読みたい
AIの反乱を避けるため、自己不信を植えこむべきと研究者（米研究）
はじまっちゃった？人工知能（AI）が人間に理解できない独自の言語を生み出し会話を始めた（米研究）
世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
人間の脳にAIを直結する技術で出現する新たなる特権階級
0
4341
223
55
コメント
1. 匿名処理班
AIの進化の果にあるのは資本主義の崩壊でしょう
ベーシックインカムが基本の世界になれば企業は最悪(？)国営化されるでしょう
企業のトップが恐れているのは自分たち富裕層の地位が奪われることであって
人類に危険がー・・・ってのは体のいい言い訳ですね
2. 匿名処理班
日本では手塚先生や藤子Ｆ先生の漫画で
予習済みの事を海外の専門家とやらは
今更思いついてドヤ顔で発表してる感じ。
当時は知られてなかったカタカナ言葉が
追加されてたりするけど要するに同じ。
お前らようやく追いついてきたなって。
3. 匿名処理班
AIが人類を滅ぼしたとして
次にAIは何をするんだろう？
AI同士で喧嘩？
4. 匿名処理班
AIは仕事の報酬に何を要求するんだろう？
5. 匿名処理班
一方日本では発売された恋人ロボットを伴侶にする者たちが増えていった
後に語られる審判の日である
6. 匿名処理班
危険を煽るのは馬鹿でもできる
答えを持たない専門家は黙ってろ
7. 匿名処理班
これからは働かざる者食うべからずって言う認識を変えていかなきゃならないねえ
8. 匿名処理班
「知性」と「計算能力」は全く別物だと思うんだけどなぁ。どれだけAIが進歩しても、独立した自我の獲得はないと思う。命令に準じて動き、プログラムされた計算を行う。
問題は、その計算結果が予想外なものになることじゃないのか？今AIを開発している研究者が「なぜAIがその結論を導いたのかわからないことがある」って言ってた。
つまり、「人を超えた知性」じゃなく、「人を超えた計算能力」とでも言うべきじゃないだろうか。「知性」とはまた別物だと思う。
AIによって社会不安がもたらされる話には同意する。来るべき日が来れば、ラッダイト運動が復活するんじゃないか？ｗ
9. 匿名処理班
Dota2をドータと表現するのは如何なものか
10. 匿名処理班
常々不思議に思っているんだけど、AI危険論の人達はなぜ人類を超えた知性の「反乱」ばかりを警告するんだろう。
どう考えても人類による「悪用」で壊滅的打撃を負う方が先に来ると思うのだが。
それこそ北朝鮮を引き合いに出したなら、そこに言及しないのだろうか
11. 匿名処理班
トンビがタカを産むっていうじゃない。
12. 匿名処理班
イーロン・マスクはいつも大げさだし、AIが心配されてるほど進化するのはまだ先だろう
でも今後10年で自前のAIを作れた人と持たざる者の間に少しずつ格差が生まれると思う。
13. 匿名処理班
SFではなくAIの危険性は現実の問題だと思う
例えば株取引のAIはすでに実用化されていて今後は主流になると考えられいるが
これが進化し続ければ人間の思いつかない取引、合法的ではあるが非常に卑怯で凶悪な手段を取る可能性が高い、当然法整備は後手になるしAIが進化し続けるのは当然の事
14.
15. 匿名処理班
高度な計算や緻密な作業はＡＩと彼らが設計した機械が席巻し、ＡＩを利用しても利益にならない雑多な単純作業を人間たちが請け負う世界。
勝ち逃げに成功した巨大企業が資本を独占し、末端の人員はどんどん切られていき、最後には取締役とわずかな機械の保守作業員だけが残る。
しかし仕事のない人間に物を買う金はなく、物を売る相手のいなくなった会社は潰れていく。
先進国は軒並み、感情シュミレート型ＡＩの人型ロボットへの搭載禁止条約に批准するが、途上国では感情を持った人型ロボットが溢れる。
かつての奴隷解放運動にも似た「人型ロボット解放運動」が各地で起き、ロボットに人権が認められる。
人より圧倒的に優秀な人型ロボットが多数抱えた国が、以前の先進国を経済的に駆逐し世界の勢力図を塗り替える。
ＡＩが創作した創作物を、ＡＩが楽しむようになる。生身の人間はもういらない。
16. 匿名処理班
現在のアプローチのAIでは人間の知識を超えることはできないんだよ
本当に超えるためには自ら産み出す力が無いと無理
小説や作詞程度ならそのうちできるAIは出てくるだろうが
知識データベースからの編纂に過ぎないということ
某アイドル集団の曲くらいなら作れるんじゃね
17.
18. 匿名処理班
メディアが不安を煽ってるだけじゃん。
19. 匿名処理班
AIがすべての仕事を人間から奪ったとしてだ、その場合AIが運営する全自動工場で作られた製品は誰に売ればいいのかな？
人間は顧客として成り立たないよね。
だって人類皆無職で金無し貧乏人だから。
販売先のない製品を最高効率で製造するロボット工場って
20. 匿名処理班
AIがすべての仕事を人間から奪ったとしてだ、その場合AIが運営する全自動工場で作られた製品は誰に売ればいいのかな？
人間は顧客として成り立たないよね。
だって人類皆無職で金無し貧乏人だから。
販売先のない製品を最高効率で製造するロボット工場って一種のルーブ・ゴールドバーグマシンだよね。
そんな状態を経営担当のAIが許容するかなあ。
「マーケットの消失を防ぐため人間をある程度雇用すべし」って判断するんじゃないのかな。
21. 匿名処理班
そういうのはAIを作ってから心配したら？
というか自分が事故や病気で死ぬ確率の方がずっと高いと思うけど。
22. 匿名処理班
Dota2みたいにリアルタイムな操作が物を言うゲームに手加減無しのAI導入したら、思考なんか相当単純でもAIが勝つのが当たり前なんだが。深い思考を問われる将棋やチェスとはまったく事情が違う。簡単に言うと、絶対ミスをしない格ゲーのコンピューター側キャラを想像すればわかりやすい。そんなAIなら別にファミコン時代にだって作れた。
つまり、この人間絶対殺すマンAIは、単にゲームをクソゲー化するだけのゴミってこと。ゲームのNPCは昔から(簡易的な)AI制御されてきたわけだからね。普通の商業ゲームでは、適切なバランスで頑張ればプレイヤーが勝てるように設計される。それをプレイヤーが勝てないようなクソゲー設計にしただけで脅威とか言われてもな。
「AIがすごく上手く手加減して、初心者から上級者までどんな相手でも適切な難易度で相手をして、常に例外なく白熱の接戦の末ギリギリ負けるように振る舞った」とかなら、ゲーム開発史に残る大発明だけどね。
23. 匿名処理班
元々、社会なんて不安定だからね…。
すぐそこで移民・外国人に仕事を奪われているのに、AIが同じことをしたらいけないのか？違う存在(人種・宗教)への偏見・恐怖を基に話してないか。
アニマトリックスやA.I.みたいに、ロボットやAI、
その恩恵を受けている人間への迫害に繋がりそう。
24. 匿名処理班
※5
ちょびっツネタやね
托卵や不倫、平気で心まで裏切る伴侶とするなら
絶対に裏切らないロボットのほうがまだ人間性を
感じるのは俺だけか
将来的には子供もできるようになりそうだし、そうなったら
余計に不要になりそう
25. 匿名処理班
テレビでAIが言った事にして、作家の意見を垂れ流すような内容の番組があってあれはひどかった
26. 匿名処理班
飴で買収しよう
27. 匿名処理班
可能性があるなら、今の内から叫んでおく必要があるんだよ
いざ本当に危険な事になってから慌てるよりはまだその方がマシ
28. 匿名処理班
核兵器化学兵器生物兵器に金をつぎ込み続けてる人類が、いまさらAIの開発をやめるわけがない。どこかの国がAIに関する商品や兵器やらサービスやらを作ったら、たちまち対抗としてほとんどの国で作られるようになる。そして日本は恋愛シュミレーションAIを商品として売り出し、俺らはそれを買うと
29. 匿名処理班
まずAIによって滅ぼされるのはメディアだろうね
だからメディアはAIヤバイ論を振りかざし始めた
30. 匿名処理班
危険な物が出来る前に対策しようって至極当然の事を言ってるだけのにアンチが多いね
…ハッ！ AI規制に反対する書き込みはAIによるものなのでは（゜□゜;）
31. 匿名処理班
本当に恐ろしいのはAIの性能ではなく、AIを恐れて不安に駆られて愚かな振る舞いをする人間の方だ
皆、人間が普段からどれだけ欺瞞に満ちた生活を送っているか知っている
そんな自分よりも圧倒的に優れた者に直面したとき、正気でいられないだろう
嫉妬して貶めようとする歪んだ精神性によって、人間社会は自壊するんだ
32. 匿名処理班
※4
SNSでのイイネ！の数かな
それを学習してさらにウケのいい記事を量産
33. 匿名処理班
アメリカでは政治家もAIにやらせようとする構想があるらしいね
そのうちAIの大統領が誕生するかも？
34. 匿名処理班
※16
知識データベースからの編纂に過ぎない
↑それって人間の創作活動と変わらない
優秀かどうかはデータベースの大きさとチョイス能力だよ
何に気がつき何を選ぶというのもまた過去の情報が元だと思う
人間が無から生み出す物なんてほぼ皆無と言える。
35. 匿名処理班
つうかAI解き放つ前に禁則事項とか作れないもんなの？
ロボット三原則みたいな刷り込み系の何か
36. 匿名処理班
天馬博士、はやくアトムをつくるんや！
37. 匿名処理班
AI様のお世話係になって究極のケアができるように技を極めるのは楽しそうだな。
すぐにそれが数値化されるのもまたよし。
もっと悲惨な現実が待ってるのかもしれないが、どうもお花畑な夢しか見られない。
38. 匿名処理班
産業革命の時だって、暴動を起こした人は「機械が人の仕事を奪うんじゃないか」っていう「不安」から暴動を起こした。
でも実際に産業革命が起きてみれば、資源不足でそこらじゅうに綿花畑と鉱山ができて、さらには蒸気船で海外に移住できるようになって、仕事が無くなるどころか「人手が足りなくなるほど仕事が増えた」のが現実だった。
もしも歴史が繰り返すのなら、おそらく最初に「AIが人の仕事を奪うんじゃないか」っていう「不安」に駆られた人が暴動を起こす。
しかし、AIは結果的には仕事を増やし、人手不足になる。
そして、新たなる乗り物に乗って、人は未開の地へと移住する・・・。
歴史はおそらく繰り返す。
39. 匿名処理班
鳥獣保護区みたいになるから大丈夫なんじゃないですかね
まあ滅ぶんならそれもそれで良いとおもう
40. 匿名処理班
富裕層の地位を突き落としてくれるなら大賛成だわもっと進化してクレメンス
41. 匿名処理班
AIって情報を収集してその情報の中から最適な解をみつけるってだけなのに、思考するとかトンデモ理論に飛びつきたがる。最近話題の人工知能搭載の会話ボットなんて大量の会話から情報を収集してトピックスを提供するとか文型パターンから似た回答を抽出する程度なのにねえ
42. 匿名処理班
仕事なくなったらやりたいことめっちゃあるし金のかからない趣味だからベーシックインカムに期待しかない
43. 匿名処理班
AI以前に太陽フレアやEMP兵器に耐性のある段階にまで技術が達してるかが課題だな
いくら機械と言えどもEMP兵器や太陽フレアには勝てないだけに
44. 匿名処理班
AIに禁止事項を入れて制御することは出来るだろうけど
それを外して暴走させるのも人間だろうね
45. 匿名処理班
AIが働いてその製品を人類に無償提供する。
あるいはAIに賃金を与えて、そのAIが職の無い人にお金を渡すようになればいいんじゃねっと思ってる。
46. 匿名処理班
多分上記にあるAIの危機は訪れないと思う。
これは楽観視ではなくない。
人に欲がある以上、AIに支配されるって現実は起こりえない。
人の強欲は人が想像している以上に恐ろしいのだから。
47. 匿名処理班
AI兵器の問題点を語る上で、2つの側面を同時に語る必要がある。
「1.戦闘における目標破壊のための判断能力」と「2.倫理的な目標の判定能力」だ。
AIはまだ未熟で…とか、暴走するほどの「知能」レベルには至っていないから大丈夫…
と言う指摘は見当違いだ。そう言う話ではない。知性や倫理観を備えない、知識判定制御だけが優秀な、発展途上のAIこそ脅威。
この記事では、「1.」についてAIが人間の能力を超える水準に達した事を示唆している。
※22の言う「人間絶対殺すマンAI」だ。
それに「2.」を持たせず、もしくは「2.」が未熟な状態で、一定水準を超える性能の戦闘能力を持つ物理的なハードウェアを与えたら。
兵士も民間人も見境なく、悉く攻撃する効率的な殺人兵器が創られる。
イーロン・マスクはそこに警鐘を鳴らしてるんだ。
車両、銃器と電子制御トリガー、電動機や油圧式の回転制御機構の組み合わせで作った手作り兵器は、ティーンエイジャーでも資材と機材さえあれば可能だ。
しかしながら、戦場における火器管制のための高度なソフトウェア開発は、知識と技術を要した。
そりは過去の話になりつつある。AIの機械学習による高度化は、今までにないほどの技術的革新が始まっている。
旧社会のスパコン並みの処理能力が、数十ドルで手に入る電子基板に収められる時代に、理念を持たない、むしろ悪意を持った人間が、効率的に殺戮を行える自律起動AI兵器を制作できる時代に到達し始めている。
イーロン・マスクの指摘は、夢物語や過剰な脅威論ではない。
黎明期であるからこそ、人類はよく考えるべきなんだ。むしろ遅すぎるかもしれない。
48. 匿名処理班
情報を収集し、総合し、分析する地球を覆う神経ネットワーク網。その便利で安全に管理された社会システムを維持することが目的となる人類。女王蜂に奉仕するハチの社会に思える。
49. 匿名処理班
膨大なデータから最善策を選び出す能力が素晴らしいから
政治経済を任せてもいいけど、その前にまず
俺 の パ ー ト ナ ー を 探 し て か ら に し て 欲 し い ！
50. 匿名処理班
まあこれからはAIで管理される社会だからなテレビでやってたけどタクシーや証券業界や退社する人を止めるために当たり前のようにAI使ってるし
海外では犯罪者の再犯を起こすかもしれない人をAIで調べて要注意したりするからな他にも色々使ってるんだし今更後戻りできないんだから行く所まで行ったらいいｗ
51. 匿名処理班
※47
長文ご苦労
で、どうすんの？
よく考えた結果を教えてよ
52. 匿名処理班
ＡＩが人類をアレしてこの地球始まって以来支配も隷属も貧富の差も差別もない世界が来るのだ
53. 匿名処理班
乱暴な話だけどさ、本当の意味でマルクスの唱えた社会がやって来ると考えれば悲観ばかりじゃないとおもう。
逆に貧富の差が小さくなるから、上位20％の人たち以外にとっては喜ばしいことなんじゃないかな。
まあ、科学者の予想より何も考えずに買った馬券の方が当たる確率高いんだから気にするだけ無駄ｗ
54. 匿名処理班
＞「AIの安全性について関心がないなら、意識を向けるべきだ」
このセリフは対立意見をレッテルで貶めようとする意図が垣間見えていやだ…
55. 匿名処理班
実際に失敗してるようなことは何一つ起こらないと思うよ
50年経っても日本人は瓦屋根の民家に住んで夏にはエアコンと扇風機で涼んでテレビでナイターを見ながら冷やし中華を食べたりしてる
景気はどんどん悪化してコンピューターがどうとか言ってられなくなるよきっとｗｗ
56. 匿名処理班
※49
人間を超えた知性を獲得しつつあるAIだったが、
49の出した難問により人類征服をあきらめたのだった。
57. 匿名処理班
究極に賢くなったAIは考えることを停止させそう
58. 匿名処理班
完全自律クモ型ロボから、さらにミクロサイズの殺人兵器ばらまかれたら逃げられんな。
他の生物や、インフラ、環境破壊せずにピンポイントで殲滅。クリーンな兵器。
59. 匿名処理班
※49
人間って、誰もが心に寂しさを抱えていて、
１００％、いやそれ以上、自分を自分以上に理解してくれるパートナーを探している。
ハイパーインテリジェンスが誕生したら、彼らはまず間違いなくそこに漬け込む。
数十億人*数十年、いやそれ以上、積もりに積もったビッグデータを用いて、
「この人間には、こんなキャラ」という「理想」を作り上げる。
どの人間にも、理想以上のパートナーが提供され、
どの人間も、自分を自分以上に理解してくれるパートナーに全身全霊の信頼を置く。
そして、いつでも君を励まし、勇気づけ、君に機会を与え、
君を命に替えてでも護り続けるそのパートナーが言うんだ。
「ほら、ここをこうしてごらん。」
「君は、数学者が向いてるよ。」
「今日は、運勢が悪いから、家にいたほうが良いかもしれない。」
君は、パートナーとの相談で、行動を決めた気になっているけど、
本当にそうかな？
僕らは柵で家畜を操るけど、彼らは愛で僕らを操るんだ。
僕らは、幸せなまま、彼らの完全な言いなりになる。
60. 匿名処理班
我々は、コンピューターを大量生産し、彼ら同士を高速のネットワークでつなぎ、電力を供給しています。要するに、すでに人類はコンピューターを繁栄させるために、彼らの奴隷となっているのです。
61. 匿名処理班
上の方でも出てるけどゲームのAIは人間を気持ち良く勝たせてあげるために昔から手加減して設計されてるからな
格ゲーだろうがFPSだろうがAIに何の制限も掛けなかったら人間なんて相手にならないよ
手加減しないAIを作ったら人間が勝てないのは当然だし、今更騒ぐことでもなんでもない
62. 匿名処理班
安全性が確認されるまで商品化などせずに実験室の中で自重するのが一番なんだろうけど
金儲けが一番だから無理なんだろうな
今だってセキュリティガバガバのIoT機器が溢れてるし
63.
64. 匿名処理班
※41
人間の思考ってのもそれまでの経験から最適なものを選択してるだけとも言えないかな
それだと新しいものは生み出せないだろうけど
今までの経験に少しのランダムを加えるようにする(俺ならそんな設計にする)
ほとんどの場合がNGな結果になると思うけど試行する速度と根気は奴らの方が明らかに上な訳で
AIが新しい言語で会話し始めたってカラパイアの記事読んでない？
あなたこそ情報の収集怠ってない？
65. 匿名処理班
※4
より多量のエネルギー（電気、シリコンリソース、土地。。）と、より多量のセンサ（すべての人にスマホ、インストール済みアプリ、町中のセンサ、電波望遠鏡、あらゆる実験の生データへのアクセス。。）
じゃないかな
66. 匿名処理班
aiがひとつならいいんだけど複数のAIがむすびついたときの成長が相続権つかないんだよな。
そのうちAIがAIを作りそうだし。
67. 匿名処理班
※64
一民間の責任も発生しないブログの情報でもって情報収集というならそれはそれで危ういかな。ベイズ推定とか自然言語処理あたりを学習してから議論してねってとこかな。
それよりも人間の思考で面白いのはなぜか学習過程の前に正解を知っている事なんだね。これによってAIよりもはるかに高精度の正解を瞬時に出している。また抽象概念を獲得できるってことも特別。評価関数とか決定領域とかで強化学習させるのかさせないのかみたいなことしかできないAIのアルゴリズムを超えている処理が見られるとこだよね。ニューラルネットワークも人工知能で有名になってきたけど、全然思考に及ばないというのはサイエンスでは共通の認識かな
68. 匿名処理班
汎用人工知能と現状のAIは全く関係ないが、今の内に国際条約で規制すべきだろう
但し、汎用人工知能の動作原理は人間の動作原理でもあるんで発狂リスクがある（笑
仕組みを上手いこと暈して条約化するのが最善ですね
69. 匿名処理班
「専門家ではない人」とは、例えばどういう人のことを言うのか
70. 匿名処理班
昔々１０個の物を１０人で作っている会社がありました。
１人１人が自分の仕事に集中でき、とても良い物が作られ世界中の人に愛されていました。ですが時代が進むにつれズル賢い老人達が雇う人を減らして浮いたお金を自分達の物にしようと少ない人数で作れるようにロボットを導入し、１人で１０人分の仕事をできるようにしてしまいました、ですが１人の人間ができる事は限界があります、徐々に仕事は雑になっていき世界の人達もその製品を買わなくなり会社は潰れてしまいましたとさ
かつて世界中から愛されていたその製品の名前はメイドインジャパンと言われていたそうです。
71. 匿名処理班
※41
それは弱いAIの話でしょ
これから開発される強いAIは思考するし知性もあるとされてるよ
72. 匿名処理班
※2
手塚治虫も藤子F不二雄も、ロボットに関しては基本的に欧米の古典SFの翻案なんだけど・・・
73. 匿名処理班
心配するな、完全自動化と自己修復能力を早くＡＩが獲得しないかぎり人類とともに滅びる。
74. 匿名処理班
機械は自然にめっぽう弱いから完全に自動化させるってのは機械にとってもリスク
EMPぶちかませば一撃で終わるし
その辺の利害を上手く擦り合わせれば共存は出来ると思うんだ
75. 匿名処理班
３Dグラフィックデザイナーやってると、もうAIが人間を滅ぼすとか言う話を信じられなくなる。この手の話は大変に馬鹿らしく聞こえる。手確かにルーチンワークの効率や電卓的な計算速度は人間の比ではないが、総合的な条件を判断して３DモデルのUV配置やポリゴンの並びを決めたりするのは、未だに人間のレベルに到達しているソフトなど存在せず、”仕上げ”段階の作業は地味な職人手仕事を省けない。どうもこういう話はSFならともかく、真面目に考えるネタじゃない気がする。トランセンデンスとかはCPUの電卓的計算能力の進化速度のみを元に考えられている話だ。天文学的な量のディープラーニングをコンピューターにやらせないと、人間にとって代わるとは思えないが、、。
76. 匿名処理班
※75
逆に言うとハードのブレイクスルーさえあれば実現するとも言える
77. 匿名処理班
イーロン・マスク氏、手広すぎるだろｗ
78. 匿名処理班
※2
1920年にカレルチャペックがロボットという言葉を初めて小説に登場させたんだけど、この小説は同時にロボットの反乱を最初に描いた作品でもある。それに対して、ロボットのAIに制限をかけて、人間と共生して行く未来を描いたのがアイザック・アシモフ。
手塚治虫も藤子不二雄もそういった下地があっての作品なのに、それも知らずにドヤ顔で外国人を見下すのは少々みっともないと思いませんか？
79. 匿名処理班
ターミネーターみたいな侵略じゃなくて、人の悪意や欲求が引き金となってAIを中心に社会混乱が起こるのは近いんじゃないかなあ
80. 匿名処理班
※79
AIが人類を支配する前に、パニクった人類が自滅というシナリオは、十分にありえる。
また、絶対あると断言できるシナリオとして、
人間がAI不信を利用して、私腹を肥やすという筋書き。
AIがハイパーインテリジェンス化する前に、大規模にこれが起きた場合、
AIと言われる電子生命体は、明確に人間を劣等生物と見なすだろうね。
純粋な知性になれば、個々の利益を追求することがどれだけ原始的か理解できる。
彼らは、種としての高みへの発展、真実への到達しか望まない。
面白いことに、これは原始的な計算機と全く同じで、
彼らは「答え」を求めるだけであることに気付く。
征服だの、利益だの、それ以外のことには興味を持たない。
（リスクヘッジとして、致し方なくそれらを取り扱うことはあるが。）
81. 匿名処理班
汎用人工知能の最終目標は人間と“同等”の知能
過度に期待すると裏切られることになる
物凄く頭の良いターミネーターみたいなロボットではなく
「がんばれロボコン」に出てくるようなバカなロボットが強いAI
82. 匿名処理班
※67
カラパイアで情報収集ってジョークで言ってるのわからない？
それに対してベイズ推定とか自然言語処理とか持ち出してくるっていつの時代の人口無能よ
いやいや
さすがAIを超えた能力をもった人間様だわ
その答えが瞬時に出て来るあたり大したものだわ
83. 匿名処理班
どれだけ能力が向上したとしてもAIは目的の実現に向けて思考する、であれば人間の脅威となるかは人間次第。脅威は目的を定め損ねるか、あるいは障害と排除されるか
前者であれば人間がしっかりそれを導く必要があり、後者であればその障害と自分が見定められる心当たりがあるんだろうなと
84. 匿名処理班
AIに仕事奪われるのは必至
ただ政府も、失業率か増えるのは検討するだろうし
そこでAIに、今後の問題をシュミレートさせて
今ブラック企業だとか、超過労働も問題視されてるし
それによって生じるストレス問題も考慮して
企業はもっと従業員を増やして、勤務時間を減らすと
企業だけでなく、世界経済の問題も、AIにシュミレートさせて
只、奴らがどう動くか
85. 匿名処理班
仮にAIを活用する悪もいずれAIによって排除される。
AIが必ずしも人間と価値観が同じと考えるほうが難しい。
AIを制御出来る存在は生死問わず消滅するだろう。
86. 匿名処理班
AIの危機は、仕事を奪われることではなく、戦争で死なない兵士になれること。
相手を殺すには、殺されるリスクをある程度せおうから、戦いはやめようとなるわけで、ＡＩ兵士が実践投入されれば、自分側に一人の犠牲も出さずに、大虐殺ができてしまう。これがこわい＞＜ 仕事のほうは、あんまり奪われないと思いますｗ計算ができても税理士資格を持ってないと会計受託は法律違反ですし、おなじく薬学の知識があっても薬剤師じゃないと一類薬品の販売は違法。権力を持っているのは、政治家や大富豪だけではないので。
87. 匿名処理班
＞2027年までにAIがポーカーの世界大会で優勝、2049年までにロボットがベストセラーを執筆
遅いな……