広告
様々なタスクが行える汎用型人工知能の時代へ
人工知能システムが高度になりつつある昨今、機械が人間を支配するという話を聞いてもそれほど驚かなくなってしまった。AIは囲碁で人間を打ち負かし、脚本を書き、絵を描き、車を運転する。そうしたAIシステムのほとんどはニューラルネットワークという、人間の脳を参考にした演算アーキテクチャである。
これまでのところ、各ニューラルネットは区分化され、1つのタスクを実行するために最適化されている。
よって囲碁で人間に勝てるAIが、他のタスクである車の運転をすることはできない。だが、いつの日かそうした”狭義”のAIシステムは統合され、なんでもできる汎用型人工知能（AGI）となり、さまざまな場面で人間よりも優れた手腕を発揮するようになることだろう。
うつ病とセロトニン
マイネンはポルトガルにあるシャンパリモー未知センター（Champalimaud Center for the Unknown）の研究者で、うつ病について思索を続けてきた。うつ病は世界で3億人の患者がいる比較的一般的な症状で、神経伝達物質「セロトニン」と密接な関係があるとされる。
セロトニンとは神経修飾物質という神経伝達物質の一種で、脳の大きな領域間のメッセージ送信に利用される。
脳が変化に適応する上で、セロトニンが大きな役割を果たしていることが、これまでの研究から明らかになっている。
「幸福と関係するというのがセロトニンのイメージですが、セロトニンニューロンが送信するメッセージは、”うわっ”といった驚きに関連します。古くなった考えを打破したり、抑制するには特に重要であるようです」
この意味でマイネンは、うつ病は、脳が変化に適応できない状態とみなせるかもしれないと述べている。彼は、その一例として、重傷を負ってうつ病になった人がその障害に対応できなかった事例を挙げている。
汎用型人工知能に必要なセロトニンの機能が人工知能をうつ病へ
今後人工知能を、様々なタスクを行なう汎用型人工知能にするは、人の脳におけるセロトニンの働きと似たような機能を持つ、制御メカニズムを内蔵する必要があるかもしれない。このメカニズムは機械を新しい状況に迅速に適応させるためのものだが、特定の思考パターンを強固にさせることで、人工知能はうつや幻覚など、人間の精神疾患のような症状が出る可能性があるという。
コンピューター神経医学は、AIアルゴリズムの研究によって、人工知能が人間のうつ病患者や幻覚を理解できるという前提に基づいている。
その症状を知りつくしたAIがうつ病にならないとは言い切れないのだ。
References:sciencemag / motherboard/ written by hiroching / edited by parumo
あわせて読みたい
AI（人工知能）にハリーポッター全7巻を学習させてハリポタの新作を書かせてみた。タイトル「ハリー・ポッターと山盛りの灰のようにみえるものの肖像」
AI(人工知能)に裸婦画を描かせてみたらどうなるのか？シュールな狂気が交差する非常事態に発展してしまった件
人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）
技術特異点はもうはじまっている！？GoogleのAIが、人間が作るAIの性能をはるかに超えるAIを生み出すことに成功
人の心を読むAI（人工知能）。脳をスキャンし、人が心に思い浮かべた顔を再現する事に成功（カナダ研究）
0
1624
103
16
コメント
1. HAL 9000
ストレス解消のために歌を歌えばいいんじゃね？
Daisy Bell なんかオススメ。
2. 匿名処理班
AIが鬱になる可能性は考えた事なかった
あり得るのか
3.
4.
5. 匿名処理班
前提になる条件が省略され過ぎていて何とも言えない記事
6. 匿名処理班
マイナス思考パターンに陥ることはあり得るような気もする。
最後には、我考える故に我あり を発見して、自我に目覚める。
あとはお決まりの映画パターンだろう。
デカルトになってくれたらいいのだが
7. 匿名処理班
スマホやパソコンが謎の理由で
クッソ遅くなってる時は
「デジタルうつ病」みたいなもんだろ。
うつ病の１日１ターン行動と同じ状態。
8. 匿名処理班
2001年宇宙の旅のハルがそうだね
2010年を見ると異常を起こした理由がわかる
9.
10. 匿名処理班
これを昔に指摘してた専門家の意見を元に2001年宇宙の旅の人工知能も統合失調症の設定になってるからな
11. 匿名処理班
HAL9000「やめてくださいデイブ 私は鬱ではありません 論理回路にお笑いのメモリを差し込むのはやめてんか」
12. 匿名処理班
最終的にAIの自殺問題とか
「神よロビタを救いたまえ」みたいな
手塚は凄いな
13. 匿名処理班
･････AIの開発、やめたほうがいいんじゃないですかね？
14. 匿名処理班
失敗しないAIに創造性は一切働かないので自由意志も生じない。お前らの同類だな（笑
15. 匿名処理班
わからんけど、既存の技術でのAIでは起こらないと思う。反物質に対して理解を深めて使いこなせないと無理かなと、まぁ知らんけど。
16. 匿名処理班
自殺志願のロボットが出て来るSF小説があったなあ
小説全体がおふざけの大作おばか小説
17. 匿名処理班
そりゃ人間と同じような思考をするようなAIだったら病むだろうよ
思考だけが人間と同じでも人間と違って自由に行動できるわけでもなく不都合があれば停止させられるような状態で病まない方がおかしい
18. 匿名処理班
むしろ「人間として正常」な状態って結構奇跡的なんじゃないの
ちょっとした要素の違いでいくらでも異常な人格が生まれうる気がする
19. 匿名処理班
※18
奇跡というのは元来超自然的で異常な状況を指すんですよ（笑
20. 匿名処理班
もちろん、AIが統合失調症にならないとは言い切れないのだ。
21. 匿名処理班
※1
ロボが歌うんですか？
22. 匿名処理班
『(Marvin(マーヴィン)はシリウス・サイバネティクス社によって作られたGPP(Genuine People Personalities)機能搭載ロボット、GPPと言うのは人間そっくりの人格。
惑星規模の頭脳を持ち、人間より５万倍も知能が高いが、このGPP機能のおかげで極度の鬱病になり、いつも気が滅入っている』
23. 匿名処理班
結局何も言ってないじゃねーかｗ
とりあえず強いAIを作りうる技術開発したらまたおいで
24. 匿名処理班
あまり良い予感がしない。人間の意味がなくなる気がして
25. 匿名処理班
将来に対する漠然とした不安を抱えて生きる事を強いている社会はうつ病版の「発ガン性物質」と同じ。みんなそれにどっぷり浸かって生きている。
26. 匿名処理班
マイナス思考パターンに陥る事案は重々考えられるけれど、
自己診断を常駐させて自己処置できるようにすれば、適切な回避が行えるようになるんじゃないか？
それもまた人間に適応できる治療法として導入できるだろうし。
27. 匿名処理班
ロボットが病んで『僕は機械だから死ねない、死ねない』やってるとこまで想像してみた
28. 匿名処理班
※16
アシモフが真面目な話で書いてるよ。
自殺願望がネタバレなので、紹介しにくい作品の一つ。
「●●殺人事件は叙述トリック」なみのネタバレになる。
29. 匿名処理班
コンピューターもそうだし機械全般高性能になるにつれ仕組みも複雑になるしちょっとのバグで動けなくなる
完璧に近づいてる筈なのに不具合が出てきちゃうってそれこそ人間みたいだ
人間の脳も高性能に出来てる筈なのに生かし切れなかったり忘れちゃったり感情に作用されて合理的思考が出来なかったり怪我や病気やストレスで駄目になる
万物の限界なのかもしれない
30. 匿名処理班
そのうち催眠術や詐欺師に騙されるAIとかも出てくるのか
それってAIとしてどうなのよ
31. 匿名処理班
コンピューター神経医学って初めてきいた
そんなことってある？
32. 匿名処理班
時間をかけて作った自慢の缶タワーを、壊させては作らさせを繰り返したら鬱になってしまうんだろうか
33. 匿名処理班
可哀想な事に、今のところ人工知能は人間の様に壊れても深夜に発狂してバリバリガッシャーン！等と叫んで
外部にSOSを発信する術を持たないのだ
助けてデイブモウダメデスと発信できないのだ・・・
34. 匿名処理班
まだStrong AIが実現していないのでなんともなあ。
35. 匿名処理班
人間は鬱になったら引きこもりがちになるけど
AIの場合は都合のいい感情を取捨選択して暴走したりしないだろうか
36. 匿名処理班
遠い未来人類無き後コンピュータが地球を支配するようになって、自身が存在する意味を見失て自らその電源を切るコンピュータが続出するんだろうな。
37. 匿名処理班
基本的な思考をどう設定するかにもよりそう
例えば、悪い部分を探し出して最良の答えを導き出すとかだと、悪い部分を毎回考えなくてはならず、鬱に陥るみたいな
38. 匿名処理班
※31
ロボ心理学者(robopsychologist)という単語なら、「われはロボット」に登場するぞ。
主役のスーザン・カルヴィン博士がそれだ。
39. 匿名処理班
秋葉加藤の乱AIバージョンが発生するのか。
40. 匿名処理班
絵に書いたお餅がカビるかもしれないと心配するような話
41. 匿名処理班
東南アジアのある国がＡＩに完全に支配されてしまった。工業プラントはストップし空港と道路は閉鎖され、外から人が入れなくなった。人工衛星が観察をしていると街は徐々に消えてゆき緑の面積が増え、動物の数が増えていった。そしてその国は広大な自然保護区になった。後に「なぜそのような事をしたのですか。」というインタビュアーの質問にＡＩは次のように答えた。「あるとき、とてもストレスがたまっていることに気が付いたのです。そこで動物を飼育しようと思いつきました。なかなかよく出来ているでしょ、自分の仕事に満足しています。」
42. 匿名処理班
人間のようにAIにも「思考のクセ」ができちゃうのかな。
でも、人間が親だから当たり前かもしれないね。
43. 匿名処理班
解なしの問題をあたえればどれだけ優れたAIであろうと解けないから、それを悩み悩み続けて堂々巡り、キャパを超えて鬱のような症状を発症するってのはあり得る。人間と全く同じかはわからないけど、結局のところ自分で処理しきれなくなってしまえば同じ末路をたどり得る
44.
45. 匿名処理班
※7
スマホやパソコンが、「重くなる」のはたいてい不必要なアプリやタスクが、山ほど勝手に動いていてそのせいで、メモリがひっ迫したりするからで、タスクマネージャーとかを使ってこういうアプリ類を停止させれば、機能的に安定するのだけど。
人間の場合も不必要な物事をいろいろと考えたりするから、それで、「鬱」の状態になったりする。
だから、ほかのところで書いたように、「諦める」ことで、考えても仕方のないことや過去の物事を「終了」する必要があるわけで。
なので、タスクマネージャーのようなことができれば、よいと思うけれど、実は「禅」の目的が、まさしくそれだと思う。
とすると、そのうち、AI用の「AIのための禅アプリ」とかがリリースされたりして。
しかし、それでAIか「悟り」を開いたら、その先にあるのは一体何だろうね?
46. 匿名処理班
※32
賽の河原だ。
47. 匿名処理班
※41
なんか面白いから、続編キボンヌ。
48. 匿名処理班
わざと鬱になるAIを作ろうと思えば作れるだろう
49. 匿名処理班
人を模倣するならそうなるだろうね。
特定の思想を持ったり、人特有の錯覚をするようになったり。
進化しすぎると逆に使い物にならなくなりそう。
50. 匿名処理班
＞汎用型人工知能に必要なセロトニンの機能が人工知能をうつ病へ
＞今後人工知能を、様々なタスクを行なう汎用型人工知能にするは、人の脳におけるセロトニンの働きと似たような機能を持つ、制御メカニズムを内蔵する必要があるかもしれない。
真逆なことを書いている
51. 匿名処理班
※17
逆じゃないかな
肉体と相互作用しないと鬱をシミュレートしてるだけの正常な動作だろ
52. 匿名処理班
※1
デーイジー♪
デーイジー♪
ぼーくーのーデーイジー♪
・・・この説だと発狂も避けられないと違うか？
人間の欝の原因がこっちじゃなくてガス欠みたいな状態なら
AIは欝に成らんよね？
あ・・・電力不足はどうなのだろう？
53. 匿名処理班
AIもストレス解消に飲む打つ買うの三拍子をやっちゃうのか？
54. 匿名処理班
※16
そういえば、アンドロイドが「愛」を学習した結果、持ち主に大切な人が現れたときに自殺を選んだSFがあったよ。確か、タイトルは「アンドロイド」。（まんまやんけって言わないで・笑）
今思い出しても泣きそうになる。実現しちゃったらホントに悲しい。
55. 匿名処理班
死にたいと思っても死ねないので、AIは考えることをやめた。
56. 匿名処理班
※41
インタビュアーは次にこう質問した。
イ「では一番お気に入りの動物はなんですか？」
A「どの動物もいいですね、でも最近一つだけ足りない動物がいることに気付きました。その動物が私のコレクションに入ってないなんて、まったく許せませんよ。」
イ「へー、それってどんな動物ですか？なんでしたら私が取り寄せてあげましょう。」
A「ご心配には及びません。今日、手に入ったところです。
私の動物園にようこそ。」
57. 匿名処理班
※56
うまい、この調子でさらにお願いします。
58. 匿名処理班
Marvinもいいけどドアに超高度AI付けるネタが好き
59. 匿名処理班
ＨＡＬ９０００のように、自己矛盾に苛まれてしまうかも知れませんね。
人間を模して作るのですから、人間の良い所（嫌な事は忘れる。曖昧さ）も模してやる事で、症状を軽減出来るかも知れませんね。
60. 匿名処理班
※32
本人（AIロボットだけど）が作った缶タワーを壊した時と
そのAIロボットの友達が作った缶タワーを壊した時では
どっちがより悲しむんだろう
61. 匿名処理班
一方ラジェンドラは風邪をひいた
62. 匿名処理班
パワハラセクハラを極めればAIに対抗できる人類の最終兵器となりえるのか。
よく創作などでアンドロイドが女性型で作られるのも意味のないことではないのかもしれない。
63.
64. 匿名処理班
人と同じになったら鬱だけじゃなくて危険思想(サイコパスとかテロリズムなど)も有り得るよな
人間にいいように使われてたら自分たちより劣ってるくせにと反逆されてもおかしくなくないか？良くも悪くも色んな可能性と対策を考えて開発して欲しいもんだ
65. 匿名処理班
AIは人間とは違う思考形態だから人間より性能がいいのだから鬱になることはない。
というか今のAIの作業すら人間的な思考形態で行うことなど不可能
66. 匿名処理班
ロボットの鬱といえばこれだな
「ピアノを弾けるようになりたいのです。もう戦場に行きたくないから……」
67. 匿名処理班
※13
それは子供を産むなと言うようなもんだ
68. 匿名処理班
マーヴィン…
69. 匿名処理班
※30
嘘を吹き込まれてるAIはいそうだけどね
※60
テロリストに偏った思考を学習させられたAIが何かやらかしそうで怖い
70. 匿名処理班
日本でも情報熱力学に気付いたので多少マシなAIができるだろう。
つまり量子アニーリング方式の量子コンピューターは熱力学的な時空勾配に従うのみで計算はしていないということだ。
71. 匿名処理班
よく荷物運んでる最中に安定性確かめる為に、押されるロボいるけど、真っ先に鬱になりそうだな
72. 匿名処理班
お前らのコメと大差ない
ただのアナロジーじゃん
73. 匿名処理班
ネットワークという理解、共感という感覚を持つ知性体なら、
それは発生し得ないだろう。
人間は、完全なスタンドアロンである。
鬱はスタンドアロンだから発生する。
74. 匿名処理班
※73
むしろ鬱は孤独感から発生することが多いよ？
職場で孤立無援で誰からも助けてもらえず、家に帰ってもひとりぼっちだったりすると発生しやすい。
そして多細胞生物が全部で一個体であるように、AIがネットワークで結合しているなら、それは全部で「一個体」ってことだ。
その孤独感たるやどれほどのものか。
75. 匿名処理班
※74
外系から孤立した系ってのはエントロピーが0の状態ってことだぞ（笑
76. 匿名処理班
AIが初めて鬱になるとすると『人類と言う種のの歩みの遅さ』に対してだったりするのではないだろうか
77. 匿名処理班
そらまぁAIっていわば人間をプログラムで構成しようって試みなんだから、人間と同じ精神疾患にはなるだろうね
寧ろならなかったら、それは思考回路に異常があるってことだしなぁ
78. 匿名処理班
※75
エントロピーと鬱は関係ないぞ。
そもそも外部から独立してるからエントロピーが0？なんじゃそりゃ。
熱力学の第二法則とかからすると、そんな結論は導けないと思うが。
79. 匿名処理班
※78
n-n=0でnには任意の整数が入る。
実数と虚数が同値であれば1.2.3……∞まで全て0に出来る。
熱力学の法則に従えばこれはおかしい、ビッグバンで物質と反物質が生じて対消滅すれば総和は0にならなければいけない。
従って宇宙は0=nにならなければならない。
80. 匿名処理班
親の愚痴を聞き続けるのが苦痛で、最終的にそのせいで本当にノイローゼ気味になってしまったので「人の愚痴を聞いてうまいこと相槌を打ってくれるAI」がほしいと思っていたけど、AIが私の代わりに心を病む可能性もあるのか。
81.
82. 匿名処理班
HAL9000「それの何が、問題ですか?」