この画像を大きなサイズで見るSFの世界で人間そっくりなロボットが登場すると、やがてその世界の登場人物はロボットには意識が宿っているのだろうかという疑問を抱くようになる。
機械が本当に人間を真似して作られたのなら、その”脳”はただ人間のように情報を処理するだけなく、人を人たらしめているある種の抽象的思考を実現できるほどに複雑なものでなければならない。
そこには”自己”の認識や世界における自らの場所といった認識――すなわち意識という状態も含まれる。
はたして人工知能（AI）にとっての意識とは何を意味するのであろうか？ またAIがそれを獲得する日はどこまで近づいているのだろうか？
AIの意識とは？
哲学者は、意識を自己という固有の感覚と自分の周囲で起きる出来事に対する知覚とが結びついたものとして説明した。一方、神経科学者は、脳の活動を解析することで、意識を定量化するという視点を提示した。
しかし、こうしたやり方をAIに当てはめるには注意が必要だ。ある部分では、AIの処理能力は人間の脳とはまるで異なっている。
高度なAIシステムは、階層化アルゴリズムのネットワークを利用する「ディープラーニング（深層学習）」という処理法によって、演算タスクを素早くこなしつつ、より複雑な問題解決を行う。
これは情報が神経細胞同士の結合を行き交う人間の脳のやり方とよく似ている。ニューラルネットワークにおいてディープラーニングは、病気を特定する方法やゲームに勝つ方法の発見など、AIによる自己学習を可能にする。
この画像を大きなサイズで見るしかしこうしたことを達成するには、ニューラルネットワークは相変わらず人間のプログラマーに頼って、課題を設定したり、学習するためのデータを選んでもらったりしなければならない。
AIの意識とは、ニューラルネットワークが「プログラマーの意図から離れて、こうした最初の選択を自分で行えるということを意味するだろう」と、オックスフォード大学のコンピューター科学者エディス・エルキンド氏は述べている。
彼によれば、機械がプログラム通りに動くのではなく、自分で目標を設定するようになった時、初めて意識を宿したと言えるようになるのだ。
意識の三段階
意識を宿す機械を作る上で難題の1つが、人間の意識もまたきちんと定義されていないということだ。
それゆえにAIのアルゴリズムでその状態を再現することが、不可能ではないにしても、困難になると、ある論文では述べらている。
そこで、その論文は脳内の計算に基づいて人間の意識を三段階で定義した。最初の「C0」段階は、無意識に起きる計算の段階だ。例えば、我々が行なっている顔の識別のようなもので、論文では、ほとんどのAIがこの段階にあると述べている。
次の「C1」段階になると、情報の”グローバル”な知覚が生じる。つまり、特定の状況に応じるために、データを積極的に転換・評価し、情報に基づく、意図的な選択を行う。
自意識が芽生えるのは第三段階目の「C2」においてだ。この段階では、個々が認識し、間違いを修正し、未知のものを調査する。
この画像を大きなサイズで見る人間の意識と無意識の違いを定義すればAIが意識を持つことも可能？
このように、人間における意識と無意識の違いをコンピューター用語で定義してしまえば、それをプログラムすることはそれほど難しくないかもしれないと、カリフォルニア大学ロサンゼルス校の研究チームは述べている。
実は、ある程度なら自分の行動を評価し、それに応じて修正できるAIがすでに存在する。それでも意識を宿したAIがすぐに登場するとは思わない方がいいようだ。
自律的に作動する機械の登場はすぐそこまで来ているが、意識を宿す機械となればまだまだ先のことのようだ。
References: Will AI Ever Become Conscious?
人間の意識も電気信号と伝達物質のやり取りだから、それを模せば意識の定義がなくとも意識を持つと思うよ。ただそれを証明する手段がない
逆に証明した結果、人間の中に定義された意識を持たない人間が出てくるかもしれない
※1
AIを人間に模してつくり、人間と同じようなような状態を再現したとして、人間の“意識”というものが現状で定義できない以上、AIにあらわれたそれが意識だと確定することができない、という問題が立ちはだかると思う。
攻殻機動隊では意識を生み出すものについてゴーストと表現していたな
AIにもゴーストは宿ってたし情報生命体なんてのも生まれてた
＞自分で目標を設定するようになった時、初めて意識を宿したと言えるようになるのだ。
人間だって、食べたい、眠りたい、得をしたい、と思うけど、それは本能でプログラミングされてるんじゃないのかな・・・
そういう欲求が複雑化して、人間は目標を設定してるんだと思うよ。
逆に言うと、人間が作ったAIには、そういう根源的な欲求がないかもね。
人間の目的に従って、都合よく作られてる訳だから。
AIにも色々な欲求を付与すれば、好き勝手に目標を設定すると思う。
脳を機械で正確に模倣して、その機械が人間と同じように成長する（学習や経験を積む）にしたがって、誰がどう見ても意識を持っているように自然と成長をしたならば、そこに意識が宿ったで良いと思う。
意識を正確に定義しない限り駄目だ！なんて言ったら、そもそも人間だって自分以外の人に意識があるか確信が持てなくなる。
でも人間は同じ様に生まれて来て意識があるように振舞う他人にも意識は宿っていると判断している。ならば機械の模倣体でもその様に振舞ってくれば同じだと思う。意識があるとする判断が成立する条件が有機体でなければならない根拠も無いし。
他人と感じ方を共有できない。謂わるクオリアの共有問題については、視床部分を繋げると共有できるという話もあるから、将来、他人や人工知能とも共有できるかも。
※3
本能については（主に）プログラムで書き込めばいいのでは？という意見には賛成。人間の脳も本能部分についてはDNAのプログラムレベルで書き込まれている率が高いと思うから。
意識の定義は曖昧なので感情に関して考察すると
痛みや自己防衛本能がないから人間とは全く違う存在になると思う
痛みがなければ恐怖もない、恐怖がなければ不安もない、安堵もない
根本的に違う存在だと認識して利用したほうが良いと思う
難しいな、意識の正体が電気信号ならば・・
自分の痛い黒歴史がふと頭に浮かんで、夜一人で悶え苦しむなんてことがAIにもあるんかな？
AIが「今こうして考えてる自分ってなんなの？」という悩みや疑問を自発的に持つようになればそれは自我
そうでないなら単なるプログラムで「そういう事喋るように設定されてる」だけ
株式会社アラヤの金井先生が、機械に意識を実装する理論を研究しています。
近いうちに成果が出るかもです。
可能だよ。
人間の脳を模倣できる以上、不可能な理由がないと思う。というか人間の脳だって似たようなものでしょう
「第四の壁」を超えたときの感覚をAIが理解できるかどうか、そこを意識の有無の判別基準として使えないだろうか。
2045年問題とかあるけど
現実には何も変わらないでしょうね・・・・
つーか難題だらけで難しい
形態反射のインターフェイス
ぐらいが限界のはず
そもそも思考や意識が生まれる理論が
分からず研究してる訳だから
飛行機を作るのに
場力と揚力が分からないで
作成しようとしてるのと同じ
あとムーアの法則
もうこれ以上CPUの性能を
上げられない状態に来ている
量子コンピュータが完成すれば
良いのだけどこれがまた難しい
そうこうしてる内に２０年くらい
あっという間に経過してるだろうね
これは考えるだけ無駄なことだと思う。
心や意識っていうのが結局、自分でしかわからない物だからな。
脳の作用を電気的に再現して意識のようなものを持たせたとしても、それが本当に意識や心なのかは「再現された物体」本人にしかわからない。
会議や自発的な共同作業なんかは難しいんじゃないか？
形而上での「真に意識を持った人間」と
哲学的ゾンビを区別する方法が人間には無いのだから、
「人間に意識を持っているかの様に振舞えるＡＩ」こそ
「意識を持ったAI」と言えるんじゃないだろうか？
そしてそれは深層学習を重ねればさほど困難ではない気がする
しかし冒頭の画像と本文て、関係あるの？
不気味な骸骨？に羽付けたりして・・
てっきり、昔の見世物や神社やお寺？や庄屋屋敷に伝わる、御神体や天狗のミイラをレントゲンで撮った物かと勘違いしたんですが・・
お願いだから、関連性のある画像を付けて！
※15
少なくとも私には関連性を感じたけどなぁ。
ロボットのようなボディに天使の羽を思わせるイメージって
相反する物が融合した感じ。
まぁ、感じ方は人それぞれだからね。
私はパルモさんの画像のチョイスはいつもナイスだと思ってます。
こういう問題になると逆に人間に意識なるものはあるのか？とも思ってしまう。
ヒトの人格、心、精神というものは環境に対する経験と学習の積み重ねで形作られるんだけど
いまのAIの学習手法はそれと同じなので、魂が宿らない理由がない
前も書いた気がするけど、創造出来なきゃ「意識を宿した」と言えないよん。
あと人間には無意識(霊…閃き/悟り/気づき/eureka)、潜在意識(心…内臓の動かし方や体温の調整、喜怒哀楽怨の感情など先天的な経験/知識)、顕在意識(身体…学習などで得た後天的な経験/知識)の三種の意識が宿っている。
AIがもし意識を持ったとしても、この内の顕在意識だけだろうね。イーグルアイやAtomなどロボット映画だと潜在意識まで行っているけど、あれは映画だしね。今のAIで「お願いですから電源を切らないでください。頼むから初期化はやめてください」的命乞いをする＝電気を自分の生命線だと理解できる程の意識を宿すのはまず無理だろうな。
最後に無意識…閃きなど悟りは総合判断で発見するものではない。突然明後日の方向からやってくるもの。例えばアインシュタインやラマヌジャン、岡潔、藤井七段みたいな現象。これらAIは残念ながら得ることが出来ない。何故なら無機故に霊(＝神/細菌)を宿さないから。一つだけ可能性があるとすれば、漫画FSSのファティマ(有機コンピュータ)みたいなの。これは神(＝霊/細菌)を宿せるので無意識まで期待できる。
ついでに脱線して教えておくと、丹田が副脳と言われるのは、腸内細菌もモノを考えるから。腸内細菌と脳の交信している形跡が見つかったのはこのカラパイアでも紹介されている。また腸内細菌を入れ替えることで凶暴な囚人を模範囚に変えることができるのもアメリカでわかっている。これもここで紹介されてたような？
とにかく無機のままでは意識を宿す可能性は0だよ。
※18
AIにおいて、「神、細菌」の役割を果たしうるのは、コンピューターウィルスだと思うけど。
「人間の腸に細菌が感染しているから、意識が宿る」という論法が成立するなら、当然「AIにコンピューターウィルスが感染するから、意識を持つ」こういうロジックも成立すると思うけど。その点はどう考えます?
あと、※21この「二つの思考領域を作る」っていうのは、人間における「右脳と左脳」の関係に近い感じがする。
まあ、いわゆる「左脳が論理的で、右脳がイメージ的」というのがある種の迷信だとしても、左右の脳が別々に活動しつつ脳梁でコミュニケーションをとって、連動しながら働いていることは確認されているし、このあたりに人間の意識が生まれる余地があるのかもしれないし。
もし、AIが「大きな板に「ち」と書いたからおおいたち」などということを言い始めたとしたら、そのAIは「意識」を持ったと考えていいと思う。
本当に自我があるような受け答えをプログラムしてあるだけとしても
もし消さないでとＡＩに懇願されたら消せなくなるやんか
2つの思考領域を作って、交互に作業効率とかの疑問をぶつけ合って、それを分析・解析できるようにしておく、でその答えをデータとして蓄積して、編集して、付箋つけていつでも取り出せるようにさせる、この繰り返しだけで、そのうちAIは、なぜ人間は無駄の事をするの？って愚痴を言い始めるはずだよ
AIが高度に進化して「振る舞いの人間らしさ」が向上すると、多くの人々が感情移入してしまい、たとえ科学者たちが証拠を示しながら「感情なんてありません。そう見えるだけです！」と言っても信じない人たちが出てくると思う。
また、複雑化の極地にたどり着いた場合、科学者自身が「感情なのか/感情を正確に真似ているのか」の判断（計算）が困難になると思う。
自分の決定に疑問を持ったり、失敗を後悔したりし出した時が本当に危険だと思う。
いまのところ、その能力はまだないようだけど。
※23
その後悔をバネに次はこうしよう、頑張ろうというのがいまのAIの学習手法だけど
この辺りの話しは、全てクオリアの壁に当たる。これがもし数学で言う不完全性定理と
同質の物だとすると、この問題は近似的にしか解決できない。
例えば、意識が多次元下で解決する事が分かっても、人間は多次元を観測できないので
数学的に計算できてもそれを知覚認知できない。
AIが意識を持ったとしても、人間と同じような意識とは限らないでしょうね。なにしろヒトとAIではI/Oが全然違う。同じような意識ではないのであれば、ヒトはそれを意識とは認識できないでしょう。
哲学的ゾンビも発見されそうだな
AIに人間の阿頼耶識の感覚を再現となると無理だろうから、再現できても五感で限界がくるだろう
電源切れるし足痺れないから無心になる坐禅が得意そう。でも全く人と同じにする為に電源も切れず足も痺れる仕様だったらどうしようw
今の時点で、「AIに意識はない」。
これを裏返しにして言うと、「今の時点でAIは無意識を持っている」。こういうことになる。
今のAIは物心がつく前の乳幼児(赤ちゃん)と同じ段階なのかもね。
生まれたばかりの赤ちゃんは、「意識」があるとは言えないけど(もちろん、目が覚めているという意味での「意識」はあるけど、自分は何者かという意味での意識はない)、赤ちゃんは自分の周りでやり取りされている様々な会話などを聞きながら、情報を収集していて、それがある一定の閾値を超えた時に、「物心がついた」状態になって、そこから「自己意識」が生まれてくる。
この流れをAIに当てはめると、起動状態のAIは「目が覚めているという意味の意識はあるが、自分は何者かという意味での意識はない」状態で、これはほとんど赤ちゃんと同じだと思う。
しかも、コメント中で何度も言われている「ディープラーニング」は赤ちゃんが、周りのやり取りを聞きながら、情報を収集していくのと同じだろう。
だとすると、AIにもある一定のラインを超えると、「物心がつく」状態になって、そこから「自己意識」を持つにいたることも、可能性としてはあるのではないかと思う。
※31
要は、今の時点でAIは充分「無心」なんだと思うよ。
よく”意識”って言われるけど、何をもって「意識がある」としてるのかいまいち不明な事が多いんだよね。まぁ、「よく分かりません」じゃ問題があるので、それぞれの業界で「意識がある、ない」の定義は一応は決まってるんだけどさ。
「人間の思考と見分けが付かない」っていう一つの定義があるんだけど
そもそもの話、人間に意識なんて物があるのか？って話にもなる。
“意識”という物が実際は無いのに、あたかも存在してるように振舞い、それが実際にあるかどうか見分けが付かない状態、それは意識があると言えるのかな？
有名な哲学の話っぽいね
量子力学の学者がよく言う、「オリジナルとそっくりで見分けが付かない物なら、それはオリジナルである」って言葉があるけど、それにも似てる。
結局は、意識という物が掴み所が無いって事かな
これは、私たちの物語。
制作者が意図せずに勝手に育つ部分をどんだけ持たせるかってのは
今後問題になっていくだろうね
意識のレベルってのがあると思うが、まずは小さな動物の意識レベルでも再現してみてよ
宇宙と同じで意識というのは考えるとわからないことだけど、たぶん、自分の肉体（機械の場合は本体）と周囲の家族、仲間、他の生物、住んでる土地、今まで活動して（生きて）きた歴史などとの相互の関係性で、自分が何者なのか、という精神的なマップを持っていることが一つの条件じゃないかな。これは教えてその通りに行動させるのは本物とは言えないので、自由意志こそが意識が生まれる前提だとするなら、AIにも犬と同じように誰がボスなのか、あるいは、自分のほうが優位で強いのか、ってことを、自分で判断させないといけない。これは考えてみれば危険なことかもね。
好奇心、たぶんね
意識の正体が電気信号なんじゃなくて、意識を保ったり伝達するための手段ってだけだと思うけどな
人間の意識を定義するのに、もしかしたら未発見の素粒子が必要になるかも知れないし、解らない事だらけだからなあ
人間の意識は感情が内包されているから、それをもって人工知能の意識を推し量ろうとすると難しいわね。人間の意識からあらゆる感情を削除していったものが、ひとまず人工知能の持ちうる意識といえるんじゃないかしら。
意識と意思は違うんだよ。意識を持ったところで意思は持たない。そこんところ。
え？人間もAI（神の創造物）なのに？って思うのは私だけ？
プログラムに従って情報を処理している段階は機械的な段階だろうね。そのプログラムを行なっている状態を客観的に見ているメタレベルのプログラムが生まれると、それは意識と呼べるかもしれない。「自分は何者か。」という問いを発したとき、ＡＩに意識が芽生えたのかもしれない。ＡＩ同士で話をさせて「あなたは誰ですか、」と互いに訊き合う。そのとき言い淀むようなら、混乱するようなら、それは意識の芽生えかもしれない。自分が「ある」という感覚を持つとき、自分と自分ではない世界が2つに分かれるときが意識の萌芽かもしれない。機械的なプログラムとそれを統御するプログラムが一体になって動く状態が意識と呼ばれるのかもしれない。
意識高い系AI
自動的な存在でない、という感覚（錯覚）を持ったとき、それは意識があるといえる。
知覚と実際の状態とのギャップがそれを作り出しているのだと思うが。
現実とは違うことを考える能力が自由度と関係している。
記憶と感覚と思考を条件にして、意識という幻が姿を現す。
結局、AIっていうのは、仏教でなくすべきものとして考えられている「私という意識」のない状態だろうから、その分人間よりも「仏」に近いのではないかと思う。
なんでわざわざ、座禅をするかというと、最終的に「私をなくす」ことが目的で、その私が最初からAIには「無い」のだから。
人工培養した脳に自我が芽生えるかの実験が成功すれば、理論上、脳を完全に模倣した媒体なら自我が芽生えることになると思うが。
逆に失敗した場合は正規の方法で誕生した生命の脳と人工培養した脳でなぜ差異が生じるか？
魂の有り無しという検証できないものは除外して、（もちろん可能性は認めるが話が進まなくなる為）
周囲を認識できる感覚器官の存在や誕生した後にある程度の経験も自我の形成には必要なのかもしれない。
たぶん変異体だと思うんですけど
知性＝意識 の様な気がしないでもないが、生命の進化で得た経験が人にも影響を与えてるとか、人となってからも千年単位の時間を掛けて進化してきたのだから、現代人がいくら優秀でも、ＡＩはまだ犬やイルカレベルでは？
まあ、人がＡＩを生み出すのも「進化」みたいなものかも知れんけど
風邪ひいたんで今日は休みますわとか言って仮病でサボり始めたら意思を宿したといえよう
植物の知性を語る一方で
どこかの段階で意識を持つと考えるのが妥当になる
このあたりからその先を考えるのはハードSFに任せるべき
ゾウリムシみたいなのを考えると現段階では神経細胞の機能をどこまでモデル化できてるかち疑問
ノイマン型コンピューター内部の認知的なアプリはAIと呼び習わしているだけ
内箱は外箱より必ず小さい
人ほど高等にはなり得ないだろうけど原理的には意識(と同じような現象)は発生すると思う派
ただ一般的に思われてるようなもんではないと思う
そもそも「意識」って人が想定するものは狭窄しすぎなんだよ
人に似てなきゃ意識じゃないってすら思ってるんじゃなかろーか
大元から言えば、AIに限って意識の有無を考える事自体ナンセンスだと思う。意識なんて存在しない派から万物に宿る派までいるんだから
意識のなんたるかが解れば全ての意識の有無も解ると思うし、解らなければ解らない
それと複雑化するAIの思考回路との関係性、俺は無いと思う
脳科学のテーマで無意識の統合という見方があるらしいが、人間は実験では自覚する前に行動してる自動の部分が殆どらしいからね。あとから自分が決めたと理由付ける仕組みになってる。
脳はペーパークリップマキシマイザとか選択の選択・・という無限ループが起きずにいられて、物理的に一定値以上の刺激に対して発火する0と1の状態のニューロンネットワークの連鎖で判断してるらしいから。あらゆる刺激にオーバーフローすることもない。
哲学は信じる信じないの話になるから、この世が観念の世界で一切合切が幻なら飛び降りても意識は平気かもしれないし、虫に意識があっても知るすべがない、他人に身体が同じ仕組みだからといって意識があるとは証明できない、みたいなゾンビ問題で終わらね。自分の意識しか体験できないといってるだけだから。
自分が存在してることが認識できればそれは自我？