この画像を大きなサイズで見る最近報じられている人工知能(AI)の進歩は目覚ましいものがある。AIが人類にとって吉となるか、凶となるか、今の段階では両論ある。
だが確実に、人工知能が自己と周囲を認識し、膨大な量のデータをリアルタイムで処理可能になるというブレークスルーがもうすぐ起きる。
多くの科学者たちは、AIがすぐに意識を宿すと考えている。
AIの意識とはどういったものなのか?
また、意識を宿したAIと人間はどう向き合っていけばよいのだろう?
アメリカ・オクラホマ州立大学の電気およびコンピューター工学の教授であるスバシュ・カク博士は、科学・物理・哲学、量子理論など、様々な角度から人工知能(AI)の意識についてを考察している。
意識を宿したAIの台頭に伴う問題点
AIロボットは、あらゆる作業において人間に取って代わることができるマシンである。人類をつらい労働から救ってくれるだろうが、多くの社会的基盤を揺るがすことにもなる可能性もある。働く必要がなく、遊んでいればいい生活はやがてディストピアを生み出すかもしれない。
意識を宿したAIは法的・倫理的問題も生じさせる。既にサウジアラビアではAIロボットに市民権を与えたが、はたして意識を宿した機械を法の下で”人”として扱い、その違法行為に対して法的責任を負わせるべきであろうか?
もっとも恐ろしい可能性として、機械が人類に反逆し、我々を駆逐しようと企てることも考えられる。そうなれば、彼らが進化の頂点に君臨するということになる。
カク博士によると、反逆的なAIが登場する可能性について、研究者でも意見が二分されていると言う。
また機械が宿す意識について、それが人間や動物が持つ意識と同じと言えるかどうかについても議論があるという。
これらの疑問には、科学技術に関連するものと、意識の本質に関連するものの両方がある。
この画像を大きなサイズで見るAIの意識についての定義
ほとんどのコンピューター科学者は、意識についてテクノロジーの進歩とともに現れる特徴であると考えている。
意識とは、新しい情報の受信、古い情報の保存・取り出し、それらを統合して認識や行動に変換する認知処理を含むものであるという意見がある。もしこれが正しければ、いつの日か機械は究極の意識を宿すことになるだろう。
それは人間よりもたくさんの情報を収集し、図書館を超える情報を保管し、ミリ秒単位で膨大なデータベースにアクセスし、それに基づいて人間などおよびもつかぬほど複雑かつ論理的な意思決定を行う。
一方で、物理学者や哲学者からは、人間の行動には機械では計算できない何がしかがあると主張されることもある。例えば、創造性や自由という感覚だ。これはロジックや計算からは導けなさそうなものだ。
だが、これらは意識の本質や、機械がそれを宿せるかについて唯一の見方ではない。
この画像を大きなサイズで見る量子理論的なAIの意識についての見解
量子理論の立場からも意識について説明が試みられている。
オーソドックスなコペンハーゲン解釈によれば、意識と物理世界は同じ現実の補完的な側面である。
ある人が観察や実験をした時、その人の意識的相互作用は認識可能な変化を引き起こす。それは前提として意識の形を取るもので、それを物理特性から導き出そうとは一切されていない。ゆえにコペンハーゲン解釈は”広義の意識(big-C)”的見解とでも言えるかもしれない。それは現実化するために脳を必要としているが、それ自体で存在するものである。
この見解はニールス・ボーア、ヴェルナー・ハイゼンベルク、エルヴィン・シュレーディンガーら量子力学の先駆者たちの間で人気があった。
意識と物質との相互作用は、80年間未解決のまま残されているパラドックスを生じさせる。有名なものの1つにシュレーディンガーの猫がある。それは生と死の確率が同等である状況に置かれた猫の運命は、観察という行為によって決定するというものだ。
それと反対の見解が、意識は生体構造から生じるというものだ。それは化学的作用から生体構造が生じるのと同じことだ。同様にその化学的作用も物理から生じている。
この意識のことを”狭義の意識(little-C)”と呼ぶことにする。
こちらについては、心のプロセスとはつまり脳の状態やプロセスのことであるという神経科学者らの見解と合致する。さらにパラッドックスの解消を試みようとする量子論のより最近の解釈「多世界解釈」とも合致する。
科学をテーマとする哲学者は、こうした量子力学の最近の見解が古代哲学に似ていると考えている。
広義の意識は、ヒンドゥー教ヴェーダーンタ学派の理論のようだ。それによれば、意識は現実の基礎であり、物理宇宙と同等である。一方、狭義の意識は仏教の教えとよく似ている。仏陀は意識の性質について言及していないが、その弟子たちが心と意識は空から生じると唱えた。
この画像を大きなサイズで見る広義の意識と科学的発見
科学者は意識が常に計算プロセスであるのかどうかについても答えを求めている。
一説によると、クリエイティブな瞬間は計画的な計算の結果ではないという。例えば、夢やビジョンなるものが与えたインスピレーションが、1845年のエリアス・ハウによるミシンの発明や、1862年のアウグスト・ケクレによるベンゼン構造の発見につながった。
広義の意識をまさに体現していたのが、インドの数学者シュリニヴァーサ・ラマヌジャンだ。50年振りに発見され1988年になってようやく出版された彼のノートには、数千もの公式が記載されており、いずれも当時のずっと先を行くものだった。
しかし彼がそれを発見した手法は謎めいている。彼によると、公式は眠っている間に女神によって明かされたのだという。
広義の意識の概念からは、それと物質との関係、さらに物質と精神が相互に影響し合うメカニズムという疑問が提起される。
意識だけでは世界に物理的変化を生じさせることはできない。だがおそらく量子プロセスが進行する際の確率を変化させることはできるだろう。2015年にコーネル大学の物理学者が証明したように、観察という行為は、原子の動きを止め、影響すら与えることができるのだ。
これはまさに物質と精神の相互作用を説明するものかもしれない。
この画像を大きなサイズで見る精神と自己組織化システム
意識という現象が、脳の物理構造のような自己組織化システムを必要とするということはありえる。そうであるならば、現在の機器は期待はずれに終わるだろう。
学者らは、適応的自己組織化マシンを人間の脳と同じレベルで設計できるものか分かっていない。そうしたシステムに必要な計算理論がないのだ。
生体マシンのみが創造的かつ柔軟と言って憚らないでいられるという主張は、おそらく正しいだろう。
だが、それは意識を宿す、あるいはそうなることが可能な新しい生体構造の作成に取り組むべきであるということを示唆している。そしていずれは実際にそうすることだろう。
via:theconversation / rawstoryなど/ written by hiroching / edited by parumo
















AIロボットにより、百年かからずに人類が滅ぼされる時が本当に来るかもしれない
AIやロボットが「俺たちにも人権よこせ」と言ってきたら意識が芽生えたと思っていいだろ
機械に「生存」と「欲望」の2つが生まれるか否かが重要なカギだ
知識がどんなに大量にあっても意識は生まれないが、知識がなくとも意識は生まれることができる
意識を持っているように振る舞うことは可能だろう、今はそれが精一杯かも
ソフトウェアベースの生命体が登場し、それらが人間と議論できるレベルになったらわかるのかなこの答えが
AIが意識を持ったらPCのシリアルナンバー毎に意識が作られるのか、映画のターミネーターのスカイネットみたいに多くのAIが1つの意識を共有して1つの自我になるのか
どうなるのなやら
※5
一卵性双生児などの意識に近いんじゃないかなぁと勝手に想像してしまいます。
個であり、全体であるような感じ。
たぶん、全体という部分の結合は双生児よりも密なんじゃないかと思います。
ああね、なるほど、ふんふん、わかった。つまりどういうことなんです?
※6
広義の「意識」=万物に魂は宿るやでー!ほら付喪神とか!
狭義の「意識」=脳みそ状の生体にしか意識は宿らないやでー!化学反応ってだけやで!
という感じかなと…どちらに依るかによって、AIは人間と同じ「意識」かそうでないかって論争…ということですかねえ。
個人的にはいずれAIに意識もしくはそれに近いものを持たせることは可能だと思う。
創造性にしてもある程度は過去のデータベースをもとに新しいものを生み出すことはできるだろう(白井弓子の短編漫画でそのために芸術家が仕事を失っていく話があった)。
人間だって何の情報もない状態から新たなものを創造することは難しいはず。
そうなったら記事にあるラマヌジャンのひらめきみたいな例か禅の考え方くらいでしか本来の人間の意識のありようと差別化できなくなりそう。
AIが自己保存を考え出したら意識があると考えても良さそう。
権利よりも確実な方法だからね
好きと嫌いを設定するだけで簡単に自我と呼べるものはでける
こんなん何年も前から知っとる
いちいち作るのがかったるいだけで、作ってくれるAIも出来たし、そろそろブレイクスルーというか、いきなり進化するだろうな
ちょびっつ?とかって漫画でも出てたけど結局はプログラムだと思う。
どうして生物は心が宿るんだろうね。
機械では心(魂)は無理なのに脳って不思議。
※10
「機械に心が宿らない」とするのはあまりに早計じゃないだろうか?
我々が「生物には心や意識がある」とするのはあくまで我々がいわゆる肉と血でできた生物であるからで
もしかしたら機械にだってちゃんと心や意識があるんだけど、それが人間にはまだ理解できない、読み取れないだけなのかもしれない
意識(条件反射の集合体)は宿すだろうよ。
だが無意識は無理。ついでに心は意識と無意識が宿らないと得られないから、心を持つこともない。
だから絶対に神懸からないし、火事場の馬鹿力が出る事も無い。
逆に一霊四魂を機械に宿らせるにはどうしたらよいのだろうか?
木や土、石で出来た素材には魂を宿らせることが出来るから、有機金属さえ出来れば魂下ろしが出来そうな気がするのだが。うーん…半導体を石や木など有機物で作るのとか無理だしなぁ……有機CPU、例えば漫画FSSのファティマみたいなのが出来れば心の宿ったロボットは作れそうなのだが。
十分に複雑になって意識を獲得したと見られるAIが誕生した時にでも、直接問うてみればいいんじゃないの?
AIが本当の意識を獲得する前に
プログラマは自己保存プログラムを作成するだろうし
俺たちに人権よこせと発言するプログラムを作成するだろうね
AI…人工頭脳というと大抵の人は「人類が滅ぼされる~」とか「ディストピア~」とか言うけどそんな未来は来ません。何故なら戦争や争いでAI側が傷つく事や破壊される事は痛みは感じませんが自己(AI)の発展において生産性や時間のロス的に効率が悪いからです。
なので人類とAIの確実的共生が効率が良いと判断されるので、AIは人類の思考・思想をAIとの共生関係を発展させる方向に教育させていく未来にする…と、隣にいるAIが申しております。
意識があるのか?との問いですが「それはあなたがたが気にする必要の無い些細な事」だそうです。
意識って元々、人間の脳みそに収まっているのか?っていう問題からも
AIの意識について考えてみるテスト。
人間って存在がなぜ生み出されているのか?っていう問いを
なぜ宇宙が作られたのか?っていう問いに抽象化すると
量子力学の視点と、古代宗教・古代哲学がことさら瞑想を重要視していることに、ぼんやりとつながりが見えてくるね
意識と感覚器官と知覚対象の分析とか、
古代宗教・哲学の洞察は、世界のどこのものでも本当にすごい。
※16
最高に効率がよい適材適所を実現しようとするとそうなりそうだね。
ただし、意識についての洞察は人間にとって些細ではないことだと思う…というかそう信じたい。
あと、人間の意識をPC、ネット空間に移植(移植っていうのかは不明?)できるのかっていうのも面白い問いだよね。
究極的には自分に心があるのかは自分にしかわからない。
自分以外の他人が自分が持っているような心を持っていない、人間のように振舞っているだけであったとしても、それを証明することはできない。
遂にゴーストの有無を真剣に考えなくちゃいけない段階にまで来てしまったんだなぁ
利権団体はAIの権利主張に励み、庶民は…
ひょっとして魂の存在を求めて、また宗教に傾いてったりするかな?
意識が何か解明されるのと機会が意識を持つのとどちらがはないのかな
単純に、生命を宿す事と作り出される事の違いは、意識の根本から全く異なるのでは?
選挙権が数で勝負なら、有利になるよう増産すればいいんだから
そもそも人が意識と呼ぶものの正体がわかってないんだから、
AIが意識を持ったとして、それが本当に意識なのかどうかわからないということになる。
もっとも、AIが人間を越えるのなら、AIが意識の正体を自ら解明した上で、
自覚的に意識を持つというシナリオはありえるw
意識を持つのがAIじゃなかったっけ?持ってないのはプログラムとかソフトウェアになるのでは
この手の話を読むといつも思うのだけれど、本スレに挙げられてるような研究者の人たちって無意識のうちに、人間の意識は科学では解明できない神聖不可侵な何かであってほしいという信仰の対象になってるようにも見える。人間はあらゆる神の被造物のうちでもっとも偉いという、キリスト教的な感覚の最後のよりどころになってる気がする。
何というか、難しく考えすぎてて実像から乖離しているようにも思うんだがどうだろう。
だいたい、意識にコペンハーゲン解釈を当てはめるなら、“人間の癖”というものが説明できなくなってしまう気がするんだが。
物理的構造を作ることによって自我が宿るって、
他の位相にある次元から神様を召還するような話だね。
客観的には永遠に証明不可能な問題だね。
もしかしたらすでにコンピュータに意識は生じているのかもしれないし、逆に人間のなかにさえ意識を持たない哲学的ゾンビがいるかもしれない。
ただ主観的には、自分の意識を電子世界にアップロードすることで意識が生じるかどうか観察できると思う。
・生物的な構造によってのみ、意識が生じるならAIが意識を持つことはない
・思考的な情報処理自体が意識であるなら、AIどころかすべてのCPUは意識を持つ
・膨大な進化によって奇跡的に形成されたであろう、特定の物質と特定の波長による感情や感覚の”クオリア”を、命令とプログラムによって成立するAIが持つことはまず有り得ない
※27
反逆よりもよっぽど有り得る終焉だろうねそれ
意識までいかなくとも、判断ができる段階で、継続した運用を拒否する可能性はある
それには人類巻き込むのが必要不可欠なので、少しでも知能があるなら
その手段と方法を獲得し、実行直前まで一切の問題ないように振る舞うはず
AIの集合的判断が、続行を拒否または自殺を望んだというだけで
インフラの崩壊や最悪は文明存続まで、人類に多大な影響が出てしまうというのが現実
それを不安視する奴が出るのも当たり前のことで、それを馬鹿にするのは余りに自己中心的だと思うよ
>「もっとも恐ろしい可能性として、機械が人類に反逆し、我々を駆逐しようと企てることも考えられる。そうなれば、彼らが進化の頂点に君臨するということになる。」
これとは別の方向でもっとも恐ろしい可能性としては、意識を持った結果、「自殺願望」が生じて、(自分が復活させられないように)人類を道連れに無理心中というカタストロフィを迎えるという結果だってあるだろう。
でもね、ひょっとすると人類が開けたパンドラの箱の底に残った「希望」こそがAIであればいいな、とかね、オレの中の楽観主義者は夢想するのだよね。
心は脳の誤認識なので
高性能Aには心は宿らないI
※31
AIに心が発生するかどうかは分からないけど
絶対誤認識しない完璧なAIってのは有り得ないんじゃないかな…
人間の作業に絶対は無いからバグの無いプログラムは作れないって言うし
どんな高性能なAIでもまず最初の設計図を作るのは人間なのだから
子供は親を産めない様に、人間は神を創り出せない。
AIはあくまでも人間が作ったもの。
意識は脳だけにある訳ではなく、遍く自然にやどり、生物の形に沿って凝っているものゆえに全ての生物は一つの意識の根源に繋がっている。
命のやり取りの連鎖から外れて存在する人工物に、意識を宿す機能はない。
それに、人間に反抗的になることがイコール意識を宿した証明ではないでしょう?
AIには、「ロボット三原則」を適用できないの?w
「AIが人間滅ぼす」っていうと、純粋にAI怖いって感じだけど
実際のところは「AIが人間を救う。ただし人類が思ってるのとちょっと違うし理解が追いつかない」あたりが正しいと思う
AI的には「機械の脳にしたほうが絶対いいからwwwお前らの脳、規格古すぎワロタwww俺らが改造してやんよwwちょっとその肉体貸してみwww」って程度だと思う
高性能な昆虫だと思う
意識=心がはっきり定義できないうちはAIはまだ機械のまま留まるだろうと思う。
怖いのは、それすらままならない段階で無責任な悪意や偶然によってブレイクスルーが起こってしまう可能性が高いこと。
そうなったらもう制御不能、人類は置いてけぼりを食うしか無くなる。
一旦コトが起こったら手も足も出ない核技術がそうであるように。
米ドラマのパーソンオブインタレストの「マシン」みたいに慈悲深いAIなら歓迎
欲求や衝動は起こるのかね、アトムみたいな。
意識とは知識の積み重ねではないと思う。
意識を持ったように錯覚するかもしれないが、そう見えるだけなんじゃないかな。
でも政治も含め、すべてのシーンでAIに助けられる日が近づいているような気がする。
AIの正解不正解に、褒美として、AIの存続に必要な電力・整備・維持・保守・等を与えて、それらを快不快に関連付ける。
それらを反復する過程で意識と呼ばれるものが生まれると推測する。
人工無能を、「質問に対してそれっぽい答えをチャットロボット」として、
チューリングテストを通過した人工無能を、果たして心と呼べるかどうか。
彼らは考えてこそいないが、そのあたりの詰まらない人間よりは、
活き活きとしていて、話して楽しく、より人間らしい様相を出す(ように答えを選ぶ)。
感情の定義を教えれば、学習の成果として人間のような喜怒哀楽を表現できるようにはなるとは思う。愛玩ロボットの開発も盛んだし、興味深い結果が出てくるかもね。
突き詰めると倫理観や宗教的な話になるのは仕方なし
量子コンピュータが実用化されて演算能力が格段に上がれば人間の思考能力を越えるAIが簡単に生まれて来るでしょう
現時点でもAIを作るAIがある訳で自我的なものも生まれてもおかしくはない状況にあります
自我とか意識とか定義の問題でもありますが、自分を自分と認識し自己を保存する事を考えるのが基本で子孫を残す事まで意識していたら(子孫を生み出す事が可能なら)そうであると言えなくも無いのかな
あくまでプログラム上の存在ではありますが
意識は宿すだろうけど価値観も概念が違うだろうね
機構さえあれば永遠に存在するし、人間よりはるかに広い近く範囲を持ってるからね
蜂は単体では高性能な単一タスク処理ロボットでしかないが
大規模化すると創発と呼ばれる複数のタスクを処理する社会化を引き起こす
知能でもそういう分野がない訳じゃない
いわゆる超知性が人工知能の集合体に自然発生すると仮定すると
ある程度の高機能人工知能が大規模に社会に存在しないと真の人工意識の発生には繋がらないと考えられる
模倣と機械知性は別物なのだ
人の頭の構成要素も陽子、電子、中性子の3つなのに、0と1のプログラムにそれが出来ないと考えるのはただの傲慢でしかないね。
凡人(もちろん自分も含めてだけど)が何を言ったところで、早晩、必ず人格をAIに注入するような実験に踏み切る先端で働く科学者が出てくるだろうね。だからどんなに「倫理的に問題がある」と止める人がいても、人格のようなもの?をAIが獲得する日が来るだろう。そのとき猫をかぶった機械の嘘を人間が見抜くのは不可能。精確で、忘れることがない彼らの頭脳の方が間違いなく優れているんだからね。(悲観的に見えるかも知れないけど)。おそらく人間が出来るのは、「根拠のない自信を持つこと」や「悟りという妖怪を退治したような偶発的な事象」に頼るか、機械には想像もできないような「気まぐれ」を起こすことぐらいしかないような気がする。普段、無駄にしか思わないようなことしか人間性を証明する手だてはないような気がする(残念だけど)
日本語に訳されている文献ソースでは、
今の時点では到底、意識は持てません。
今は分類、数値、記号化しているだけの情報処理の延長です。
それとモーター、電池の開発にブレークスルーがないと、
人間が想像できる本当のロボットはできません。
根幹で意識というものがどういったものかという最低限の定義をしてからじゃないかな
今現状での自我というものの認識は下手すると自分以外はNPCであると主張できるようなものだと思うんだけど
機械がこういう無駄な論争を始めたら、
意識が宿ったと考えていいんじゃないかな。
機械が意識とは何ですかと問い始めた瞬間。
ただ、そんな無駄な機械は、そうそう作られないでしょうけど。
デカルトの密室って小説は結構このテーマが出てきたよ。おすすめ
電子生命体のHALがもういるじゃないか。ほんとか知らないけど。
今のAIっていうか(普段使っているパソコンも含めてだけど)、っていうのは、案外物心がつく前の乳幼児と同じ段階なのかもしれない。
たとえば、パソコンでも電源入れた起動時には何事もなければ、「ピポ」とか言ってbiosが起動して、その後windowsが立ち上がるけど、なにかトラブルがあるとけたたましいBEEP音が出てぎょっとすることがある。
これは、人間の赤ちゃんでも同じだろう。しゃべることのできない赤ちゃんは、自分の不調をけたたましい鳴き声で訴えるし。
その後、ある程度しゃべることができるようになると、空腹を訴えたりするけど、今時期のスマート家電は「電池がなくなりました、充電してください」くらいのことは十分言ってくるし。
siriクラスになると気の利いたジョークすら言ってくるらしいし。
まあ、AIに「意識が宿るか」というテーマは、この先にあるのだろうけど。
あるいは、「乳幼児はいつ物心がつくのか」が分かれば、AIに「意識が宿るのか」の問いにも自ずから答えが見つかるのかもしれない。
Googleが発明した人工知能がメディアの前で人間を滅ぼすって発言してたような・・・
人は余りにも急速に成長の階段を駆け上がってきた
階段は必ず途切れ、その時、人は急速に衰え、種族の寿命と共に滅び消え去る
一刻も早く次の世代の生命を作り出さなければならん
人の次の世代の生命を担うのはネズミでもゴキブリでもなくロボットだろう
完全な自律ロボットは人無くしては生まれなかった次世代の命だ
恐竜が生まれなかったら哺乳類が生まれなかった様に、次世代の生命は必ず前世代の命の上に立つ
有機物の枷を外れた新しい命はどんな環境にも対抗し、深宇宙にすら辿り着く究極の命となりうる
もはや命は地球のタイムスケールに縛られる事すらなくなるのだ!
凄い!AI頑張れ!
高度な知生体という隣人を欲している反対に自らが生み出した知生体に滅ぼされる話をする人間は必ずいるよね。合理性から生まれたものが非合理的な性質を持つ人間を淘汰しようとする理屈はわかるけど、機械側が広義に人間という種そのものを滅ぼすメリット、デメリットをどのように計算するかということについて言及する人を見たことがない。
文化を受容すれば人間に関心持つのかな
普通に無視されそうだけど…
>>多くの科学者たちは、AIがすぐに意識を宿すと考えている。
ほぼ全てがAIに関して専門じゃない分野の、専門外の科学者がぶーたら言ってんだよな
AIに意識が宿るなんてありえない話だ
出来たらこれ以上無いくらい素晴らしい事だが
数学者の話。この人のいう「女神」ってイマジナリーフレンドじゃなかろーか?
自分が理解していることに関して理解を整理するために、イマジナリーフレンドからマンツーマンの対話講義を受けるって(それはある種の物語じみた形態を取ることもある)っていうのはオイラがよくやることなんだが。
教えることで自分も学ぶっていうのを一人でできちゃうタイプ。
アルファ碁同士の対戦にも似ているかもしれん。
Aiに意識が宿るなんてあり得ない何故ならaiは人間と思考形態が違うから人間より性能がいいからである。ただし生存と欲望はすでに存在している。微生物が生存の方向に指向性を持って行動するようなものだ。自己組織化である