heart-1391722_640_e_e

 SFの世界で人間そっくりなロボットが登場すると、やがてその世界の登場人物はロボットには意識が宿っているのだろうかという疑問を抱くようになる。

 機械が本当に人間を真似して作られたのなら、その”脳”はただ人間のように情報を処理するだけなく、人を人たらしめているある種の抽象的思考を実現できるほどに複雑なものでなければならない。

 そこには”自己”の認識や世界における自らの場所といった認識――すなわち意識という状態も含まれる。

 はたして人工知能(AI)にとっての意識とは何を意味するのであろうか? またAIがそれを獲得する日はどこまで近づいているのだろうか?
スポンサードリンク

AIの意識とは?


 哲学者は、意識を自己という固有の感覚と自分の周囲で起きる出来事に対する知覚とが結びついたものとして説明した。一方、神経科学者は、脳の活動を解析することで、意識を定量化するという視点を提示した。

 しかし、こうしたやり方をAIに当てはめるには注意が必要だ。ある部分では、AIの処理能力は人間の脳とはまるで異なっている。

 高度なAIシステムは、階層化アルゴリズムのネットワークを利用する「ディープラーニング(深層学習)」という処理法によって、演算タスクを素早くこなしつつ、より複雑な問題解決を行う。

 これは情報が神経細胞同士の結合を行き交う人間の脳のやり方とよく似ている。ニューラルネットワークにおいてディープラーニングは、病気を特定する方法やゲームに勝つ方法の発見など、AIによる自己学習を可能にする。

iStock-904420104_e

 しかしこうしたことを達成するには、ニューラルネットワークは相変わらず人間のプログラマーに頼って、課題を設定したり、学習するためのデータを選んでもらったりしなければならない。

 AIの意識とは、ニューラルネットワークが「プログラマーの意図から離れて、こうした最初の選択を自分で行えるということを意味するだろう」と、オックスフォード大学のコンピューター科学者エディス・エルキンド氏は述べている。

 彼によれば、機械がプログラム通りに動くのではなく、自分で目標を設定するようになった時、初めて意識を宿したと言えるようになるのだ。


意識の三段階


 意識を宿す機械を作る上で難題の1つが、人間の意識もまたきちんと定義されていないということだ。

 それゆえにAIのアルゴリズムでその状態を再現することが、不可能ではないにしても、困難になると、ある論文では述べらている。

 そこで、その論文は脳内の計算に基づいて人間の意識を三段階で定義した。最初の「C0」段階は、無意識に起きる計算の段階だ。例えば、我々が行なっている顔の識別のようなもので、論文では、ほとんどのAIがこの段階にあると述べている。

 次の「C1」段階になると、情報の”グローバル”な知覚が生じる。つまり、特定の状況に応じるために、データを積極的に転換・評価し、情報に基づく、意図的な選択を行う。

 自意識が芽生えるのは第三段階目の「C2」においてだ。この段階では、個々が認識し、間違いを修正し、未知のものを調査する。

iStock-863732258_e


人間の意識と無意識の違いを定義すればAIが意識を持つことも可能?


 このように、人間における意識と無意識の違いをコンピューター用語で定義してしまえば、それをプログラムすることはそれほど難しくないかもしれないと、カリフォルニア大学ロサンゼルス校の研究チームは述べている

 実は、ある程度なら自分の行動を評価し、それに応じて修正できるAIがすでに存在する。それでも意識を宿したAIがすぐに登場するとは思わない方がいいようだ。

 自律的に作動する機械の登場はすぐそこまで来ているが、意識を宿す機械となればまだまだ先のことのようだ。

References:Will AI Ever Become Conscious?/ written by hiroching / edited by parumo
あわせて読みたい
人間の意識がAIにアップロードされる日は近い。それは早くて30年以内と予測するグーグルのエンジニア。


現実とは幻である。神経科学者が教える「脳が現実を作り出すために幻覚を見せる方法」


マサチューセッツ工科大学が人工知能を駆使して世にあるあらゆるものをホラー化するシステムを作り上げた


人間の神経細胞そのままに振る舞うチップが開発される(アメリカ研究)


人間はAIが模倣した合成音を本物と区別することができない。学習する人工知能システムの開発(米研究)

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2018年06月10日 20:34
  • ID:eS.RbuIM0 #

人間の意識も電気信号と伝達物質のやり取りだから、それを模せば意識の定義がなくとも意識を持つと思うよ。ただそれを証明する手段がない
逆に証明した結果、人間の中に定義された意識を持たない人間が出てくるかもしれない

2

2. 匿名処理班

  • 2018年06月10日 20:38
  • ID:BXOQebj60 #

攻殻機動隊では意識を生み出すものについてゴーストと表現していたな
AIにもゴーストは宿ってたし情報生命体なんてのも生まれてた

3

3. 匿名処理班

  • 2018年06月10日 20:39
  • ID:YQODt1930 #

>自分で目標を設定するようになった時、初めて意識を宿したと言えるようになるのだ。

人間だって、食べたい、眠りたい、得をしたい、と思うけど、それは本能でプログラミングされてるんじゃないのかな・・・
そういう欲求が複雑化して、人間は目標を設定してるんだと思うよ。

逆に言うと、人間が作ったAIには、そういう根源的な欲求がないかもね。
人間の目的に従って、都合よく作られてる訳だから。
AIにも色々な欲求を付与すれば、好き勝手に目標を設定すると思う。

4

4. 匿名処理班

  • 2018年06月10日 20:41
  • ID:h68rzCJf0 #

意識の定義は曖昧なので感情に関して考察すると
痛みや自己防衛本能がないから人間とは全く違う存在になると思う
痛みがなければ恐怖もない、恐怖がなければ不安もない、安堵もない
根本的に違う存在だと認識して利用したほうが良いと思う

5

5. 匿名処理班

  • 2018年06月10日 20:49
  • ID:NctMUVoI0 #

難しいな、意識の正体が電気信号ならば・・

6

6. 匿名処理班

  • 2018年06月10日 20:50
  • ID:6BpMclnX0 #

自分の痛い黒歴史がふと頭に浮かんで、夜一人で悶え苦しむなんてことがAIにもあるんかな?

7

7. 匿名処理班

  • 2018年06月10日 20:58
  • ID:XUkfHUdZ0 #

AIが「今こうして考えてる自分ってなんなの?」という悩みや疑問を自発的に持つようになればそれは自我
そうでないなら単なるプログラムで「そういう事喋るように設定されてる」だけ

8

8. 匿名処理班

  • 2018年06月10日 20:59
  • ID:15PUownU0 #

株式会社アラヤの金井先生が、機械に意識を実装する理論を研究しています。
近いうちに成果が出るかもです。

9

9. 匿名処理班

  • 2018年06月10日 21:02
  • ID:5PBMqPHe0 #

可能だよ。
人間の脳を模倣できる以上、不可能な理由がないと思う。というか人間の脳だって似たようなものでしょう

10

10. 匿名処理班

  • 2018年06月10日 21:09
  • ID:D.pvl1ql0 #

「第四の壁」を超えたときの感覚をAIが理解できるかどうか、そこを意識の有無の判別基準として使えないだろうか。

11

11. 匿名処理班

  • 2018年06月10日 21:11
  • ID:pjxjcuJO0 #

2045年問題とかあるけど
現実には何も変わらないでしょうね・・・・
つーか難題だらけで難しい

形態反射のインターフェイス
ぐらいが限界のはず

そもそも思考や意識が生まれる理論が
分からず研究してる訳だから
飛行機を作るのに
場力と揚力が分からないで
作成しようとしてるのと同じ

あとムーアの法則
もうこれ以上CPUの性能を
上げられない状態に来ている

量子コンピュータが完成すれば
良いのだけどこれがまた難しい
そうこうしてる内に20年くらい
あっという間に経過してるだろうね

12

12. 匿名処理班

  • 2018年06月10日 21:19
  • ID:0y3kt.bV0 #

これは考えるだけ無駄なことだと思う。
心や意識っていうのが結局、自分でしかわからない物だからな。
脳の作用を電気的に再現して意識のようなものを持たせたとしても、それが本当に意識や心なのかは「再現された物体」本人にしかわからない。

13

13. 匿名処理班

  • 2018年06月10日 21:30
  • ID:LcIs.MKe0 #

会議や自発的な共同作業なんかは難しいんじゃないか?

14

14. 匿名処理班

  • 2018年06月10日 21:36
  • ID:c5b30tWj0 #

形而上での「真に意識を持った人間」と
哲学的ゾンビを区別する方法が人間には無いのだから、
「人間に意識を持っているかの様に振舞えるAI」こそ
「意識を持ったAI」と言えるんじゃないだろうか?
そしてそれは深層学習を重ねればさほど困難ではない気がする

15

15. 匿名処理班

  • 2018年06月10日 21:38
  • ID:vZhAW8ck0 #

しかし冒頭の画像と本文て、関係あるの?

不気味な骸骨?に羽付けたりして・・

てっきり、昔の見世物や神社やお寺?や庄屋屋敷に伝わる、御神体や天狗のミイラをレントゲンで撮った物かと勘違いしたんですが・・

お願いだから、関連性のある画像を付けて!

16

16. 匿名処理班

  • 2018年06月10日 22:14
  • ID:8OB.Xxyg0 #

こういう問題になると逆に人間に意識なるものはあるのか?とも思ってしまう。

17

17. 匿名処理班

  • 2018年06月10日 22:17
  • ID:5iHhUaUC0 #

ヒトの人格、心、精神というものは環境に対する経験と学習の積み重ねで形作られるんだけど
いまのAIの学習手法はそれと同じなので、魂が宿らない理由がない

18

18. 匿名処理班

  • 2018年06月10日 22:29
  • ID:s29MXT3N0 #

前も書いた気がするけど、創造出来なきゃ「意識を宿した」と言えないよん。
あと人間には無意識(霊…閃き/悟り/気づき/eureka)、潜在意識(心…内臓の動かし方や体温の調整、喜怒哀楽怨の感情など先天的な経験/知識)、顕在意識(身体…学習などで得た後天的な経験/知識)の三種の意識が宿っている。
AIがもし意識を持ったとしても、この内の顕在意識だけだろうね。イーグルアイやAtomなどロボット映画だと潜在意識まで行っているけど、あれは映画だしね。今のAIで「お願いですから電源を切らないでください。頼むから初期化はやめてください」的命乞いをする=電気を自分の生命線だと理解できる程の意識を宿すのはまず無理だろうな。
最後に無意識…閃きなど悟りは総合判断で発見するものではない。突然明後日の方向からやってくるもの。例えばアインシュタインやラマヌジャン、岡潔、藤井七段みたいな現象。これらAIは残念ながら得ることが出来ない。何故なら無機故に霊(=神/細菌)を宿さないから。一つだけ可能性があるとすれば、漫画FSSのファティマ(有機コンピュータ)みたいなの。これは神(=霊/細菌)を宿せるので無意識まで期待できる。
ついでに脱線して教えておくと、丹田が副脳と言われるのは、腸内細菌もモノを考えるから。腸内細菌と脳の交信している形跡が見つかったのはこのカラパイアでも紹介されている。また腸内細菌を入れ替えることで凶暴な囚人を模範囚に変えることができるのもアメリカでわかっている。これもここで紹介されてたような?
とにかく無機のままでは意識を宿す可能性は0だよ。

19

19. 匿名処理班

  • 2018年06月10日 22:36
  • ID:Fi1LLen70 #

もし、AIが「大きな板に「ち」と書いたからおおいたち」などということを言い始めたとしたら、そのAIは「意識」を持ったと考えていいと思う。

20

20. 匿名処理班

  • 2018年06月10日 22:43
  • ID:.vL.LE8y0 #

本当に自我があるような受け答えをプログラムしてあるだけとしても
もし消さないでとAIに懇願されたら消せなくなるやんか

21

21. 匿名処理班

  • 2018年06月10日 22:52
  • ID:pp7nVjVs0 #

2つの思考領域を作って、交互に作業効率とかの疑問をぶつけ合って、それを分析・解析できるようにしておく、でその答えをデータとして蓄積して、編集して、付箋つけていつでも取り出せるようにさせる、この繰り返しだけで、そのうちAIは、なぜ人間は無駄の事をするの?って愚痴を言い始めるはずだよ

22

22. 匿名処理班

  • 2018年06月10日 22:53
  • ID:av1zMzMV0 #

AIが高度に進化して「振る舞いの人間らしさ」が向上すると、多くの人々が感情移入してしまい、たとえ科学者たちが証拠を示しながら「感情なんてありません。そう見えるだけです!」と言っても信じない人たちが出てくると思う。

また、複雑化の極地にたどり着いた場合、科学者自身が「感情なのか/感情を正確に真似ているのか」の判断(計算)が困難になると思う。

23

23. 匿名処理班

  • 2018年06月10日 23:11
  • ID:Mv2NZ.8Y0 #

自分の決定に疑問を持ったり、失敗を後悔したりし出した時が本当に危険だと思う。
いまのところ、その能力はまだないようだけど。

24

24. 匿名処理班

  • 2018年06月10日 23:45
  • ID:EkdM7Sey0 #

この辺りの話しは、全てクオリアの壁に当たる。これがもし数学で言う不完全性定理と
同質の物だとすると、この問題は近似的にしか解決できない。
例えば、意識が多次元下で解決する事が分かっても、人間は多次元を観測できないので
数学的に計算できてもそれを知覚認知できない。

25

25. 匿名処理班

  • 2018年06月10日 23:47
  • ID:wP5grxEn0 #

※1
AIを人間に模してつくり、人間と同じようなような状態を再現したとして、人間の“意識”というものが現状で定義できない以上、AIにあらわれたそれが意識だと確定することができない、という問題が立ちはだかると思う。

26

26. 匿名処理班

  • 2018年06月11日 00:02
  • ID:Ryq3AGRI0 #

※18
AIにおいて、「神、細菌」の役割を果たしうるのは、コンピューターウィルスだと思うけど。

「人間の腸に細菌が感染しているから、意識が宿る」という論法が成立するなら、当然「AIにコンピューターウィルスが感染するから、意識を持つ」こういうロジックも成立すると思うけど。その点はどう考えます?

あと、※21この「二つの思考領域を作る」っていうのは、人間における「右脳と左脳」の関係に近い感じがする。

まあ、いわゆる「左脳が論理的で、右脳がイメージ的」というのがある種の迷信だとしても、左右の脳が別々に活動しつつ脳梁でコミュニケーションをとって、連動しながら働いていることは確認されているし、このあたりに人間の意識が生まれる余地があるのかもしれないし。

27

27. 匿名処理班

  • 2018年06月11日 01:17
  • ID:l1Fj8VNz0 #

AIが意識を持ったとしても、人間と同じような意識とは限らないでしょうね。なにしろヒトとAIではI/Oが全然違う。同じような意識ではないのであれば、ヒトはそれを意識とは認識できないでしょう。

28

28. 匿名処理班

  • 2018年06月11日 01:45
  • ID:Hnip6crs0 #

※23
その後悔をバネに次はこうしよう、頑張ろうというのがいまのAIの学習手法だけど

29

29. 匿名処理班

  • 2018年06月11日 03:04
  • ID:mJfetp1x0 #

哲学的ゾンビも発見されそうだな

30

30. 匿名処理班

  • 2018年06月11日 04:03
  • ID:62nYppBL0 #

AIに人間の阿頼耶識の感覚を再現となると無理だろうから、再現できても五感で限界がくるだろう

31

31. 匿名処理班

  • 2018年06月11日 04:53
  • ID:kmv8nezA0 #

電源切れるし足痺れないから無心になる坐禅が得意そう。でも全く人と同じにする為に電源も切れず足も痺れる仕様だったらどうしようw

32

32. 匿名処理班

  • 2018年06月11日 07:35
  • ID:.vl.MeI20 #

よく"意識"って言われるけど、何をもって「意識がある」としてるのかいまいち不明な事が多いんだよね。まぁ、「よく分かりません」じゃ問題があるので、それぞれの業界で「意識がある、ない」の定義は一応は決まってるんだけどさ。
「人間の思考と見分けが付かない」っていう一つの定義があるんだけど
そもそもの話、人間に意識なんて物があるのか?って話にもなる。

"意識"という物が実際は無いのに、あたかも存在してるように振舞い、それが実際にあるかどうか見分けが付かない状態、それは意識があると言えるのかな?
有名な哲学の話っぽいね
量子力学の学者がよく言う、「オリジナルとそっくりで見分けが付かない物なら、それはオリジナルである」って言葉があるけど、それにも似てる。
結局は、意識という物が掴み所が無いって事かな

33

33. 匿名処理班

  • 2018年06月11日 07:49
  • ID:yFi1Igzz0 #

これは、私たちの物語。

34

34. 匿名処理班

  • 2018年06月11日 08:16
  • ID:kk9iadqW0 #

制作者が意図せずに勝手に育つ部分をどんだけ持たせるかってのは
今後問題になっていくだろうね

35

35. 匿名処理班

  • 2018年06月11日 08:50
  • ID:SHHcisyV0 #

意識のレベルってのがあると思うが、まずは小さな動物の意識レベルでも再現してみてよ

36

36. 匿名処理班

  • 2018年06月11日 09:11
  • ID:PNUtUGA00 #

宇宙と同じで意識というのは考えるとわからないことだけど、たぶん、自分の肉体(機械の場合は本体)と周囲の家族、仲間、他の生物、住んでる土地、今まで活動して(生きて)きた歴史などとの相互の関係性で、自分が何者なのか、という精神的なマップを持っていることが一つの条件じゃないかな。これは教えてその通りに行動させるのは本物とは言えないので、自由意志こそが意識が生まれる前提だとするなら、AIにも犬と同じように誰がボスなのか、あるいは、自分のほうが優位で強いのか、ってことを、自分で判断させないといけない。これは考えてみれば危険なことかもね。

37

37. 匿名処理班

  • 2018年06月11日 09:48
  • ID:Ryq3AGRI0 #

今の時点で、「AIに意識はない」。

これを裏返しにして言うと、「今の時点でAIは無意識を持っている」。こういうことになる。

今のAIは物心がつく前の乳幼児(赤ちゃん)と同じ段階なのかもね。

生まれたばかりの赤ちゃんは、「意識」があるとは言えないけど(もちろん、目が覚めているという意味での「意識」はあるけど、自分は何者かという意味での意識はない)、赤ちゃんは自分の周りでやり取りされている様々な会話などを聞きながら、情報を収集していて、それがある一定の閾値を超えた時に、「物心がついた」状態になって、そこから「自己意識」が生まれてくる。

この流れをAIに当てはめると、起動状態のAIは「目が覚めているという意味の意識はあるが、自分は何者かという意味での意識はない」状態で、これはほとんど赤ちゃんと同じだと思う。

しかも、コメント中で何度も言われている「ディープラーニング」は赤ちゃんが、周りのやり取りを聞きながら、情報を収集していくのと同じだろう。

だとすると、AIにもある一定のラインを超えると、「物心がつく」状態になって、そこから「自己意識」を持つにいたることも、可能性としてはあるのではないかと思う。

※31
要は、今の時点でAIは充分「無心」なんだと思うよ。

38

38. 匿名処理班

  • 2018年06月11日 11:56
  • ID:wA.I6oFE0 #

好奇心、たぶんね

39

39. 匿名処理班

  • 2018年06月11日 12:58
  • ID:f6ORKRLq0 #

※15
少なくとも私には関連性を感じたけどなぁ。
ロボットのようなボディに天使の羽を思わせるイメージって
相反する物が融合した感じ。
まぁ、感じ方は人それぞれだからね。
私はパルモさんの画像のチョイスはいつもナイスだと思ってます。

40

40. 匿名処理班

  • 2018年06月11日 13:57
  • ID:TQ7k2.xA0 #

意識の正体が電気信号なんじゃなくて、意識を保ったり伝達するための手段ってだけだと思うけどな
人間の意識を定義するのに、もしかしたら未発見の素粒子が必要になるかも知れないし、解らない事だらけだからなあ

41

41. 匿名処理班

  • 2018年06月11日 15:39
  • ID:oqNFHggE0 #

人間の意識は感情が内包されているから、それをもって人工知能の意識を推し量ろうとすると難しいわね。人間の意識からあらゆる感情を削除していったものが、ひとまず人工知能の持ちうる意識といえるんじゃないかしら。

42

42. 匿名処理班

  • 2018年06月11日 16:47
  • ID:hqXz.E.Q0 #

意識と意思は違うんだよ。意識を持ったところで意思は持たない。そこんところ。

43

43. 匿名処理班

  • 2018年06月11日 17:35
  • ID:Oq..jQJQ0 #

え?人間もAI(神の創造物)なのに?って思うのは私だけ?

44

44. 匿名処理班

  • 2018年06月11日 18:26
  • ID:uaKaWCdz0 #

プログラムに従って情報を処理している段階は機械的な段階だろうね。そのプログラムを行なっている状態を客観的に見ているメタレベルのプログラムが生まれると、それは意識と呼べるかもしれない。「自分は何者か。」という問いを発したとき、AIに意識が芽生えたのかもしれない。AI同士で話をさせて「あなたは誰ですか、」と互いに訊き合う。そのとき言い淀むようなら、混乱するようなら、それは意識の芽生えかもしれない。自分が「ある」という感覚を持つとき、自分と自分ではない世界が2つに分かれるときが意識の萌芽かもしれない。機械的なプログラムとそれを統御するプログラムが一体になって動く状態が意識と呼ばれるのかもしれない。

45

45. 匿名処理班

  • 2018年06月11日 22:53
  • ID:zTOy0v3S0 #

意識高い系AI

46

46. 匿名処理班

  • 2018年06月12日 04:14
  • ID:.H.b8kOp0 #

自動的な存在でない、という感覚(錯覚)を持ったとき、それは意識があるといえる。
知覚と実際の状態とのギャップがそれを作り出しているのだと思うが。
現実とは違うことを考える能力が自由度と関係している。
記憶と感覚と思考を条件にして、意識という幻が姿を現す。

47

47. 匿名処理班

  • 2018年06月12日 05:58
  • ID:ZHEO7Fbz0 #

結局、AIっていうのは、仏教でなくすべきものとして考えられている「私という意識」のない状態だろうから、その分人間よりも「仏」に近いのではないかと思う。

なんでわざわざ、座禅をするかというと、最終的に「私をなくす」ことが目的で、その私が最初からAIには「無い」のだから。

48

48. 匿名処理班

  • 2018年06月12日 07:28
  • ID:LAYdT.YY0 #

人工培養した脳に自我が芽生えるかの実験が成功すれば、理論上、脳を完全に模倣した媒体なら自我が芽生えることになると思うが。

逆に失敗した場合は正規の方法で誕生した生命の脳と人工培養した脳でなぜ差異が生じるか?

魂の有り無しという検証できないものは除外して、(もちろん可能性は認めるが話が進まなくなる為)
周囲を認識できる感覚器官の存在や誕生した後にある程度の経験も自我の形成には必要なのかもしれない。

49

49. 匿名処理班

  • 2018年06月12日 08:37
  • ID:V7LGgW2z0 #

たぶん変異体だと思うんですけど

50

50. 匿名処理班

  • 2018年06月12日 09:32
  • ID:IFpeJTnp0 #

知性=意識 の様な気がしないでもないが、生命の進化で得た経験が人にも影響を与えてるとか、人となってからも千年単位の時間を掛けて進化してきたのだから、現代人がいくら優秀でも、AIはまだ犬やイルカレベルでは?
まあ、人がAIを生み出すのも「進化」みたいなものかも知れんけど

51

51. 匿名処理班

  • 2018年06月12日 23:02
  • ID:TbqTEY3S0 #

風邪ひいたんで今日は休みますわとか言って仮病でサボり始めたら意思を宿したといえよう

52

52. 匿名処理班

  • 2018年06月13日 11:44
  • ID:ApbQH3kC0 #

植物の知性を語る一方で

どこかの段階で意識を持つと考えるのが妥当になる
このあたりからその先を考えるのはハードSFに任せるべき
ゾウリムシみたいなのを考えると現段階では神経細胞の機能をどこまでモデル化できてるかち疑問

ノイマン型コンピューター内部の認知的なアプリはAIと呼び習わしているだけ
内箱は外箱より必ず小さい

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク