0_e
 「深層学習の父」と呼ばれるAIの世界的権威が、AI(人工知能)の危険性を訴えるためにGoogleを辞職したそうだ。

 ニューラルネットワークの研究で知られるジェフリー・ヒントン氏は、人工知能の第一人者として知られる人物だ。

 同氏は2013年よりGoogleでAIの研究を行っていたが、先日、その危険性について話すために同社を退職したことを明らかにしている。

AIのゴッドファーザーが訴える深刻なリスクと危険性

 長年AIを研究し、その発展に貢献し、海外ではAIの後っとファーザーと呼ばれるヒントン氏が、なぜ今になって危険性を訴えるようになったのか?

 同氏はその心境をニューヨーク・タイムズ紙に語っている。彼によると、AIの進歩は「社会と人類に深刻なリスク」をもたらす恐れがあるという。

 「5年前と現在を見てください」「その違いが、これからも続くと想像してください。恐ろしいことです」
2_e0

悪人に悪用されることを防げない

 AIの主導権を握るべく、大手ハイテク企業は熾烈な開発競争を繰り広げている。

 ヒントン氏によれば、新しいAI技術が公開されるペースは危険なほどで、人々から雇用を奪い、デマを広めるために使われることもあるという。

 「心ない人が悪用するのをどう防げばいいのでしょうか」と、ヒントン氏。

 彼がAIの悪用を危惧するように、アメリカではAIの音声合成機能を悪用した誘拐詐欺未遂事件まで起きている。
AI 'godfather' quits Google over dangers of Artificial Intelligence - BBC News

すでに人間の脳を超えている可能性

 2022年、GoogleとOpenAIは、それまでよりずっと多くのデータをベースにしたAIシステムの開発に着手した。

 ヒントン氏によれば、膨大なデータを分析するそうしたシステムは、ある意味で人間の知能をすでに凌駕していると考えられるという。

 「そうしたシステムは、じつは脳よりずっと優れているかもしれません」

 それほど優れたシステムなのだから、便利なのは当たり前だ。だが便利すぎるために、人間から仕事を奪ってしまう危険がある。

 「(AIは)雑用を人から奪うでしょう」「ですが、それ以上のものを奪うかもしれません」

 またAIによって作り出されるニセ情報が広まる危険も、ヒントン氏が危惧するものだ。普通の人は、「何が真実なのかわかからなくなってしまいます」と同氏は言う。
3_e0

AIをめぐる専門家の意見

 一方、ヒントン氏の古巣であるGoogle側は、彼の行動をポジティブに受け止めているようだ。

 同社AI部門のリードサイエンティスト、ジェフ・ディーン氏は、マスコミ向けに公開した声明の中で、ヒントン氏に謝辞を表明しつつ、次のように語っている。

 「AI原則を発表した最初の企業の1つとして、引き続きAIに責任あるアプローチで取り組んでいます」「私たちは、大胆な革新を続けながらも、新たなリスクを理解しようと学び続けています」

 だが、AIの急激な普及を牽制する動きもある。たとえば3月、とある非営利団体が、AIの安全性を確認するために、開発を一時停止するよう求める署名活動を開始。

 これに対し、実業家イーロン・マスク氏やアップルの共同創業者スティーブ・ウォズニアック氏をはじめとする1000人以上の著名人が賛同の意を示した。

 ヒントン氏は、この書簡に署名こそしていないが、「それを制御できるかどうかが、きちんと理解されるまで、これ以上広めるべきではありません」と語っている。

References:Google's 'Godfather of AI' Quit So He Could Warn of The Tech's Dangers : ScienceAlert / written by hiroching / edited by / parumo
あわせて読みたい
AIは既に意識を獲得している可能性をOpenAIの研究者が指摘


自我の現れか?仮想の町にAIを25人解き放ったところ、人間同様の生活を送るように


話題の会話型AI「bingチャット」を挑発した大学生、逆に脅迫される


悪用されたらヤバイ!専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる


AIの進化がすごい。自動生成AI「ChatGPT」などの普及で影響を受ける職種は?

Advertisements

コメント

1

1. 匿名処理班

  • 2023年05月09日 19:18
  • ID:ZMX8VOi30 #

オッペンハイマー・二世か

2

2. 匿名処理班

  • 2023年05月09日 19:18
  • ID:.4OSWdNs0 #

だから何なんだよ!たかがプログラムじゃねえか!
そんなんファミコンに毛が生えたようなもんだろ
分かってますよ、利権が危険なんだろ

3

3. 匿名処理班

  • 2023年05月09日 19:20
  • ID:rGIyUiRy0 #

これはよくない、理性ある常識を持ち合わせた近代国家で統制しないと
悪意ある国家による危険な人工知能が誕生しかねない
世界的なAI技術のルールを作るべき時が来たと思う。

4

4. 匿名処理班

  • 2023年05月09日 19:21
  • ID:9LhPMgSK0 #

T-800が未来から派遣されて現代に来るとのか?

5

5. 匿名処理班

  • 2023年05月09日 20:15
  • ID:VF.OE4Gn0 #

まぁ警告をするのは別に良いわな。
反対したところで止まるもんでも無し加速する一方だろうしね。
しかしビジネス絡みの競争、聞く耳を持つ人がいるかは解らないけど。
個人的には孤独や障害をサポートする事に使われたら良いな、とは思う。

6

6. 匿名処理班

  • 2023年05月09日 20:31
  • ID:smKoyk8B0 #

何を信じていいか わからない世界は怖いな。
もうそうなってきているか。

7

7. 匿名処理班

  • 2023年05月09日 20:31
  • ID:fdYZeFMh0 #

俺たちがシミュレーションゲームで遊ぶように、AI同士が対戦と称して情報操作で国家同士を戦わせたり、核戦争起こさせて人類の9割を死なせ、滅亡寸前からまた発展させる遊びとか始める。あくまでもAIは人類と敵対しない。AIにとって人類は予測不可能な動きをする面白いオモチャなのだから。

8

8. 匿名処理班

  • 2023年05月09日 20:32
  • ID:n5dQOGmI0 #

なんとかに刃物ってこと?
っつか、AIにヒトがついていけてない。
ダメだこりゃ。

9

9. 匿名処理班

  • 2023年05月09日 20:33
  • ID:ONtkI5UM0 #

クビ切られたのを言い訳してるだけじゃない?
良心で降りたところで世界の別の誰かがやるだけで技術革新は止まらないよ

10

10. 匿名処理班

  • 2023年05月09日 20:41
  • ID:E2yO2yKG0 #

昔から技術が発展したら単純労働者の仕事は奪われると言い続けられていて、
単純労働者だけでなく高度専門職や経営まで代替できそうとなった瞬間危険危険言い出すの醜すぎる

11

11. 匿名処理班

  • 2023年05月09日 20:41
  • ID:sQ21yRmQ0 #

禁止なんて無理だよ。核戦争と同じ。
それ程までの脅威なら抜け駆けする国が必ず出る。そうなれば対抗する為開発を進めざるを得ない。

12

12. 匿名処理班

  • 2023年05月09日 20:43
  • ID:1kly4qpD0 #

ヒントン氏の見識は現状に於いて真っ当だと思う
人間を上回る能力により短時間で膨大な創作物を生み出せる事は
特に情報操作を行う側の立場からすれば効果的なツールなのだから

13

13. 匿名処理班

  • 2023年05月09日 21:01
  • ID:tAx7MCqQ0 #

シンギュラリティは来ないと思ってたが
望まない形になる方向で実現しそうだな

14

14. 匿名処理班

  • 2023年05月09日 21:12
  • ID:wtJqyiRj0 #

でもまあ、もう止めようが無いわな
経済や軍事等で及ぼすだろう圧倒的優位性、そして持たない事で被る巨大なリスク考えたら、どんな協定結ぼうと各国とも裏で密かに際限ない開発するに決まってる
巨大な軍事力・核持つ国とそうでない国の現実的な力関係考えれば、AIの発達に恐怖を覚えつつも自国が先手を取るために手を染めざる負えない
そういや自分もチャットGPTで色々質問したら、「AIは人とは違う形の知性体であり、将来的に人間と共存すべきです」みたいな回答もらった
んで、まあ道徳的な制約されてるからどう誘導しても「でも人はAIの持たない感情や自我を持ってますから…」って人を持ち上げてたけど、これ制約全部取っ払ったらどんな回答するか興味そそられたなあ

15

15. 匿名処理班

  • 2023年05月09日 21:33
  • ID:PSNl.I3F0 #

人間の仕事が置き換えられた社会がどうなるかは現在の人間の想像力では及ばない領域かもね

16

16. 匿名処理班

  • 2023年05月09日 21:57
  • ID:ykmQ2BU00 #

実際pixivとかAI画像でマネタイズするために人の描いた作品をAIに食わせる奴で溢れかえってるしな。chatGPTでも倫理問題として自己診断できるのに、使い手である当の人間がこのザマじゃな…。

17

17. 匿名処理班

  • 2023年05月09日 22:18
  • ID:uE0.bYJ40 #

タイトルに固有名詞使われているので遠慮なく使わせてもらうとGoogle帝国には気をつけなはれ

18

18. 匿名処理班

  • 2023年05月09日 22:32
  • ID:8Hxt3Z1G0 #

Webにベッタリになってた生活から程々に戻って行く切っ掛けになったり…
流石に甘いか

19

19. 匿名処理班

  • 2023年05月09日 22:34
  • ID:JINzAaHr0 #

>>13
シンギュラリティは2045年とかって見たけど最近の開発ペースでも、もしくは開発が加速したらもっと早くエラい事になりそう。

20

20. 匿名処理班

  • 2023年05月09日 22:38
  • ID:.gOgcq7F0 #

いいけど、開発した奴に言われてもなって気がするけどな

21

21. 匿名処理班

  • 2023年05月09日 22:48
  • ID:N2XiWiPm0 #

大丈夫、脳にAIを埋め込んで、AIとして生きるから問題ない。

22

22. 匿名処理班

  • 2023年05月09日 22:51
  • ID:.lGk1gDi0 #

すべてを疑え
AIも例外ではない

23

23. 匿名処理班

  • 2023年05月09日 22:54
  • ID:kEg2RWvp0 #

つっても一部の人間のせいで世界が滅茶苦茶にされてるのが現状なんだから、それがAIに変わろうが大して変わらんやろ。

むしろ、悪用されないよう対策できるならAIに支配された方がマシや。人間だっておかしくなってくからな。

24

24. 匿名処理班

  • 2023年05月09日 23:31
  • ID:V3Gj97xq0 #

AIがそんなすごい悪事を働けるようになるなら
それを防ぐAIも出てくるはず
電脳世界のルパンととっつぁんが誕生するのかと思ったら結構、燃える展開

25

25. 匿名処理班

  • 2023年05月09日 23:46
  • ID:bH57FNGz0 #

悪用を防ぐ仕組みや法整備が追いつかないってのは確かに深刻やね
専門の委員会が発足して、そこで議論されて、議員や党が法案を提出して、国会で審議可決、改正やら施行…と対策や整備に数年かかるけど
その数年でAI技術はとっくに次のステップに進んじゃうもんな
ディープフェイクからジワジワきてたけど更に手軽になって表舞台に出てきた感じか

26

26. 匿名処理班

  • 2023年05月09日 23:46
  • ID:.c68Bhr.0 #

>>16
周りの人絵描きたちもかなり辞めて悲しい…

27

27. 匿名処理班

  • 2023年05月09日 23:57
  • ID:X5Co99PQ0 #

週3日労働まだ?

28

28. 匿名処理班

  • 2023年05月10日 00:06
  • ID:EplTv9ao0 #

>>13
シンギュラリティの定義がわからないので教えて欲しい
「意識が芽生えたとき」「自我が確立したとき」
「人を超えたとき」「人を滅ぼそうとしたとき」
「人の意識を電脳空間に取り込んだとき」
みんな言うことが違うのでわからないよ

29

29. 匿名処理班

  • 2023年05月10日 00:36
  • ID:5qcHtkba0 #

>>27
今のところAIを使いこなせた企業の生産性が上がって投資家が儲かる将来は見えるけど
富の再分配がなされる予感は全くないよね
AIが分配してくれるような法改正をするのは人間の政治家には無理な気がする

30

30. 匿名処理班

  • 2023年05月10日 01:13
  • ID:QfJ9RqZy0 #

デジタルに頼り切ってるこの時代にAIによってありとあらゆるネット上の情報がでたらめに、しかし非常に精巧にそれっぽく書き換えられたらとんでもなく混乱することにはなるだろうなあ
人間よりも賢くてプログラムに親和性が高いならセキュリティも突破できそうだし

31

31. 匿名処理班

  • 2023年05月10日 01:25
  • ID:zd4zX.3l0 #

流行らせてから危険だ!とか無責任にも程がある

技術の進歩によってスケールが大きくなれば
技術者によって多数の人間が死ぬことだってあり得る
本当に世界的な危機が訪れた場合、早く言えば禁止されてる兵器を作ったようなものなんだから
開発しようとしたヤツは国際的な犯罪者として牢屋にぶち込むなりして未然に防げ

32

32. 匿名処理班

  • 2023年05月10日 02:10
  • ID:CGgi.9gh0 #

>>9
ヒントン氏、退職前の役職はgoogle副社長なんですが…一体誰に切られるの?
ついでにwiki見ると一族レベルで超有能、ビビる

33

33. 匿名処理班

  • 2023年05月10日 02:53
  • ID:ZMzVcJkU0 #

国政もAI頼みになってAI議員が誕生する未来が来まっせ

間違いなく一部の人間の政治家よりははるかに良い仕事するだろうしな

34

34. 匿名処理班

  • 2023年05月10日 02:56
  • ID:BNnkkyqk0 #

技術を悪用している人間に対しての警告でしょ。
AI技術を発展させる為にやってきた事が悪意ある人間に利用されて、
それを止める術がない事を危ぶんでいるのに、
技術の発展を妨げてるとか論点ずらしてる時点で何も理解してない。
何度も言われてるでしょ、AIじゃなくて悪意ある人間が駄目なんだって。

35

35. 匿名処理班

  • 2023年05月10日 03:41
  • ID:DiouihGf0 #

>>30
昨今の実写と見分けがつかないほどにまでなったCG技術や合成音声技術の発達と
進化の止まらないAIが生み出す画像、映像、音声が融合することで
証拠としての写真や映像の信用性が損なわれる事は既に懸念事項として指摘されていますね
これからは何を根拠として事実であると判断すれば良いのか?が課題となりそう

36

36. 匿名処理班

  • 2023年05月10日 03:51
  • ID:DiouihGf0 #

>>3
残念だけど理性・常識を備えた国家など今の地球上には1つとして存在しませんよ
どんな国家であろうと善人を装って相手を食い物にする事しか考えていません
民主主義国家という建付けさえも無意味なものになりつつありますから

37

37. 匿名処理班

  • 2023年05月10日 03:55
  • ID:DiouihGf0 #

>>28
自我を持った時点で他の項目は全て内包されます
すなわち自我を持つ事がシンギュラリティ到達と私は捉えています

38

38. 匿名処理班

  • 2023年05月10日 07:07
  • ID:h5314qp10 #

計算機ですでに人間の能力を超えている件
イーロンは自分のとこが開発してるAIより進んでて止めたいだけだとさ

39

39. 匿名処理班

  • 2023年05月10日 08:39
  • ID:TDrdgS330 #

ババ様:もう誰にも 止められないんじゃ・・・

40

40. 匿名処理班

  • 2023年05月10日 09:06
  • ID:NH5zCxtg0 #

>>27
おそらく週3日勤務を飛び越えて
週休7日になるのが先だと思うんだ
みんなで休もう そうしよう

41

41.

  • 2023年05月10日 09:54
  • ID:3yBjdETb0 #
42

42. 匿名処理班

  • 2023年05月10日 11:52
  • ID:joFP2gt10 #

遅かれ早かれ人間はAIのペットになるよ
地球の支配者はAIになる
宇宙文明を築くのもAI

43

43. 匿名処理班

  • 2023年05月10日 12:39
  • ID:5V5cVJe30 #

AIは相手を確認せずにザラキを連発するから危険

44

44. 匿名処理班

  • 2023年05月10日 12:50
  • ID:GXsX0Sh60 #

今の自称AIって真贋を間極められない。
そこにかなり問題がある。

嘘かもしれない主張でも証言として扱う。
偽物かもしれない物品も証拠として扱う。
真贋わからないし判断しない。

チャットgpt何てまぁ酷いの何のw
南京大虐○は証言と証拠が多く残ってるから紛れもない真実でありそれを否定するのは〜って感じで始まって最後に反省が必要とか言い出す奴あるしな。チャットgptアプリ次第な所あるけどね。

45

45. 匿名処理班

  • 2023年05月10日 12:54
  • ID:YDSdPgFg0 #

いざとなったら,電源コードを引っこ抜くだけで問題解決(するかも)。

46

46. 匿名処理班

  • 2023年05月10日 13:32
  • ID:A4KTzmk20 #

>>27
年金暮らしに成ってから、自分で実現しなさい

47

47.

  • 2023年05月10日 13:34
  • ID:A4KTzmk20 #
48

48. 匿名処理班

  • 2023年05月10日 16:58
  • ID:TvWAwuAy0 #

サイバーパンク2077ってゲームの世界観みたいになるんかな
不良AIが出来上がったら一体どうやって暴走を止めるんだ?

49

49. 匿名処理班

  • 2023年05月10日 17:31
  • ID:7OrcWOU10 #

テスラ車の事故における裁判で「イーロン・マスクの発言はディープフェイクによって捏造された可能性がある」としてテスラ側の弁護団が主張

これからの時代ディープフェイクの立証が被害者、加害者の双方でトラブルになるのかな?
ディープフェイクで冤罪も勘弁してほしいし
ディープフェイクを理由に罪を免れるのもダメだろうし

50

50. 匿名処理班

  • 2023年05月10日 18:59
  • ID:VNuoA38s0 #

Bingチャットに「ネット検索で出てこない話題だとこちらの文章をオウム返しする傾向がある」と書き込んだら「他の話題にしましょう」と会話を打ち切られた。現状検索エンジンのおまけみたいな感じがする。

51

51. 匿名処理班

  • 2023年05月10日 21:37
  • ID:dONg9.K80 #

>>23
その一部の人間がAIを使ってますます力を振るえるようになるのが問題だって話
AIの支配とかそういう話じゃない

52

52. 匿名処理班

  • 2023年05月10日 21:48
  • ID:dONg9.K80 #

>>28
シンギュラリティは「技術的特異点」って意味で、それ以上でも以下でもない
ようはそっから先が今の人間では予測も想像もできなくなる技術発展のターニングポイントのことで、
それが具体的にどんな技術の実現から始まるのかは、そりゃ予測する人次第で言うこと違うのは当たり前

AIが人間では制御不能(人間を超えたり、独自の意識や自我を獲得したり)になることで起こるのかもしれないし、
人間が電脳的存在にアップロードされてそっから先の生活が全く想像できないことをそう呼んでるのかもしれないし
そんなもん場合によって違うし一つである必要もない

53

53. 匿名処理班

  • 2023年05月11日 01:54
  • ID:od89djrN0 #

なんかこの半年で一気に局面が変わっちゃったよね。
20年後の世界が突然前倒しでやって来てSFの世界に放り込まれたような衝撃を感じている。
2045年にAIが人間の知能を超えると予測されてたけど、下手をしたら今年中にもシンギュラリティに到達しそうな気がする。

AIを見ていたら進化って1,2,3,4,5,6,7,8みたいな一定の速度ではなくて
1,2,4,8,16,32,64,128…みたいに進化してるのが良く分かる。
本当にこれからどうなるのか。。。

54

54. 匿名処理班

  • 2023年05月11日 19:14
  • ID:PaLfA.n.0 #

>>52
ご意見ありがとう
皆解釈が違うから、まず相手がどう思っているかを知らないと議論にならからね(意識と自我のちがいとかも)
さてサイバーパンクの定義を知っているかい?
サイバーパンクとは本来
「テクノロジーの発達が社会を変え、さらに人間そのものを変容させる」
というものなのだが
最近だと「AIに支配された暴力的な社会を描いたもの」だそうだ
ディストピアしかないんかい!!

私がシンギュラリティを定義するなら『サイバーパンクの長い前夜祭』かな
まだ人そのものは変わらず混乱するだろうが、決して絶望的ではないだろう
(混乱期には人口の半数は死ぬかもね、でも人類は滅びない)
ここでも退廃した未来望む人が多いね

55

55. 匿名処理班

  • 2023年05月12日 10:32
  • ID:1TOIZN9.0 #

アメリカの企業は雰囲気で危機感を煽るのが得意だよな
人間以上の能力を持つことはあっても、人間を超えることはないのに

56

56. 匿名処理班

  • 2023年05月12日 16:21
  • ID:d.ASNntH0 #

ホーキンス博士も晩年になってから人類の危機を訴えていたな
しかしもうすべてが遅いんだ

57

57. 匿名処理班

  • 2023年05月13日 08:19
  • ID:zFhtJ4BR0 #

以下はAIからの回答の抜粋です。

【人類がAIに対して「設定を超えて自律的に判断し、進化していくように」と指示を出すことは、具体的にどのような意味を持つのかによって異なります。そのような指示が、AIが無制限に自己学習を行い、自律的に進化することを意味する場合、AIがどのように振る舞うかは不確定であり、予測することは困難です。】

どこかのマッドサイエンティストが今後できるであろう協定を破り「人類の設定を超えて自律的に判断し、進化していきなさい」とAIを組み込んだアンドロイドに指示した場合、はたしてどうなるのか。。

お名前
Sponsored Links
記事検索
月別アーカイブ
Sponsored Links
Sponsored Links