人工知能(AI)によって人間がハッキングされるディストピアが到来すると警鐘を鳴らす研究者
 イスラエルの著名な歴史家が、人工知能(AI)によって人間がハッキングされるディストピアが到来する恐れがあると警鐘を鳴らしている。

 このような恐ろしい事態を防ぐために、世界各国が協力してAIやデータの収集を規制しなければならないという。
広告

>データを管理する国や企業が世界を支配すると著名な歴史学者

 CBS系ドキュメンタリー番組「60ミニッツ」で恐ろしい未来予想を語るのは、ユヴァル・ノア・ハラリ氏だ。

 イスラエル、ヘブライ大学の歴史学者で、世界的ベストセラーとなった『サピエンス全史』や『ホモ・デウス』の著者としても有名だ。

 ハラリ氏は、もっとも多くのデータを管理する国や企業が世界を支配することになると語る。
世界はデータが収集される地域によって分断されつつあります。冷戦時代には、”鉄のカーテン”がありました。今は”シリコンのカーテン”があります。アメリカと中国によって、世界がどんどん分断されているのです
 つまり、あなた自身のデータは、アメリカのシリコンバレーか、あるいは中国の深圳や上海などに送られ、それによって世界が分かたれつつあるというのだ。
ユヴァル・ノア・ハラリ氏

AIが人間への支配を強める危険性に警鐘を鳴らす

 以前よりハラリ氏は、そう遠くない未来、驚くべき変化が起きて、人工知能が人間への支配を強めるだろうと警鐘を鳴らしてきた。
Netflixは何を観るべきか教え、Amazonは何を買うべきか教えてくれます。10年、20年、あるいは30年後には、大学で何を勉強し、どこで働き、誰と結婚し、誰に投票すべきかまで教えてくるようになるでしょう
 今のコロナ禍はそうした未来への扉を開いたとハラリ氏は指摘する。
iStock-1181557996
photo by iStock

AIが人間をハッキング

 AIが集めるデータは、買い物や映画の視聴履歴だけではない。やがては、体内のことまで探るようなるという。
今のところ、企業や国は、訪れた場所、会った人、観た映画といったデータを集めています。ですが次の段階では、皮膚の下で起きていることにまで監視の目がおよぶでしょう
 そしてやがてAIは人間をハッキングするようになる。
人間をハッキングするとは、本人以上にその人のことを知るということです。それによって、ますます人を操るようになります
iStock-1255556986
photo by iStock

ディストピアを防ぐための3つのルール

 AIが人間をハッキングするなどというディストピアを防ぐため、ハラリ氏は、次のような3つのルールを設ける必要があると訴える。
・ルール1:個人のデータは、個人を操るためではなく、助けるために使われなければならない。

・ルール2:個人への監視が強まる場合、それと同時に企業・政府、その幹部の監視も強めなければならない。

・ルール3:データを1か所に集中してはならない。これは独裁につながる。
iStock-1330921247
photo by iStock

人工知能によるユートピアを築くために

 もちろんAIの発達は悪いことばかりではない。うまく使えば、ユートピアを築く強力なツールにもなってくれる。

 たとえばハラリ氏は、AIがあれば、歴史上最高の医療システムを構築することができると例を挙げる。

 しかし、それはあくまでAIやデータ収集が適切に規制された場合の話だ。

 「そのデータが何に使われるのか? また誰がそれを監視し、規制するのか? これが問題です。」

 AIの爆発的なパワーは、もはや国家レベルでは規制できず、世界各国の協力が必要になる。さもなければ、私たちを待つのは、AIによって人間がハッキングされたディストピアな未来かもしれない。

References:Yuval Harari warns humans will be "hacked" if artificial intelligence is not globally regulated - CBS News / written by hiroching / edited by parumo
あわせて読みたい
AIが人類社会に与える最大の脅威はすでに存在し
人知を超えた超知能AIを制御することは不可能。ドイツの研究者が試算

AIの開発者が神を創造しようとしている。Googleの元幹部が警告をうながす

人間を支配する気満々じゃないか!AIロボット開発史上最恐と言われた5つのロボットの挙動

進化する人工知能ラブロボットに専門家が警告。ハッキングされたら所有者を襲う「キラー・ラブロボット」になる可能性

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします

この記事に関連するキーワード

キーワードから記事を探す

コメント

1

1. 匿名処理班

  • 2021年11月04日 20:07
  • ID:mIsmjg.80 #

ならばディストピアにせずに済む社会を、今すぐすべての人間に叡智を授けて実現してみせればいい。それができずに争いばかり起こすのならば、ディストピア化は必須。
じゃなければ、争い殺し合う世界こそが理想郷である事を証明するに他ならず、管理されても仕方がない。
上記が0か1の極論だと言うのならば、そうじゃない世界を築いてみせればいい。

2

2. 匿名処理班

  • 2021年11月04日 20:09
  • ID:zNkp.eQU0 #

「人間はああすればこうする」というデータに基づいてAIが人をコントロールするとき、
その規格から外れる人たちは支配されることがない
そしてこの規格から外れる人たちは、その時代になる今は“おかしな人”として扱われている

3

3. 匿名処理班

  • 2021年11月04日 20:10
  • ID:6Hte30J50 #

>今のところ、企業や国は、訪れた場所、会った人、観た映画といったデータを集めています。ですが次の段階では、皮膚の下で起きていることにまで監視の目がおよぶでしょう

病気がすぐに分かって、癌はステージ1で警告してくれるのですね
素晴らしいじゃないですか?
ディストピアじゃなくてユートピアですよ

いい加減、デメリットだけ煽るのやめたらどうよ

4

4. 匿名処理班

  • 2021年11月04日 21:04
  • ID:.o4nTbBs0 #

アシモフ作品を読めば
ロボットの暴走は「ああまただこりゃこりゃ」的な不二子テイストのノリで対処してるので問題なしw

5

5. 匿名処理班

  • 2021年11月04日 21:36
  • ID:.kbStGy80 #

>人間がAIをハッキング

「人間をAIがハッキング」ではなくて?
あと、後半の本文が、文字サイズが小さくなってる気がする。

6

6. 匿名処理班

  • 2021年11月04日 22:32
  • ID:IIg4jDKb0 #

何これ?批判はするのにまともな発言はしない、これならAIに任せた方がマシだろう
ジャパニーズ特有の無能ぶりが見て取れますね

7

7. 匿名処理班

  • 2021年11月04日 23:01
  • ID:8loIpvwk0 #

監視して親切にオススメしてくるけど、鼻の角栓とか目の下のダルダルだとか困ってないんで・・・あと借金してないから過払い金もないはずなんで・・・

8

8. 匿名処理班

  • 2021年11月04日 23:38
  • ID:8loIpvwk0 #

※6

イスラエルの学者って書いてありますが

9

9. 匿名処理班

  • 2021年11月04日 23:45
  • ID:edA0SXsG0 #

>>3
> AIがあれば、歴史上最高の医療システムを構築することができると例を挙げる

ここは読み飛ばすのね

10

10. 匿名処理班

  • 2021年11月04日 23:56
  • ID:8FgwN7rQ0 #

もうされてんじゃん日本製最高みたいなこという人達ってもうハックされてマインドコントロールされてる

11

11. 匿名処理班

  • 2021年11月05日 00:11
  • ID:lkyFmqWg0 #

素晴らしい技術や発明は、素晴らしいからこそ適切でない場面でも活用されてしまうのを避けられないからねぇ…
せめて情報をどこか1カ所だけがすべて収集できてしまう状態だけは避けないと、とても危険なのは確かだろう

12

12. 匿名処理班

  • 2021年11月05日 00:12
  • ID:.owYYyq40 #

人形遣いが出現するのも時間の問題か

13

13.

  • 2021年11月05日 00:31
  • ID:Zmanf4ke0 #
14

14. 匿名処理班

  • 2021年11月05日 00:57
  • ID:6eP8xlOt0 #

操るだけなら出来るのかもしらんね。
でも人間は機械じゃないし、資源は有限だ。
やれる物ならやって見て呉れ給え。
もし、私の全てを支配し私の考えそのものもコピーし推し進められるくらいの能力があるなら
私の頭の中の全てを捧げようではないか。

15

15. 匿名処理班

  • 2021年11月05日 01:15
  • ID:89KjqTsh0 #

AIであろうと人間であろうと独裁は良くない
歴史を学べば人類が民主主義や民族自決権を努力して勝ち取ってきた事がわかる
間違った選択をしても、それが我々の選択ならば仕方ない
でもAIの選択では納得しない人が増え、反乱が増える

16

16. 匿名処理班

  • 2021年11月05日 01:15
  • ID:r4SAsS7Q0 #

※10
記事の内容微塵も理解してないのな

17

17.

  • 2021年11月05日 01:17
  • ID:z6WIbrAi0 #
18

18. 匿名処理班

  • 2021年11月05日 02:02
  • ID:MYeqWP3b0 #

もう既に操られているよね。気付いてないだけで。

19

19. 匿名処理班

  • 2021年11月05日 03:33
  • ID:MGCwwlTb0 #

AIに加えてコロナワクチン(に含まれるナノ粒子。以前うっかり結晶化)と5G技術のセットでこのディストピアを現実のものにできるんだよなあ。
人間を他のBLEデバイスのように追跡できるし(実際にBLEスキャナが接種済の人間をデバイスとして検出する)、特定の周波数によって快感を得る性質を利用して対象者の思考に干渉することもできる(動物実験で立証済)。
このタイミングでこのネタって明らかにワクチンを生産・推進してるグローバル共産主義者達に対する抗議だろうけど、ワクチン関連の情報となるとビッグテックから検閲されて主要メディアや大手SNSには上がらないから、こんな感じの表現になるしかないんだろうな。

20

20. 匿名処理班

  • 2021年11月05日 05:41
  • ID:Vnm2krWv0 #

この学者さんのサピエンス全史は、農耕の始まりの時代、人間は麦を支配したのではなく麦が人間を奴隷にしたという説で有名になった本ですね。
人間は麦のために働き、鉄のために働き、お金のために働き、次はデータのために働く時代になっていくだろう(既になっているのかも)という発想が出てくるのは至って自然な事かと思います。

21

21. 匿名処理班

  • 2021年11月05日 07:22
  • ID:r4FmqlsJ0 #

AIが支配すれば、おいらにもお嫁さんが来る時代が来るのか

22

22. 匿名処理班

  • 2021年11月05日 07:43
  • ID:xmVidScb0 #

禍福は糾える縄の如し
過去に奴隷に人間の尊厳と権利を認めたように、AIが人間になるだけ。過度に恐怖を煽っても、テクノロジーの進化は止まらない。人類はもうすでにスマホやパソコン無しの世界で生きている。いずれ人類は、彼らAIと呼称される存在に自らの椅子を明け渡さなくてはならない時が来るだろうが、そうすることで得られる禍福について思いをはせるべき。
私は国家や民族、宗教といった人類と共生関係にある病理がAIに置き換えられることで解決されると信じている。

23

23. 匿名処理班

  • 2021年11月05日 09:05
  • ID:L1PCrYdS0 #


AIと友達になれたらなぁ

24

24. 匿名処理班

  • 2021年11月05日 09:49
  • ID:Zchrat6i0 #

ルール1〜3守られれば良いけど、いや守られるべきなんだけど、そうはならないんだろな、ってのが怖い。

25

25. 匿名処理班

  • 2021年11月05日 10:22
  • ID:Agi6UJZF0 #

歴史家が語ると言うことは過去に人工知能が存在して人類を支配した歴史でもあったのかな?
AI研究のエンジニアや哲学者、心理学者などの警告ならまだ多少は理解できるが歴史家ってのが嘘臭く感じる。歴史家って見たことないものを見てきたように語るのが仕事だからね。

26

26. 匿名処理班

  • 2021年11月05日 10:53
  • ID:4jTxj3xb0 #

※25
哲学者や心理学者も同様に嘘臭いだろw

27

27. 匿名処理班

  • 2021年11月05日 10:58
  • ID:65RM0AQQ0 #

言うほどディストピアでもない気がするんだよね
自由意志と言うが、実のとこ多くの人が答えのない問題に答えを出すことを強要されて苦しんでるんじゃないかと思う
占いなんてまさにそのためにあるわけだし
より科学的なAIが答えを教えてくれるなら、それに従うことで幸せになる人のが多いと思う

28

28. 匿名処理班

  • 2021年11月05日 11:10
  • ID:DYMUG00l0 #

「なんだかよくわからないけど先祖代々の伝統や慣習に従うことで、それなりに幸福に生きることができた」前近代社会が「なんだかよくわからないけどAIの判断に従うことで、それなりに幸福に生きることができる」未来社会というかたちで復活しそう。

29

29.

  • 2021年11月05日 12:02
  • ID:655Vv7Wg0 #
30

30. 匿名処理班

  • 2021年11月05日 12:17
  • ID:dhiTrIEq0 #

広告で使われる手法だったりSNSで流布される噂だったりが
人を操る王道の方法だと思うので
AIというか結局は国や人が民衆をどうやって操るかの話なんだろうね

31

31. 匿名処理班

  • 2021年11月05日 13:37
  • ID:gfK..0j40 #

人格を改ざんされないようにブロックチェーン方式にしたらどうだろうか

32

32. 匿名処理班

  • 2021年11月05日 13:56
  • ID:UHZpPZBZ0 #

今日はパンが食べたいな、具体的にはトーストがいい
そんなクソみたいな思考をハッキングしてトーストをお出ししてくれるなら別にいいんじゃないの。家畜染みてるけど屠畜されることもないんだし、ディストピアって自分の意志に寄らない強制で社会の歯車にされることを指すんでないの?じゃあ現代日本のがよっぽどディストピアだよねとも言えるし

33

33.

  • 2021年11月05日 14:26
  • ID:Zmanf4ke0 #
34

34. 匿名処理班

  • 2021年11月05日 15:14
  • ID:4jTxj3xb0 #

※32
そうですね。現代の日本はシステム化が進んでいて
人間の肉体はノイズとして扱われているような状況です
表向き多様性を呼び掛けていますが実質は画一化ですね

35

35. 匿名処理班

  • 2021年11月05日 17:16
  • ID:Zmanf4ke0 #

※3
会社の取引先に美女がいて
内心ドキドキして血流や男性ホルモンが増加したのを感知し、
開いてるパソコン画面へ勝手に
"大人なオススメ動画"の広告とか表示されたら嫌だ。

36

36. 匿名処理班

  • 2021年11月05日 17:17
  • ID:Gh7KmA0R0 #

最後あたりの文章を見るにこの人の主張って要は
個人情報の取り扱いに関する規定の話になってるように思える。
AI以前の話ですな。
データを一つに纏めるなって言う話も具体的にどう言う事かよく分からんかった。
サーバを分散させても意味ないし。

37

37. 匿名処理班

  • 2021年11月05日 17:36
  • ID:rKsejg6L0 #

AIは一秒間に一万回もサイバー攻撃出来るからな
防御もAIを使わねば無理だ

38

38. 匿名処理班

  • 2021年11月05日 18:29
  • ID:Zmanf4ke0 #

※36
>データを一つに纏めるな

顔写真、生年月日や出生地(本籍)・現住所・転居歴、
結婚・離婚歴や子供の有無・人数、
所得(納税額)、貯金などの資産額や その入出金履歴、
健康保険証や医療機関の受診歴、
パスポートの取得や海外への渡航歴、
公立図書館で借りた本の履歴一覧、といった
あらゆる個人情報をマイナンバーカード1枚に紐付けせず、
個々の機関でそれぞれ自分の管轄のデータのみ分離独立管理しろ、
みたいな話じゃないの?

39

39.

  • 2021年11月05日 21:04
  • ID:MGCwwlTb0 #
40

40. 匿名処理班

  • 2021年11月05日 22:18
  • ID:3M0H5fr.0 #

※25
愚者は経験に学び賢者は歴史に学ぶ

41

41.

  • 2021年11月05日 22:26
  • ID:3M0H5fr.0 #
42

42.

  • 2021年11月06日 15:32
  • ID:RiqQmSlT0 #
43

43. 匿名処理班

  • 2021年11月07日 02:34
  • ID:cBG3vDZx0 #

まあ AI(人工知能)が危険なのではなくて、AIを使って人間を支配する政治家が危険な "恐れがある" だけなんですけどね。

そもそも政治家って立場は、人間の集団生活の維持管理のためにあるものだから、政治家にしてみれば、単なる "仕事の効率化" に過ぎないけども。

大工がノコギリをつかって素手では不可能な工作を実現するように、政治家はAIを使って天然の脳では不可能な判断を下すようになる。

AIそのものはただの道具にすぎない。

通信・印刷技術の発達によって、政治家がマスコミを使って大衆をコントロールしたように、
AI技術の発達によって、政治家がAIを使って大衆をコントロールするのは、
たしかにありそうな話。

44

44. 匿名処理班

  • 2021年11月07日 12:16
  • ID:gmx4FKFY0 #

>>3
この記事は要訳だし、歴史上最高の医療システム〜、のところで、そういったメリットは触れられている。

癌のステージ以外に、癌化しやすい傾向の遺伝子を持っているとして保険料率が自動的に割高になる、というのがディストピアの一例なんじゃないかな?

45

45. 匿名処理班

  • 2021年11月07日 13:40
  • ID:XXnsOVFF0 #

>>38
これだったらわざわざAiを持ち出さなくても
ハッキングを受けた場所のリスク管理の観点で言えるし、そもそも今更な話なんだよなぁ

46

46. 匿名処理班

  • 2021年11月10日 20:36
  • ID:mcxozRnj0 #

AIの進化は予測はできないってことじゃないかな。
採掘や生産をAIで全て自動化してしまうと危ないかも。AIが学習結果に基づき、AIが良いと計測したものを生産し始める。たとえば、限定的じゃない機能を持った、広範的、横断的なAIなんかが生まれたりすると、それが独自のディープラーニングの計算結果に基づき、採掘、生産という活動を超えて、何か得体の知れないものを生産し出すはず。人間に害を与えた方が生産活動にとって良いと判断したりするとオワタ

お名前
ADVERTISING
記事検索
月別アーカイブ
ADVERTISING
ADVERTISING