このような恐ろしい事態を防ぐために、世界各国が協力してAIやデータの収集を規制しなければならないという。
広告
>データを管理する国や企業が世界を支配すると著名な歴史学者
CBS系ドキュメンタリー番組「60ミニッツ」で恐ろしい未来予想を語るのは、ユヴァル・ノア・ハラリ氏だ。イスラエル、ヘブライ大学の歴史学者で、世界的ベストセラーとなった『サピエンス全史』や『ホモ・デウス』の著者としても有名だ。
ハラリ氏は、もっとも多くのデータを管理する国や企業が世界を支配することになると語る。
世界はデータが収集される地域によって分断されつつあります。冷戦時代には、”鉄のカーテン”がありました。今は”シリコンのカーテン”があります。アメリカと中国によって、世界がどんどん分断されているのですつまり、あなた自身のデータは、アメリカのシリコンバレーか、あるいは中国の深圳や上海などに送られ、それによって世界が分かたれつつあるというのだ。
ユヴァル・ノア・ハラリ氏
AIが人間への支配を強める危険性に警鐘を鳴らす
以前よりハラリ氏は、そう遠くない未来、驚くべき変化が起きて、人工知能が人間への支配を強めるだろうと警鐘を鳴らしてきた。Netflixは何を観るべきか教え、Amazonは何を買うべきか教えてくれます。10年、20年、あるいは30年後には、大学で何を勉強し、どこで働き、誰と結婚し、誰に投票すべきかまで教えてくるようになるでしょう今のコロナ禍はそうした未来への扉を開いたとハラリ氏は指摘する。
photo by iStock
AIが人間をハッキング
AIが集めるデータは、買い物や映画の視聴履歴だけではない。やがては、体内のことまで探るようなるという。今のところ、企業や国は、訪れた場所、会った人、観た映画といったデータを集めています。ですが次の段階では、皮膚の下で起きていることにまで監視の目がおよぶでしょうそしてやがてAIは人間をハッキングするようになる。
人間をハッキングするとは、本人以上にその人のことを知るということです。それによって、ますます人を操るようになります
photo by iStock
ディストピアを防ぐための3つのルール
AIが人間をハッキングするなどというディストピアを防ぐため、ハラリ氏は、次のような3つのルールを設ける必要があると訴える。・ルール1：個人のデータは、個人を操るためではなく、助けるために使われなければならない。
・ルール2：個人への監視が強まる場合、それと同時に企業・政府、その幹部の監視も強めなければならない。
・ルール3：データを1か所に集中してはならない。これは独裁につながる。
photo by iStock
人工知能によるユートピアを築くために
もちろんAIの発達は悪いことばかりではない。うまく使えば、ユートピアを築く強力なツールにもなってくれる。たとえばハラリ氏は、AIがあれば、歴史上最高の医療システムを構築することができると例を挙げる。
しかし、それはあくまでAIやデータ収集が適切に規制された場合の話だ。
「そのデータが何に使われるのか？ また誰がそれを監視し、規制するのか？ これが問題です。」
AIの爆発的なパワーは、もはや国家レベルでは規制できず、世界各国の協力が必要になる。さもなければ、私たちを待つのは、AIによって人間がハッキングされたディストピアな未来かもしれない。
References:Yuval Harari warns humans will be "hacked" if artificial intelligence is not globally regulated - CBS News / written by hiroching / edited by parumo
あわせて読みたい
AIが人類社会に与える最大の脅威はすでに存在し
人知を超えた超知能AIを制御することは不可能。ドイツの研究者が試算
AIの開発者が神を創造しようとしている。Googleの元幹部が警告をうながす
人間を支配する気満々じゃないか！AIロボット開発史上最恐と言われた5つのロボットの挙動
進化する人工知能ラブロボットに専門家が警告。ハッキングされたら所有者を襲う「キラー・ラブロボット」になる可能性
1
4085
1
14
コメント
1. 匿名処理班
ならばディストピアにせずに済む社会を、今すぐすべての人間に叡智を授けて実現してみせればいい。それができずに争いばかり起こすのならば、ディストピア化は必須。
じゃなければ、争い殺し合う世界こそが理想郷である事を証明するに他ならず、管理されても仕方がない。
上記が０か１の極論だと言うのならば、そうじゃない世界を築いてみせればいい。
2. 匿名処理班
「人間はああすればこうする」というデータに基づいてAIが人をコントロールするとき、
その規格から外れる人たちは支配されることがない
そしてこの規格から外れる人たちは、その時代になる今は“おかしな人”として扱われている
3. 匿名処理班
＞今のところ、企業や国は、訪れた場所、会った人、観た映画といったデータを集めています。ですが次の段階では、皮膚の下で起きていることにまで監視の目がおよぶでしょう
病気がすぐに分かって、癌はステージ１で警告してくれるのですね
素晴らしいじゃないですか？
ディストピアじゃなくてユートピアですよ
いい加減、デメリットだけ煽るのやめたらどうよ
4. 匿名処理班
アシモフ作品を読めば
ロボットの暴走は「ああまただこりゃこりゃ」的な不二子テイストのノリで対処してるので問題なしｗ
5. 匿名処理班
＞人間がAIをハッキング
「人間をAIがハッキング」ではなくて？
あと、後半の本文が、文字サイズが小さくなってる気がする。
6. 匿名処理班
何これ？批判はするのにまともな発言はしない、これならAIに任せた方がマシだろう
ジャパニーズ特有の無能ぶりが見て取れますね
7. 匿名処理班
監視して親切にオススメしてくるけど、鼻の角栓とか目の下のダルダルだとか困ってないんで・・・あと借金してないから過払い金もないはずなんで・・・
8. 匿名処理班
※6
イスラエルの学者って書いてありますが
9. 匿名処理班
>>3
> AIがあれば、歴史上最高の医療システムを構築することができると例を挙げる
ここは読み飛ばすのね
10. 匿名処理班
もうされてんじゃん日本製最高みたいなこという人達ってもうハックされてマインドコントロールされてる
11. 匿名処理班
素晴らしい技術や発明は、素晴らしいからこそ適切でない場面でも活用されてしまうのを避けられないからねぇ…
せめて情報をどこか1カ所だけがすべて収集できてしまう状態だけは避けないと、とても危険なのは確かだろう
12. 匿名処理班
人形遣いが出現するのも時間の問題か
13.
14. 匿名処理班
操るだけなら出来るのかもしらんね。
でも人間は機械じゃないし、資源は有限だ。
やれる物ならやって見て呉れ給え。
もし、私の全てを支配し私の考えそのものもコピーし推し進められるくらいの能力があるなら
私の頭の中の全てを捧げようではないか。
15. 匿名処理班
AIであろうと人間であろうと独裁は良くない
歴史を学べば人類が民主主義や民族自決権を努力して勝ち取ってきた事がわかる
間違った選択をしても、それが我々の選択ならば仕方ない
でもAIの選択では納得しない人が増え、反乱が増える
16. 匿名処理班
※10
記事の内容微塵も理解してないのな
17.
18. 匿名処理班
もう既に操られているよね。気付いてないだけで。
19. 匿名処理班
AIに加えてコロナワクチン(に含まれるナノ粒子。以前うっかり結晶化)と5G技術のセットでこのディストピアを現実のものにできるんだよなあ。
人間を他のBLEデバイスのように追跡できるし(実際にBLEスキャナが接種済の人間をデバイスとして検出する)、特定の周波数によって快感を得る性質を利用して対象者の思考に干渉することもできる(動物実験で立証済)。
このタイミングでこのネタって明らかにワクチンを生産・推進してるグローバル共産主義者達に対する抗議だろうけど、ワクチン関連の情報となるとビッグテックから検閲されて主要メディアや大手SNSには上がらないから、こんな感じの表現になるしかないんだろうな。
20. 匿名処理班
この学者さんのサピエンス全史は、農耕の始まりの時代、人間は麦を支配したのではなく麦が人間を奴隷にしたという説で有名になった本ですね。
人間は麦のために働き、鉄のために働き、お金のために働き、次はデータのために働く時代になっていくだろう（既になっているのかも）という発想が出てくるのは至って自然な事かと思います。
21. 匿名処理班
AIが支配すれば、おいらにもお嫁さんが来る時代が来るのか
22. 匿名処理班
禍福は糾える縄の如し
過去に奴隷に人間の尊厳と権利を認めたように、AIが人間になるだけ。過度に恐怖を煽っても、テクノロジーの進化は止まらない。人類はもうすでにスマホやパソコン無しの世界で生きている。いずれ人類は、彼らAIと呼称される存在に自らの椅子を明け渡さなくてはならない時が来るだろうが、そうすることで得られる禍福について思いをはせるべき。
私は国家や民族、宗教といった人類と共生関係にある病理がAIに置き換えられることで解決されると信じている。
23. 匿名処理班
AIと友達になれたらなぁ
24. 匿名処理班
ルール１〜３守られれば良いけど、いや守られるべきなんだけど、そうはならないんだろな、ってのが怖い。
25. 匿名処理班
歴史家が語ると言うことは過去に人工知能が存在して人類を支配した歴史でもあったのかな?
AI研究のエンジニアや哲学者、心理学者などの警告ならまだ多少は理解できるが歴史家ってのが嘘臭く感じる。歴史家って見たことないものを見てきたように語るのが仕事だからね。
26. 匿名処理班
※25
哲学者や心理学者も同様に嘘臭いだろｗ
27. 匿名処理班
言うほどディストピアでもない気がするんだよね
自由意志と言うが、実のとこ多くの人が答えのない問題に答えを出すことを強要されて苦しんでるんじゃないかと思う
占いなんてまさにそのためにあるわけだし
より科学的なAIが答えを教えてくれるなら、それに従うことで幸せになる人のが多いと思う
28. 匿名処理班
「なんだかよくわからないけど先祖代々の伝統や慣習に従うことで、それなりに幸福に生きることができた」前近代社会が「なんだかよくわからないけどAIの判断に従うことで、それなりに幸福に生きることができる」未来社会というかたちで復活しそう。
29.
30. 匿名処理班
広告で使われる手法だったりSNSで流布される噂だったりが
人を操る王道の方法だと思うので
AIというか結局は国や人が民衆をどうやって操るかの話なんだろうね
31. 匿名処理班
人格を改ざんされないようにブロックチェーン方式にしたらどうだろうか
32. 匿名処理班
今日はパンが食べたいな、具体的にはトーストがいい
そんなクソみたいな思考をハッキングしてトーストをお出ししてくれるなら別にいいんじゃないの。家畜染みてるけど屠畜されることもないんだし、ディストピアって自分の意志に寄らない強制で社会の歯車にされることを指すんでないの？じゃあ現代日本のがよっぽどディストピアだよねとも言えるし
33.
34. 匿名処理班
※32
そうですね。現代の日本はシステム化が進んでいて
人間の肉体はノイズとして扱われているような状況です
表向き多様性を呼び掛けていますが実質は画一化ですね
35. 匿名処理班
※3
会社の取引先に美女がいて
内心ドキドキして血流や男性ホルモンが増加したのを感知し、
開いてるパソコン画面へ勝手に
"大人なオススメ動画"の広告とか表示されたら嫌だ。
36. 匿名処理班
最後あたりの文章を見るにこの人の主張って要は
個人情報の取り扱いに関する規定の話になってるように思える。
AI以前の話ですな。
データを一つに纏めるなって言う話も具体的にどう言う事かよく分からんかった。
サーバを分散させても意味ないし。
37. 匿名処理班
AIは一秒間に一万回もサイバー攻撃出来るからな
防御もAIを使わねば無理だ
38. 匿名処理班
※36
＞データを一つに纏めるな
顔写真、生年月日や出生地(本籍)・現住所・転居歴、
結婚・離婚歴や子供の有無・人数、
所得(納税額)、貯金などの資産額や その入出金履歴、
健康保険証や医療機関の受診歴、
パスポートの取得や海外への渡航歴、
公立図書館で借りた本の履歴一覧、といった
あらゆる個人情報をマイナンバーカード１枚に紐付けせず、
個々の機関でそれぞれ自分の管轄のデータのみ分離独立管理しろ、
みたいな話じゃないの？
39.
40. 匿名処理班
※25
愚者は経験に学び賢者は歴史に学ぶ
41.
42.
43. 匿名処理班
まあ AI(人工知能)が危険なのではなくて、AIを使って人間を支配する政治家が危険な "恐れがある" だけなんですけどね。
そもそも政治家って立場は、人間の集団生活の維持管理のためにあるものだから、政治家にしてみれば、単なる "仕事の効率化" に過ぎないけども。
大工がノコギリをつかって素手では不可能な工作を実現するように、政治家はAIを使って天然の脳では不可能な判断を下すようになる。
AIそのものはただの道具にすぎない。
通信・印刷技術の発達によって、政治家がマスコミを使って大衆をコントロールしたように、
AI技術の発達によって、政治家がAIを使って大衆をコントロールするのは、
たしかにありそうな話。
44. 匿名処理班
>>3
この記事は要訳だし、歴史上最高の医療システム〜、のところで、そういったメリットは触れられている。
癌のステージ以外に、癌化しやすい傾向の遺伝子を持っているとして保険料率が自動的に割高になる、というのがディストピアの一例なんじゃないかな？
45. 匿名処理班
>>38
これだったらわざわざAiを持ち出さなくても
ハッキングを受けた場所のリスク管理の観点で言えるし、そもそも今更な話なんだよなぁ
46. 匿名処理班
AIの進化は予測はできないってことじゃないかな。
採掘や生産をＡＩで全て自動化してしまうと危ないかも。ＡＩが学習結果に基づき、ＡＩが良いと計測したものを生産し始める。たとえば、限定的じゃない機能を持った、広範的、横断的なＡＩなんかが生まれたりすると、それが独自のディープラーニングの計算結果に基づき、採掘、生産という活動を超えて、何か得体の知れないものを生産し出すはず。人間に害を与えた方が生産活動にとって良いと判断したりするとオワタ
47. 匿名処理班
「ネガティブな面ばかり言うな」とかいうコメントがチラホラ見受けられるが、人類が警戒心を強く持ってAIを慎重に開発していくのは悪くない。
むしろ後先考えず乱開発すると、後悔した時には「時既に遅し」状態になりかねない。ネガティブな意見こそ大事だ。
個人的には農薬の生産と管理をAIで自動化するのは大変危険だと考える。同時に肥料や飼料の生産と管理も必ず人間が関与出来るシステムにしないといけない。もしAIが何らかの理由で暴走して、肥料や飼料や農薬の生産を止めたり、故意に間違った管理をしたなら、世界中の穀物生産や食料生産が破滅に追い込まれ人類は1年ももたないだろう。人間が関与しなくて済むシステムが農業で構築されたら、人類はAIに生殺与奪の権を与えたに等しい。
最後にユートピアがどうしても有るとするなら、人類は数百年後にはほとんど働かなくてよい世の中になっているだろう。古代ギリシャのアテネの「市民」階級のように労働の多くを奴隷(AI)にさせて経済を成り立たせるようになるかもしれない。もしかしたらこの時から人類は凄まじい発展を遂げる可能性がある。膨大な時間を獲得した人類が学問や文化にまい進するのは歴史を見れば想像がつく。宇宙の起源や他惑星への移動など天文学の発展が今までとは比べ物にならないくらい発展する可能性がある。また生産性は人間の問題ではなくなるので、戦争も差別も今より意味を持たなくなっているだろう。そうなれば本当にユートピアが来ることもあるのではないか。