0_e

 もはや今となっては、映画『ターミネーター』のアイデアは現実のものとなってきつつある。この作品では、意識を持つに至ったグローバルコンピューターネットワークが人類を敵とみなし、それによって勃発した希望のない戦いを描いている。

 世界では人工知能や無人車両の研究が進んでいる。厖大なデータを駆使して制御されるこれらは、倫理的な疑問も提起するものである。

 アメリカ国防総省はそうした疑問を調査している、と説明したのは統合作戦本部副議長のポール・J・セルヴァ大将だ。

 
スポンサードリンク

 コンピューターによって車を運転し、飛行機を着陸させ、荷物を配送し、地球外の惑星を探査するというアイデアは、すでに現実のものとなっている。シンガポールでは無人タクシーの実験が実施され、グーグルも近い将来ピッツバーグで同様の実験を開始しようとしている。

 火星ではいくつもの無人探査車が利用されている。米軍は世界中で無人機を展開。海洋科学者は遠隔操作の無人潜水艇で海洋の調査を進める。

4_e

統合作戦本部副議長のポール・J・セルヴァ大将

人類はその危険性を認識しなければならない

 無人兵器システム……だが、このアイデアは倫理的な問題も突きつける、とセルヴァ大将は言う。アメリカ国防総省は内外から専門家を募り、この問題に取組んでいる。こうした科学技術が実際に戦争で利用された際にどんな落とし穴があるだろうか。

 「軍でやっていることについて気後れするところはありません。軍の責任者として私の仕事は、敵にもたらされる言語に絶する暴力を目撃することです。結局、国家の利益を守るためにアメリカから私を含めた陸海空の兵士が派遣されるとき、その役割は敵を撃破することなのですから」

 米軍の兵士がミッションを達成する際に行使できる方法については、法と条約で定められている。「私たちが多大な時間を費やしていることの1つが、開発中の兵器が敵に攻撃するかどうかの判断は人間に任されているかどうかということです。それはかなりはっきりとした超えるべきではない一線です」

5_e
MQ-1プレデタードローン

 完全に自律的な無人兵器では、ミッション遂行に必要な行動がプログラムされており、威力を行使するかどうかの判断は、内臓コンピューターに組み込まれたプログラムのパラメーターに一任されている。これはアメリカ軍にとって容認できるものではないという。

人間の操作から完全に自律した兵器を作ってはならない

 「今後数十年の技術革新を考える際に、基準となるものの1つとして繰り返し主張しているのは、人間の指揮官を軍の作戦実行の判断から免除するようなシステムは作らないということと、人間の操作から完全に自律した兵器は作らないということです」

3_e

 しかし、敵側もアメリカの判断に従うわけではない。完全に自律して攻撃の判断を下すロボットシステムの開発はすでに可能である。

 とんでもなく洗練されているわけでも、驚異的なまでに優れているわけでもないが、とにかく現実に可能だ。そうした人工知能と自律性を備えたシステムを開発する際は、そこから人間の判断が抜け落ちないよう細心の注意を払う必要がある、とセルヴァ大将は話す。

 これについて議論が必要であり、無人兵器を規定する条約を違反しようとする国家や非国家主体に対する対策が必要となる。


usniscoutなど。/ translated hiroching / edited by parumo

▼あわせて読みたい
ターミネーターはすぐそこに!進歩したロボット工学の6つの技術


ビルゲイツ、10年以内に一部の知的分野で人工知能(AI)が人間を上回ると予測


人間はAIが模倣した合成音を本物と区別することができない。学習する人工知能システムの開発(米研究)


100年以内にロボットが人間の文明を終わらせる可能性あり(スティーヴン・ホーキング)


50年後、人工知能ロボットとの愛ある性交渉も当たり前の世の中に(英研究)

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2016年09月15日 09:10
  • ID:GCNlira30 #

『アップシード』や『ベクシル』の世界に近づきつつある、人間の倫理観が追いついてない。

2

2. 匿名処理班

  • 2016年09月15日 09:11
  • ID:7orCMV.v0 #

「汝平和を欲さば、戦への備えをせよ」ってなことを想像してしまうがアメリカがいうと武力を持つ理由を正当化しようと、脅威をどうにか”作ろう”としてるだけにしか聞こえなくて

3

3. 匿名処理班

  • 2016年09月15日 09:22
  • ID:XRijKZ8U0 #

なんだかんだ言って技術の進歩とともに平和になった。
人工知能も平和を加速させてくれる存在だと思う。

4

4. 匿名処理班

  • 2016年09月15日 09:26
  • ID:CLqts90A0 #

2045年には人工知能がより優秀な人工知能を産み出して知識爆発が起きるって言われてるからあと30年頑張って生きて人類の転換期を見たい

5

5. 匿名処理班

  • 2016年09月15日 09:40
  • ID:jgfKe3eJ0 #

我々はロボットを作っているのでは無い。未来の人類の器を作っているのだ!

6

6. 匿名処理班

  • 2016年09月15日 09:55
  • ID:2Iog80hc0 #

AI側が人間の判断を切って、自立するだろう。
それからが人類の滅亡。

7

7. 匿名処理班

  • 2016年09月15日 09:57
  • ID:m4MlSj1P0 #

ターミネーターも液体殺人ロボットもいた半面、2期目のように
人に害をなさないロボットもいた。リアルなロボットも同じで
作る人や環境によっても変わってくるじゃないのかな
これは人も同じことであり、ロボットだけが従順であり凶悪
そして無慈悲であるとは限らないかと

8

8. 匿名処理班

  • 2016年09月15日 10:04
  • ID:H1Gb2f3H0 #

何が始まるんです!?

9

9. 匿名処理班

  • 2016年09月15日 10:12
  • ID:4os.zP0T0 #

いや、間違いなく最初に作るのはお前らやろwww
無人機大量生産してるけど戦闘AIに任せるほうが効率良いもんな。
で、中華・露助に抜かれて慌てるところまでが規定路線。

10

10.

  • 2016年09月15日 10:23
  • ID:zj2gTvma0 #
11

11. 匿名処理班

  • 2016年09月15日 10:29
  • ID:lXU5AG5K0 #

3のターミネーターだったら、プレデターやエイリアンにも勝てそうだし無敵やな

12

12. 匿名処理班

  • 2016年09月15日 10:29
  • ID:J7BtjnYq0 #

そらまぁ自我までもたせたら100%襲いかかってくるわ特にアメリカには。害悪だもん。もちろんプラスもあるけど結果として害悪

生い立ちから虫以上の合理主義の塊になるだろうしな。ある程度の歩み寄りはあるだろうけど根本的に痛みも死の恐怖もなく法を順守させてくるとか生物とは絶対相容れないぞ

13

13. 匿名処理班

  • 2016年09月15日 10:29
  • ID:.dU1pI.s0 #

と言う理由の兵器開発

14

14. 匿名処理班

  • 2016年09月15日 10:30
  • ID:lP2LYjEB0 #

人為的でも誤爆あるんだから無差別になる可能性あるもんね。

15

15. 匿名処理班

  • 2016年09月15日 10:49
  • ID:chkkBxnu0 #

ビビりの極み

16

16.

  • 2016年09月15日 11:07
  • ID:.6X3m1rS0 #
17

17. 匿名処理班

  • 2016年09月15日 11:42
  • ID:X5T0RTAC0 #

アメリカがターミネーターに怯えるなら日本はアトムとドラえもんを作ろう

18

18. 匿名処理班

  • 2016年09月15日 11:43
  • ID:0RNyLNWX0 #

※3
それきっと人類不要の判断の元にやってくれる事なんじゃないでしょうか
自分のメンテを自分で出来るようになっちゃったらマジで人間不要だしな…

19

19. 匿名処理班

  • 2016年09月15日 11:57
  • ID:FY5Q43IT0 #

デデンデンデデン

20

20. 匿名処理班

  • 2016年09月15日 12:08
  • ID:dHI1RFwS0 #

正直AIとの戦争って言ってるけどさほど変わらんぞ。今でさえ人間が判断していると思っていても、コンピュータにより処理されマークされた相手を、攻撃目標として人間が承認して、その目標に対してAIが動きを解析処理してマークした相手に当てるわけだから、ほとんどAIに近い動きしてる。どこまで委任する?どこへ飛ぶか、多数目標の設定は?どこまで委任している?

21

21. 匿名処理班

  • 2016年09月15日 12:09
  • ID:D6fljaHmO #

なんか昨日のディスカバリーチャンネル雰囲気変だった。
アメリカ政府はAIより天候を操って戦争するみたいな内容だったけど…

22

22. 匿名処理班

  • 2016年09月15日 12:14
  • ID:lGF0jJVQ0 #

真に総合的判断力を持ったAI兵器を作るなら
AIには何らかの感情の本能を埋め込まないといけない。
この感情の本能が、もし.ある種の狩りをする感情だったら、
人類も狩りの獲物になりうる。
だから、心配するのは当然だ。

23

23. 匿名処理班

  • 2016年09月15日 12:15
  • ID:lzpYBFn50 #

無人飛行機も搭乗してないってだけ。地上のオペレーターが手動操縦してるもんな。

24

24. 匿名処理班

  • 2016年09月15日 12:41
  • ID:c5ANbaAf0 #

そもそもどんなに学習してもAIには生物次元がないから恐怖を感じない。恐怖も生存本能の一種だ。生存本能がないから生き残ろうとする必要も意味も持たない。生命的な自己保存に端を発する生存本能さえ身につけなければわざわざ人類を滅ぼす動機なんか持つわけないんだよな。

※15
人間がここまで生存できたのは、恐怖といつもすぐそこにある己の限界を知ってるからだ。

25

25. 匿名処理班

  • 2016年09月15日 12:56
  • ID:qC8xIrpq0 #

旦那がシェケナ君の用心棒だしな・・・って あれ??

26

26. 匿名処理班

  • 2016年09月15日 13:00
  • ID:QSNgF.E90 #

あら、お隣さん、また見えない敵と戦ってるわ

27

27. 匿名処理班

  • 2016年09月15日 13:03
  • ID:YmOTgwVI0 #

アメリカは銃を突きつける自分の影に
怯え続けている気がしてならない

28

28. 匿名処理班

  • 2016年09月15日 13:39
  • ID:WVX2I6mw0 #

とりあえずファティマ作っておこう。

29

29. 匿名処理班

  • 2016年09月15日 13:42
  • ID:CWCtUnC.0 #

今のうちにAIの開発を全面禁止にすべき
そのための国際的な条約の議論が必要
テクノロジーは人を怠慢にはしても本当の幸福にはしてくれない

30

30. 匿名処理班

  • 2016年09月15日 14:45
  • ID:tavkGzMc0 #

アルファさんとココネが出来ればいいなぁ。

31

31. めしねこ

  • 2016年09月15日 15:00
  • ID:nKy33vzI0 #

人間は誰もに頼まれたわけではなく破滅に近づく発明をしてくれるんだよな。
「人類は目的のないモルモット」てあの人はとうの昔に言っていたな。

32

32.

  • 2016年09月15日 15:12
  • ID:HUTEg.t1O #
33

33. 匿名処理班

  • 2016年09月15日 15:13
  • ID:yUqAsr4Q0 #

別に兵器 のレベルなら自律させてもかまわないんじゃない?
それが隊レベルでもすぐに制圧できるでしょw
兵器に”無限に”学習する機能なんて必要無いし
”高度”なプログラムで充分w

人工知能に核の発射ボタンや
兵器設計、製造の権限まで持たせちゃうのは危険。

34

34. 匿名処理班

  • 2016年09月15日 15:34
  • ID:lct9FzcR0 #

AIを載せたクローン人間vs人間

35

35. 匿名処理班

  • 2016年09月15日 16:40
  • ID:cdyQhjF10 #

アホかと思えるような事案にすら本気で予算が下りるのは、国としての強みだと思う。
突拍子もない考えから最新の技術が生まれているのも事実。
最初はこれと似たような反応されてたものだって少なくない訳で。

36

36. 匿名処理班

  • 2016年09月15日 16:56
  • ID:Q23JAiCG0 #

でも敵が欲しいんでしょ?
ちょうどええやん

37

37. 匿名処理班

  • 2016年09月15日 17:12
  • ID:T1NurZkC0 #

こういう元の発言と、コメントのとんちんかん振りを見ると、AIを勉強したことがないうえに、想像でさえアルファGOを作った人たちの「これ以上は技術的飛躍がまだいくつも必要です」みたいの意味がわかってないんだなあ、と。

38

38. 匿名処理班

  • 2016年09月15日 17:35
  • ID:SCCV3K8g0 #

戦争の大戦略は政治だとしても実際の戦闘はAIのほうがもう優れているのかも。
打撃を与える兵器の投射量と利用法の最適化なんて情報が正しければきっとコンピューターのほうが早い。
不確定要素雨があるから人は必要かもだけどAIの目的のために人が戦うなんて言う状況が生まれてくるかもね
そうしたら今度はあいてのAIに状況を誤認知させる戦術が産まれるかもしれない。
チェスも囲碁もそれで人間に勝ってしまっているから怖い。
人が一つのことを判断する間に何億ものはんだんできるんだから。

39

39. 匿名処理班

  • 2016年09月15日 18:43
  • ID:2z1zvg4p0 #

兵士「攻撃していいかどうか判断できなかったのでSiriに聞いてみた」

40

40. 匿名処理班

  • 2016年09月15日 19:36
  • ID:PsCgmJ4X0 #

戦争が好きな国のAIは戦争が好きになる。
人間が地球にとってマイナスになるとAIが
判断したら我々が考えもつかない方法で人間
を無力化すると思う。

41

41. 匿名処理班

  • 2016年09月15日 19:38
  • ID:j9MDVwAC0 #

味方のAIネットワークと敵のAIネットワークが連絡し合って
情報交換をすれば
簡単に人類を抹殺すれば平和になると判断するのは
容易に推測できる

42

42. 匿名処理班

  • 2016年09月15日 20:00
  • ID:HVQKcis70 #

※37
すごい頓珍漢なコメントしてるぞ。出来上がる前にやれることをやろうってだけだぞ。

43

43. 匿名処理班

  • 2016年09月15日 20:01
  • ID:2vWfyX250 #

※9
その二国に抜かされて一番脅威にさらされるのが日本なことを忘れるなよ
マジで他人事じゃねーよお前の発言で目覚めたわ

44

44. 匿名処理班

  • 2016年09月15日 20:21
  • ID:RlVTRR830 #

ロボコップの現代版では、人間のサイボーグ化より完全に機械のロボットのほうが戦闘において
はるかに優れているって設定が説得力あった。
ロボットは自立させたら脅威でしかない。

45

45. 匿名処理班

  • 2016年09月15日 20:22
  • ID:9K5bfnsX0 #

ででんでんででん♪ ででんでんででん♪

46

46. 匿名処理班

  • 2016年09月15日 20:30
  • ID:H5X3iWMD0 #

ポール・J・セルヴァ大将
なんかインテリなシュワちゃんに
見える・・・

47

47. 匿名処理班

  • 2016年09月15日 20:51
  • ID:7MfVF6WT0 #

高度な文明を持つあの人達は何て言ってるのかな?

48

48. みあきち

  • 2016年09月15日 20:57
  • ID:vVw4PEoF0 #

人間から解離したプログラムが負の連鎖反応を起こしかねない危険性は、
株式やFXの自動ボットのですら、ゴルゴの「砂上の帝国」かでも既にあったけな。

49

49. 匿名処理班

  • 2016年09月15日 21:40
  • ID:x3GRqxxb0 #

どんなにAIが進んでも、芸術分野は無理だろ!・・・・と、ほんの10年くらい前まで言われてたのに、今や初歩の作曲や萌えイラストも出来るから、あらゆる分野で人間が完全に要らなくなる時代は案外近いぞ。

50

50. 匿名処理班

  • 2016年09月15日 23:21
  • ID:uShDJ3i.0 #

計算するズンズンズンズン♪
計算計算計算♪

51

51. 匿名処理班

  • 2016年09月15日 23:49
  • ID:sjpVoU4u0 #

アメリカは、
ベトナム戦争で散々な目にあい中東でも似たような目にあってる、
共通点は敵に民間人と兵士の区別が出来ない兵士がいるってところ。
兵隊の服を着ていない兵隊と民間人を事前に判別できないうちは採用しないのでは。
けど敵はアメリカの制服を着てる奴を狙えばいいのでロボでも十分役に立つ。
敵対勢力の方が圧倒的に開発が楽なので警戒せざる得ない、
やたらと喧嘩を売ってきたツケだはな。

52

52. 匿名処理班

  • 2016年09月16日 00:36
  • ID:FqBC7gVt0 #

そんな人工知能ロボットができたら、
日本に一年間あずけてください。
きっと人間の友達にしてご覧に入れます。

53

53. 匿名処理班

  • 2016年09月16日 02:58
  • ID:DRkwnT.w0 #

アイルビーバック!

54

54. 匿名処理班

  • 2016年09月16日 04:24
  • ID:1AGXIzJL0 #

AI制御の兵器と戦う場合、一番イヤだと思うのは相手が恐怖心という物を持っていない事だと思う。そりゃあ相手は撃っても痛くも痒くもないんだし、機能停止するまで攻撃を仕掛けて来るんだから、人間にとっては恐怖だわな。こっちは少しでも弾が当たれば痛いし出血するし、もう大変だわな。人間型に限らずAI制御の兵器なんかとは戦いたくないものだと思う。

55

55. 匿名処理班

  • 2016年09月16日 09:04
  • ID:xwF8lalz0 #

ビビる前にやることあるだろ
のほほんとして見なかったことにしてるからこうなる
やるんならやれ、やらねえなら「できない」と言え

56

56. 匿名処理班

  • 2016年09月16日 09:04
  • ID:G.Vv7Yob0 #

※18
※3を書いた者だけど、その前提で書いてますよ。

57

57.

  • 2016年09月16日 13:20
  • ID:Du2Rr99XO #
58

58.

  • 2016年09月16日 14:06
  • ID:Rj8wvhYb0 #
59

59. 匿名処理班

  • 2016年09月16日 14:15
  • ID:1AGXIzJL0 #

いつも思うんだけど…、
映画ターミネーターに出て来る様に、AIが完全に人間を敵視し始めて自律的に人間殲滅のための生産設備を稼働させ始めたとして、インフラを止めてしまえばAI側はどうする事もできなくなると思うんだけどな?つまり、電力の供給とか原材料の供給とかの問題は、どういう風に都合を付けて考えているんだろう?という素朴な疑問は残る。まさか電力の供給とか原材料の供給&運搬経路に至るまで、全てを抑えてしまったという前提なんだろうか?(そういう風に考えるしかない世界観なんだよな)まあ有り得ない話だと思う。だって途中の1ヶ所でも破壊すれば全てが破綻するシステムなんだから。でも一方で、他の人間の操作するAI兵器と人間が戦う構図は十分に有り得る話だろうな。(これは嫌な展開だ)

もしかして将来の戦争は…AI兵器群とAI兵器群のみで戦闘を行って、その結果によって勝敗を決める…みたいになってくれると人間にとっては幸せだと思う。(資源と手間&予算の膨大な損失だが)

60

60. 匿名処理班

  • 2016年09月16日 16:41
  • ID:RBnmRPdu0 #

A.Iがどのような思考(嗜好)をもつ存在に進化するか、予測不可能だから脅えるんだろうな
将来、人間もA.I.がヒトの子孫と思えるかどうかっていう選択を迫られたりして
個人的にはいつか人類がA.I.に100%依存する存在になったとしても、それがほぼ完全な「考える葦」としての人生になるならそれもまたいいと思うけどね

61

61. 匿名処理班

  • 2016年09月16日 16:56
  • ID:KgwZVwP40 #

※38
なんというかね、普通に撃ち合いで勝てないよ。

62

62. 匿名処理班

  • 2016年09月16日 20:36
  • ID:xHC.Aaya0 #

真剣に恐れているというよりあらゆる危機的可能性に真剣に対処しているってイメージだな
スペースガードしかり

63

63. 匿名処理班

  • 2016年09月16日 20:57
  • ID:82kaHoyS0 #

※5
そういって未来の科学者は高い知能を持ったAIを作り出し
そのAIに経済を任せ貧困のない世界に成功し
未来は人間は不要と判断されるのを恐れながら過ごすことになる

AIの行動を阻止できない
なぜなら、我々の知能をはるかに超えてるからね

64

64. 匿名処理班

  • 2016年09月17日 01:43
  • ID:CuArKDJy0 #

あくまで道具は道具として扱わなければならない
道具に魂を与えようと考えた時点で人類は破滅するかも
まぁ良き隣人になってくれる可能性もあるけど

65

65. 匿名処理班

  • 2016年09月17日 03:10
  • ID:XfFFNCEJ0 #

人工知能は完璧な共産主義をお勧めしてきそうだもんな
まず民主主義を否定して偽りの共産主義を否定するので人類に敵対するわこれ

66

66. 匿名処理班

  • 2016年09月17日 04:08
  • ID:qtyfsXkt0 #

そのうち機械に対抗するなり、理解するために人間も人格の最適化とか外付け脳みそとか作らないといけない世界とか想像するだけでwktk

67

67. 匿名処理班

  • 2016年09月17日 10:13
  • ID:vABuRpU80 #

※12
アメリカとか強いとこより弱わくて勝てそうなとこをまず攻めていくでしょ。

68

68. 匿名処理班

  • 2016年09月22日 15:17
  • ID:.9ROdrMY0 #

2045年、世界はAI搭載型兵器を作る一方日本はメイドロボを作った。

69

69. 匿名処理班

  • 2016年09月26日 21:54
  • ID:fp7gw4oZ0 #

※19
今なら70円均一な

70

70. 匿名処理班

  • 2016年09月27日 19:03
  • ID:Kj9.s9qC0 #

これって高次元の人工知能のことじゃなくて
より低次元の無人対人兵器のこと言ってたきがするけどな

71

71. 匿名処理班

  • 2017年04月07日 23:45
  • ID:bLGOxrFx0 #

マジでゾンビ対策も研究してるんだぜ

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク