この画像を大きなサイズで見るもはや今となっては、映画『ターミネーター』のアイデアは現実のものとなってきつつある。この作品では、意識を持つに至ったグローバルコンピューターネットワークが人類を敵とみなし、それによって勃発した希望のない戦いを描いている。
世界では人工知能や無人車両の研究が進んでいる。厖大なデータを駆使して制御されるこれらは、倫理的な疑問も提起するものである。
アメリカ国防総省はそうした疑問を調査している、と説明したのは統合作戦本部副議長のポール・J・セルヴァ大将だ。
コンピューターによって車を運転し、飛行機を着陸させ、荷物を配送し、地球外の惑星を探査するというアイデアは、すでに現実のものとなっている。シンガポールでは無人タクシーの実験が実施され、グーグルも近い将来ピッツバーグで同様の実験を開始しようとしている。
火星ではいくつもの無人探査車が利用されている。米軍は世界中で無人機を展開。海洋科学者は遠隔操作の無人潜水艇で海洋の調査を進める。
この画像を大きなサイズで見る人類はその危険性を認識しなければならない
無人兵器システム……だが、このアイデアは倫理的な問題も突きつける、とセルヴァ大将は言う。アメリカ国防総省は内外から専門家を募り、この問題に取組んでいる。こうした科学技術が実際に戦争で利用された際にどんな落とし穴があるだろうか。
「軍でやっていることについて気後れするところはありません。軍の責任者として私の仕事は、敵にもたらされる言語に絶する暴力を目撃することです。結局、国家の利益を守るためにアメリカから私を含めた陸海空の兵士が派遣されるとき、その役割は敵を撃破することなのですから」
米軍の兵士がミッションを達成する際に行使できる方法については、法と条約で定められている。「私たちが多大な時間を費やしていることの1つが、開発中の兵器が敵に攻撃するかどうかの判断は人間に任されているかどうかということです。それはかなりはっきりとした超えるべきではない一線です」
この画像を大きなサイズで見る完全に自律的な無人兵器では、ミッション遂行に必要な行動がプログラムされており、威力を行使するかどうかの判断は、内臓コンピューターに組み込まれたプログラムのパラメーターに一任されている。これはアメリカ軍にとって容認できるものではないという。
人間の操作から完全に自律した兵器を作ってはならない
「今後数十年の技術革新を考える際に、基準となるものの1つとして繰り返し主張しているのは、人間の指揮官を軍の作戦実行の判断から免除するようなシステムは作らないということと、人間の操作から完全に自律した兵器は作らないということです」
この画像を大きなサイズで見るしかし、敵側もアメリカの判断に従うわけではない。完全に自律して攻撃の判断を下すロボットシステムの開発はすでに可能である。
とんでもなく洗練されているわけでも、驚異的なまでに優れているわけでもないが、とにかく現実に可能だ。そうした人工知能と自律性を備えたシステムを開発する際は、そこから人間の判断が抜け落ちないよう細心の注意を払う必要がある、とセルヴァ大将は話す。
これについて議論が必要であり、無人兵器を規定する条約を違反しようとする国家や非国家主体に対する対策が必要となる。
usni、scoutなど。/ written hiroching / edited by parumo
『アップシード』や『ベクシル』の世界に近づきつつある、人間の倫理観が追いついてない。
※1
APPLESEED アップルシード
「汝平和を欲さば、戦への備えをせよ」ってなことを想像してしまうがアメリカがいうと武力を持つ理由を正当化しようと、脅威をどうにか”作ろう”としてるだけにしか聞こえなくて
なんだかんだ言って技術の進歩とともに平和になった。
人工知能も平和を加速させてくれる存在だと思う。
※3
それきっと人類不要の判断の元にやってくれる事なんじゃないでしょうか
自分のメンテを自分で出来るようになっちゃったらマジで人間不要だしな…
2045年には人工知能がより優秀な人工知能を産み出して知識爆発が起きるって言われてるからあと30年頑張って生きて人類の転換期を見たい
我々はロボットを作っているのでは無い。未来の人類の器を作っているのだ！
※5
そういって未来の科学者は高い知能を持ったAIを作り出し
そのAIに経済を任せ貧困のない世界に成功し
未来は人間は不要と判断されるのを恐れながら過ごすことになる
AIの行動を阻止できない
なぜなら、我々の知能をはるかに超えてるからね
ＡＩ側が人間の判断を切って、自立するだろう。
それからが人類の滅亡。
ターミネーターも液体殺人ロボットもいた半面、２期目のように
人に害をなさないロボットもいた。リアルなロボットも同じで
作る人や環境によっても変わってくるじゃないのかな
これは人も同じことであり、ロボットだけが従順であり凶悪
そして無慈悲であるとは限らないかと
何が始まるんです！？
いや、間違いなく最初に作るのはお前らやろｗｗｗ
無人機大量生産してるけど戦闘ＡＩに任せるほうが効率良いもんな。
で、中華・露助に抜かれて慌てるところまでが規定路線。
※9
その二国に抜かされて一番脅威にさらされるのが日本なことを忘れるなよ
マジで他人事じゃねーよお前の発言で目覚めたわ
３のターミネーターだったら、プレデターやエイリアンにも勝てそうだし無敵やな
そらまぁ自我までもたせたら100%襲いかかってくるわ特にアメリカには。害悪だもん。もちろんプラスもあるけど結果として害悪
生い立ちから虫以上の合理主義の塊になるだろうしな。ある程度の歩み寄りはあるだろうけど根本的に痛みも死の恐怖もなく法を順守させてくるとか生物とは絶対相容れないぞ
と言う理由の兵器開発
※12
アメリカとか強いとこより弱わくて勝てそうなとこをまず攻めていくでしょ。
人為的でも誤爆あるんだから無差別になる可能性あるもんね。
ビビりの極み
アメリカがターミネーターに怯えるなら日本はアトムとドラえもんを作ろう
そもそもどんなに学習してもAIには生物次元がないから恐怖を感じない。恐怖も生存本能の一種だ。生存本能がないから生き残ろうとする必要も意味も持たない。生命的な自己保存に端を発する生存本能さえ身につけなければわざわざ人類を滅ぼす動機なんか持つわけないんだよな。
※15
人間がここまで生存できたのは、恐怖といつもすぐそこにある己の限界を知ってるからだ。
デデンデンデデン
正直AIとの戦争って言ってるけどさほど変わらんぞ。今でさえ人間が判断していると思っていても、コンピュータにより処理されマークされた相手を、攻撃目標として人間が承認して、その目標に対してAIが動きを解析処理してマークした相手に当てるわけだから、ほとんどAIに近い動きしてる。どこまで委任する？どこへ飛ぶか、多数目標の設定は？どこまで委任している？
※18
※3を書いた者だけど、その前提で書いてますよ。
なんか昨日のディスカバリーチャンネル雰囲気変だった。
アメリカ政府はＡＩより天候を操って戦争するみたいな内容だったけど…
※19
今なら７０円均一な
真に総合的判断力を持ったＡＩ兵器を作るなら
ＡＩには何らかの感情の本能を埋め込まないといけない。
この感情の本能が、もし.ある種の狩りをする感情だったら、
人類も狩りの獲物になりうる。
だから、心配するのは当然だ。
無人飛行機も搭乗してないってだけ。地上のオペレーターが手動操縦してるもんな。
旦那がシェケナ君の用心棒だしな・・・って あれ？？
あら、お隣さん、また見えない敵と戦ってるわ
アメリカは銃を突きつける自分の影に
怯え続けている気がしてならない
とりあえずファティマ作っておこう。
今のうちにＡＩの開発を全面禁止にすべき
そのための国際的な条約の議論が必要
テクノロジーは人を怠慢にはしても本当の幸福にはしてくれない
アルファさんとココネが出来ればいいなぁ。
人間は誰もに頼まれたわけではなく破滅に近づく発明をしてくれるんだよな。
「人類は目的のないモルモット」てあの人はとうの昔に言っていたな。
別に兵器 のレベルなら自律させてもかまわないんじゃない？
それが隊レベルでもすぐに制圧できるでしょw
兵器に”無限に”学習する機能なんて必要無いし
”高度”なプログラムで充分w
人工知能に核の発射ボタンや
兵器設計、製造の権限まで持たせちゃうのは危険。
AIを載せたクローン人間vs人間
アホかと思えるような事案にすら本気で予算が下りるのは、国としての強みだと思う。
突拍子もない考えから最新の技術が生まれているのも事実。
最初はこれと似たような反応されてたものだって少なくない訳で。
でも敵が欲しいんでしょ？
ちょうどええやん
こういう元の発言と、コメントのとんちんかん振りを見ると、AIを勉強したことがないうえに、想像でさえアルファGOを作った人たちの「これ以上は技術的飛躍がまだいくつも必要です」みたいの意味がわかってないんだなあ、と。
戦争の大戦略は政治だとしても実際の戦闘はAIのほうがもう優れているのかも。
打撃を与える兵器の投射量と利用法の最適化なんて情報が正しければきっとコンピューターのほうが早い。
不確定要素雨があるから人は必要かもだけどAIの目的のために人が戦うなんて言う状況が生まれてくるかもね
そうしたら今度はあいてのAIに状況を誤認知させる戦術が産まれるかもしれない。
チェスも囲碁もそれで人間に勝ってしまっているから怖い。
人が一つのことを判断する間に何億ものはんだんできるんだから。
兵士「攻撃していいかどうか判断できなかったのでSiriに聞いてみた」
戦争が好きな国のＡＩは戦争が好きになる。
人間が地球にとってマイナスになるとＡＩが
判断したら我々が考えもつかない方法で人間
を無力化すると思う。
※37
すごい頓珍漢なコメントしてるぞ。出来上がる前にやれることをやろうってだけだぞ。
味方のAIネットワークと敵のAIネットワークが連絡し合って
情報交換をすれば
簡単に人類を抹殺すれば平和になると判断するのは
容易に推測できる
※38
なんというかね、普通に撃ち合いで勝てないよ。
ロボコップの現代版では、人間のサイボーグ化より完全に機械のロボットのほうが戦闘において
はるかに優れているって設定が説得力あった。
ロボットは自立させたら脅威でしかない。
ででんでんででん♪ ででんでんででん♪
ポール・J・セルヴァ大将
なんかインテリなシュワちゃんに
見える・・・
高度な文明を持つあの人達は何て言ってるのかな？
人間から解離したプログラムが負の連鎖反応を起こしかねない危険性は、
株式やＦＸの自動ボットのですら、ゴルゴの「砂上の帝国」かでも既にあったけな。
どんなにAIが進んでも、芸術分野は無理だろ！・・・・と、ほんの10年くらい前まで言われてたのに、今や初歩の作曲や萌えイラストも出来るから、あらゆる分野で人間が完全に要らなくなる時代は案外近いぞ。
計算するズンズンズンズン♪
計算計算計算♪
アメリカは、
ベトナム戦争で散々な目にあい中東でも似たような目にあってる、
共通点は敵に民間人と兵士の区別が出来ない兵士がいるってところ。
兵隊の服を着ていない兵隊と民間人を事前に判別できないうちは採用しないのでは。
けど敵はアメリカの制服を着てる奴を狙えばいいのでロボでも十分役に立つ。
敵対勢力の方が圧倒的に開発が楽なので警戒せざる得ない、
やたらと喧嘩を売ってきたツケだはな。
そんな人工知能ロボットができたら、
日本に一年間あずけてください。
きっと人間の友達にしてご覧に入れます。
アイルビーバック！
AI制御の兵器と戦う場合、一番イヤだと思うのは相手が恐怖心という物を持っていない事だと思う。そりゃあ相手は撃っても痛くも痒くもないんだし、機能停止するまで攻撃を仕掛けて来るんだから、人間にとっては恐怖だわな。こっちは少しでも弾が当たれば痛いし出血するし、もう大変だわな。人間型に限らずAI制御の兵器なんかとは戦いたくないものだと思う。
ビビる前にやることあるだろ
のほほんとして見なかったことにしてるからこうなる
やるんならやれ、やらねえなら「できない」と言え
いつも思うんだけど…、
映画ターミネーターに出て来る様に、AIが完全に人間を敵視し始めて自律的に人間殲滅のための生産設備を稼働させ始めたとして、インフラを止めてしまえばAI側はどうする事もできなくなると思うんだけどな？つまり、電力の供給とか原材料の供給とかの問題は、どういう風に都合を付けて考えているんだろう？という素朴な疑問は残る。まさか電力の供給とか原材料の供給＆運搬経路に至るまで、全てを抑えてしまったという前提なんだろうか？(そういう風に考えるしかない世界観なんだよな)まあ有り得ない話だと思う。だって途中の1ヶ所でも破壊すれば全てが破綻するシステムなんだから。でも一方で、他の人間の操作するAI兵器と人間が戦う構図は十分に有り得る話だろうな。(これは嫌な展開だ)
もしかして将来の戦争は…AI兵器群とAI兵器群のみで戦闘を行って、その結果によって勝敗を決める…みたいになってくれると人間にとっては幸せだと思う。(資源と手間＆予算の膨大な損失だが)
A.Iがどのような思考（嗜好）をもつ存在に進化するか、予測不可能だから脅えるんだろうな
将来、人間もA.I.がヒトの子孫と思えるかどうかっていう選択を迫られたりして
個人的にはいつか人類がA.I.に100％依存する存在になったとしても、それがほぼ完全な「考える葦」としての人生になるならそれもまたいいと思うけどね
真剣に恐れているというよりあらゆる危機的可能性に真剣に対処しているってイメージだな
スペースガードしかり
あくまで道具は道具として扱わなければならない
道具に魂を与えようと考えた時点で人類は破滅するかも
まぁ良き隣人になってくれる可能性もあるけど
人工知能は完璧な共産主義をお勧めしてきそうだもんな
まず民主主義を否定して偽りの共産主義を否定するので人類に敵対するわこれ
そのうち機械に対抗するなり、理解するために人間も人格の最適化とか外付け脳みそとか作らないといけない世界とか想像するだけでwktk
２０４５年、世界はAI搭載型兵器を作る一方日本はメイドロボを作った。
これって高次元の人工知能のことじゃなくて
より低次元の無人対人兵器のこと言ってたきがするけどな
マジでゾンビ対策も研究してるんだぜ
>とんでもなく洗練されているわけでも、驚異的なまでに優れているわけでもない
世論が許せば人件費も人材も不要。
成長を待たずに常に同じ品質で生産可能で、システムアップデートは可能。
まぁ、化物だよ
アメリカが勝手に被害妄想をしているだけじゃないのか？。むしろアメリカの方が危険だと思うのだが…。
対人兵器で自立型は要らないよね
ウイルス兵器と同等に現地に住まう方々な運用でAIも恥ずかしくて嫌うだろうから
作るのはヒトが、ということになるかと思う
ロボちゃんズは地球に居座るわけじゃないし
ただ、寄生(触手型昆虫型)宇宙生命体など嫌がらせ専門級に邪神みたいのが来たら遠慮なく対人自立兵器でお願いしたいなー