メインコンテンツにスキップ

人間の頭蓋骨を押しつぶすほど強力、AIロボットの危険性を元安全責任者が内部告発

記事の本文にスキップ

37件のコメントを見る

(著)

公開:

この画像を大きなサイズで見る
Image by Istock
Advertisement

 映画『スター・ウォーズ』でおなじみのC-3POのような人型のヒューマノイドロボットが家事を手伝ってくれる未来はもうそこまでやってきている。だが、そこには恐ろしい危険も潜んでいるようだ。

 事の発端は、元安全責任者が、現在開発中のロボットは「生身の人間の頭蓋骨を押しつぶすほどの威力を持っている」と社内で幹部に危険性を警告したことだ。

 ところがその数日後、彼は会社を解雇されてしまう。この処分を不服として元安全責任者は裁判を起こし、隠されていた事実が明るみに出た。

 現場では、ロボットが誤作動により鉄製の冷蔵庫を切り裂く事故も起きていたと、元安全責任者は語っている。ロボット開発競争の裏で何が起きているのか?

ヒューマノイドの超人的パワーとスピード

 Figure AI社は、半導体大手のNVIDIAや、Amazonの創業者ジェフ・ベゾス氏といったそうそうたる顔ぶれから資金援助を受けている注目のスタートアップ企業だ。

彼らの作るヒューマノイドロボット(Figureシリーズ)は、人々の生活労働を支援する輝かしい未来の象徴として期待されている。

 しかし、その実態は楽観できるものではないようだ。

 CNBCが報じたところによると、かつて同社で製品安全責任者を務めていたロバート・グレンデル氏は、次世代ロボットが人間の頭蓋骨を骨折させる可能性があると警告したところ、会社を解雇されたと述べている。

 グレンデル氏の主張によれば、そのロボットは「超人的なスピード」で動き、「手」の握力や腕を振る際の衝撃力は、人間が痛みに耐えられる限界値の20倍にも達するという。  

この画像を大きなサイズで見る
Image credit:Figure AI

現場で起きた事故

 グレンデル氏は、シリコンバレーならではの「テクノロジーで未来を切り拓く」という前向きな職場環境を期待して入社したが、実際の現場は安全管理が不十分だったと主張している。

 彼によれば、実際にロボットの1体が誤作動を起こし、ステンレス製の冷蔵庫のドアに約6mmもの深い傷を刻み込んだ事故が発生したという。

 分厚い金属を切り裂くその力が、もし人間の近くで制御不能になればどうなるか。  

 彼はCEOのブレット・アドコック氏らに対し、このロボットには問題があるとし、こうした強力なロボットが、十分な安全対策なしに稼働すべきではないと警告した。 

この画像を大きなサイズで見る
Image credit:Figure AI

資金調達後に安全計画がうやむやに

 2025年後半、Figure AIの企業価値は390億ドル(約5兆8500億円)に急騰していた。グレンデル氏の弁護士によると、彼は投資家に見せるための「安全対策計画書」を作成し、提示していたという。

 しかし、巨額の資金調達が完了したのと同じ月、会社側はこの安全計画を中身のないものに変えてしまったと彼は主張している。

 グレンデル氏は、「安全を守ることは会社の義務だ」と訴えたが、会社側は聞く耳を持たなかったという。

  訴状によれば、彼は「ここが危険だ」とはっきり書いた報告書を提出したが、そのわずか数日後の9月、会社を解雇されたという。

 彼はこれを、警告をしたことへの報復だと考えている。

会社側は正当性を主張、法廷で争う構え

 これに対し、会社側の言い分は全く異なる。 解雇の理由について、会社側は当初「事業方針の変更」と説明していたが、公式には「本人の業績不振」が理由だとしている。

 Figure AIの広報担当者は声明を発表し、グレンデル氏の主張に対して真っ向から反論した。

 同社は、彼の解雇は正当な手続きによるものであり、彼が主張するような危険性や不正疑惑については「すべて虚偽である」と発表した。

 「法廷で徹底的に反論し、事実ではないことを証明する」と強い姿勢を見せている。

 一方で原告側の弁護士は、「法律は、危険な慣行を報告した従業員を保護している」と述べ、この裁判がヒューマノイドロボットの安全性に関する最初の重要な内部告発ケースになると位置づけている。

この画像を大きなサイズで見る
Image credit:Figure AI

加速するロボット開発競争

 現在、グレンデル氏は陪審員裁判を要求し、経済的損失や精神的苦痛への補償、そして懲罰的損害賠償を求めている。

 この騒動の背景には、テスラやボストン・ダイナミクス、中国のユニツリー・ロボティクスなどがしのぎを削る、猛烈なロボット開発競争がある。

 モルガン・スタンレーの報告によれば、この市場は2030年代に加速し、2050年までに約5兆ドル(約750兆円)規模になると予測される巨大産業だ。

 果たして原告が訴えるように安全は軽視されていたのか、それとも会社側が言うように事実無根の言いがかりなのか。

 真実は今後の裁判で明らかにされることになるだろう。

References: Figure AI sued by whistleblower who warned that startup’s robots could ‘fracture a human skull’ / Whistleblower Says He Was Fired for Warning Execs That New Robot Could Crush Human Skull / Figure humanoid robot hand showed skull-cracking force in trials, whistleblower warns

📌 広告の下にスタッフ厳選「あわせて読みたい」を掲載中

この記事へのコメント 37件

コメントを書く

  1. AIロボット「なんと脆弱な…我々の主はこの程度か…」

    AIロボット「この星の支配者は誰か教えてやるべき」

    • +5
  2. いやいやロボによる最初の札人はトヨタではるか昔に…
    もちろんAIではない、プログラムエラーで起きたのだ
    ただ同じようなボディにAIを乗せても似た事故は起こるだけ

    むしろアシストロボは小型化して人の膝に乗るサイズから始めてはどうだろう?
    人が投げたり振り払うことが可能な範囲で
    そして転倒を伴う歩行学習はバーチャルで
    両者が成熟した頃、融合して介護や警備に投入するんだ
    (ある意味、日本のクロイノが一番では)

    製造系はもうずいぶん投入されてるからとにかく距離を取り、ロボの進路や軌道に入らないことだね

    • +13
  3. 一般市場で販売される正規品なら
    大問題だけど、開発段階でこの手の
    トラブルが起こるのはむしろ普通の
    事じゃないかな。
    現場の安全管理がどの程度だったかは
    分からないけど、少なくも怪我人は
    出てないわけだからあまり会社側を
    責める気にはならない。

    • -17
  4. 🤖「ロボット工学の神が呼んでいるぞ」 バキッ!バキバキバキーー!😵

    • -6
  5. これさ、ウイルス感染で暴走する可能性もあるよな。対処策は物理的にパワーの無いモーターなどを使うしかないな。

    • +25
  6. 人間と同じ出力では人間と同じことしかできませんからね。
    だったら人間使えよで終わってしまいますから、人間超える出力になるのは仕方ないかなという気もします。

    • +6
    1. 人手不足の解消目的ならそんなにハイパワーでなくても良い気はする

      • +20
      1. 人間も筋力を最大限発揮すれば人間の頭蓋骨を押しつぶす力は出せるが、同時にそれをやった側の人間の筋肉も断裂し腕の骨は自壊する。
        そして断裂し始める前にそんな筋力を出すことが激痛になるし、それがリミッターになってる。
        よって人間が出せる筋力というのはそんなに高く無いのよな。
        ところがロボットの場合、自壊するほどの力を出さなくても容易に人間を殺傷できてしまうパワーと強度を与えられている…
        よくよく考えるとなんか変だよねこれ。 なんでそんなパワーや頑丈さが必要なんだ?という。

        • +5
        1.  これは想像だけど、活動に余裕を持たせるのではないかな。 つまり 100 の力を出すのに 100 の出力限界の機器を使うよりも、 200 が出力限界の機器を 50% 出力で使うほうが余裕があって長持ちしそうだし、運用もうまくやりやすそう。 たとえるなら自動車も日本国内では 120km/h までで十分なはずですが、 150km/h とか 180km/h まで出せるエンジンを持っていて、対応するシャシと駆動系とブレーキをもってるはずで余裕をもって 100km/h を制御するならこれくらいできるといいんじゃないかと

          • +4
        2. 人間は職場で勝手に壊れますやん
          だったら人間より良いスペックで投入スべきでしょ なんもおかしくはない
          わざわざ壊れないギリギリスペックでなきゃいけない理由もない

          • +1
  7. ブレードランナーでもそんなシーンが有ったよね。
    確かレプリカントが販売元のお偉いさんの頭を、、、

    • +4
  8. ビックテック系、倫理観終わってるところ多いね

    • +12
  9. 映画『ブレードランナー』で、レプリカントのリーダーが両手で人間の頭を押しつぶしたシーンを思い出しました。あれは怖かった。

    • +8
  10. 反AIだの、こういうのってライバル企業の足を引っ張る為の策略なんだろうね

    • -27
  11. 製品が完成してもおらず、安全性も確立されていない現時点での「訴訟」よりも、ヒューマノイドロボットが完成し、その製品発表会で CEO がヒューマノイドロボットと握手をして、手をバキバキに砕かれるみたいなオチの方が、面白いと思うのはワイだけ?

    • 評価
  12. AIiロボットも半世紀前からある組み立てロボットも何も変わらないことが理解できていない人が書いた記事

    • -17
  13. 未来において、所有者不明や倒産企業のロボットが人に危害を加えた時はどの様な法的対応がされるのだろう

    • +14
  14. やっぱり戦争や粛清で使えることを考えて破壊力のあるものを開発してるのかしら。
    最初は便利な道具、次は安らぎや信頼を、そして骨抜きになった人間を……

    内蔵されてるプログラムやAIをホントに信じていいのかしら。外部から危険なアクセスがあったり、それこそ利用者が知らない所でモニタリングされてたり…

    いや、恐ろしいわ………

    • +7
  15. 従来の製品とAIを搭載した製品との一番の違いは、それが自分で学習して判断して動くかどうかだと思う
    もし事故が起きた時、予め決められた単純なプログラムに従って動く製品だったらプログラムそのものに問題があったのか、それとも利用者の使い方に問題があったのかは判別しやすい
    でもAIの場合、利用者が変な学習をさせてしまったせいだ、いや製造段階で変な学習をさせないような設計をしておくべきだ、と責任の押し付け合いになりそうな気がする

    • +11
  16. 安全責任者に業績不振を押し付けるのは無茶では…?

    • +4
    1. 「業績不振(poor performance)」って、この場合は
      売上うんぬんじゃなくて
      「その職位に求められる成果に対して、人事査定が低かった」って意味じゃない?

      • +1
  17. そんな事言い出したら万力だって危険だろって話だけどな
    ブルドーザーだって便利に使う事も人を殺す事も出来る
    結局はバカとハサミは使い様って事
    悪用しようと思ったらなんだって悪用可能
    そうしない様にすれば大体は安全って事だろ

    • -22
    1. これはその安全対策や安全装置が不備だっていう告発なんです。

      • +12
  18. 楳図かずお氏の漂流教室の終盤の方でも、マリリン・モンローをモデルにしたロボットが、やはりそうした「何でそこまでの強さがいるの?」という様な、握力だったな…

    • -3
  19. ロボットの動作を制御する系統とは別に独立した回路で緊急停止ができるようになっていてほしい。かといってマジックパケット一発で停止できたら悪用されるのは見えてるし。
    ハイパワーでバグだらけの装置が身近にあるのは、いやだなぁ

    • +10
  20. 自動車は開発中でも接近注意で安全が確保できるが
    人間とともに活動するロボットを人間に接近しないようにはできないんだよね
    一発ノックアウトができるロボットでは誤動作した時には手遅れなんだよ

    • +7
  21. ロボットに限らず、自動車とか飛行機なんかでも
    業務拡大期で、性能を競って開発を急ぐと、
    安全上の警告が軽視されるのはあるある。

    そして、大事故を起こし、
    世間からの大バッシングと多額の賠償を喰らって初めて
    ようやく安全対策へ資金をつぎ込むようになるパターン。

    • +6
  22. 頭蓋骨が押しつぶされ薄れていく意識の中で,
    (あの時,後ろから蹴飛ばしておけば…)と。
    核融合や,インターネット,AI,ロボット等々
    科学の進歩,利便性と引き換えに生じる
    ネガティブな側面に警鐘を鳴らし続けること,
    必要だと思いますけどね。

    • -1
  23. 自動車だって毎年135万人、23秒に1人ずつ人を殺しているんだから、ヒューマノイドだって利便性が勝れば人を何人殺そうが問題にはならないんじゃない?

    • -5
  24. 超強力な人型ロボットを山で作動させて熊に人間は恐ろしいと再認識させたいね

    • +1

コメントを書く

0/400文字

書き込む前にコメントポリシーをご一読ください。

リニューアルについてのご意見はこちらのページで募集中!

サイエンス&テクノロジー

サイエンス&テクノロジーについての記事をすべて見る

  1. 記事一覧を読込中です。

知る

知るについての記事をすべて見る

  1. 記事一覧を読込中です。

最新記事

最新記事をすべて見る

  1. 記事一覧を読込中です。