この画像を大きなサイズで見る現在のAIは、自分が学習していない未知のデータに遭遇すると、間違った答えを出してしまう致命的な弱点がある。
アメリカのミシガン州立大学の研究チームは、生命の痕跡を探すAIが想定外の物質や自然のノイズを見ただけで、地球外生命体だと100%の確率で誤認してしまうことを実験で証明した。
人間の確認なしにAIだけに判断させる危険性を物語っている。
この研究成果はカナダで開催される『2026 Conference on Artificial Life』（2026年8月）で発表される予定だ。
宇宙探査で期待されるAIによる生命痕跡の特定
人類はこれまで、謎めいた電波信号や光の点滅、未確認飛行物体などを探し続けてきたが、生命の痕跡と正確に判断できる段階には至ってない。
現在、NASAをはじめとする世界各国の宇宙研究機関は、探査機や宇宙望遠鏡などを使って、過去や現在の地球外生命の痕跡を探している。
そこで、宇宙ミッションで集められた複雑で膨大なデータを精査し、バイオシグネチャー（生命が存在したことを示す科学的な痕跡）を特定するためにAIの活用が提唱されている。
目的地に到着した探査機に搭載されたAIセンサーが、サンプルの特徴をその場で分析して生命由来のものかどうかを判断する計画が進められているのだ。
この画像を大きなサイズで見るデジタル生物を用いたAIの学習と分類テスト
アメリカのミシガン州立大学のクリストフ・アダミ教授とアンキット・グプタ氏の研究チームは、AIのバイオシグネチャー検出能力を評価する実験を行った。
生命が存在する普遍的な指標の一つに、DNAのように情報を暗号化して自己複製する機能がある。
研究チームは、アヴィダ（Avida）と呼ばれるデジタル生命体の進化プロセスをシミュレーションするコンピュータープログラムを利用した。
アヴィダの仮想空間（仮想のペトリ皿）では、コンピューターコードで構成されたデジタル生命が自己複製を繰り返す。
実際の生物の遺伝子が繁殖時に突然変異を起こすように、デジタル生命のコピー過程にも不完全な変化が生じる。
研究チームは、自己複製機能を持つデジタル生命と持たないデジタル生命を数万個生成し、ニューラルネットワーク（人間の脳の神経回路を模したAIの学習モデル）に学習させた。
学習を終えた直後のAIは、自己複製能力の有無という2つの生命のタイプを99.97％という極めて高い精度で分類することに成功した。
この画像を大きなサイズで見る未知のデータに直面したAIはすべてを生命と誤認する
研究チームは次に、AIの認識能力を測るため、AIがこれまで学習したことのない「未知のデータ」を提示するテストを行った。
まず研究チームは、AIが「自己複製能力を持たず、生命の痕跡ではない」と正しく判定したプログラミングコード（コンピュータに行わせたい処理手順を、プログラミング言語を用いて文字列や記号の羅列として記述した命令書）を用意した。
そこに、本来の動作を維持しつつもAIのパターン認識を惑わせるような微細な書き換えを150回ほど繰り返した。
この操作により、AIの学習データには存在しなかった「生命の痕跡があるように見える新しい配列」へとプログラミングコードが作り替えられた。
結果としてAIの認識能力は限界を迎え、この改変されたプログラミングコードを「自己複製能力がある生命の痕跡だ」と100%の確率で誤って特定し始めた。
AIは未知のパターンに直面すると、生命の兆候が存在しないプログラミングコードを生命の痕跡だと完全に誤認してしまうという脆弱性を持っている。
宇宙空間にはAIの認識を狂わせる未知の配列が無数に存在するため、AIが将来の探査データから偽陽性（誤検出）を引き起こす確率は非常に高い。
この画像を大きなサイズで見る日常生活にも潜むAIの脆弱性と人間の介入の必要性
AIの脆弱性は、宇宙探査だけでなく、地球上の日常生活で稼働する医療用スキャナーや防犯カメラの顔認識ソフトウェアや自動運転車などにも影響を及ぼす。
AIの判断を過信することは、人間の既存の生活や命を脅かす危険性を含んでいる。
研究チームは、科学分野におけるAIの活用自体を否定しているわけではない。
火星の探査車に搭載されたAIが、地球にサンプルを持ち帰る前にその場で分析を行うような状況では、AIが誤作動を起こす重大なリスクがある。
科学的発見のいかなる分野においても、AIの作業結果を人間が独立してチェックする仕組みが不可欠なのだと、警鐘を鳴らしている。
AIもパレイドリアを起こすのか
人間も勘違いをする
言わんや人間の作るAIをや
実に人間らしいピラミッド宇宙人説含め判らない事があったら宇宙人の仕業。
円盤だ!!宇宙人だ!!
テスラのAIも幽霊誤認するもんな
なんか変なサイトを学習してるんじゃないの
同じ文章を二度三度も繰り返させると何の為の繰り返し？と懐疑的になるので、ちゃんと精査して欲しいんだが
生命と非生命の間はごく狭いのだろう
あるいはグラデーションのようなものかもしれないし
または、代謝、成長、複製などは炎🔥、結晶などにも見られる(境界は？)
物質を取り込み拡大し、ときに自己複製するから、拡張プログラムも見間違えるかも
いつも思うのだけれど、こういうAIのタスクは入力から真か偽かどちらか示すようにモデリングされてると思うのだけれど、わからないという選択肢を用意してあげたらもう少し素直になるのではないだろうか。
おもしろいですね
『良いアンケートにはNAとDKが必要だし、さらに良いアンケートは回答にその2つが少ない』んだって
つまり無回答とわからないという選択肢が必須だけど、良い聞き方(文章)でそれを減らすことが大事と言うんだ
AIも同じかも
今のAIに真偽を判断する能力はないよ
パターン抽出をしているだけ
膨大な学習データに基づいて、無秩序な新規データの中に学習データの影を「幻視」するように訓練されているのが今のAI（大規模言語モデル）
なにが真でなにが偽でなにが「わからない」に当たるのかはAI自身は判断していない、AIが幻視した結果がたまたま人間にとっての尤もらしさに合致した場合を「真」と呼んでいるだけのことであって
だから「わからない」という選択肢を与えたところで、人間にとっては明らかに「真」だったり「偽」だったりすることも乱雑に「わからない」と回答したりしてくるだけの結果にしかならない
今のAIは つまり、ちょうど物心がつくかつかないか頃の子供っていう事なのだな
ここからがすごく大事だ！と思うのは婆だけの妄想なのだろうか
結局LLMというデータの蓄積から答えを引っ張り出すだけだからどれにも当てはまらないと何もできないという事
AIちゃんそこんところは人間に似てるのね