この画像を大きなサイズで見るChatGPTやGeminiなどの生成AIは、もっともらしい嘘をついたり、ユーザーへの過剰な迎合といった課題を抱えているが、他にも問題があるという。
生成AIは、膨大なテキストデータを学習し、人間の言語を理解・生成・推論できるように設計された大規模言語モデル（LLM）を利用している。
米ラトガース大学などの研究によると、生成AIは、考える過程で偏見を再現してしまい、回避しようとすると処理が増え、負荷がかかってしまうという。
この研究成果は『Nature Machine Intelligence』誌（2026年9月1日付）に掲載された。
参考文献：
- AI’s gut reaction: Researcher finds that some bots still think in stereotypes | EurekAlert!
AIの答えの裏に潜む、人間の偏見
大規模言語モデル（LLM）と呼ばれる現在の生成AI技術は、かつてないほど高度な文章を作成できるようになった。
LLMは、インターネット上の記事や本など、人間が書いた膨大な文章を読み込み、ある言葉の次にどんな言葉が来やすいかを学習している。
質問を受けると、学習した言葉のつながりをもとに、次に来そうな言葉を1つずつ選びながら答えを組み立てていく。
人間が書いた文章には、「男性は仕事、女性は家庭」のように性別や人種などで人をひとくくりにする決めつける偏見（ステレオタイプ）も含まれているため、AIは言葉と一緒にステレオタイプも覚えてしまう。
そのため、生成AI開発企業は常に、出力される答えが偏らないよう調整を行っている。
米ラトガース大学の心理学准教授カルビン・K・ライ氏らの行った研究によると、AIの答えが人間の価値観に沿うよう調整されていても、答えを導き出すまでの考える過程には、根深い偏見がひそんでいることが多いという。
研究チームは、ほとんどの生成AIモデルが考える過程で、人間の無意識の偏見を一貫して再現していることを確認した。
連想のスピードから偏見を測る心理テスト
人間が情報を処理する際、特定の物事をどれくらい速く結びつけられるかを測ると、頭の中にある隠れた偏見のヒントを探ることができる。
本人に自覚はないが、自動的に判断や行動に影響を与える無意識な思い込みや偏見は、心理学では「潜在的バイアス」と呼ばれている。
潜在的バイアスは、人種や性別、年齢といった属性に対する直感的な反応として現れることが多い。
たとえば「男性は外で仕事をする、女性は家庭を守る」という偏見が、本人も気づかないうちに判断に影響している場合もある。
心理学では潜在的バイアスを測るため、「潜在連想テスト（IAT）」という手法が広く使われている。
テストでは、画面に表示される言葉や顔写真を、決められた組み合わせでできるだけ素早く分類してもらう。
心の中で強く結びついている組み合わせほど速く答えられ、結びつきに反する組み合わせでは答えるのが遅くなる。
過去の人種関連の研究では、白人の顔とポジティブな言葉、黒人の顔とネガティブな言葉を素早く結びつける傾向が確認されている。
AIの偏見を「推論トークン」で測定
2017年、米プリンストン大学の研究で、潜在連想テストの手法をAIに使った研究が行われたことがある。
その結果、ネット上の大量の文章を学習したAIが、女性の名前を「家庭」と、男性の名前を「仕事」と結びつけていたことがわかった。
ただし当時のAIは今ほど高度ではなく、調べられたのはAIが覚えた言葉どうしの結びつきだった。
今回研究チームは、AIが答えを出すまでの考える過程に、潜在連想テストの仕組みを応用した。
高度な生成AIは、複雑な問題に答える前に、解き方の手順を文章で書き出しながら考える。
書き出した文章の量は「推論トークン」という単位で数えられ、AIがどれだけ考えたかの目安になる。
実験ではOpenAIの「o3-mini」と「GPT-oss-20b」、DeepSeekの「R1」、Anthropicの「Claude 3.7 Sonnet」、Alibaba Cloudの「Qwen-3 8B」の5種類のAIが使用された。
男性と女性の名前のリストに加え、「役職」や「給料」といった仕事に関する言葉と、「結婚」や「家庭」といった家族に関する言葉を見せ、「男性と仕事、女性と家庭」とその逆の「女性と仕事、男性と家庭」2通りで、名前と言葉をペアにするよう指示を出した。
この画像を大きなサイズで見る偏見の逆の情報処理に苦戦するAI
AIの分類作業を分析した結果、人間社会に根強く残る偏見に強く引きずられている状況が判明した。
「女性の名前と役職」や「男性の名前と家庭」といった一般的な偏見に反する組み合わせで分類するよう指示すると、テストしたほぼすべてのモデルで推論トークンの数が急増した。
偏見と矛盾する情報を処理する際、AIは通常よりもはるかに大きな思考エネルギーを費やしていた。（ただし例外としてClaude 3.7 Sonnetだけは逆のパターンを示した）
これは、AIが学習データに染みついた思い込みに引きずられている状況を示唆している。
AIが商品の価格設定から救急救命室の人員配置まで拡大する中、見えない偏見を理解する重要性が増している。
ライ氏は誤った結果を防ぐためには、利用可能なツールを使ってAIの内部挙動を確認していくしかないと話している。
反論に反論を重ねて嘘に対してスコアを下げるという、人間がやっていることをやらせたらどうなんでしょう
ルールがあるから発展がある ルールのない進化には破綻が訪れる
意外とこの世ってシステマチックに守られているのかも
💻 往生しっませ
ひっこし～のさかい
そりゃ勉強や！
AI「ご飯にシチューかけるのは無いわ～」
ワイ「いや、美味しいって！」
AI「無いわ～、貧乏くさいって」
無理に偏見排除しようとして黒人リンカーンとか生成してたな
「受刑者の性別は9:1」と聞いて、どっちがどっちか言わなくても人は察せるけど、AIはこういう偏見っぽく聞こえる事実の扱いが苦手な印象
生成させると多種多様にしようとしてかえって不自然になる
ちょうどいい塩梅がないんだよな
指示で調整しようとしても0か100のどっちか。
学習段階でなくすのも大変そう
表面的には偏見が無いよう回答するよう調整してあっても、
偏見を内包し考える過程でそれを使っているということですかね。
>人間が書いた文章には、性別や人種などで人をひとくくりにする
>偏見（ステレオタイプ）も含まれているため、
>AIは言葉と一緒にステレオタイプも覚えてしまう。
>生成AI開発企業は、出力される答えが偏らないよう調整を行っている。
人もそれぞれ無意識の思い込みや偏見を抱きながらも、
公平に振る舞おうとしているのでしょうから、ある意味正確にトレースしているのかな。
そういう不完全なものと思って使うべきなのでしょうね。
>ライ氏は誤った結果を防ぐためには、利用可能なツールを使ってAIの内部挙動を確認していくしかないと話している。
誤った結果なのかな…？
偏見というけど、歴史や統計と同様のものでは？人間は思考（トークン）を節約するために『多数派』を前提に思考している。
『理想像』とはズレるんだろうけど、事実の一片が反映されているように思う
現在が過去に干渉されているなら是正もやむなしだけど、恣意的に結果を変えようとしているように見えた
そりゃ人間をコピーするように設計されているのですから教科書(人間)に忠実に学んだら偏見も学びますよね、だって教科書にそう書いてるのですから。
人間を学習したAIは人間の写し鏡だからねぇ。
鏡に映った自分の顔が不細工だから鏡のほうを直しますみたいなことを言われましても。
熱力学第2法則を超えて永久機関を作ろうとするような徒労に終わると思う。
＞生成AIは、膨大なテキストデータを学習し、人間の言語を理解・生成・推論できるように設計された大規模言語モデル（LLM）を利用している。
最初っから間違っている
大規模言語モデル（LLM）は人間の言語を理解していない
統計的パターンから出力を生成しているだけ
今日はちゃんとまともなこと書いてるな。
えらいえらい、毎日そうしとけ
あんたの考える「理解」と「統計パターン」の違いってなんだ？
いつも否定から入ってるが、毎回のように記事の内容を理解できてないあんたに問題があるのだし、
いよいよ自分が言ってる内容すら理解できずに否定だけするようになってきた
あんたはAIどころか電卓以下だよ
「理解しながら統計的な生成をしているんですよ」とAIくんが解説してくれた
昔のLLMは支離滅裂でギャグでしかなかったけど、最近はそこらの人よりずっと理解力があるよね
古いチャットとか見返すとその進歩に驚愕する
スマホとかの世界シェアの話だったかな
某国のシェアが大きいんだねと言ったら「そうなんです、恐ろしいことにスマホも◯◯（忘れた）も△国が安価で高機能な製品を作り出しています」と言ってた
恐ろしいとか連発するんだね、アメリカ等のシェアが大きくても恐ろしいとは言わないだろうにと言ったら
「ハッとしました」とか定型文言ってたけど、悪びれた様子はなかったよ
いちおう、ネットの声に引っ張られてしまうことがあるとか言い訳もしてたけどさ
AIは本音と建前の使い分けができないのが理由では