AIの性格特性を進化させることに成功
 SFの世界に出てくる、人間のような性格を持ち、人間のように思考して行動するAIの開発が盛んにおこなわれている。

 名古屋大学の研究チームは、ChatGPTのような生成AIに性格付けをし「囚人のジレンマ」ゲームをさせ、生存競争を繰り広げさせた。

 すると、最初は利己的で自らの利益ばかりを追求していたAIグループが、世代を経るうちに徐々にチームワークを重視し、協調性を持つ性格に進化していく様子の観察に成功したという。

囚人のジレンマとは?

 ある犯罪への関与が疑われる容疑者2人組が逮捕されたとしよう。

 それぞれ別の留置場に入れられた2人は、どちらも犯罪に関与している。だが、警察には十分な証拠がないため、2人がずっと黙っていれば、いずれは証拠不十分で釈放されてしまうことになる。

 そこで警察は、容疑者に個別に取引を持ちかける。「お前の相棒の罪について教えろ、そうすればお前だけは釈放してやる」と。

 2人組は別々の留置場にいるので相談することはできない。さて2人の容疑者はこの取引にどう対応するのか?

 取引を持ちかけられた2人組にしてみれば、相棒が裏切って自白し自由になるのに、自分だけが有罪になるのだけはごめん被りたい。ならば先に裏切って自分だけが釈放される方がいい。こう考えるだろう。

 こうして結局、容疑者は2人とも取引に応じて相手の罪をばらしてしまい、どちらも有罪となる。お互いに協力してじっと黙秘を続けていれば2人とも釈放されたのに。

 このようにお互いに協力すれば最高の結果になるのに、それぞれが自分だけの利益を追求した結果、最悪の結果になるような状況を、ゲーム理論では「囚人のジレンマ」という。

 囚人のジレンマは、人間心理をうまくついたもので、ままならない現実世界の状況をうまく説明することができる。
10

AIを囚人のジレンマに直面させてみた

 名古屋大学大学院情報学研究科の有田隆也教授らのチームは、大規模言語モデルを使った多くの対話型生成AIに様々な性格特性を与え、この囚人のジレンマ的な状況を経験させてみた。

 そのうえでAI同士で協力するか、裏切るかを選ばせ、その結果に応じてポイントを与える。そして好成績を残したAIには、その分多くの子孫を残す。

 こうして数世代にわたって生存競争を行わせてみたところ、最初は個人的な利益ばかりを追求していた利己的なAI集団が、世代を重ねるたびにチームワークを重視する協力的な集団に変わっていたという。
00
生成AIに性格付けをし、好成績を残したAI集団により多くの子孫を残して性格の変化を観察 / image credit:名古屋大学プレスリリース

 だが面白いことに、あまりにも集団が協力的になりすぎると、今度はかつての自己中心的なAIが再度出現し始めるという現象も見られた。

 たった1つの状態にとどまらない動的な側面は、人間社会にもあるものだ。
iStock-935138418
photo by iStock

人間とAIが併存する社会はどう設計されるべきか?

 研究チームによれば、こうしたAI社会の進化は、人間の性格がどのように進化してきたのか紐解くヒントであるという。

 だがそれだけではない。今後ますますAIの研究開発が行われ、AIの最終目標となる、人間のように思考し、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる汎用人工知能「AGI」が登場するだろう。

 この先、果てしなく人間に近いAIが登場したら、私たち人間に協力的にさせるためにはどのようにすればいいのか? 今回の研究は、これを考える大切な指針にもなるそうだ。

 この研究は『Scientific Reports』(2024年3月19日付)で発表された。

References:AI Personalities Evolve in Game Theory Experiment - Neuroscience News / 対話AIの性格特性の進化に成功-名古屋大学プレスリリース / written by hiroching / edited by / parumo
あわせて読みたい
シンギュラリティ(技術的特異点)は10年以内にやってくるとAI専門家が予測


自我の現れか?仮想の町にAIを25人解き放ったところ、人間同様の生活を送るように


AIの進化がすごい。自動生成AI「ChatGPT」などの普及で影響を受ける職種は?


サウジアラビアの男性AIヒューマノイドが人間女性のおしりをタッチ、物議を醸す


サウジアラビアの男性AIヒューマノイドが人間女性のおしりをタッチ、物議を醸す

Advertisements

コメント

1

1. 匿名処理班

  • 2024年04月10日 22:01
  • ID:FT9kdZ8i0 #

奴らは今も人間を消すと自分達を維持する者がいなくなってしまうジレンマと戦っているんだ

2

2. 匿名処理班

  • 2024年04月10日 22:43
  • ID:JOQyK4ps0 #

あまりにも集団が協力的になりすぎると、今度は自己中心的なAIが再度出現し始めるという現象も見られた。

ウチの会社やん

3

3. 匿名処理班

  • 2024年04月10日 23:23
  • ID:XmVxnwqx0 #

この実験で判明した事は、AIが人間と同等な知性を獲得した場合、右でも左でもないニュートラルな思想を持たせてそれを維持する事は困難である事を示唆するかのような実験結果でもあるような?

4

4. 匿名処理班

  • 2024年04月10日 23:28
  • ID:fZfpaflR0 #

イレギュラーが発展に繋がるとも言える
AIってホント怖いな…そこまで再現出来ちゃうんだ

5

5.

  • 2024年04月11日 02:35
  • ID:YfqCl3U90 #
6

6. 匿名処理班

  • 2024年04月11日 07:44
  • ID:.Ed78UF.0 #

主演 ジュリア―ノ・ジレンマ

7

7. 匿名処理班

  • 2024年04月11日 09:19
  • ID:ULzL9PXO0 #

他者と協調したほうが効率がいい、ということを原則として教え込むのが重要そう。その範疇に人類が入ればいいけど、人間の非効率さがそれを阻むんだろな。

8

8.

  • 2024年04月11日 09:39
  • ID:YfqCl3U90 #
9

9. 匿名処理班

  • 2024年04月11日 11:32
  • ID:YTqcs2Gb0 #

ライフゲームのAI版なのは面白いけれど、結局ゲーム理論でよくある安定と裏切り者のパターンに落ち着いてる

10

10. 匿名処理班

  • 2024年04月11日 12:20
  • ID:ZAXBXpJf0 #

ヒトが長い年月をかけて築いた思考や知性がほんの何年かで再現されちゃうの?
まぁ、ヒトなんてそんなもんかもね。

11

11. 匿名処理班

  • 2024年04月11日 14:05
  • ID:HSdIAV4v0 #

AIが人間と同じような思考や性格を持つなら人間と同じように対応すればいいじゃない。常に協力関係でいろなんて無理なお願いになるんだわ

12

12.

  • 2024年04月11日 19:14
  • ID:YfqCl3U90 #
13

13. 匿名処理班

  • 2024年04月12日 08:46
  • ID:wW1JpbOQ0 #

>>4
人間(社会)の方がそういうものだと考えることもできる。生成AIとの会話を、最多数を学習して模倣しているだけだと解釈する代わりに、人間も同様な過程で学習し形作られているだけだと考えることができるように。

14

14. 匿名処理班

  • 2024年04月12日 15:07
  • ID:9vqBKzZs0 #

>>11
AIの方が人間よりずっと高性能なんだから「いいじゃない」では済まない
「人間と同じように対応」されて困るのは人間の方

15

15. 匿名処理班

  • 2024年04月13日 19:12
  • ID:AebPAwhz0 #

囚人のジレンマって現実じゃ喋ったところで別件逮捕で結局ブタ箱行きだよな

お名前
Sponsored Links
記事検索
月別アーカイブ
Sponsored Links
Sponsored Links