このほどローマ教皇庁が、人工知能と倫理についてのガイドブックが発表された。
『Ethics in the Age of Disruptive Technologies（破壊的テクノロジーの時代における倫理）』と題されたガイドブックは、ローマ教皇とサンタクララ大学（シリコンバレーにあるローマ・カトリック系大学）が設立した「技術・倫理・文化研究所（ITEC）」によって編集されたもの。
このAI倫理ガイドブックは、AIや追跡技術といった技術によってもたらされる倫理の泥沼に、ハイテク業界が足をとらわれないようにするための道標であるという。
バチカンに相談しにくるハイテク業界の重役たち
最先端技術の解決を宗教家に求めるなどお門違いにも思えるが、バチカンにはハイテク業界の関係者をテーブルにつかせる独自のパワーがあるようだ。ローマ教皇とサンタクララ大学が設立した「技術・倫理・文化研究所（ITEC）」のアドバイザーを務めるブレンダン・マクガイア神父は、シリコンバレーの重役たちが教会に相談にやってくるのだと語っている。
ローマ教皇は世界と人類を広い視野で見つめ、テクノロジーは良いものだと信じています。ですが、それが発展すれば、いずれはもっと深い疑問を問わねばならない時が来るのですそんなローマ教皇のもとには、ハイテク企業の重役たちやってきて、「一体どうすれば？ これからいろいろなものが登場するが、まだ準備ができていない」と訴えているのだという。
彼らが抱えるハイテクにまつわる諸問題を解決するには、まず国にどうにかして欲しいと働きかけるのが一般的だ。だがITECはそれとは違うアプローチをとることにした。
ハイテク企業は、AIが生み出す厄介な問題にすでに直面しており、対応に苦心している。だから政府がルールを作るのを待っていないで、さっさと彼らのために具体的な指針を提供しようと考えたのだ。
photo by iStock
AI倫理ガイドブックの指針「あらゆる行動は人類と環境の公益のため」
こうして編集されたローマ教皇の「AI倫理ガイドブック」は、誰もが同意するだろう価値観を具体的な形にかみ砕いて、科学技術とそれを開発する企業が守るべき指針を示している。まず示されている最大の価値観は、「あらゆる行動は、人類の公益と自然環境ためのもの」というものだ。
おそらく誰でも同意するだろう理念は、「人間の尊厳と権利の尊重」 「透明性と説明責任の促進」といった7つの基本原則に分けられている。これらから、さらに46の具体的な内容が示される。
たとえば「人間の尊厳と権利の尊重」という原則では、「プライバシーと守秘義務」を守らねばならないとされている。
そして、そのための具体的な方針として、「必要以上のデータを収集しない」「収集したデータは、プライバシーと秘密がもっともよく守られる最適な方法で保存する」といった具体的な内容が語られる。
photo by Unsplash
ローマ教皇は少なくともAIの未来を神の手に委ねようとはしていない
なお、AIとテクノロジーの未来に危惧を抱くのは、バチカンだけではない。たとえばOpenAIのサム・アルトマンCEOは、ChatGPTをリリースしてから数か月後にバイデン大統領と会談し、議会においてAIの規制のあり方について証言している。
目覚ましい進化を遂げるAIについては、実業家だけでなく、かねてよりさまざまな専門家や著名人たちが人類を滅亡に追いやる可能性があるとその危険性を訴えてきた。
その一方で、AIの危険性を不安視する人たちは、本当に起きるかどうかもわからない、遠い未来の話ばかりに集中しすぎているのではとの意見もある。
これについて、不穏な未来に目を向けさせることで今すでに起きているAIの問題から目を逸らさせるという、ハイテク業界の戦略ではという見方もあるのだという。
AIはやがて人類を滅亡へと追いやるのか？ それはわからないが、バチカンにはヨハネの黙示録という人類の滅亡を描いた予言書にまつわるさまざまな疑問を扱ってきた経験がたっぷりとある。
今回のAI倫理ハンドブックには、きっとそうした経験が反映されていることだろう。少なくともローマ教皇はAIの未来を神の手に委ねようとはしていないように見える。
References:Institute for Technology, Ethics, and Culture - Markkula Center for Applied Ethics / The Pope Just Released a Guide to Artificial Intelligence / written by hiroching / edited by / parumo
あわせて読みたい
ユネスコが世界初となるAI（人工知能）の倫理的使用に関するガイドラインを採択
聖母マリアの出現の証拠を見つけるため、バチカンが観測所を創設
バチカンではかつてカピバラを「魚」に分類していた。その理由とは？
人知を超えた超知能AIを制御することは不可能。ドイツの研究者が試算
ロボットの反乱を防ぐ「ロボット工学三原則」が現実的ではない理由
0
1353
0
29
コメント
1. 匿名処理班
その時代や社会で解釈をコロコロ変えて適当に合わせていく教義って意味あるのかな、と思ってしまう。どんなに言い訳しても聖書ではあの時代の「常識」で奴隷を肯定しているし女性は資産扱いだし。初期とは別の宗教だよね。
2. 匿名処理班
iPS細胞の山中教授もバチカンへ行って生命倫理について承諾を得たらしいからね。バチカン、恐るべし。
3. 匿名処理班
金八先生⁉
4. 匿名処理班
そこに（神の）愛はあるんか？
5.
6.
7. 匿名処理班
まあ人間が決めずにAIに任せるようになったら何のために生きてるの？ってなって虚無になる人は多いだろうな
8. 匿名処理班
>>1
バチカンというかカトリックは、割と現代技術に肯定的だし、それに応じたスタンスをとることが多い。
プロテスタントの方が保守的なのよね。その分、現代技術拒否・医療拒否とかの変な方向に走る新興宗教も多い。
9. 匿名処理班
神は存在しますか？や死とは？をAIに問われることが脅威になるから宗教はAIを危惧するよね
10. 匿名処理班
宗教は情報が少ない時代は、食物・医療・天候といった情報提供ルートであり
市や国が無い時代は、天災・疫病・害獣などの不安要素から守ってくれる庇護者であり
生活・人生・生死などの悩み事を聞いてもらえる精神的支柱でもあった
それだからこそスマホ持ちの都市生活者には、宗教の必要が無くなってしまう
科学の発展により神は死んだ、などと言われるが、スマホの普及が宗教の存在意義を薄くした
スマホとAIの発展は、今以上に宗教の存在意義が薄れる事になるだろう
だからAIを神学的解釈する事で、AI よりも宗教が上というマウントを取り、宗教の存在意義を守ろうとしている
11. 匿名処理班
ヴァチカンに倫理を諭す資格も能力も無い
・第2次世界大戦中の教皇の関連文書を公開 ホロコースト黙認
・聖職者が「何千人もの子どもを虐待」 独カトリック教会
12. 匿名処理班
>>1
時代に合わせて教義を変えられないとイスラム過激派みたいになってしまう
13. 匿名処理班
>>3
このバチカンが！！
14. 匿名処理班
日本は開発に資格いるとかわけわからんこと言い出したけど嫌な予感する…
15. 匿名処理班
そんなんAIだけの問題じゃないと思う
便利な物が増えて利用する側の庶民が物考える必要性が減って行けば行くほど滅亡へ近付くんじゃないでしょうかね
16. 匿名処理班
>>14
特定の利権を握ってアマクダリできるからねぇ
17. 匿名処理班
エ◯ル「もし俺が地球に来なくても、お前達はいずれ戦争を引き起こしていただろうよ。前にも言ったはずだ。科学の行き着く先は破滅だと。科学が発展して便利になるほど人は考える事を放棄していく。やがて何もわからないまま争いに身を投じる。それが科学のもたらす未来だ！」
18. 匿名処理班
科学
19. 匿名処理班
管理人さんすいません。
ブラウザの調子が悪いのか勝手に送信されてしまってごめんなさい。
科学って宗教の1番の敵だと思います。
AI化し過ぎると人心が離れるからこういうのはこっそりやればいいのにと。
20. 匿名処理班
人知の及ばぬ存在としての神を否定したりはせんけどさ、人類の救済なんてしないぞ？
21. 匿名処理班
>>7
AIが人間の能力では不可能な事を完璧に遂行してくれるなら
人間は世の中に不要というか地球上でもっとも害悪で不要な生物なのかもしれない
22. 匿名処理班
>>11 そうなんだけど、にも関わらず、影響力絶大だからなあ。。。
23.
24. 匿名処理班
やっぱり「宗教と先端科学」っていう取り合わせはいつの時代もスリリングで、人を惹きつける怪しい魅力があるのだな
25. 匿名処理班
「神からの試練」
バチカン的にはこれで終了。
いつもどおりですよ。
26. 匿名処理班
>>1
そういう面はありますね。
天動説を唱えたガリレオは1992年に免罪（カソリック的には名誉回復と言っている）されるまで異端とされ、そのまま亡くなって350年も経っていたのです。まぁ教皇が再調査を命じるくらいには自浄作用も少しはあるわけで人々の心のよりどころになれるならアリなんじゃないでしょうか。自分は信じてませんけどその教義にも良いところはあるでしょうから行動や考え方の指針のよいとこどりをしていこうと思ってます。
27. 匿名処理班
>>8
信徒だけど、カトリックは割と緩いところがあるし、時代に合わせて変更するところも多い。
最近だと昨年11月下旬にミサの式次第が変更になり、言葉や歌が一部変更になった。
特に少子高齢化と国際化の中でどう運営するか、信徒も聖職者も意見を出し合い方向を変えていく必要はある。
28. 匿名処理班
「われわれの神々もわれわれの希望も、もはやただ科学的なものでしかないとすれば、われわれの愛もまた科学的であっていけないいわれがありましょうか」
29.
30. 匿名処理班
>>7
科学は「何ができるのか？」は教えてくれるけど「何をするべきなのか？」は教えてくれないからね
31. 匿名処理班
>>8
そのプロテスタントがカトリックから分離したきっかけは、印刷技術の発展らしいですね
科学技術の発展で変容を余儀なくされたのは別に今が初めてじゃなかったり
32. 匿名処理班
>>19
敵じゃないと思うよ
科学者でも信心深い人は沢山いるし、記事にも相談しにきてるって書いてあるじゃん？
33. 匿名処理班
ここじゃ見下されてるけど、宗教は大切だよ。
たとえば海外のお金持ちが寄付をするのはキリスト教だと「金持ちは天国に行くことが難しい」という教えが、イスラム教だと喜捨の風習があるから。
これがなくなると利益の再分配がなくなり、格差の拡大が止まらなくなる。
こういう「理屈じゃない」ルールってのは人類をまんべんなく豊かにするためのブレーキなんだよ。
科学技術が加速する現在なら尚更。
それに皆が生活保護を受けられたり、一定額で医療を受けられる基盤には「福祉」の考えがあるが、これはキリスト教の「人間は皆、神のもと平等に尊い」って考えがあるからだよ。
自然じゃこうはならない。弱くてコストかかる奴や無能はさっさと×ね。で終わりだから。
実際、キリスト教以前の古代ギリシャや現代のアメリカじゃ医療費とても高いでしょ？
そりゃ本来、医師という不可欠で、そう簡単に成れない職業は言い値で料金とってもやっていけるもん。
34. 匿名処理班
>>30
それより「何をしてはいけないのか」がどこにもないから怖いんだよ…
あれもできる、これもできるとなったら、好奇心のままにどこまでも突き進んじゃうのが研究者・開発者だから
35. 匿名処理班
そもそも、AIが神に祈ったら、笑う・・・
36. 匿名処理班
>>27
「最近だと昨年11月下旬にミサの式次第が変更になり、言葉や歌が一部変更になった」
信徒じゃないけど、そんなことは外部から見たら全然変化とは思えない。
端から見たらやってることは変わらないと思うけどｗ
37. 匿名処理班
>>33
「それに皆が生活保護を受けられたり、一定額で医療を受けられる基盤には「福祉」の考えがあるが、これはキリスト教の「人間は皆、神のもと平等に尊い」って考えがあるからだよ。」
そんなわけない。別に宗教関係なく困ってる人を助けたりするだろｗ
38. 匿名処理班
>>33 そうかもしれないけど、そしたら日本よりキリスト教徒の多いアメリカの医療費が莫大なのは矛盾してない？(某プロテスタント)
39. 匿名処理班
>>2
倫理に触れそうな、特に人間の生命に関する研究はなにが怖いって、宗教系からの糾弾や過激派の襲撃だと思う。
自衛の点においても、説得力持たせる点においても、バチカンお墨付きの泊はデカい。
40. 匿名処理班
>>37
そういう素朴な感覚に頼ってたら
「同類だと感じられる相手は助けるけど、そう思えない相手には冷淡」
ってことになりがちなのが怖いところなんじゃないの？
日常の感覚には「万人」って無いんだよ
だから生活保護を叩いたり外国人を監禁するような「他者」に冷酷な現代日本の問題が出てきたりする
社会がそう傾きがちな時に、宗教とかで明文化された倫理が保障されてる社会はなんだかんだで強い
41. 匿名処理班
>「AI倫理ガイドブック」
もっと下世話な話で、「神学論争などに関して、神の存在やローマ教皇やバチカンを否定するような回答をAIがする事がないようにしろや」っていう根回しだったりしないのかな？w
42. 匿名処理班
>>40
あなたは「宗教が正しい」とあ「宗教ありき」と思っているからそう感じるんでしょ？
43. 匿名処理班
>>7
最高のコスパを追及することが人生の目的になってる人なら受け容れるだろうけど
44. 匿名処理班
かなり影響力があるんだろうか