犯罪を見抜くAI検察官
 中国の研究者が、AI人の手を借りずに犯罪の内容を特定し、それに応じて起訴できる「AI検察官」を開発したという。

 AI検察官は事件について口頭で説明されると、その犯罪内容を分析して、97%の精度で起訴できる。

 これを活用すれば、人間の検察官は負担が減り、より難しい仕事に集中できるようになると説明されているが、政府に悪用される可能性や誤検知の問題が懸念されている。
広告

過去の事件データを元にAI検察官に学習させる

 AI検察の開発を進めているのは、中国国内でもっとも多忙とされる上海浦東人民検察院だ。

 開発チームは、 2015〜2020年に発生した17000件以上の事件データをAI検察官を学習させる。これによって、事件の記録から読み取れる1000項目の特徴をもとに、犯罪の内容を特定し、97%の正確さで起訴する性能が実現された。

 とは言え、現時点でAI検察官が全ての犯罪に対応できるわけではない。それでも上海でもっとも一般的な「クレジットカード詐欺」「賭博運営」「危険運転」「故意の傷害」「公務執行妨害」「窃盗」「詐欺」「因縁つけ」の8つに対応できるという。

 さらに今後の改良で、一般的でない複雑な犯罪も認識できるようになるほか、1人を複数の容疑で起訴することも可能になるだろうと、開発者は説明する。
1
photo by Pixabay

機械が人間を裁く時代の幕開けか?

 中国の検察は、すでに2016年にAIを採用しており、今では「証拠の強さ」「逮捕時の状況」「一般社会に対する容疑者の危険さ」といったことの評価に広く利用されている。

 それでも、犯罪の起訴や量刑の提案といった手続きは、あくまで人間の仕事であり、AIツールの役割は限定的なものだった。

 だが、もし今後、こうした分野にもAIが介入してくれば、それが社会に与える影響は非常に大きなものになるだろう。
2
photo by iStock

現役検察官から懸念の声も

 こうした点について、人間の検察官からは懸念の声も上がっている。広州のとある検察官は、匿名であることを条件に『サウスチャイナ・モーニング・ポスト』の取材を受け、次のように話す。

 「97%という精度は、技術的には高いかもしれないが、間違える可能性は常にある。そうなった時、一体誰が責任をとるのか? 検察官、それともAIの開発者だろうか?」

 彼はまた別の問題を指摘する。

 それは、AI検察官が過去の経験のみに基づいて起訴する可能性があることだ。事件に対する一般社会の反応は、世の中の変化に応じて変わるものだが、AIにそれを予測することはできない。

 「AIは間違い探しには便利だろうが、人間の意思決定にとって代わることはできない」と、彼はAI検察官に懐疑的だ。

 こう述べる彼は、ほとんどの検察官は「コンピューター科学者が法的な判断に口出し」することなど望んでいないと語る。

 また、政府による反対意見の封殺に利用される可能性も否定できない。
10
photo by iStock

AIの活用を進める中国政府

 それでも中国政府は、効率化・汚職の防止・統制の強化など、あらゆる分野でAIの活用に積極的だ。そして過去には、高性能すぎるあまり、汚職の発覚を恐れて採用がお蔵入りになったAIシステムもある。

References:China has created the world’s first AI prosecutor / Chinese scientists develop AI ‘prosecutor’ that can press its own charges | South China Morning Post / written by hiroching / edited by parumo
あわせて読みたい
汚職を取り締まるために導入したAI(人工知能)が高性能すぎてお蔵入りに(中国)

中国が最先端のAI搭載監視カメラ2000万台以上を導入。犯罪者追跡が容易に

嫁不足問題を解決するため、中国で最新AIを搭載したロボット嫁が誕生

「AI女子学生」が超名門大学に入学、高度な学習能力と対話能力で人間らしさを身につける実験

ロマンスもバーチャルの時代に?人工知能チャットボットの恋人に夢中になる中国の若者たち

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします

この記事に関連するキーワード

キーワードから記事を探す

コメント

1

1. 匿名処理班

  • 2022年01月10日 08:16
  • ID:BBxuJykP0 #

おや、テンセントのAIは、…げふんげふん!

2

2. 匿名処理班

  • 2022年01月10日 08:35
  • ID:bFC6644I0 #

そう言えば、昔は駅の改札に人が立って、切符にハサミ入れてたんだよね、今じゃステンレスボディーのクールな自動改札機にほぼ完全に置き換わってしまったけどね。
こう言う機械化の波は、好き嫌いを別にしていろんな物を押し流して行くのかもね。
「祇園精舎の鐘の声、諸行無常の響きあり・・・」というところですかな。

3

3. 匿名処理班

  • 2022年01月10日 08:43
  • ID:S.BdXFDm0 #

日本じゃ検挙率は99%だけど、それでも冤罪はなくならない。97%じゃとても実用できないな。

4

4. 匿名処理班

  • 2022年01月10日 08:47
  • ID:AKJ9JtQc0 #

日本の有罪率は現時点で99.9%。本当にやったかどうかなんかどうやって分かるのか?

5

5. 匿名処理班

  • 2022年01月10日 09:13
  • ID:z2lyVv140 #

犯罪抑止(特権階級は除く)ってなんだそりゃ
AIに頼り捜査が行われなければ
AI検知せずを理由にやりたい放題じゃん

6

6. 匿名処理班

  • 2022年01月10日 09:19
  • ID:yKPZwdAu0 #

マイノリティ・リポートじゃないか
映画ではその制度は廃止されたが

7

7. 匿名処理班

  • 2022年01月10日 09:20
  • ID:AAHL6ijo0 #

元の学習データが中国製というのがもうね…

8

8. 匿名処理班

  • 2022年01月10日 09:28
  • ID:zQQ9csyy0 #

>AI検察官は事件について口頭で説明される

この時点で人間の検察官からの介入がなされているため、AI検察官ではない
データ入力次第で人間の検察官がなんとでも結果を導くことができる

過去の判例から類似した案件を探すだけのデーターベースにすぎない

機械が人間を裁くなんて飛躍しすぎの説明

9

9. 匿名処理班

  • 2022年01月10日 09:32
  • ID:AZ.ptKbs0 #

中国ですからねぇ

10

10. 匿名処理班

  • 2022年01月10日 09:37
  • ID:vBP5Niam0 #

100%の精度じゃないなら絶対に実用化しちゃだめだよね

11

11. 匿名処理班

  • 2022年01月10日 10:25
  • ID:hE0fnFK30 #

3%外れってかなり問題な気がするが

12

12.

  • 2022年01月10日 10:28
  • ID:FICMymeq0 #
13

13. 匿名処理班

  • 2022年01月10日 10:43
  • ID:3a3DeBSN0 #

紛らわしい記事だけど、起訴内容の精度が97%って事だよね? 事件を吟味して起訴状作成の事務処理を代わりにやってくれるみたいな
有罪無罪や量刑は裁判で決まるからまた別の話だよね

14

14. 匿名処理班

  • 2022年01月10日 10:44
  • ID:EEB85YF30 #

「AI人の手を借りず」ってなんか諺っぽい

15

15. 匿名処理班

  • 2022年01月10日 10:50
  • ID:IdDyK81A0 #

なお特権階級の人間には忖度する模様

16

16. 匿名処理班

  • 2022年01月10日 10:55
  • ID:B3s27lWX0 #

数年前の漫画でAIの盲点を突き有罪にしたって言うのがあったけど現実に起きるのかな?

17

17. 匿名処理班

  • 2022年01月10日 11:05
  • ID:q.dXoviY0 #

もとの100%の基準って何?
人間?
そもそも人間が100%見抜いてるって根拠あるのかね

18

18. 匿名処理班

  • 2022年01月10日 11:43
  • ID:UsIiJjl50 #

もともと司法の独立性が低いけど、民衆のどんな反感も関係ないAIに任さたら、国の思い通りの判決が下るだろうし、問題はAIの責任にして「今後対応する」ですむから、国に都合が良すぎるね。

19

19. 匿名処理班

  • 2022年01月10日 11:48
  • ID:vv.OAP8Y0 #

※3
日本の検挙率は最近は確か50%あるかどうかだよ
99%は有罪率ね
推定無罪を徹底して確実な証拠を得てから起訴するからこその数字なんだけど、海外からは推定無罪の原則無視して逮捕=有罪にされると誤解されて悪名高い数字になってしまっている
起訴率なんて3割とかそこらなのに

20

20. 匿名処理班

  • 2022年01月10日 11:54
  • ID:.PUqeKpU0 #

まさに「パーソン・オブ・インタレスト」だな。好きで全話観たけど
大概のサイエンス・フィクションは数年後に実現される気がする

21

21. 匿名処理班

  • 2022年01月10日 12:07
  • ID:6hmO8LZI0 #

検察官がざっと見て既存の犯罪と思われるものだけ担当すればいいんじゃないの?
あと判決はあくまで裁判なのだから検察がクソ忙しいのなら導入してみてもいいんじゃないか

22

22. 匿名処理班

  • 2022年01月10日 12:35
  • ID:rUuTtCO90 #

中国では共産党が黒と言ったものが黒だから97%はおかしい
精度が低すぎる

23

23. 匿名処理班

  • 2022年01月10日 12:57
  • ID:r.z1QHNi0 #

サイコパスとかマイノリティレポートとかなんか映画の世界みたいに
これが本当に正しくやってくれるならありだと思うが、
結局最後は運用する人間次第だよな

24

24.

  • 2022年01月10日 13:03
  • ID:2oR3UB880 #
25

25. 匿名処理班

  • 2022年01月10日 13:32
  • ID:RqulwA7B0 #

中国共産党の声一つで犯罪者になったりならなかったりする国で犯罪を見抜くAI?w

26

26. 匿名処理班

  • 2022年01月10日 13:51
  • ID:K.uY7q9o0 #

誰が責任を取ると考え方自体が間違っているのでは?
人の方が余程間違いを犯しているが。野放しになっているのに。
何故それを人工知能に求めるのか。

27

27. 匿名処理班

  • 2022年01月10日 13:52
  • ID:YXNmx1520 #

中国ってのは引っ掛かるが、
とりあえず、「判決」でなく「起訴の可否」の段階の篩いがけなら
その後の裁判は今までどおり普通に人間が審議するわけだから、
仕組み的に“機械によって無実の人間が有罪になる”心配は無いか。

問題は、“本来なら起訴されて有罪になるはずの人間が
不起訴と判断されて無罪放免になる”リスクの方かと。
特に、詐欺師や職業的窃盗集団などだと
悪知恵が働くタイプも多いし、過去事例を研究して
わざと起訴に至らない証拠隠滅法などを狙ってくる可能性も…。

28

28. 匿名処理班

  • 2022年01月10日 14:43
  • ID:2MbUt16.0 #

>>17
起訴不起訴、起訴猶予は人間でも判断が別れる部分で、そもそも起訴した結果無罪になったとして、じゃあ起訴したのが不正解だったかって言うとそんな訳はないし。口頭で証拠の精度とかまでは絶対伝わらないし、裁判の勝ち負けの判断までさせるのは無理がある。
だから起訴するかどうかの精度じゃなくて、誰又は何に対するどんな罪状を適用するかの精度だと思う。この辺の事務処理は煩雑なので、AIが代行してくれたら仕事が楽にはなる。

29

29. ※20

  • 2022年01月10日 15:03
  • ID:.PUqeKpU0 #

強権制の監視社会であるから故に成り立つ勧善懲悪
個人のプライバシーは性善説ではなく性悪説でしかない

30

30. 匿名処理班

  • 2022年01月10日 15:06
  • ID:AmxOA65R0 #

(中国だったら人海戦術で優秀な人間を幾らでも採用できそうなものだけどそれだと)人件費かかるから何人分かの仕事ができると期待してAIにやらせるということなんだろうけど、人間を都合よく洗脳するより最初から『設定』できちゃう機械の方が教育が楽、ってのもありそう。


>そして過去には、高性能すぎるあまり、汚職の発覚を恐れて採用がお蔵入りになったAIシステムもある。

こんな理由でお蔵入りにするとか、結局汚職を無くす気が無い組織が幾ら新しい機械を採用しても基本設定にごますりと忖度が入るだけだよね。

31

31. 匿名処理班

  • 2022年01月10日 15:28
  • ID:gi15mSHq0 #

それ以前に証拠集めとか誰がするので?
証拠がでっち上げでもAIは背後関係とか考えず起訴にするでしょ

32

32. 匿名処理班

  • 2022年01月10日 16:14
  • ID:GZwXvw.60 #

※10
それだとこの世にある機械関係すべて実用化できないよ
現実的に考えて、実用化した際にエラーが起きても対処可能な率って意味では97%は高すぎるけどね

33

33. 匿名処理班

  • 2022年01月10日 16:34
  • ID:.FIL4Mjq0 #

導入されたらクインテッサ星人ばりのガバガバ裁判になりそう

34

34. 匿名処理班

  • 2022年01月10日 16:34
  • ID:cOTD.O680 #

※6
ごめんね、違うよ。
「マイノリティ・リポート」ではAIが犯罪を見つけてるわけじゃない。

ストーリーは「予知能力者を利用して犯罪が起きる前に逮捕」する社会。
長い間殺人は起きなかったが、新たに長官となった予知機関長が殺人を行うと予知がされて…という逃走劇。

犯罪は「3人のプレコグが予知」する。
すでに事故以外、犯罪は起きない世界の話なんだ。
AIは追跡機とかパトカーに搭載されていたけどね。
まあ「少数報告」というタイトルが鍵、もう一度見直してごらん。

35

35. 匿名処理班

  • 2022年01月10日 17:21
  • ID:GxOb.TDH0 #

ハゲ係数5600オーバー
あなたはモテません

 彡⌒ ミ
(´;ω;`)

36

36. 匿名処理班

  • 2022年01月10日 19:03
  • ID:h.OD0LLx0 #

>>26
それで済まないのが人間社会
人間はシミュレーションゲームのコマではないのだ
社会のために責任を無視しては本末転倒よ
自動運転の法的な壁もそこにあるからな

例えば人口に対して僅かな不正(共産党員だけ)ですむ中国の目指す政治形式、評価する奴は少ないだろ

37

37. 匿名処理班

  • 2022年01月11日 00:01
  • ID:aqDzRcn30 #

ヤバい国にヤバい技術か…

38

38. 匿名処理班

  • 2022年01月11日 00:39
  • ID:z7ea.LDn0 #

なお開発者が日本人だったらコメ欄は称賛する模様

39

39.

  • 2022年01月11日 05:18
  • ID:6q1UquBv0 #
40

40. 匿名処理班

  • 2022年01月11日 09:20
  • ID:QS7woISx0 #

※19
そもそも日本の警察や起訴の仕組みがどうなってるのか知らないで勘違いと思い込みで批判とか海外の連中はどこまでアホなんだと思う
もちろんその海外からの批判を「外国からの視点だから客観的で正しいはず」と鵜呑みにして批判する一部の日本人も同様だが

41

41. 匿名処理班

  • 2022年01月11日 09:21
  • ID:QS7woISx0 #

※38
日本でも普通にAIによる判断を行うシステムには同様の懸念が指摘されてるしカラパイアの過去の記事にもあったはずだけど?
例えば自動運転とか

42

42. 匿名処理班

  • 2022年01月11日 11:04
  • ID:kFN4zOmw0 #

>>35
ヅラでシステム(女性)を欺くんだ!急げ!

43

43. 匿名処理班

  • 2022年01月11日 13:40
  • ID:f65f6enJ0 #

※42
結婚後にハゲが判明して離婚って話無かったっけか

44

44. 匿名処理班

  • 2022年01月11日 14:16
  • ID:yPmMl7zN0 #

「口頭で説明されると」というのが気になる。
つまり、判断材料は人間の手で用意されたものにすぎず、そこに作為的な工夫をすれば、AIの判断を操れるように思う。

45

45. 匿名処理班

  • 2022年01月11日 22:32
  • ID:91MglMI40 #

おおって思ったら中国か。
そういや双子のクローンを作ったって言ってた天才博士の件はどうなったんだろう・・・
行方不明のまま?

46

46. 匿名処理班

  • 2022年01月11日 22:37
  • ID:Pja7L1mA0 #

そういえば以前中国で、中国共産党を悪く言うAIが停止させられたようなニュースなかったっけ?

お名前
ADVERTISING
記事検索
月別アーカイブ
ADVERTISING
ADVERTISING