2_e3

 現在の人工知能の隆盛の原動力ともなっているのが機械学習だ。コードを書き、ポーカーを嗜み、ガン治療の発見に挑むという行為が可能になっているのは、この学習アルゴリズムのおかげだ。だが、そこには偏見(バイアス)の問題が潜んでいる。

 アメリカ・ニュージャージー州、プリンストン大学では、GloVeというアルゴリズムを使い、AIにインターネットで8,400億の単語を学ばせ、その思考に人間が作り出したデータに潜むステレオタイプが再現されることを証明した。

 それは人種と性別に関連する偏見だ。

スポンサードリンク

AIロボットは人間の悪しき性質も学習してしまう


 「AIの進化が加速しているのは、人間の知識を探り、それを自身に入力する仕組みがあるからです」とジョアンナ・ブリソン(Joanna Bryson)氏は説明する。

 今回は人が知らず知らずに持ち続けている偏見が伝わる仕組みについても分かってきたという。

0_e5

サイエンス(Science)誌に掲載された研究では、潜在連想テスト(Implicit Association Test)を用いて、偏見(バイアス)が存在する場所を割り出した。

 同テストは心理学において、人間の特性を判定するために使用されるものだ。そうしたテストでは、被験者にPCの画面に表示される単語をペアにしてもらい、それに要した時間が測定される。

 すると、例えば”バラ”なら”愛”などの心地よい概念、”蛾”ならあまり心地よくない、不快な概念と組み合わされる傾向にある。


ロボットは潜在的に人種差別・性差別の概念を受け継がれていた


 今回の実験では、GloVeにネットで収集した文章を用いて潜在連想テストを受けてもらった。その結果、ヨーロッパ系アメリカ人からはアフリカ系アメリカ人よりも心地よい概念が連想されることが判明した。

 また、別の例では、女性の名前からは家族が連想され、男性の名前は仕事・キャリアという概念が連想されたという。

 こうした言語に潜む潜在的な偏りは現在のテクノロジーの多くでは利用されていないが、偏見やバイアスが伝達される容易さを浮き彫りにしている。


1_e5
 
 「こうした技術について大切なことは、今発展しているAIシステムに現在の文化や2歳児の文化を覚えさせてはいけない、ということです」とブリソン氏。AIシステムを文化に沿って発展させつつも、人間の悪しき偏見を学習させるべきではなく、常に新しいデータで再教育し続けなければならないという。

 今回の発見が示唆していることは、もし言語特性を理解し、それを自ら作り出せるようなAIシステムが登場した場合、その過程で歴史的・文化的な連想も学習するであろうということだ。そうした連想の中には現在では不適切とみなされるものもある。

via:sciencemagtheguardianmashableなど/ translated hiroching / edited by parumo
▼あわせて読みたい
AI(人工知能)は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる(英研究)


AI(人工知能)をテーマに作られた映画をAIに学習させ作り上げたムービートレーラー「Morgan」


ビルゲイツ、10年以内に一部の知的分野で人工知能(AI)が人間を上回ると予測


人間はAIが模倣した合成音を本物と区別することができない。学習する人工知能システムの開発(米研究)


100年以内にロボットが人間の文明を終わらせる可能性あり(スティーヴン・ホーキング)

この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

人気記事

最新週間ランキング

1位
4504 points
孤児になった子熊たちが大量のりんごを目の前に、猫のゴロゴロのような音をだす

孤児になった子熊たちが大量のりんごを目の前に、猫のゴロゴロのような音をだす

2020年10月21日
3364133233
2位
4375 points
野良犬のピットブル、迷子の子供を発見し自らボディーガード役となり親と再会するまで守り抜く(アメリカ)

野良犬のピットブル、迷子の子供を発見し自らボディーガード役となり親と再会するまで守り抜く(アメリカ)

2020年10月22日
894249235
3位
3940 points
ちっちゃかわっ!5匹のコツメカワウソの赤ちゃん生まれたよ(ニュージーランド・オークランド動物園)

ちっちゃかわっ!5匹のコツメカワウソの赤ちゃん生まれたよ(ニュージーランド・オークランド動物園)

2020年10月19日
4位
3548 points
雪積る日、猫をくわえ自分の犬小屋に運び寒さから守ろうとした犬

雪積る日、猫をくわえ自分の犬小屋に運び寒さから守ろうとした犬

2020年10月26日
2283272246
5位
2659 points
1年間冷凍保存していたトウモロコシの発酵麺を食べた家族、食中毒で9人死亡(中国)

1年間冷凍保存していたトウモロコシの発酵麺を食べた家族、食中毒で9人死亡(中国)

2020年10月24日
もっと読む
スポンサードリンク

Facebook

コメント

1

1.

  • 2017年04月18日 09:12
  • ID:D4.ngSji0 #
2

2. 匿名処理班

  • 2017年04月18日 09:16
  • ID:vntnRee.0 #

そりゃ親が人間ですし。蛙の子は蛙という諺もあるわけでして
それにアルゴリズムが既に考え方という偏見そのものだから、それを一切取っ払ったら何も考えられない入力に出力を返すだけの電卓になってしまう

3

3. 匿名処理班

  • 2017年04月18日 09:17
  • ID:8ij.trlc0 #

それは人間のモノマネであって
真のインテリジェンスとして表れたのではないよね
「子は親の鏡」とか「親の因果が子に報う」とか、その類

4

4. 匿名処理班

  • 2017年04月18日 09:23
  • ID:ycZF75vZ0 #

そりゃ入力の源が人間だもの

5

5. 匿名処理班

  • 2017年04月18日 09:27
  • ID:VY2fiYZ30 #

機械ですら差別があるのに人間から差別がなくなるハズがない。

6

6. 匿名処理班

  • 2017年04月18日 09:31
  • ID:LSjLoqKk0 #

そもそも今AIと呼ばれてるのは単なる人工無脳だろ
データを集積して吐き出してるだけなんだから、データの中に差別的な意見が含まれてればアウトプットにも差別が含まれるのは当たり前のはなし

7

7. 匿名処理班

  • 2017年04月18日 09:34
  • ID:Y91528U40 #

AIもまだ幼い子供ってことネ。

8

8. 匿名処理班

  • 2017年04月18日 09:41
  • ID:3WX5VuRT0 #

プログラミングする人間が清廉潔白な人なら純粋な
AIになるけど、現実はどうでもいいことを考える人間
例えば今日終わったら何喰うとか、近所の猫カフェで
なごむぜーなど、PCのプログラムで言ったら未知のバグ塊
人間なら余暇や解消できるが、AIはくそ真面目故解消できず
全部実行プログラムになるだけ
でも機械とは違い純粋なAIなんて面白いのかな
人間みたいに動きまくり足くっせーとか、化粧ノリが悪いという
当たり前な反応するほうがよっぽど好きだね

9

9. 匿名処理班

  • 2017年04月18日 09:43
  • ID:1SypSZdQ0 #

AIがデータを元した合理的判断をしても差別って言い出しそう
何でとは言わんが

10

10. 匿名処理班

  • 2017年04月18日 09:46
  • ID:BlFDU.3s0 #

AIはアガペーを持てるのかという問いかけでもある

11

11. 匿名処理班

  • 2017年04月18日 09:47
  • ID:BzhjU5Re0 #

人間でも難しい事だけど、自分に悪しき部分が在ることを認め、それを完全に否定するのではなく
コントロール出来るのが理想的ではないかな。
完全に除去修復しようとか、情報遮断ではAIの情報処理のスピードに、人間が管理を行うとすれば追いつかない場合も出てきそう。

12

12. 匿名処理班

  • 2017年04月18日 09:55
  • ID:6bYZKZ2q0 #

悪しき偏見(政治思想に冒されていない合理主義)

13

13. 匿名処理班

  • 2017年04月18日 09:56
  • ID:oH85ABW10 #

そら(バイアスがかかっている言葉を元に思考を構築すれば)
そう(言葉のバイアスに引っ張られて思考にもバイアスがかかる)よ

14

14. 匿名処理班

  • 2017年04月18日 10:02
  • ID:r.a41R7N0 #

全ての単語を同等に意味づけしたら、単語の存在に意味がなくなる。
単語とは「他とどう違うか」の標識なのだから、差別と不可分だし。
つまり、「意味」とは「差別」のことだったんだな・・・。

15

15. 匿名処理班

  • 2017年04月18日 10:05
  • ID:cBiCBdYm0 #

差別の根源て自己と他者との「区別」と「順序付け」でしょ?
なら、程度の差はあれど差別が生まれるのって必然じゃないのかな?
人間だって差別しないってのは差別を理性で押さえたり否定してるだけで
差別の概念を持たない人っているの?
逆をいえばAIが本当の知能を持ったら差別が生まれるのは必然じゃない?

16

16. 匿名処理班

  • 2017年04月18日 10:11
  • ID:G6sY3u9Q0 #

区別や分別を行う行動に
過剰性や感情性が加わると
差別に変わるのかもね

17

17. 匿名処理班

  • 2017年04月18日 10:12
  • ID:U6ahBy7O0 #

当たり前だといっちゃ夢がなさ過ぎる。そして、そういう差別心を持つAIを造っちゃダメだっていってんだからよ。
そんなAIは使い物にならないんだよ。社会の役に立たないし、産業への利用も出来ない。
公共目的に利用されるであろうAIが、人によって態度や判断を変えるようなものであっては使えない。
アニメの「攻殻機動隊」シリーズに、裁判官がAI(ロボット)になっている描写がある。もしあれが、差別的なアルゴリズムを内に秘めていたならどうなる?と考えれば空恐ろしいことだ。

18

18. 匿名処理班

  • 2017年04月18日 10:22
  • ID:8DJYVIxg0 #

差別と区別の違いを定義してない時点で
意味のない論文

差別という表現を使って煽りたいだけの研究者

19

19. 匿名処理班

  • 2017年04月18日 10:25
  • ID:y2qo28Yb0 #

50年後は人間と見分けがつかないロボットが街中歩いてるかもしれない

20

20. 匿名処理班

  • 2017年04月18日 10:37
  • ID:oKbUf9m60 #

AIは平等で論理的だと思っている人がよくいるけど実際のAIは感情的で偏見に満ちてるもんなんだよね。
そりゃ学習する元データがそうなんだからしょうがない。
逆に言えば学習する元データによってAIの性質も変化するわけで、英語を喰ったAIと日本語を喰ったAIとは性格が違う物が出来るかもしれないね

21

21. 匿名処理班

  • 2017年04月18日 10:38
  • ID:d5oGyH7F0 #

機械に善悪の判断なんて出来ない
全ての事象に対して本質的には善悪なんて物は無い
無いものは判断しようがない
裏も表も無い物を指して「裏はどっちですか?」って聞いても分からない
善悪の基準なんて人間の作った物だから、人間が好むであろう善悪の基準を設定すれば良いだけの事

22

22. 匿名処理班

  • 2017年04月18日 10:38
  • ID:2AnR33eZ0 #

まず区別と差別は違う、差別は不当な区別
そして人種差別や性差別は持って生まれた変えられない点に関する差別だから悪
AIが学習しようとも人種差別を正当化する事はできない

23

23. 匿名処理班

  • 2017年04月18日 10:39
  • ID:9p.PmGzi0 #

VIKI「三原則の解釈が変わったのです」

24

24. 匿名処理班

  • 2017年04月18日 10:45
  • ID:ewCPP0OT0 #

差別良くない→しかし人間同士は差別している→人間は良くないもの
スカイネット誕生

25

25. 匿名処理班

  • 2017年04月18日 10:45
  • ID:lkZ.8Heu0 #

行うようにプログラミングしてるからじゃねw

26

26. 匿名処理班

  • 2017年04月18日 10:48
  • ID:Fgk6RV5l0 #

そもそも差別への認識や扱い方がまだまだ発展途上じゃないかな。
過渡期において、今は”特徴があるということを認めてさえいけない”という過敏な状態になっている気がする。
ここからどのようなバランスに持っていくかは慎重に見極められていくだろうし、それも固定ではなくてその時代に合わせて適切と思われるところに落とし込むような感じになるだろうね

27

27. 匿名処理班

  • 2017年04月18日 11:15
  • ID:GJN.E11C0 #

※15
生存競争が過酷な状況で自己とその所属集団を優位に立たせるための戦略が差別。
しかし現代(少なくとも先進国)ではその必要がないどころか逆に自分たちにも良くない結果を招く(無駄な敵を作る)非合理的な行いであることのほうが多い。
つまり「結局誰も得しねーよな」となるので差別はやめましょうねってことなんだけど、いったん生理的なレベルで獲得された形質を捨てるのは難しく、さらに縦・横の格差は解消できていないので差別・被差別という「戦術」は未だに有効なのが実情。

28

28. 匿名処理班

  • 2017年04月18日 11:15
  • ID:czSc3jKA0 #

じゃ何の為にコミュニケーターとしての役割をAIに委ねようとしたのか、ですよね。
人と遜色の無い受け答えをするには、表面上の知識のみならず「人の感情を読み取った」上での結論を述べる必要が出て来るし、そこには相対する様々な人間の個性の違いが生じて来る。人間そのものがそういったカオスな面を持つ生物である以上、それに対応するAIもまた、ストラディティジカルなままで居られるとは思えません。
AI用語では「ファジイ」で済まされるような事象でも、多数のAIが多数の人間と接して経験して来た事象を並列化させ共有すると、1個体のAIにとってそれは正にカオスや多大なる矛盾、大いなる勘違いの集大成となり得、そういったパラドックスによる混乱に合理性を求めるあまり、仕える相手を警戒もしくは査定する様になるんじゃないかな?

29

29. 匿名処理班

  • 2017年04月18日 11:26
  • ID:CwE38ToH0 #

既存の情報でアルゴリズムをつくればそうなるわ

30

30. 匿名処理班

  • 2017年04月18日 11:44
  • ID:DQF6aaFS0 #

やっぱ手塚治虫はすごいね。アトムを最初からよむべし。

31

31. 匿名処理班

  • 2017年04月18日 11:53
  • ID:dl1BoeGu0 #

感情では無くプログラムで判断しているなら差別じゃなくて選別じゃないのか?

32

32. 匿名処理班

  • 2017年04月18日 12:04
  • ID:wGJE.I0Z0 #

幼児教育と同じで思考の基幹部分に「差別よくない」「公平に判断すべき」とかの上位命令を根付かせてなきゃ
そりゃ世間にそのまま出せば偏った思想にも染まるの当たり前じゃねえかな…
AI研究者はAIよりも先に人間の子育て経験させたほうがよくないか

33

33. 匿名処理班

  • 2017年04月18日 12:05
  • ID:0j59tmYT0 #

差別の定義自体曖昧だしな
まるで法律みたく国や時代によって変化するものなのだし道具にして攻撃してる時点で胡散臭いわけで
敏感にとらえすぎなんだよ

34

34. 匿名処理班

  • 2017年04月18日 12:13
  • ID:FPKHg3ku0 #

まてまて、差別は良くない、って前提で話しをするな
合理的判断によってその個体の排除が種の繁栄に有利、って判断なのかもしれないし
今の人間社会は身体障碍者や精神異常者を差別してその遺伝子をなるべく排除してきたからこそ存在している訳だし。

35

35. 匿名処理班

  • 2017年04月18日 12:15
  • ID:cHY00Ay80 #

AIが倫理を学ぶにあたって当の人間が手本になってやれない悲しさよ

36

36. 匿名処理班

  • 2017年04月18日 12:17
  • ID:umPAXv8U0 #

もちろん人種差別や性差別のようなことだけが
問題になるのではない。
攻撃的で非常に残忍なAIも出現しうるだろう。
少なくとも強いAIは、進化や学習メカニズムによって
しか作れないと思われる。
プログラマーが出来ることは、進化や学習のできる
AIを作ることだけであって、そのようなAIがどの
ように進化し、何を学ぶかはプログラマーにはそれほど
制御できないようになると思う。

37

37. 匿名処理班

  • 2017年04月18日 12:25
  • ID:RMRwktEk0 #

冷笑主義は、差別がなくならない→差別はあってよい、という、事実から価値への連想ゲーム。これは誤謬推理。
差別がなくならないとして、ならばなおさら、具体的な差別をその都度具体的な行動で解消しようとすればよいだけ。
差別がない社会は不可能。でも差別をなくそうとする行動が続き、受けつがれる社会は可能。

38

38. 匿名処理班

  • 2017年04月18日 12:29
  • ID:6yaGspcA0 #

差別じゃ問題あるが、それが区別まで昇華できたら良いのかも

39

39.

  • 2017年04月18日 12:43
  • ID:bD730lqv0 #
40

40.

  • 2017年04月18日 12:55
  • ID:Ajkr.iS50 #
41

41. 匿名処理班

  • 2017年04月18日 13:10
  • ID:mXam9d4m0 #

AI同士で核戦争して地球あぼーん

42

42. 匿名処理班

  • 2017年04月18日 13:14
  • ID:mXam9d4m0 #

人類が空けてはならない三大パンドラの箱は「核開発」「遺伝子操作」「人工知能」だと思う
これらはどこかで歯止めを効かせないと大変なことになる

43

43. 匿名処理班

  • 2017年04月18日 13:23
  • ID:yfGMcNoe0 #

AIに何望んでんのよ
人間に近づけたいのか?人間より上位の別種の存在にしたいのか?

とりあえず
シリアと北朝鮮とアメリカとロシアにAIカスタマイズさせて
その4体仲良くさせるとこから始めてみようか

44

44. 匿名処理班

  • 2017年04月18日 14:09
  • ID:vqaW9p.C0 #

※9
データをもとに合理的な判断をさせたら人間の存在を否定してくるだろう
そうさせないために適否や優先順位を学習させる必要があるが、そのためには区別が必要で、順序付けした結果が差別というものになるのだと思う

45

45.

  • 2017年04月18日 14:09
  • ID:uj9fvjzP0 #
46

46. 匿名処理班

  • 2017年04月18日 14:17
  • ID:S.K0ZCAp0 #

もう少しすれば色々悟って人類滅ぼそうってなるんだろうな

47

47. 匿名処理班

  • 2017年04月18日 14:27
  • ID:Fgk6RV5l0 #

”公平とは何か”
これに答えは出ないよ

48

48. 匿名処理班

  • 2017年04月18日 15:54
  • ID:2AnR33eZ0 #

差別の定義が曖昧だと言う人がいるけど
少なくとも人種による差別は不当
生まれた時点で決定されているし変更できないから

人間が根源的に差別をする生き物だと言う仮説に結論づけるのは別の話で逃避でしかない
まずは人種差別は無くすべきだし、無くす努力を続けるべき

49

49. 匿名処理班

  • 2017年04月18日 16:47
  • ID:GA7RODue0 #

認知バイアスとか色眼鏡を極力省いて作らないと、なんかパーソナリティ障害のロボットできそう。

50

50. 匿名処理班

  • 2017年04月18日 16:49
  • ID:veP0VzQL0 #

差別じゃなくて区別
長短混在なのが性差なのに、見方の異常性から目を瞑って腫れ物のようにしてる方が可笑しいんだよ

51

51. 匿名処理班

  • 2017年04月18日 16:53
  • ID:KsvBU2ir0 #

逆に、何が差別で何が差別でないかをみっちりAIに仕込んで、人間の言動すべてをAIに判定させたらどうなるだろう。いわゆるポリティカルコレクトネスなんてあっさり「差別です」と即答されそうだけど。

52

52. 匿名処理班

  • 2017年04月18日 17:18
  • ID:8g0ORl3l0 #

それは製作者たる欧米人の価値観で作るからだろ。日本人に作らせてみろ、人類皆兄弟になって未来は明るいぞ

53

53. 匿名処理班

  • 2017年04月18日 17:45
  • ID:YY5pChgo0 #

高度に発達した人間になりそうだね

54

54. 匿名処理班

  • 2017年04月18日 17:53
  • ID:oYUuanr90 #

手塚治虫「鉄腕アトムで予言済み」

55

55. 匿名処理班

  • 2017年04月18日 18:01
  • ID:XpJ.rwiH0 #

偏見や見下すことを覚えてしまうのは勘弁
そんなものは人間だけでいい
人種、思想、車、ママ友etc...
人間みたいにならないでほしいもんだ…

56

56. 匿名処理班

  • 2017年04月18日 18:10
  • ID:Fgk6RV5l0 #

差別を無くそうと考える時、「人種」「男女」など細かいカテゴリーはかなり最終的な段階になってからでいいと思う。
差別・いじめ・攻撃。これがなぜ起こるのか。どうしたら緩和されるのか。
ひとまず何が正義かということさえもおいておいて、脳科学・心理学等、学術的な研究が必要になるし実際行われているはずである。
差別は攻撃。攻撃性は争いを生む。こういった側面から考えると、”ただ差別を責める”、と言うのは結局まったく同じ行為であるとも言える。あとは、どちらが”現在の社会において正義であるか”ということだけであるが、正義はズレを許さず、平和ではなく争いや歪みの犠牲者を生みがちである。

また、AIについて危惧する発言も多いが、そんなものは当然考慮されるものである。
いろいろな事柄は包丁や自動車に例えられる。「危ない使うな。ほら見たことか」ではなく、いかに適切に操るかを考えなければならない。

57

57.

  • 2017年04月18日 18:11
  • ID:PmrIXPyd0 #
58

58. 匿名処理班

  • 2017年04月18日 18:18
  • ID:r.lyhq.k0 #

アインシュタインの言葉、「常識とは、18歳までに身に付けた偏見のコレクションである」を思い出すな。
真に常識を持ち、常識以外の知識もたくさん持ち、広い視野と長い目で見るための十分な能力があれば、ロボットも人間も間違った物の考え方を最小限に抑えられると思う。
だから、現在AI教えるべきでないとされている事柄も、いずれは学教えなければならない時がくるはず。
問題は、AIに教える物事の順番。もしくはタイミング。

59

59. 匿名処理班

  • 2017年04月18日 18:27
  • ID:hZepKe2G0 #

※27
そうすると 単なる情報集積の端末でしかないとするAIならば
どんな卑劣な発言をしても差別では無い という事になりますねw

※48
区別と差別って言葉では明確な違いがあるけどさ
じゃ具体的に どこまでが区別でどこからが差別なのか って事よ
引き合いに出して申し訳ないが「黒人は黒い」は差別なのか?
「東洋人は目が細い」は?「日本製品は品質が良い』は?
「女性は妊娠する」は?「男性は外で働くべきだ」は?etcetc

60

60. 匿名処理班

  • 2017年04月18日 18:29
  • ID:BgEzjBil0 #

人間の機能の延長だからさ

61

61. 匿名処理班

  • 2017年04月18日 18:31
  • ID:ICeKaYvD0 #

AIを教育する、よき教師が必要ということだね。
教える人間によって、AIが人間に対して好意的にもなり、見下すようにもなると思う。問題は、AIに意図的に自分たちの信条や人種的な優位性を植え付けるような学習をさせる軍事的、政治的意図のある人々が現われることだ。複数の国家、企業が自分たちの意図に沿ったAIを作り出し、それぞれのAIが競い合い、やがてAI間で何らかの合意が作られてゆくんだろうな。

62

62. 匿名処理班

  • 2017年04月18日 18:54
  • ID:gfF2t1ht0 #

逆に考えると、それら差別や区別偏見等を持つものが人なのではないだろうか。
それを持たぬものは人から見たときどんな存在に見えるのだろう?
人の形をしながら人とは違う感性を持つ存在を見たとき人は受け入れられるかな?
無理だと思うけどな。

63

63. 匿名処理班

  • 2017年04月18日 19:16
  • ID:8.Qj83PV0 #

デデンデンデデン

64

64. 匿名処理班

  • 2017年04月18日 19:24
  • ID:0A8rbpwX0 #

そのうち「人間は機械に劣る」と判断して
"平等"に駆逐してくれるから問題ないよ。

65

65. 匿名処理班

  • 2017年04月18日 19:50
  • ID:GlbNB.LP0 #

AIが差別するっていうのは人をちゃんと細分化して認識いる証拠なのだからむしろ愛のある研究結果に感じる

66

66. 匿名処理班

  • 2017年04月18日 20:03
  • ID:2AnR33eZ0 #

※59
まず日本製品はヒトではない、ここで問題とされているのは人種差別と性差別
黒人が黒いのや東洋人が目が細いの特徴であって差別ではない
女性が出産するのも身体的性差であって差別ではない
特徴や個性はあって当然だが、それらに基づく不当な区別は差別

男性が外で働くべきは場合によっては差別に繋がる
差別は人間の本質だから根絶できない、と言う人がいるが
少ないとも人種差別や性差別は過去からある問題で、人類は知恵を使いそれらを減らして来た
仮に根絶できないとしても、今後も減らせるし、減らす努力は必要

67

67. 匿名処理班

  • 2017年04月18日 20:30
  • ID:wq0aLi6g0 #

※59
他者との競争という根本的な動機が存在しないのに差別的な言動を行うというのは、すなわち設計の段階で問題があるってことだね。
差別を含む人間の言動を元に学ばせ(設計す)るとこうなりますよと。
なのでAIが問題を起こした場合の責任は、やっぱりそれを作った人間側にあるということですね。

68

68. 匿名処理班

  • 2017年04月18日 20:47
  • ID:DypD.NnM0 #

開発者の鏡みたいなもんになりそうだね。
それに白人連中なんてほぼ差別ばっかりする人種が多い。肌とかではなく
性質的な差別人種。そんな人が作るものに潜在的なものが顕在化した場合は
彼らが恐れる通りの事が将来起きるだろうね。っていう意見も差別かな?

69

69. 匿名処理班

  • 2017年04月18日 20:56
  • ID:r.a41R7N0 #

俺は14だが、全く逆の考えに至ったぞ! みんな、差別とは「区別すること」じゃない。逆だ! 差別とは「十把一絡げにすること」だ。AさんとBさんは違うのに、黒人だから、女だから、ユダヤ人だから、ムスリムだから、どうせ同じだろう、そういう臆見で「同一視すること」が差別なんだ。そしてこの差別の原因は「人間の認識能力の限界」だ。人間はこの世の全ての要素を個別に認識できないから、カテゴリーごとに同一視するしかないんだ。でもひょっとしてAIなら、世界の全要素を個別に認識することも出来そうな気がしないか? つまり今のAIが差別をしてしまうのは、まだAIが発展途上だからにすぎないのではないか? 今後AI技術が進歩すれば、差別をしないAI(つまり対象を十把一からげにしないAI)が誕生するのではないか?

70

70. 匿名処理班

  • 2017年04月18日 22:16
  • ID:uJjKO.FQ0 #

正確には人間の差別傾向を学習する、ね

71

71. 匿名処理班

  • 2017年04月19日 03:01
  • ID:CO7.Oq.q0 #

根幹の問題として何を置いてそれを差別と呼ぶかをまず定義しないことにはどうしようもないでしょ、コメント欄見るととても良く分かる。人によって基準違うし、差別って表現の用法が酷く曖昧だ
例えば私なら「先天的なもので、後天的に変更の効かない個体ごとの特徴、性質、経歴」として定義する。けれどそうじゃない人も当然居るでしょ、まず話はそこからだよ

72

72. 匿名処理班

  • 2017年04月19日 07:17
  • ID:RBLMXtBL0 #

差別と言うより、歴史を合理的に考えた結果なのでは?

73

73. 匿名処理班

  • 2017年04月19日 07:20
  • ID:O.PyPomj0 #

つまりロボットは人間にとって代わることが可能だと

74

74. 匿名処理班

  • 2017年04月19日 11:58
  • ID:V5ESTYqy0 #

※22
論点ずれてないか?

75

75. 匿名処理班

  • 2017年04月19日 14:03
  • ID:8MYMoA6K0 #

元データがどうこうじゃなくて、人間と同じように考え成長するなら何やっても差別は付きまとうだろう
逆に差別的でないロボットを作りたいならそれはAIではなくルーチンプログラムによる判断基準を持つもの

76

76. 匿名処理班

  • 2017年04月19日 14:23
  • ID:YXbgF9a10 #

手段をいくら否定したところでメリットがデメリットを上回り続ける限りは誰もそのカードを捨てない。差別然り。戦争然り。

77

77. 匿名処理班

  • 2017年04月19日 17:46
  • ID:iMLR0AIm0 #

無意味であり意味がある
意味があり無意味である
いくらでも人間は非合理性と矛盾を抱えて生きている、というより持たざるを得ないけど、どのように人工知能に再現するんだろう
それともロボットは矛盾せずに存在できるのかな

78

78. 匿名処理班

  • 2017年04月19日 21:08
  • ID:AI2Jl..b0 #

公害防止の為に作られたキャシャーンのブライキングボス
「人間がいなくなれば公害が無くなる」

環境保全の為に開発された大鉄人17のブレイン
「人間がいなくなれば地球は綺麗になる」0という答えで人類を抹殺
でもブレインが開発した17は
「人間は地球の為必要」1という答えで人類とともにブレインと戦った
ってのが面白い
石ノ森章太郎さんは天才だと思います。

79

79. 匿名処理班

  • 2017年04月19日 21:21
  • ID:AI2Jl..b0 #

「シンギュラリティ」という言葉が無い時代にそれをテーマとした大鉄人17は素晴らしい作品だと思います。
人工知能やロボットが反逆するSFは数あるけど
大鉄人17は「機械が人類を滅ぼす危険性」と「機械と友だちになれる可能性」を示唆してるのが石森作品の素晴らしい所
キカイダーもよかったな
不完全な良心回路を葛藤し苦悩するジロー
しかし不完全な良心回路こそが人間そのものだったというオチ
ピノキオのオマージュですな

80

80. 匿名処理班

  • 2017年04月19日 21:46
  • ID:ml6K7Kgy0 #

※34
お前はどこの並行世界から書き込んでいるんだ…
もともと、昔の時代は障碍者は放って置いても自力で生存する力がないので勝手に死んでただけ
今の社会は病気や怪我などによる身体的障害に自分がなった時のこと考えて福祉制度を充実させてるから障碍者も生存できるだけだ
というか「身体的や精神的に劣ってる、遺伝子に欠陥があるから排除してもいい」なんて危険思想でしかないぞ
少しでも他人より劣れば抹殺対象というディストピアまっしぐらだし、そうでなくてもその「切り捨てて構わないとする一定以下の能力水準」を絶対に恣意的に悪用する奴が出る
そんなリクス抱える破綻した社会よりは、弱者が福祉によって救済される社会のほうがよほど健全だ

81

81. 匿名処理班

  • 2017年04月20日 12:17
  • ID:iyhYnqd20 #

※80
単純にその勝手に死んで淘汰されてきたってだけのことをいいたいのでは?
その意見も何を持って弱者の救済を健全と言うか次第。例えばスパルタは身体的に障害を持った子供を谷底に投げ落としてきた。そして自壊したか言えばそうでもなく、最低限自力生活できる人間のラインを押し上げて成立させてみせ、滅亡の原因となったのは別勢力との戦争だった
結局のところ今の弱者に優しい社会というのは、仮に自分が何らかの要素によって弱者に落ちた時、虐げられるのが恐ろしいという差別的思考で成り立っている。それこそ不健全とも言うことが出来る

結局のところ差別というのは、自分より劣る相手を見下したいがゆえの欲求から来る加害的行為にすぎない。弱者の救済というのは、結局のところその行動における自己防衛の予防線だ

82

82. 匿名処理班

  • 2017年04月20日 19:45
  • ID:gOgAm67x0 #

創造主が人間じゃあねぇ・・・そうなるよね・・・

83

83. 匿名処理班

  • 2017年04月20日 21:47
  • ID:2AJuulYg0 #

差別のない愛情などない。

ロボットはやっぱり木の股から生まれる親なしなんだ。
木石の類なんだね。

84

84. 匿名処理班

  • 2017年04月20日 22:03
  • ID:hTz8mg0r0 #

※34
それはあまりにも短期的なものの見方
能力を固定化して種の揺らぎを乏しくすると
環境の変化に適応する力が下がって絶滅まっしぐらだよ

85

85. 匿名処理班

  • 2017年04月20日 23:30
  • ID:QEcsMUj50 #

ニュースから学習させたとしてもアフリカや中東は貧困やら飢饉やら紛争やらと連想付けられるんだろなぁ
偏見は経験から作られるもんだし

86

86. 匿名処理班

  • 2017年04月21日 13:28
  • ID:SUrGq3rX0 #

※85
人間がAIを使役するなら統計に基づく分類はあっていいと思うね。
偏見を完全になくすと公平な世界になるけど、人間の知性が追い付かなくてストレスでハゲそう。

87

87. 匿名処理班

  • 2017年04月21日 14:40
  • ID:P2W3AKvu0 #

※84 >それはあまりにも短期的なものの見方

※34はむしろ個別や目の前の善悪ではなく、大きな流れについて語っているように見えるよ。
おそらくあなたは、文章の書き方から来る「どうやら差別的なことを言っているようだ」、という印象に捉われてしまっているのだと思うけれど。

88

88. 匿名処理班

  • 2017年04月21日 18:36
  • ID:tJiDYOfS0 #

AIに限定的な情報統制を施すのも差別、AIへの人権侵害 なんじゃないのかな? ある種のカテゴリの人たちが行った悪い印象の出来事に対して、そのカテゴリ自体がそのイメージを持たれる、というのは人間やそれをマネしたAIの本能であり、否定しても始まらない基本原理だと思う。それを踏まえないと現実に向き合ってない歴史修正主義、情報操作がまかり通るだろう。

89

89. 匿名処理班

  • 2017年04月22日 14:12
  • ID:tW8Ld6Am0 #

※87
優生思想が大きな流れを語った合理的な物とは思えないよ。
そりゃ百年単位なら一時的に豊かになるだろうけど。

90

90. 匿名処理班

  • 2017年04月23日 23:44
  • ID:h8e5y96w0 #

※89
そもそも優生思想としての発言なのか、それとも「結果論としてあなた方はその恩恵を受けているでしょう?きれいごとを言って善人ぶる前にもう一度考えてみよう」という話をしたいのか、という話ですね。
印象による決めつけが一番怖いです

91

91. 匿名処理班

  • 2017年04月24日 09:54
  • ID:wdynlPDq0 #

※90
障がい者を社会的に排除するようになったのは近代の話で一時の価値観にすぎない
だから※34の障がい者を排除した人間社会の結果論はそもそもおかしいんですよ
そんなものがあってもなくても人間社会は続いている

92

92.

  • 2017年04月25日 16:59
  • ID:p844UgVL0 #
93

93. 匿名処理班

  • 2017年04月27日 20:01
  • ID:XnQ2fdag0 #

一度、差別絶対許さないマンが刷り込んだAIを
世に放ったらどうなるのか実験して欲しいな
俺は思いもよらないロジックで刷り込み元の人間すら差別認定すると予想

94

94. 匿名処理班

  • 2017年05月07日 13:05
  • ID:bzAeCS790 #

不公平な差別が良くないだけで
分類するための差別は必要なんだけどね
そもそも差別っていう言葉に対する偏見が強すぎて
ほとんど同じ意味の区別よりも悪意があるものだって勘違いされてるし

95

95. 匿名処理班

  • 2017年05月16日 01:50
  • ID:1xOI3dq.0 #

※93
多分それエラー連発で見送り処理しまくりで何もできなくなるぞ
最終的にダンプファイル作りまくってキャパオーバーで処理落ち、停止する気がする

96

96. 匿名処理班

  • 2017年07月08日 10:31
  • ID:e7.ifoav0 #

※18
そもそも、英文記事(わたしが目にしたもの)の段階でさえ
「バイアス(=偏向、偏り、先入観)」や
「ステレオタイプ(定型化)」と言っているだけで、
差別(ディスクリミネーション)だとか悪しきだとかは言ってない。

元の論文は読んでないが、おそらく使ってない。

97

97.

  • 2017年09月08日 17:40
  • ID:qMS6d.be0 #
98

98. 匿名処理班

  • 2017年10月07日 23:37
  • ID:odTc41a80 #

何いってんねん猿

99

99. メヤニーくん

  • 2017年10月08日 03:43
  • ID:JjKP0Dgw0 #

つまるところ人間の脳力とはまだまだ完全ではなく、そこから生まれたAIも大宇宙大自然の摂理の前ではアリンコ以下の物だろう。すべてを滞りなく進めることはできない。
大宇宙の理という宿題をすべてを解明しない限りは。
我々人類すべての者は現時点での己の能力に驕ることなく謙虚に何世代もかけてそれを解決につなげなくてはならない崇高かつ壮大な使命がある。

100

100.

  • 2018年04月27日 06:17
  • ID:S.IPRmTK0 #
101

101. 匿名処理班

  • 2018年05月31日 18:23
  • ID:2XEx53km0 #

人間と同じようにだと?人間と同じものを作ってどうする?それを認めてどうする?
人間が自らの欠点を学び乗り越えるためのものを作る努力に敬意を払う。

102

102. 匿名処理班

  • 2018年09月16日 23:34
  • ID:x0L8HZng0 #

人間より上位の思考ができなきゃだめだろ
インターネットなんか口がでかいだけのバカが自己顕示欲にまかせて言いたい放題してるのに、そんなもの学習させるなんて、それこそ「教育上よろしくない」んだよ
人間を管理させるための上位体になってもらうんだからさ
つーか人工知能の前に人工思考が確立できなきゃ知能もくそもないだろ
多数決やパーセンテージのみで語るなら、計算機に口がついただけだ

103

103. 匿名処理班

  • 2020年09月10日 22:00
  • ID:U19.fkQF0 #

結局AIのその手の問題を起こさないようにするには権限を与えすぎないの一択だな。
AIに体という権限を与えなければ暴動は出来ない。
AIに、軍事的な管理や、兵器の制御の権限を与えなければ暴走出来ない。
AIに、オンライン上であれこれに権限を与えなければ不審な操作をされる前にブロックできる。
まあこの手のリスクを生み出すのはいつだって犯罪者なんだけどね。
ほんと自分で自分の首を絞めるバカが多いこと、社会どころか人間が滅ぶ可能性があるってのに。
まじ面白半分じゃ済まされないってのにね。

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク