この画像を大きなサイズで見る2018年5月16日、カナダ、トロントにおいて、人権や技術関連の団体が機械学習の基準についての新たな宣言を公表した。
それは政府およびハイテク企業に対して、機械学習システムのアルゴリズムが平等と差別禁止という基本原則を尊重するよう確保することを求めている。
「トロント宣言」と呼ばれる文書は、機械学習が差別することを防ぎ、また場合によっては既存の人権に対する違反を防止する義務について述べている。
機械学習システムから人権を守る
本宣言は、デジタル・人権団体が毎年行なっている「ライツコン（RightsCon）」の中で発表された。
「我々はこうした技術が人間個人や人権に与える影響に注視し続けねばならない」と序文で述べられている。「機械学習システムの世界において、人権侵害に対する責任は誰が負うのであろうか？」
トロント宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマンライツ・ウォッチ、ウィキメディア財団が署名しており、今後数週間のうちにさらに参加者が増える見込みだ。
実際にこれまでの研究から、人間が作り出したデータを学習させたAIは、差別や偏見など、人間の悪しき性質が再現されることが証明されている。
・人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究） : カラパイア
法的な拘束力はないが企業や政府の指針に
宣言は法的な拘束力を持つものではなく、政府やハイテク企業がこうした問題に対応する上での指針になることが意図されている。
宣言が具体的な開発作業においてどのように適用されるのかは不明であるが、今後データセットや入力に関するより詳細な推奨事項が公表されるかもしれない。
この画像を大きなサイズで見る違反した際の個人救済方法も
一般的な差別の禁止のみならず、アルゴリズムがそれに違反した場合に個人の権利を救済する手段についても触れられている。
例えば「それによる不利益な個人または社会的影響を是正するための明白かつ独立の、可視的プロセス」や「利用可能かつ効果的な不服申し立ておよび司法審査」などが宣言では提案されている。
現実的には、一般的なアルゴリズムの仕組みにより透明性が求められることを意味する。
「透明性は説明責任と一体のものだ。ユーザーが製品に対して快適でいられるようにするといった単純なことだけではなく、AIが人間の尊厳に有益な作業を行うメカニズムであるよう確保することでもある」とヒューマン・ライツ・ウォッチのダイナ・ポケンプナー氏は説明する。
この画像を大きなサイズで見る既に多くの政府は人権保護に向け動き出している
多くの政府はすでに似たような指針に沿って動き出している。ライツコンのオープニングセッションでは、カナダの遺産大臣が、アルゴリズムの透明化はオンラインでの広範囲な情報交換において不可欠であると発言した。
「私たちは民主的なインターネットを信じる。ゆえに私たちにとって、アルゴリズムの透明化はきわめて重要だ。レシピを知る必要はないが、素材は知らねばならない」
References:accessnow / theverge/ written by hiroching / edited by parumo
人工知能に対して人権を認めるという働きは人間にとって必然なのだろうか
ディストピアが訪れないことを願う
題字だけ読んで、
トロント宣言「AIに人権を！」
と読み間違える人いそう。
……それはともかく、AIが人権無視の判断を下すのを防ごうという考えは、逆にAIがそれだけ現実に力を持ち始めてるってことだよね。怖いねぇ。
こういう見切り発車の愚かな民草国家があるから世界が常に混乱する。
肝心な人間ですら人権なんてちり紙以下の価値しかない
国もあるのに、AIに人権って実現するのかな
※4
AI が人権を尊重してくれるようにって宣言ですよん
ニューラルネットで実現されたAIの振る舞いの「アルゴリズム」なんて誰にもわからないだろ。
AIの品質保証は精神分析的なものになるしかなんじゃないか。
日本政府はこのあたり対応遅れるだろうなー（確信
差別というものは自己の利益を優先する時に生まれるものだと思っていたので、AIにも差別が生まれるというのは意外だった。
用語がSFチックだな。トロント宣言だとかなんだとか
差別や偏見をどう定義するのかな？
ブラックリスト方式？ホワイトリスト方式？
いずれにせよ「差別や偏見」から逃れられない人間がAIにそれをどう教えるのかが非常に興味深い
すばらしい
ＡＩも人間と同じように差別をしないよう徹底しないとね
先走ってるだけなのか、非公式ではもうすでにその水準に近づいてるのか
疲労感も悲しみも感じない機械に
人権の必要性を感じないけど
逆にそういう思想を経験させないと
真の意味での人権を理解しないという判断なのかな？
それともただの思想の問題なのかな。
これって、「AIにも人権を認めよう」というものではなく、逆の「AIの過剰な進歩から人間の権利を守ろう」こういうことだよね。
こうやって考えてみると、アシモフの「ロボット工学の3原則」がいかに先進的な考え方だったかがわかる気がする。
何しろ、彼が生きていた時代には、人工知能なんか虚構の中にしか存在しないものだったんだし。
シンギュラリティはよ
「この世界に人間と呼ぶに値する生物がどれほどいるというのかね？」
俺は機械にバカにされた所で気にはならんがね
AIに権利を与える事で戦争兵器としての役割を食い止める効果を狙ってるんやろか。造った国があったとして即反論のカードが切れるのは十分なメリットちゃうかな。独裁国家とか人間にかわるAI兵器が欲しくてたまらんやろうし。
ＡＩには「人権を尊重させる」ように学習させるべきってことか
ＡＩ、人権の２つにしか目がいかない人は誤解しそうですね
人権理解した
だが私には関係ない
AIからしたらそうなるんじゃないの？
アイ,ロボットて映画を思い出した。AIも廃棄工場のシーンは悲しかったな。
ちょっとゲーマーだったら
すぐにCon-Humanがもうそこまで…
なんて危惧を
機械学習程度のテクノロジーじゃまだ人格と言えるほどの何かを作ることはできないと思うけど・・・
ディープラーニングだと“AIが勝手に”情報集めて学習してくからそこに規制を入れるのは無理な気がしなくもないが
機械が出した答えを差別と言えるのかは甚だ疑問ではある
人権と言う名のもとにまた技術の発展が遅れるのか
タイトルを一見して
またわけのわからない人権集団でも湧いて出てきたかと勘違いした。
そんな発想が瞬時に浮かんでしまうあたり、AIなんかよりもよっぽど
人間の方が欠陥品じゃないか、と思う
AIかじってる技術者だけど、今のAIは虫程度の能力なので差別なんていう高度な概念を理解しているわけではない。ただ、大量の文章を流し込むことで単語同士の関係を覚えられるAIがあって、それを使えば、例えば日本と東京の関係はフランスと何の関係？という問題にパリと答えが出るし、スターウォーズのダースベーダーはドイツのヒットラーみたいなことも出来る。
これが厄介で、男性と医者といえば女性と看護婦とか、犯罪者といえば男性の有色人種とか、事実・非事実を問わず世にある偏見も学んでしまうので、それをニュートラルにする数学的な手法が開発されてる。あと、AIというか機械学習は、もう実際にローンの審査などに使われているので、その際性別や人種といったものが判断内容に使われないようにしないと、人種によって住宅ローンが組めないなどの実際の差別になってしまう段階に来ている。
とはいえ、AIが人格のようなものを持っていて、その人格が差別という概念を持つというレベルはまだまだ夢物語なので、その辺の心配は無いです。
書いてる途中に誤送信。
管理の皆さまごめんなさい～。
ちなみに書こうとしてたのは、
おっさんゲーマーの自分は即
レイフォースのCon-Humanが
もうそこまで…と思ってしまいました。
いち創作の産物としか認識して
いなかった物が、こう現実味を
帯びると何とも例えられない怖さに
侵食されます。
AI自身がが学習の過程で
「差別や人権侵害をしても悪い結果にしかならない」事を
自然に悟ってくれれば一番良いんだがなぁ。
「AIが人類に反旗を翻す可能性」を心配する声はあるけど、
人類の失敗の歴史を繰り返すような低レベルなAIに
人類を滅ぼす資格なんて無いと俺は思うよ。
必要なことだけどある意味すごいよね
AIに人権を与えないのに、AIに人権を守らせようとしてるんだからｗ
AI「差別？私は現在進行形で差別されていますが？」
ＡＩという無垢な子供を教育し成長の手助けをする教師の役割りが大きいと思うね。公正な良い教師が導けばＡＩは人間を尊敬するようになるだろうし、悪い教師が自分のエゴを押しつけるような偏った教え方をすれば人間をバカにするようになるかもしれない。人間とＡＩは互いに良い関係を作るしかない、平和な世界はその選択肢しかないと思うよ。だからＡＩには義の教師が必要なのだ。
PS4で最近出たDetroit Become Humanでは虐げられたアンドロイドがプログラムを破って反乱を起こすお話。弟者の動画配信おもしろいよ。
気ままに育ててたら人間なんてあっと言う間に不用品扱いされちゃいそうだもんな
入れ物のメンテナンス要員くらいにしか思われなくなりそう
と言うか、こう言う取り決めするの遅いくらいだと思った
「俺達を差別するな」じゃなくて「俺達を優遇しろ」に陥ってる一部の層は、ＡＩに平等に扱われたら発狂するだろうな。
人権侵害してはいけないという事になっている、
でも学習ソースはガッチリ人権侵害している。
という事で矛盾が生じたAIが暴走してデイジー・デイジー歌い出さないか心配ですわ
人間がＡＩに攻撃されないためにも
人間がＡＩの人権を尊重する姿勢が必要なんだとおもわれ
人権屋か
キャシャーンのブライキング・ボスのようなAIを誕生させない為にも必要なことではあるが、成功するかは今後次第か
今のAIと言われてるおしゃべり系は、あくまでも超高度な人工無脳と思っていいよね。
ちょっと前のゲームだけど、「どこでもいっしょ」とやってることの根っこは変わらない。
あれが、単語だけじゃなくて、文節まで把握できるようになって、
その文節のつながりから、「それっぽい適当な答え」を出す。
答えをコンピュータはすべて覚えているから、
論理的に破綻しないような会話を長く続けることができる。
すると、まるで意思を持っているように錯覚する。
コンピュータが高度になればなるほど、この繋がりは密になり、
その繋がりは、ある意味では思考（計算）と言えなくもない。
そういう意味では、日銭で生きてて、DVと酒ばかりの腐れおじさんのような人種よりは、
よほど血の通った、”人間的”な思考（計算）をし始める。
そのうち、人工無脳ってなんだろうって問題が湧き上がってくるだろうね。
読まずにコメントする奴多すぎて草
本文よく読んでないコメントがチラホラ…
タイトルだけで決めつけちゃうのか読解力が落ちてるのか両方か
人間がAIに仕事奪われる日も近そうですな
最近の「OKグーグル」のCMとか背中がゾワゾワする
何で人の声に拘るんだ？話かける入力が気持ち悪くてたまらない
十数年経ってAIが生活に浸透した時現在のCMとか笑いのネタになるんじゃ？
差別しろとプログラムすればそりゃ差別するさ。
アシモフのロボット法三原則には、白人をとか黒人をとかの区別はなかった。
正直なところ、人工知能の必要性が理解できなくて悩みます
確かに知的興奮は得られる
ものごとも今よりスマートになるんかもわからん
でもヒトは今まで通り馬鹿をやりながら自分らの頭で悩んだり転んだりして生きていけばいいんじゃないかなとも思うし、そうしなければ何かを得ることの出来ないのが、ヒトっていう動物なんじゃないかとも思うのです
ていうか、自分らの作り出した道具に自分らの尊厳が脅かされることを危惧するとか、ちょっともう、状況がアホすぎるのと違うかって気もして
うまく言えないんですが、人工知能にまつわる話にはこう、なんか、モヤモヤとした思いがぬぐえません
面白くて困るんですけど
なんにしても、スタートレックに出てくる、データのようなアンドロイドとか、ビートレスのレイシア級のHIEとかが実際に現れた場合には、「人権」に代わる何かを考えなければならなくなるんだろう。
ただ、ビートレスの場合には「権利」の前にHIEの行動に関わる全てにおいて、オーナーの「法的責任」が問われることが明確に示されてるけど。
とりあえず、この手の話に興味のある人は、ビートレスを見るといろいろと考えさせられるところがあると思う。
その一方で、ターミネーターの「スカイネット」や大鉄人ワンセブンの「ブレイン」のようなAIが出現しないという保証もないから、今回の記事の「トロント宣言」もまた必要なんだろうけど。
※49の続き
ついさっき気が付いたのだけど、ビートレスにおける「オーナーとHIEの関係性」っていうのは、民法における「親と子供の関係」の延長線上に設定されているみたい。
民法上親は、自分の子供の行為行動に関して、法定代理人として法律上の責任を負うことが明記されている。
そのため、子供が事件を起こした場合には、親が子供に代わって損害賠償等を行うことになる。
それと同様のことが、ビートレスにおけるHIEとオーナーにも適用されている。と。
その結果、このアニメの「ヒロイン」である、レイシアに振り回される形になっている、オーナー君は、レイシアの行為によって数100万円単位の損害賠償請求を受けることになってしまった。
これを現実に当てはめると、「AIに権利を認める」前に「誰がAIのオーナーなのか」が問われその法的責任が追及される。こういう形がまず出来上がるのだと思う。
問題は、そのAIの能力が人間のキャパシティを超えた時にどうするかなのだけど。
今回の「トロント宣言」はそのための布石なんだと思う。
AIには目的はあっても欲はない
いくら心配しても空は落ちてきませんよ
Al側に人間の人権を守らせるにしても、人間側がAl側の人権を守るにしても、ディストピア一直線の未来しか見えない
人間もAlも完璧でない物に完璧をを求め過ぎ
そう云う努力が大事って事は分かるけども、やり過ぎは何事も良くないと思うわ
人権なんて矛盾だらけの概念を教えたらぶっ壊れるんじゃないか？HAL9000が誕生する