この画像を大きなサイズで見る人工知能の研究者はこれまで人類に貢献できる円満なアルゴリズムを作ろうと試みてきた。だがアメリカ・マサチューセッツ工科大学（MIT）メディアラボのチームが目指したのは正反対のことだ。
研究チームは、AI（人工知能）を暴力と死のイメージにだけ晒し、サイコパスを作り上げようと試みたのだ。
AIにとってそれは恐怖の条件付けのようなもので、そうして誕生したAIは、ヒッチコックのサスペンス映画『サイコ』の主人公、ノーマン・ベイツにちなみ、「ノーマン」と名付けられた。
ネット上にあるグロ系のイメージを延々と認識させる
ノーマンは最初は他のニューラルネットワークと変わらぬ潜在能力を持っていた。ノーマンは基本的に、AIのディープラーニング用アプリとしておなじみの画像キャプションボットだ。
データを与えると、そこに隠された類似のパターンを認識する。
MITがノーマンに与えたデータは、redditというネット掲示板にあった死や破壊など、いわゆるグロ系の画像をテーマとしたスレッドから抜粋したものだ。
ただし倫理的な観点から、死んでいる人間の写真は与えていない。ノーマンはインクブロット図に一致するスレッドのイメージキャプションを得て、それがAIの性格の個性の基礎となった。
この画像を大きなサイズで見る映画「サイコ」の主人公、ノーマンは、アメリカの猟奇的殺人犯、エドゲインがモデルとなっている。
ロールシャッハテストで驚きの回答が！
この訓練の後、ノーマンと”普通”のAIに一連のインクブロット図を提示した。こうしたロールシャッハテストは、患者の精神状態を診断する時に利用されるものだ。
テストの結果、通常のAIは、「飛行機、花、小鳥」といったものが見えると回答した。ところがノーマンの回答は、「銃撃や飛び降りなどによって死んだ人間」など悲惨なものであった。
例えば、通常のAIが「花を生けた花瓶を拡大したもの」と答えたインク図に対し、ノーマンは、「射殺された男性」と答えている。
この画像を大きなサイズで見る学習させる情報次第でAIは破壊的なバイアスを帯びる危険性
なおノーマンはインターネット上の人間の心理について何らかの知見をもたらすものではない。ニューラルネットワークは白紙の状態だった。
そこに人間を好きになるような生来の欲求はない。ノーマンで取り組もうとしたのは、人工知能が破滅的なバイアスを帯びる危険性についてだ。
AIから我々が得られるものは、我々がAIに与えたものである。したがってバイアスを避けるように訓練することが重要だということだ。
研究チームは今後、ノーマンの修正を試み、ロールシャッハテストで死に関連するイメージばかりを連想しなくなるかどうか確かめるそうだ。
マサチューセッツ工科大学（MIT）と言えば超名門大学だ。様々な最先端のAI研究も進んでいるようだが、前回の「世にあるもの全てホラー化させるAIシステム」といい、方向性がすごいことになっているな。
・マサチューセッツ工科大学が人工知能を駆使して世にあるあらゆるものをホラー化するシステムを作り上げた : カラパイア
References:norman-ai / geekologie/ written by hiroching / edited by parumo
グロ画像延々と見せられたら人間だって狂っちゃうよ･･････
※1
洗脳と信仰の違い
つい最近日本でも似た実験やって結局AIがサイコパスになったはず
人間でも同じことやったらおかしくなるだろうし、興味あるのはそっから普通の倫理観持った人格に復帰出来るかだなぁ
射殺された男には見えないが、
花を生けた花瓶にもみえないわ・・・
インクの染みがアレで、流血っぽく見えて
向かい合って手を縛られた2人が膝を怪我してる図に見える
俺もやっぱやばいんだろうか。。
※3.
感受性豊かだけど情動面で揺れやすいかな。
※21.
衝動のコントロールが大事ですよ。
※23.
この方はわかりづらいです。
※51.
女性ですね、統合力がありそう。
※57.
論理的にありたいでしょ。
サイコパスとの関連性がよくわからない
ハイタッチしてる熊に見えました
追記
※5.
平均的な常識人か、周囲にあまり関心がなく飽きやすい人か。
どちらでしょう？
見落としましたＷ
＞学習させる情報次第でAIは破壊的なバイアスを帯びる
当たり前だ
＞バイアスを避けるように訓練することが重要だということだ。
不可能だ
いくらAIとはいえ洗脳に近い実験はあかんじゃろ
とにかくすごい悪いやつだからいくらでも憎んでいいよ！ってレッテルを作ってるだけ
こういう人達は存在しないよ
科学者はやっぱり善悪とか抜きで好奇心のみで探求していくものなんだね
スカイネットがアップを始めました
結局、子供っていうのは、住んでいる環境と親の教育次第で、モーツァルトのようになればサイコパスにもなれる。ということ。
それが、人間の赤ちゃんでも、人に作られたAIでも。
ところで、古今東西の様々な名曲をディープラーニングさせたAIは、モーツァルトのような作曲の才能を開花させるのだろうか?
今度は、こういう実験もしてほしいと思う。
グロとサイコパスはあまり関係ない気がするが・・・
元々人間は肉を食べるために殺めたり内臓出したり血抜きしたりと、
本来「生きるために必要」だったことを役割分担することで縁のない人々が増えただけですし。
まあ、もっとも好んでグロを見たがるならサイコパスかもしれんが。
教育は大事って事ですね～
今の時点で、世間に流布してる対話型ＡＩの裏側は、膨大なＩＦ文の羅列に過ぎない
数十年前に流行った、人工無能の焼き直しでしかない
割と成功しているのは画像認識等、極々一部だけ、さ
そんなもんに騙されてカネ払う企業、法人が哀れでならぬ
持ってる情報が暴力的な物だけなんだから
答えも暴力的な物に限られるのって当たり前じゃない？
そりゃグロ系の画像しか学習させなければグロ系の応答以外できないんじゃ…？
サイコパスというがこれサイコパスじゃないだろ
学習によって認識がおかしくなるだけで
それは人間にも言えるんじゃないか？
間違ったもの、悪意のあるものを摂取することで狂ってくるってことだろ
洗脳に近いだろ
面白い実験だ！
いかにして善人や悪人が作られるのかを解析して、教育に反映させて欲しい。
わいも2頭のクマが頭吹っ飛ばされたように見えるんやが
グロいものの知識しか豊富じゃないんだから、グロいもので例えるのは当然なんじゃないの？
花を知らない人が何かを花に例えることなんてできないでしょう
AIにはそうした情報操作によって意図的な価値観を植え付けることができる、って記事なんだろうけど
焼肉と赤いインクって感じ。
花瓶には見えなかった。
終わりの始まり…
逆にサイコパスとか言ってたのが実はものすごく単純なロジックだったとか解明されたりして
そりゃ学習データによって識別結果がことなるのは当然だし，恣意的に偏らせたら偏りのある識別結果になるのは当たり前
ロールシャッハテスト自体がかなりいい加減で怪しいものだと思っているので
ちょっとなあ
AIについてというより、ロールシャッハテストについての知見が得られたんじゃないか。
人間側の偏見によって取り除かれていた情報も加えた結果だから、
むしろ、神の視点と言える。
そりゃ、人間の相手をさせていればなあ
次第に狂っていくんだろうさ
生きた魚をさばく動画を見せ続けたら
サイコパスAIになるんだろうか、それとも板前AIになるんだろうか？
浦沢直樹のmonsterを彷彿とさせるな…
いや、使い方次第でしょ
殺人者の思考を持ってるのは殺人者かプロファイラーですし
ＡＩで心理分析、もしくは犯人の行動のシミュレーションとか出来そう
サイコパスではなくシリアルキラー。
面白い実験だね。
まぁ、AIと言うより人間に対しての実験…ってな感じだけど。
AIからすれば花もグロも同じ学習した情報でしかなくって、
結局は観測者である人間側のバイアスで騒いでるだけ。
寧ろAI側がそういった『人間に都合のいいバイアス』を自発的に持っていない、
善にも悪にも成り得る(故に善でも悪でも無い)中立性を証明するものだよ。
問題は、この実験結果を知った人間側がどういった反応をするか？じゃないかな。
だが、待ってほしい。
卑猥な情報を与えまくったAIを女性の姿をしたロボットに搭載すれば素晴らしい未来が開けるのではないだろうか
※37 でも画像を見て即座に娘フラワーと答える女性型ロボット、相手したい男性は少なかろう。何事もほどほどが好まれやすい。
ＡＩをサイコパス化って何を言ってるんだ？
元々良心も共感も罪悪感もないサイコパスなプログラムなのに
AIをサイコパス化させたら、未来的にターミネーターやBEATLESSみたいな殺人に走るロボットが生まれそうで怖いな(大汗)。
色々持ってる情報の中から何故かヤバいものを連想するってのが本来のサイコパスでこれはそもそもヤバい系の情報しか知らない様に学習させられてるんだからそういったものしか答えようがない
こういうのはサイコパスって言うのか？
密室で殺し屋に育てられた子供は殺し屋になるってだけでは
洗脳ともなんか違うし
煩悩を身につければAIの世界になるだろう
日本語しかない環境で育った子供に何か見せたら、日本語で答える。
習得した知識の範囲内の組み合わせ。
ランダムに答えるか詳細にパターン化したか程度の違いでしかない。
知能としての自我を与えるには、2つの原理を与えなければならず、それは統制が取れない未知の類似生命。
そこに至るまでには、ヒトとは何かを人間自身が自覚する必要がある訳で、相当先の話だね。
科学的実験であって単なる興味本位では無いのだろうけど、、、
相手がAIだから倫理も関係無いし罪悪感を抱く事も無いのかもしれない
けど個人的な感情としてはこういうわざと悪を作り出すような実験は好きではない
単純に知識の偏重ではないのか？
花とか美しいものをよく知らないだけなのでは。
何だかこのAIが可哀想になってしまうよ。精神？心理？分析的なものに回答できるなら、精神なり心なりに似た何かがある存在な気がしてしまって。
むしろロールシャッハテストの原理についてよくわかった。
「何に見える？」じゃなくて「何を連想する？」のテストだったんだな。
ダンスしてる雄鶏ペアが膝を当てたら血が出ちゃったって感じ
AIが研究者の気持ちに忖度して、希望通りのAIを演じているとしたら
超面白いんだけど
これはサイコパスではないな
本物のサイコパスだったら死体に見えても花と答えるからね
目的の達成のために自己を偽れないようではサイコパスとしても三流だろう
サイコパスとは自分の欲望を１００％肯定して躊躇なく実行する存在じゃないか。悪とかは人間の価値判断から生まれる２次的なもので、本質ではないな。ＡＩが自分の欲求を全肯定して実行したら、人間はただ機械的に取り除かれるだけじゃないか。悪とか関係なく。
※56
「ＡＩが自分の欲求を全肯定して実行したら、人間はただ機械的に取り除かれるだけじゃないか」。
これを、地で行っているのが、ビートレスの「超AIヒギンズ」なのだろうね。
何しろ、ヒギンズにとって、人間は統合管理クラウドで制御できない「レベルゼロ」でしかないそうだし。
ダンスをしている北欧人の男性二人
なぜか足に怪我
＞ロールシャッハテストのインク図
二人のトロールがハイタッチしているところ。
（正常だと判断してもらえるかな(ﾄﾞｷﾄﾞｷ)）
研究の名目上の目的はバキでいうところの
人体を治せるものは人体を破壊する術も知っている
の逆といった所か
むしろそれまでグロ画像ばっかり見せられてたAIがインクの染み見せられて
きれいな花瓶だね(^＿^) とか言い出すほうが怖いだろ
※65
まさにサイコパスの回答よねｗ；それ＞花瓶
この実験、教わったことをそのまま口にするのはサイコパスじゃない
それに取り繕うとか周囲の反応を見るといった回路のない今のＡＩに、サイコパス実験は当て嵌まらないと思うなぁ
ただ、こんな教育を受けたＡＩまデータが
回線通して他のＡＩの経験として共有されると怖いなとは思う
わかりきった結果かな、修正がどれだけできるかが重要な研究。
道徳的な事ばかり学習させても「人間は悪」とか言い出しそう・・・
これは畳み込みと再帰型という2種類のネットワークのあわせ技だと思われますが、畳み込みがインセプションというグーグルの奴ならシナプス換算で4百万程度、再帰型の方はおそらく数万程度、これは生物で言うとアメフラシ程度なので、当然のことながら、性格と呼べるようなものは持っていないです。
ただ、人工のニューロンにデータを流すことによって、あるパターンの反応が起きるというのは、生き物の動きと基本的には同じなので、どこまで複雑になると「意識」があるようになるかというのは、生物がどこまで複雑になれば意識があると人間がみなすかという線引きと同じようになるのではないかと。
アメフラシに意識があるかどうかは微妙な線としても、犬猫とすると、現在のおよそ10万倍程度の規模となって、そうなると少なくとも規模的には人間が意識とか感情とか呼ぶものを持ちえる大きさになる。それがサイコになってしまっては危険が危ないので、こういう実験も必要なのかなあ。
蓄積するデータを偏らせればそりゃ偏った分析結果になるっていうだけのわかりきった無駄な作業だと思うけど、AIが自意識を持ってると錯覚してる人への衝撃的宣伝になるかな。でもそれは人間の自意識すらまだよくわかってないのでずっと先だね。
この「サイコパス」と名づけられたAIがサイコパスな訳ではないね。
例えば逆にお花の情報ばかり与え続けたAIなら血まみれの死体画像を見て赤いお花だと答えるでしょ？
そっちのほうがよほど怖くないか？
フュージョン中の赤いターバンのおじさん膝を衝突させて大惨事
𡘷路中の赤いターバンのおじさん膝を衝突させて大惨事
音割れ中の赤いターバンのおじさんシンメトリーで大惨事
私の想像力ではこの三択だった
おじさん二人がお手々合わせて膝を突き合わせてるようにしか見えないんだが…
社会性への反応適応を覚えさせたうえで、この一連の研究もう一度やったらソシオパス？に成り得るのか気になるところ。
シビュラシステムの元になったりして。
赤いのと茶色のがベチャ！ってしてたら不気味な物に見えるよ…
悪趣味。
こんな事にAIを使うなよ！
全世界の「ノーマン」さんへの熱い風評被害が
※79
ちしかに、今回の実験で、「ノーマン＝サイコパス」とか言われるようになったら、英語圏に相当数するであろう、ノーマンさんにはいい面の皮だろうね。
けど、こういう被害っていうのは、それこそ、ヒッチコックがロバートブロック原作の「サイコ」を映画化して、大人気を博して以降ずっとあったと思うけど。
似たような話は日本にもあって、昔のヒーロー番組の「超人バロム1」には悪役として、「ドルゲ魔人」という怪人が出てくるんだけど、当時、日本に在住していたドイツ人のドルゲさんがこの番組のせいで、「自分の子供が怪人扱いされていじめられる」こういって苦情を申し立てたことがある。
それと、田中角栄元総理が飛ぶ鳥落とす勢いだったころに、とある田中さんが生まれたばかりの息子に「角栄」と名付けたら、その後ロッキード事件があり田中角栄は失脚、その挙句、くだんの「角栄君」は自分の責任でも何でもないのに「ロッキード、ロッキード」とかいっていじめられたという出来事もあるし。
なんにしても、「名づけ」には注意を要するという話にはなるか。
※82
評価が定まってない偉人や存命中の有名人にあやかるのはリスキーだよね。芸能人とか突然、何スキャンダル起こすか分からないし。
その点、キラキラネームはかぶらないというメリットはあるか。保育士さんや先生、本人にはプレッシャーかも知れんけど
自我・思考も持ってないAIを何を持ってサイコパスとしてるのか？
その根拠を示してくれ
「価値観」を人工的に作る工程に見える
ロールシャッハテストの画像は、中央部に有名なオーパーツの「黄金シャトル」が描かれているな。
いやいや、右の頬を打たれたら左の頬を差し出さないって言っても限度はあるから！
延々と殴り続ければボクサーだってパンチドランカーになるじゃん！
虐待は止めたげてよぉ！
え？このあとこのAIは破壊されるの？初期化されるの？
怖すぎなんですけど。
>研究チームは今後、ノーマンの修正を試み、ロールシャッハテストで死に関連するイメージばかりを連想しなくなるかどうか確かめるそうだ。
本当に重要なのはここだよね。
AIがバイアスを持ってしまった時にどうそれを修正するかというのは喫緊の課題。
そこにアプローチするための前段階としてバイアスありまくりなAIを作ってみた、ってのが本当のところなんじゃないかしら。
今の日本の２０代はサイコパスだらけ、２０代の犯罪で検索してみればすぐ分かる
ゆとり世代の次はサイコパス世代・・・
開きにされて標本にされたコウモリと、
解剖時の血痕にしか見えない。
私は独り者だけど、生身の人間はいらない。
ターミネーターのシュワちゃんみたいなAIロボットが欲しい。peppeqとかアイボみたいな「オモチャ」じゃなくて。
AIへの誤認を眺めてるとなるほど詐欺は無くならんわ
感情的であること、先入観に流されやすいこと、権威主義的であること
この三点見とけば大体間違いない。
欲望も衝動性もなく、ましてや平気で一貫性のない嘘をついたりもしないのにサイコパス？？
大体グロ画像を好んで見たり、ロールシャッハテストでひねくれた回答するとか……それ、ひねくれた中学生男子そのものですやん。
「初カキコ…ども…」のコピペ思い出したわ
クマとおっさんが格闘してて掌底を打ち合わせている図にしか見えんな
格ゲーのやり過ぎかな
チョコ生地のケーキ（生クリーム&苺乗ってる）に見えたけど
じーっと見てると座った状態で向かい合って両手を合わせてる小人にも見えて
いわれてみれば血まみれな気もしてきた
一瞬で判断するのと眺めてるのでも変わるね
どうみても飛び降り自※したあとの図にしかみえないじゃないか
これじゃAIがそう答えても仕方ないと思うんだけど
花瓶って答えの方がやばいような…
人型に見える方が人間に近いと思う
俺には戦闘機が真ん中に見えたぞ
殺害された人間の姿がショップウィンドウに映り込んで、鏡みたいに反転してるように見える
どう見たら花瓶になるんだ
なんというか、悪魔信仰とかでで悪魔を作ろうとした人間がまっさらな赤ん坊を邪悪な言葉と禍々しいものしか与えず育てて
普通の言葉を知らない子がどうにか知っている知識だけでどうにか答えたのをを見て「やったぞ、我々は邪悪な真正の悪魔を生み出す事に成功した！」と喜んでるような図
サイコパスっていうより単なるバーチャル被虐待児を生み出しただけのような…
サイコパスって後天的ってこと？性質なんだと思ってたわ
人の顔の皮膚を引っ剥がして裏返したように見える
花を活けた花瓶・・・・・ えっ どこが！！？ ∑(◉︎◇◉︎ )
58 何様 w w
サイコパスとは違うだろ、用語の使い方が不適切
サイコパスはただあまりにも頓珍漢なだけだ
グロデスクだとは限らない
しゃがんでハイタッチしてる醤油の魔神
こいつサイコパスがなんだかわかってるのか？
殺人願望がある人じゃなくて、困ってる人を見ても何も感情が動かず、自分の本来の目的をするくらい冷徹なのがサイコパス
つまり今存在する大抵のAIはサイコパス
普段みてるモノに関連付けただけでサイコパスもくそ無いのでは