Facebook社が玉ねぎの画像を性的な意味でアウトと判定 /iStock
バイオレンスやアダルトなど、ヤバい画像が人の目に触れぬよう、SNS各社やGoogleなど検索エンジン各社では、AIを使用しガイドライン違反の自動チェックを行っている。だがAIは、機械的にアルゴリズムで判断するため、ヤバくない画像でもヤバイ判定してしまうこともある。
それが原因なのか、カナダの種子販売会社が、玉ねぎの種の広告を、玉ねぎの画像付きでFacebookに掲載したところ、「性的過ぎる」という理由で掲載が一時ブロックされてしまったという。『cbc.ca』などが伝えている。
広告
玉ねぎの宣伝広告をFacebook側が拒否
カナダのニューファンドランド・ラブラドール州で花や野菜の種子販売を行っている『The Seed Company』は、Facebookに広告料を支払い、ワラワラ・スィート・オニオンという玉ねぎの種の広告掲載を試みた。ところが、Facebook側が「同社の広告ガイドラインに違反している」として広告を拒否してきたのだ。しかも、その理由が「性的過ぎる」と判断されたからだという。
10月3日、The Seed Companyのマネジャー、ジャクソン・マクリーンさんは、Facebookアカウントにこの1件をシェアした。
ええっと、Facebookからワラワラオニオンの画像が「OvertlySexual（性的過ぎる）」であるため、広告宣伝できないと通知が着ました。これって性的に見えますか？その画像には、かごに入った玉ねぎと、カットされた玉ねぎが手前に配置されており、性的なものには見えない。
AIによるアルゴリズムが原因か
単なる玉ねぎの画像を「性的」と判断され、広告掲載を拒否されたマクリーンさんは、ただ笑うしかなかったようだ。
Couleur/pixabay
後のメディアインテビューでは、このように話している。「性的過ぎる」と判断しているということは、「誰が見てもあからさまに性的な画像である」という意味ですからね。笑ってしまいました。それにしても、玉ねぎを性的に見るには、かなり活発な想像力が必要ですよ。マクリーンさんが推測するように、FacebookはAIを使ったコンテンツの自動チェックシステムを導入しており、性的な内容を含むイメージは「有害コンテンツ」として削除されている事例が増えているようだ。
おそらく、Facebook側が使用するAIの自動チェックによってそう判断されてしまったのでしょう。人間の目でちゃんと見て、判断してもらいたいものです。だってこれ、ただの玉ねぎですから。
だが、有害なコンテンツではないと申請することで、再審査してもらうこともできる。ただし回答が得られないこともある。
なお、The Seed Companyは来年の春に再び玉ねぎの種の宣伝広告を掲載する予定をしているということだ。
ulleo/pixabay
確かに、紛らわしい画像というのは多くて、人間の目でみてもうっかり性的なものと勘違いしてしまうものはあるが、この玉ねぎは思春期の暴走モードでもない限り、普通に玉ねぎに見えるのだが、どうだろう？教えて妄想力最強の人。written by Scarlet / edited by parumo
あわせて読みたい
スライスした玉ねぎを靴下に入れて寝るだけ！たったこれだけで絶大なる健康効果。風邪に効くし足のニオイも軽減！
浮気をした元カレに復讐。玉ねぎ1トンを送り付けた女性、その意味は！？（中国）
決め手は玉ねぎとバター。完璧なパスタ用トマトソースの作り方（+ミートボールもね！）【ネトメシ】
赤タマネギからサルモネラ菌の集団感染。アメリカとカナダで900人近くが食中毒
簡単飯テロ。ポテトとタマネギをベースにこんがり焼いた「ポテタマステーキ」のレシピ【ネトメシ】
0
4334
223
55
コメント
1. 匿名処理班
ワラワラオニオンって名前に笑ったわ
2. 匿名処理班
想像力豊かな男子中学生かな？
3. 匿名処理班
最近のFacebookえらい迷走してるなw
4. 匿名処理班
玉ネギ程度に性的とか上級者の中では最弱！
5. 匿名処理班
「人間の目でちゃんと見て、判断してもらいたいものです。」
言うは易しで、実際には膨大な数の本物のグロ画像が出てくるわけで、それを人間が判定するのはキツいからAI判定にしてるっていうのもあるんだよね。心的外傷後ストレス障害(PTSD)になるというよね。
今回のはどちらかと言えば笑い話だけど、カラパイアもそうだけど、この画面の向こうには同じ人間がいるのを忘れてはいけないよね。
6. 匿名処理班
なんか一時期AI判定でリザードンが絶対にアウト判定されるとか聞いたしそういう色の割合で判断してるんだろうね
7. 匿名処理班
タマネギの画像ですら「性的過ぎる」のなら、桃の画像なんて一発でアウトになりますなw
（その他にもいろいろ思い浮かびますが、止めときますね）
8. 匿名処理班
こう言うのって言い出した奴の目が一番曇ってるだけだろと何時も思う
アホちゃうかと
誰の判断基準か知らんが一般人に統計取ってから問題視すれば良いんじゃないかね
9. 匿名処理班
思春期大暴走している！！
一番下のヤツね！
左側の玉ねぎの断面をAIになったつもりでアリゴリズム的に全ての記憶情報を引っ張り出したところ、娘フラワーに見えてしまいました
10. 匿名処理班
生まれたばかりの子犬の写真が息子スティック案件でブロックされたなんて話もありましたな
11. 匿名処理班
AI「エッッッッッッ」
人間「えぇ・・・」
12.
13. 匿名処理班
なんて美しい玉ねぎなんだ
14.
15.
16. 匿名処理班
結論：AIは玉ねぎフェチ
17. 匿名処理班
マッタケともアウトやなｗ
18. のらねこ
AIの判断基準が雲鼓過ぎるのは今に始まったこっちゃないで？ 大体は>>5さんが指摘するように「取扱量が多過ぎる」のと「グロ画像等、人間が判定するにはしんどすぎる(実際、それでPTSDを発症して退職したスタッフも多い)」から已む無くAIなんよ。
ほんでAI自体の性能があまりにも雲鼓過ぎる。これはどこの牛糞かな？ ってくらい聳え立つ一本グソだと思っといた方がええくらい、雲鼓過ぎる。こんなもんに情報化社会が左右されてんのか…って愕然とするくらい雲鼓やで。
ここ最近でどうこうじゃなく、もうかれこれ10年来ずっと聳え立つ巨糞よ。嘘やと思うんやったら、ヤフーニュースの「あなたへのおすすめ欄」(パソコン利用者が入力した文字や閲覧したサイト等の情報を自動取得してそれに応じた記事配信するシステム)を定期的にチェックしてみ？ これでもかってくらいスパム記事を配信してくるわ。わざわざヤフーにクレーム入れんでも入力した文字や閲覧したサイト等の情報を自動取得してそれに応じた記事配信するシステムで運用してるんだから「ヤフーは要らん」とか「ヤフーは雲鼓」とか「改善キボン」とか入力してるだけで自動取得＆記事配信するのに、一々突っ掛かってくるような記事配信してくることあるわ。
システムが雲鼓なのに悪意だけは満載とかいう、どうしょうもないことになっとるよ。ヤフーに限ったことじゃなくAI全般がそんなでしょうよ。
19. 匿名処理班
かごの中の手前の二つの玉ねぎが乳頭つきのおつぱいの形かな？
20. 匿名処理班
名前がいいな、ワラワラ
21. 匿名処理班
これからは、人間が気付かなかったモノ、スルーしてたモノ
が機械によって白日の下に晒されて人間が気付く
という未来がやってくるのかむねがあつくなるな
22. 匿名処理班
これで発情するとか
レベル高すぎ
23. 匿名処理班
まず籐製の寝台の上に艶やかな褐色の球体が魅惑的に重なり合っていて、その手前には、湿り気を帯びた真新しい断面、薄皮を剥かれるのを欲して肥大しきった鱗茎の肉の純白が惜しげもなくさらけ出されている
ブロックされてもしかたないのではないか
24. 匿名処理班
tumblrも似た様な事をAIでやってたなぁ…
結果は健全な画像やイラストがセンシティブ扱いで非表示されまくって年齢制限の、それもガチで日本でも海外でもOUTな児ポ案件は引っかかりもしなかったというオチだったらしいけど…
25. 匿名処理班
玉ねぎに興奮するって意味わからん
これがきゅうりや大根（意味深）ならわかるんだけどさ
26. 匿名処理班
パタリロはもう大変なことに！！
27.
28. 匿名処理班
玉ねぎの断面なら娘フラワーと認識するかもしれんけど、件の画像はホントにただの玉ねぎだった。なかなかハイレベルな想像力だ。
29. 匿名処理班
すまねぇ、AIの趣味はさっぱりなんだ…
30. 匿名処理班
AIもそろそろ思春期に入ったってことかな？
31. 匿名処理班
今晩は玉ねぎをオカズに新しい扉を開こう・・・。
32. 匿名処理班
記事内にある写真が実際に削除された写真なんだろうか。
どう頑張ってもエロく見えない…。
33. 匿名処理班
タケリタケ…いえなんでもありません
34. 匿名処理班
>>31
涙あふれる素晴らしい体験をどうぞ
35. 匿名処理班
玉ねぎに欲情するAI
すごい時代になったもんだ。
36. 匿名処理班
※23
豊かだな…（想像力＆文章力）
37. 匿名処理班
※28
自分も最初、タイトルとサムネを見た時は
紫タマネギの断面⇒娘フラワー案件かと思ったら、
籠からのぞく２つ並んだ玉ねぎ⇒有色人種の双丘
案件なのか…。人間には「その発想はなかったわ」だな。
38. 匿名処理班
>>23
これは仕方ないな
39. 匿名処理班
※32
一応、画像を3cm×3cmくらいの思いっきり縮小サムネばり
の大きさにして薄目で見たら、頑張れば
「両脇を上げ、顎を大きく反らせた有色人種の女性が
ベッドに寝転んでいるところを腿あたりから見上げ、
衣類もしくは布団をめくった中に見える局部を
白丸の修正で隠した写真」に見えなくもない…かも？
40. 匿名処理班
※31
かき揚げ美味しいよね！
41. 匿名処理班
思春期AIの次の段階は厨二病のAIかな？
42. 匿名処理班
腐AI
43. 匿名処理班
アワビもアウトだな。
44. 匿名処理班
どういう…ことだ？
誰だよAIにアレなラーニングした奴は？
45. 匿名処理班
※23
フラ○ス書院
46. 匿名処理班
うーん、断面の根本がかろうじて息子スティックに見えなくも…ない？（困惑）
47. 匿名処理班
逆に言えばアソコが玉ねぎ判定か
中々面白いじゃないか
48. 匿名処理班
AIのレベルは思春期の男子以上（以下かな）だな…
49. 匿名処理班
>>23
貴方の文才に嫉妬しちゃうよ
50. 匿名処理班
思春期の暴走モードってなんかむっちゃ語呂良くない？ww
51. 匿名処理班
>>5
私さリンパ浮腫って病気で、腕がクソ腫れてるんだわ。
その腫れた腕(肩〜指先)がAI的にチ◯コに見える様で“卑猥なブツ”としてハジかれた事がありましたw
“お前のチ◯コは先っちょが5本に分かれてんのか？あ？”と突っ込みたくなりました
玉ねぎの気持ち、わかりますわ〜
52. 匿名処理班
日頃森羅万象に息子スティックを見出して盛り上がってるここのコメ欄は誰一人AI君を責められない
53. 匿名処理班
リンゴや玉ねぎは媚薬だからねしょうがないね
54. 匿名処理班
メガネ外したら行けるかもしれん
55. 匿名処理班
アワビやナマコとかも引っかかるんスかね？
56. 匿名処理班
※46
たぶんそっちじゃない
57.
58.
59. 匿名処理班
興奮しない
色味が大事
60. 匿名処理班
モア太郎や、コンニャク持ってお行き
61. 匿名処理班
エロティックだってー？
どれどれ・・・
「ハァハァハァハァ」
どうしても目が痛いぞ。
62. 匿名処理班
そんなにぱっくり開いてるアップ画像はなかなか無いと思うんだ?
63. 匿名処理班
>>23
名文や...
64. 匿名処理班
Facebookの担当者が玉ねぎを性的な目的に使用していたので、担当者により性的なものはこういうものだと教育されたAIが玉ねぎ=性的と判断したんじゃないかな
65. 匿名処理班
※5
謎の画像判定ではないにせよ、
投稿禁止ワードを自動NGにしているサイトだと
「カロ.リー」「ヒエ.ログリフ」「かち.んこちん」
「このチームだけ空気.違いすぎて〜」「一部.落丁があり〜」
みたいな普通の文章でもはじかれたりして、
「なんでやねん!!」となる事がしばしばある。
66. 匿名処理班
AIも禁欲生活が長いから想像力がハンパ無いんだろ。
67. 匿名処理班
AIの精神年齢が思春期の中学生レベルなんだな
肉体があったなら風が吹いてもウェイクアップするに違いない
68. 匿名処理班
そう言われればそう見てしまうんだな
私は以前誰かに吹き込まれて長いこと“笹かまぼこ”を見るとちょっとあれな気持ちになってました
他にもいろんなのがあるけども一つ増えてしまった
69. 匿名処理班
人間並みの判断力を持った高度なAIは、
人間並みに見間違い・勘違いを犯すわけだ。
70. 匿名処理班
ミスターAI ロールシャッハテストを受けてもらいましょうか
「あんたの奥さん？」て答えは無しにしてね
71. 匿名処理班
玉ねぎで性的連想って、さすがにレベル高すぎないですか
72. 匿名処理班
※68 「マンゴー」と聞いただけで妄想する人っているよねきみ。
73. 匿名処理班
へぇ…AI君にはこれが性的な画像に見えるんだぁ…どんな想像しちゃったのかな？変態さんだねぇ…
74. 匿名処理班
エロ過ぎオニオンちゃん
75. 匿名処理班
>>2
AIに支配されたらタマネギを持っていけ
76. 匿名処理班
タマネギの薄い褐色を「人間の肌」を判断した可能性が高い。
Twitterだと「肌の色に近い色」が画面の半分ぐらい占めてると、センシティブな内容と判断される。力士の写真は当然アウトだけど、人間の肌の色に近い犬の写真も、たまにセンシティブだという判断で表示されない事がある。
なので、Twitterと同じくFacebookも「色の割合」でAIが選別したり判断してる可能性があるなと思う。
77. 匿名処理班
やだ、こっちまで玉ねぎそのものが、性的に意味のあるものに思えてきた
78. 匿名処理班
もう娘オニオンにしか見えない
79. 匿名処理班
Twitterでも以外なものが不適切と判断されたってたまにツイート見かけてフフってなる
AIだからしょうがないよなあ
80. 匿名処理班
※23
才能に嫉妬
81. 匿名処理班
※23
鬼才現る