Facebook、玉ねぎの画像を性的な意味でアウトと判定
Facebook社が玉ねぎの画像を性的な意味でアウトと判定 /iStock

 バイオレンスやアダルトなど、ヤバい画像が人の目に触れぬよう、SNS各社やGoogleなど検索エンジン各社では、AIを使用しガイドライン違反の自動チェックを行っている。

 だがAIは、機械的にアルゴリズムで判断するため、ヤバくない画像でもヤバイ判定してしまうこともある。

 それが原因なのか、カナダの種子販売会社が、玉ねぎの種の広告を、玉ねぎの画像付きでFacebookに掲載したところ、「性的過ぎる」という理由で掲載が一時ブロックされてしまったという。『cbc.ca』などが伝えている。

スポンサードリンク

玉ねぎの宣伝広告をFacebook側が拒否


 カナダのニューファンドランド・ラブラドール州で花や野菜の種子販売を行っている『The Seed Company』は、Facebookに広告料を支払い、ワラワラ・スィート・オニオンという玉ねぎの種の広告掲載を試みた。

 ところが、Facebook側が「同社の広告ガイドラインに違反している」として広告を拒否してきたのだ。しかも、その理由が「性的過ぎる」と判断されたからだという。

 10月3日、The Seed Companyのマネジャー、ジャクソン・マクリーンさんは、Facebookアカウントにこの1件をシェアした。

ええっと、Facebookからワラワラオニオンの画像が「OvertlySexual(性的過ぎる)」であるため、広告宣伝できないと通知が着ました。これって性的に見えますか?

 その画像には、かごに入った玉ねぎと、カットされた玉ねぎが手前に配置されており、性的なものには見えない。


AIによるアルゴリズムが原因か


 単なる玉ねぎの画像を「性的」と判断され、広告掲載を拒否されたマクリーンさんは、ただ笑うしかなかったようだ。

onion-1144620_640_e
Couleur/pixabay

 後のメディアインテビューでは、このように話している。


「性的過ぎる」と判断しているということは、「誰が見てもあからさまに性的な画像である」という意味ですからね。笑ってしまいました。それにしても、玉ねぎを性的に見るには、かなり活発な想像力が必要ですよ。

おそらく、Facebook側が使用するAIの自動チェックによってそう判断されてしまったのでしょう。人間の目でちゃんと見て、判断してもらいたいものです。だってこれ、ただの玉ねぎですから。

 マクリーンさんが推測するように、FacebookはAIを使ったコンテンツの自動チェックシステムを導入しており、性的な内容を含むイメージは「有害コンテンツ」として削除されている事例が増えているようだ。

 だが、有害なコンテンツではないと申請することで、再審査してもらうこともできる。ただし回答が得られないこともある。

 なお、The Seed Companyは来年の春に再び玉ねぎの種の宣伝広告を掲載する予定をしているということだ。

onion-2699531_640_e
ulleo/pixabay

 確かに、紛らわしい画像というのは多くて、人間の目でみてもうっかり性的なものと勘違いしてしまうものはあるが、この玉ねぎは思春期の暴走モードでもない限り、普通に玉ねぎに見えるのだが、どうだろう?教えて妄想力最強の人。

written by Scarlet / edited by parumo
あわせて読みたい
スライスした玉ねぎを靴下に入れて寝るだけ!たったこれだけで絶大なる健康効果。風邪に効くし足のニオイも軽減!


浮気をした元カレに復讐。玉ねぎ1トンを送り付けた女性、その意味は!?(中国)


決め手は玉ねぎとバター。完璧なパスタ用トマトソースの作り方(+ミートボールもね!)【ネトメシ】


赤タマネギからサルモネラ菌の集団感染。アメリカとカナダで900人近くが食中毒


簡単飯テロ。ポテトとタマネギをベースにこんがり焼いた「ポテタマステーキ」のレシピ【ネトメシ】


この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

人気記事

最新週間ランキング

1位
7462 points
洪水で水浸りの状態でじっと耐えていた犬が海兵隊員に救助され、メンバーとして迎え入れられる(メキシコ)

洪水で水浸りの状態でじっと耐えていた犬が海兵隊員に救助され、メンバーとして迎え入れられる(メキシコ)

2020年11月18日
1437290227
2位
6315 points
アルコールを急速に体内から抜く呼吸装置が開発される(カナダ研究)

アルコールを急速に体内から抜く呼吸装置が開発される(カナダ研究)

2020年11月16日
3位
4754 points
地球最強生物クマムシの新種、紫外線を青い蛍光に変え無害化する能力を持っていた(インド研究)

地球最強生物クマムシの新種、紫外線を青い蛍光に変え無害化する能力を持っていた(インド研究)

2020年11月17日
9773733638
4位
4531 points
集中治療室の新生児を14年間抱っこして癒し続けたボランディア男性が86歳で逝去(アメリカ)

集中治療室の新生児を14年間抱っこして癒し続けたボランディア男性が86歳で逝去(アメリカ)

2020年11月21日
764423527
5位
4243 points
3日間行方をくらましていた猫が、借金を背負って帰ってきた!(タイ)

3日間行方をくらましていた猫が、借金を背負って帰ってきた!(タイ)

2020年11月16日
8673329344
もっと読む
スポンサードリンク

Facebook

コメント

1

1. 匿名処理班

  • 2020年10月09日 18:34
  • ID:S8pLoCEz0 #

ワラワラオニオンって名前に笑ったわ

2

2. 匿名処理班

  • 2020年10月09日 18:36
  • ID:r4GyrbbP0 #

想像力豊かな男子中学生かな?

3

3. 匿名処理班

  • 2020年10月09日 18:36
  • ID:CLccG0Su0 #

最近のFacebookえらい迷走してるなw

4

4. 匿名処理班

  • 2020年10月09日 18:38
  • ID:zxgSpPDx0 #

玉ネギ程度に性的とか上級者の中では最弱!

5

5. 匿名処理班

  • 2020年10月09日 18:42
  • ID:MgE.Hnh30 #

「人間の目でちゃんと見て、判断してもらいたいものです。」

言うは易しで、実際には膨大な数の本物のグロ画像が出てくるわけで、それを人間が判定するのはキツいからAI判定にしてるっていうのもあるんだよね。心的外傷後ストレス障害(PTSD)になるというよね。

今回のはどちらかと言えば笑い話だけど、カラパイアもそうだけど、この画面の向こうには同じ人間がいるのを忘れてはいけないよね。

6

6. 匿名処理班

  • 2020年10月09日 18:45
  • ID:ttzKdWjP0 #

なんか一時期AI判定でリザードンが絶対にアウト判定されるとか聞いたしそういう色の割合で判断してるんだろうね

7

7. 匿名処理班

  • 2020年10月09日 18:47
  • ID:ahe2rWVN0 #

タマネギの画像ですら「性的過ぎる」のなら、桃の画像なんて一発でアウトになりますなw
(その他にもいろいろ思い浮かびますが、止めときますね)

8

8. 匿名処理班

  • 2020年10月09日 18:47
  • ID:l.A7oYYT0 #

こう言うのって言い出した奴の目が一番曇ってるだけだろと何時も思う
アホちゃうかと
誰の判断基準か知らんが一般人に統計取ってから問題視すれば良いんじゃないかね

9

9. 匿名処理班

  • 2020年10月09日 18:48
  • ID:b7cvZxdh0 #

思春期大暴走している!!
一番下のヤツね!
左側の玉ねぎの断面をAIになったつもりでアリゴリズム的に全ての記憶情報を引っ張り出したところ、娘フラワーに見えてしまいました

10

10. 匿名処理班

  • 2020年10月09日 18:48
  • ID:2JTBKRXD0 #

生まれたばかりの子犬の写真が息子スティック案件でブロックされたなんて話もありましたな

11

11. 匿名処理班

  • 2020年10月09日 18:48
  • ID:c8JdtqHe0 #

AI「エッッッッッッ」
人間「えぇ・・・」

12

12.

  • 2020年10月09日 18:50
  • ID:G79AMF840 #
13

13. 匿名処理班

  • 2020年10月09日 18:59
  • ID:yIR7IUJe0 #

なんて美しい玉ねぎなんだ

14

14.

  • 2020年10月09日 19:15
  • ID:A.pya20L0 #
15

15.

  • 2020年10月09日 19:24
  • ID:QwVg.ww20 #
16

16. 匿名処理班

  • 2020年10月09日 19:27
  • ID:CnftlVim0 #

結論:AIは玉ねぎフェチ

17

17. 匿名処理班

  • 2020年10月09日 19:29
  • ID:e2yXJUf40 #

マッタケともアウトやなw

18

18. のらねこ

  • 2020年10月09日 19:38
  • ID:.lf5IMVq0 #

AIの判断基準が雲鼓過ぎるのは今に始まったこっちゃないで? 大体は>>5さんが指摘するように「取扱量が多過ぎる」のと「グロ画像等、人間が判定するにはしんどすぎる(実際、それでPTSDを発症して退職したスタッフも多い)」から已む無くAIなんよ。

ほんでAI自体の性能があまりにも雲鼓過ぎる。これはどこの牛糞かな? ってくらい聳え立つ一本グソだと思っといた方がええくらい、雲鼓過ぎる。こんなもんに情報化社会が左右されてんのか…って愕然とするくらい雲鼓やで。

ここ最近でどうこうじゃなく、もうかれこれ10年来ずっと聳え立つ巨糞よ。嘘やと思うんやったら、ヤフーニュースの「あなたへのおすすめ欄」(パソコン利用者が入力した文字や閲覧したサイト等の情報を自動取得してそれに応じた記事配信するシステム)を定期的にチェックしてみ? これでもかってくらいスパム記事を配信してくるわ。わざわざヤフーにクレーム入れんでも入力した文字や閲覧したサイト等の情報を自動取得してそれに応じた記事配信するシステムで運用してるんだから「ヤフーは要らん」とか「ヤフーは雲鼓」とか「改善キボン」とか入力してるだけで自動取得&記事配信するのに、一々突っ掛かってくるような記事配信してくることあるわ。

システムが雲鼓なのに悪意だけは満載とかいう、どうしょうもないことになっとるよ。ヤフーに限ったことじゃなくAI全般がそんなでしょうよ。

19

19. 匿名処理班

  • 2020年10月09日 19:39
  • ID:gEy.q4sJ0 #

かごの中の手前の二つの玉ねぎが乳頭つきのおつぱいの形かな?

20

20. 匿名処理班

  • 2020年10月09日 19:48
  • ID:NRAVMJCT0 #

名前がいいな、ワラワラ

21

21. 匿名処理班

  • 2020年10月09日 19:53
  • ID:.8zGgFBC0 #

これからは、人間が気付かなかったモノ、スルーしてたモノ
が機械によって白日の下に晒されて人間が気付く
という未来がやってくるのかむねがあつくなるな

22

22. 匿名処理班

  • 2020年10月09日 19:56
  • ID:bQswM9Ud0 #

これで発情するとか
レベル高すぎ

23

23. 匿名処理班

  • 2020年10月09日 19:59
  • ID:qreumt140 #

まず籐製の寝台の上に艶やかな褐色の球体が魅惑的に重なり合っていて、その手前には、湿り気を帯びた真新しい断面、薄皮を剥かれるのを欲して肥大しきった鱗茎の肉の純白が惜しげもなくさらけ出されている
ブロックされてもしかたないのではないか

24

24. 匿名処理班

  • 2020年10月09日 20:01
  • ID:DpMmMmvx0 #

tumblrも似た様な事をAIでやってたなぁ…
結果は健全な画像やイラストがセンシティブ扱いで非表示されまくって年齢制限の、それもガチで日本でも海外でもOUTな児ポ案件は引っかかりもしなかったというオチだったらしいけど…

25

25. 匿名処理班

  • 2020年10月09日 20:04
  • ID:gIcOTIJu0 #

玉ねぎに興奮するって意味わからん
これがきゅうりや大根(意味深)ならわかるんだけどさ

26

26. 匿名処理班

  • 2020年10月09日 20:11
  • ID:TGrFttOy0 #

パタリロはもう大変なことに!!

27

27.

  • 2020年10月09日 20:11
  • ID:e2yXJUf40 #
28

28. 匿名処理班

  • 2020年10月09日 20:15
  • ID:b2AROTQN0 #

玉ねぎの断面なら娘フラワーと認識するかもしれんけど、件の画像はホントにただの玉ねぎだった。なかなかハイレベルな想像力だ。

29

29. 匿名処理班

  • 2020年10月09日 20:18
  • ID:TbeD6M1.0 #

すまねぇ、AIの趣味はさっぱりなんだ…

30

30. 匿名処理班

  • 2020年10月09日 20:23
  • ID:l21U.8Sb0 #

AIもそろそろ思春期に入ったってことかな?

31

31. 匿名処理班

  • 2020年10月09日 20:35
  • ID:EImH5TEp0 #

今晩は玉ねぎをオカズに新しい扉を開こう・・・。

32

32. 匿名処理班

  • 2020年10月09日 20:46
  • ID:KhNpJPQT0 #

記事内にある写真が実際に削除された写真なんだろうか。
どう頑張ってもエロく見えない…。

33

33. 匿名処理班

  • 2020年10月09日 21:13
  • ID:WBqp81pp0 #

タケリタケ…いえなんでもありません

34

34. 匿名処理班

  • 2020年10月09日 21:17
  • ID:NuZ1jMsR0 #

>>31
涙あふれる素晴らしい体験をどうぞ

35

35. 匿名処理班

  • 2020年10月09日 21:23
  • ID:I8VAymnL0 #

玉ねぎに欲情するAI
すごい時代になったもんだ。

36

36. 匿名処理班

  • 2020年10月09日 21:28
  • ID:WzbReOzB0 #

※23
豊かだな…(想像力&文章力)

37

37. 匿名処理班

  • 2020年10月09日 21:33
  • ID:L9PqEn5Y0 #

※28
自分も最初、タイトルとサムネを見た時は
紫タマネギの断面⇒娘フラワー案件かと思ったら、
籠からのぞく2つ並んだ玉ねぎ⇒有色人種の双丘
案件なのか…。人間には「その発想はなかったわ」だな。

38

38. 匿名処理班

  • 2020年10月09日 21:37
  • ID:r4GyrbbP0 #

>>23
これは仕方ないな

39

39. 匿名処理班

  • 2020年10月09日 21:37
  • ID:L9PqEn5Y0 #

※32
一応、画像を3cm×3cmくらいの思いっきり縮小サムネばり
の大きさにして薄目で見たら、頑張れば
「両脇を上げ、顎を大きく反らせた有色人種の女性が
ベッドに寝転んでいるところを腿あたりから見上げ、
衣類もしくは布団をめくった中に見える局部を
白丸の修正で隠した写真」に見えなくもない…かも?

40

40. 匿名処理班

  • 2020年10月09日 21:39
  • ID:L9PqEn5Y0 #

※31
かき揚げ美味しいよね!

41

41. 匿名処理班

  • 2020年10月09日 22:15
  • ID:YcoU7.YY0 #

思春期AIの次の段階は厨二病のAIかな?

42

42. 匿名処理班

  • 2020年10月09日 22:30
  • ID:SM.s4Bdm0 #

腐AI

43

43. 匿名処理班

  • 2020年10月09日 23:00
  • ID:hgQ4nCz20 #

アワビもアウトだな。

44

44. 匿名処理班

  • 2020年10月09日 23:17
  • ID:MOaGJKo90 #

どういう…ことだ?
誰だよAIにアレなラーニングした奴は?

45

45. 匿名処理班

  • 2020年10月09日 23:38
  • ID:Rla76jqy0 #

※23
フラ○ス書院

46

46. 匿名処理班

  • 2020年10月09日 23:53
  • ID:QBQg1dNY0 #

うーん、断面の根本がかろうじて息子スティックに見えなくも…ない?(困惑)

47

47. 匿名処理班

  • 2020年10月10日 00:02
  • ID:93W4Gd4N0 #

逆に言えばアソコが玉ねぎ判定か
中々面白いじゃないか

48

48. 匿名処理班

  • 2020年10月10日 00:47
  • ID:sD7qMrWL0 #

AIのレベルは思春期の男子以上(以下かな)だな…

49

49. 匿名処理班

  • 2020年10月10日 02:23
  • ID:6P7IA0GC0 #

>>23
貴方の文才に嫉妬しちゃうよ

50

50. 匿名処理班

  • 2020年10月10日 02:23
  • ID:6P7IA0GC0 #

思春期の暴走モードってなんかむっちゃ語呂良くない?ww

51

51. 匿名処理班

  • 2020年10月10日 02:41
  • ID:ZR1zeu7t0 #

>>5
私さリンパ浮腫って病気で、腕がクソ腫れてるんだわ。
その腫れた腕(肩〜指先)がAI的にチ◯コに見える様で“卑猥なブツ”としてハジかれた事がありましたw

“お前のチ◯コは先っちょが5本に分かれてんのか?あ?”と突っ込みたくなりました

玉ねぎの気持ち、わかりますわ〜

52

52. 匿名処理班

  • 2020年10月10日 03:20
  • ID:iDizTDVp0 #

日頃森羅万象に息子スティックを見出して盛り上がってるここのコメ欄は誰一人AI君を責められない

53

53. 匿名処理班

  • 2020年10月10日 04:06
  • ID:Vgpt93sV0 #

リンゴや玉ねぎは媚薬だからねしょうがないね

54

54. 匿名処理班

  • 2020年10月10日 08:09
  • ID:KV4lvGC80 #

メガネ外したら行けるかもしれん

55

55. 匿名処理班

  • 2020年10月10日 08:56
  • ID:mRaU5i.30 #

アワビやナマコとかも引っかかるんスかね?

56

56. 匿名処理班

  • 2020年10月10日 09:32
  • ID:WCCtWpHq0 #

※46
たぶんそっちじゃない

57

57.

  • 2020年10月10日 09:59
  • ID:yHnGBu4H0 #
58

58.

  • 2020年10月10日 10:40
  • ID:4k0FMWil0 #
59

59. 匿名処理班

  • 2020年10月10日 11:02
  • ID:1G5h0Ywa0 #

興奮しない
色味が大事

60

60. 匿名処理班

  • 2020年10月10日 12:24
  • ID:4k0FMWil0 #

モア太郎や、コンニャク持ってお行き

61

61. 匿名処理班

  • 2020年10月10日 12:30
  • ID:n0wSvdAK0 #

エロティックだってー?
どれどれ・・・
「ハァハァハァハァ」
どうしても目が痛いぞ。

62

62. 匿名処理班

  • 2020年10月10日 13:47
  • ID:dEhtzgvx0 #

そんなにぱっくり開いてるアップ画像はなかなか無いと思うんだ?

63

63. 匿名処理班

  • 2020年10月10日 15:19
  • ID:cGkVG.ZR0 #

>>23
名文や...

64

64. 匿名処理班

  • 2020年10月10日 15:37
  • ID:PFe3K9EC0 #

Facebookの担当者が玉ねぎを性的な目的に使用していたので、担当者により性的なものはこういうものだと教育されたAIが玉ねぎ=性的と判断したんじゃないかな

65

65. 匿名処理班

  • 2020年10月10日 16:42
  • ID:HyPll47R0 #

※5
謎の画像判定ではないにせよ、
投稿禁止ワードを自動NGにしているサイトだと
「カロ.リー」「ヒエ.ログリフ」「かち.んこちん」
「このチームだけ空気.違いすぎて〜」「一部.落丁があり〜」
みたいな普通の文章でもはじかれたりして、
「なんでやねん!!」となる事がしばしばある。

66

66. 匿名処理班

  • 2020年10月10日 16:50
  • ID:PDNf3c9T0 #

AIも禁欲生活が長いから想像力がハンパ無いんだろ。

67

67. 匿名処理班

  • 2020年10月10日 19:30
  • ID:NanRKEqC0 #

AIの精神年齢が思春期の中学生レベルなんだな
肉体があったなら風が吹いてもウェイクアップするに違いない

68

68. 匿名処理班

  • 2020年10月10日 23:38
  • ID:6YON.qM90 #

そう言われればそう見てしまうんだな
私は以前誰かに吹き込まれて長いこと“笹かまぼこ”を見るとちょっとあれな気持ちになってました
他にもいろんなのがあるけども一つ増えてしまった

69

69. 匿名処理班

  • 2020年10月11日 00:15
  • ID:byYfZ2YO0 #

人間並みの判断力を持った高度なAIは、
人間並みに見間違い・勘違いを犯すわけだ。

70

70. 匿名処理班

  • 2020年10月11日 00:37
  • ID:rOCQ.wmT0 #

ミスターAI ロールシャッハテストを受けてもらいましょうか
「あんたの奥さん?」て答えは無しにしてね

71

71. 匿名処理班

  • 2020年10月11日 02:53
  • ID:3MnviIQo0 #

玉ねぎで性的連想って、さすがにレベル高すぎないですか

72

72. 匿名処理班

  • 2020年10月11日 05:48
  • ID:KrfYONPQ0 #

※68 「マンゴー」と聞いただけで妄想する人っているよねきみ。

73

73. 匿名処理班

  • 2020年10月11日 05:52
  • ID:3BEYCBHC0 #

へぇ…AI君にはこれが性的な画像に見えるんだぁ…どんな想像しちゃったのかな?変態さんだねぇ…

74

74. 匿名処理班

  • 2020年10月11日 08:23
  • ID:swI7zQpt0 #

エロ過ぎオニオンちゃん

75

75. 匿名処理班

  • 2020年10月11日 10:57
  • ID:SbNtc6A50 #

>>2
AIに支配されたらタマネギを持っていけ

76

76. 匿名処理班

  • 2020年10月11日 11:18
  • ID:OkDcs0uy0 #

タマネギの薄い褐色を「人間の肌」を判断した可能性が高い。
Twitterだと「肌の色に近い色」が画面の半分ぐらい占めてると、センシティブな内容と判断される。力士の写真は当然アウトだけど、人間の肌の色に近い犬の写真も、たまにセンシティブだという判断で表示されない事がある。
なので、Twitterと同じくFacebookも「色の割合」でAIが選別したり判断してる可能性があるなと思う。

77

77. 匿名処理班

  • 2020年10月11日 11:35
  • ID:EdeOpUSp0 #

やだ、こっちまで玉ねぎそのものが、性的に意味のあるものに思えてきた

78

78. 匿名処理班

  • 2020年10月11日 16:42
  • ID:3WNh0iUq0 #

もう娘オニオンにしか見えない

79

79. 匿名処理班

  • 2020年10月11日 18:22
  • ID:t3Q5mlkW0 #

Twitterでも以外なものが不適切と判断されたってたまにツイート見かけてフフってなる
AIだからしょうがないよなあ

80

80. 匿名処理班

  • 2020年10月12日 07:47
  • ID:A6oam.GZ0 #

※23
才能に嫉妬

81

81. 匿名処理班

  • 2020年10月12日 12:56
  • ID:UaeE.GRZ0 #

※23
鬼才現る

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク