この画像を大きなサイズで見る権威ある学術誌にAIが生成したとんでもない画像を使用した査読付き論文が掲載され、研究者たちの間で物議を醸している。
それは、超巨大な生殖器を持つネズミの解剖図的なもので、内容も意味不明だ。論文の著者らもまた、本文中で画像生成AI「Midjourney」によって作成されたことを認めている。
この論文を掲載した出版社「Frontiers」社は懸念を表明しており、最終的にこの論文は、Frontiers社によって撤回され、謝罪文が掲載された。
学術誌に掲載されてしまった異様に巨大イチモツを持つラットの画像
問題の論文は、中国、西安紅会医院の研究チームが2月13日に『Frontiers in Cell and Developmental Biology』で発表したもの。
題名を「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway（精原幹細胞の細胞機能とJAK/STATシグナル伝達経路との関連）」という。
まず目につくのは、ラットの解剖図らしきものだ。
ぱっと見、異様なまでのイチモツの巨大さに目を奪われるが、詳しく見てみても「dissilced」「Stemm cells（stem cellsだと思われる）」「iollotte sserotgomar」「dck」など、意味不明な説明ラベルが貼られている。
この画像を大きなサイズで見る論文に使用されているでおかしなAI生成画像は他にも
デタラメな図はほかにもある。図2は、複雑なシグナル伝達経路の作用を表したものであるようだが、ゴチャゴチャしているうえに、ラットの解剖図と同じく、意味不明な単語と難解なイラストだらけだ。
この画像を大きなサイズで見る図3は、図2のシグナル伝達経路が精原幹細胞を制御する様子を視覚化したものと思われるが、これまでと同様、意味不明だ。
この画像を大きなサイズで見るなぜこれが査読される学術誌の審査をパスしたのか？
さまざまな研究者が、このようなあからさまにひどいAI生成画像が、きちんと査読される学術誌の審査をパスできたことに、驚きと落胆を表明している。
また、画像どころか、論文自体もAIが作成した疑いがある。
といのも、AI検出アプリでチェックした結果、AIによって作成された可能性が高いと診断されたという報告があるからだ。ただしこのアプリはそれほど精度が高いわけではないらしく、確かなことまでは不明だ。
今回の論文は、極端な事例かもしれないが、そもそもこのような論文が提出されること自体、学術界において深刻化する問題を浮き彫りにしているかもしれない。
結果的にこの論文は、掲載した『Frontiers』が記事を撤回し、正式に謝罪を表明した。
研究者の評価システムとAIの抜け穴
研究者の成功は、どれだけ研究を発表できたかに大きく左右される。できるだけ多くの論文を、できるだけ頻繁に、一流の権威ある学術誌に掲載する。
こうしたことが、研究者としての評価につながってくる。
だが研究者の評価が論文の量によって決まる以上、多少クオリティが低い論文だったとしても、AIで手っ取り早く作り、どんどん発表してしまおうと思ってしまうのも無理からぬことかもしれない。
AIが作成した論文（ちなみにAIによるAIについての論文もある）は過去にも発表されたことがあるが、こうしたAIの乱用は研究の信頼性を損なわせてしまうのではと、関係者は懸念している。
実際、出版業界はこの問題に対処するため、AIが生成した文章を対象とする新しいガイドラインを定めた。だが今回の件が示すように一筋縄ではいかないようだ。
References:Scientists aghast at bizarre AI rat with huge genitals in peer-reviewed article | Ars Technica / Study Featuring AI-Generated Giant Rat Penis Retracted, Journal Apologizes / written by hiroching / edited by / parumo
こんなデタラメな論文が横行して研究論文への信頼が大きく損なわれるようになると
真面目に研究している科学者まで巻き添えで信頼を失うことになりますね
ひいてはAIの信頼までも損なうことに繋がる
>>1
AIの氾濫に対抗策を講じれるくらい頭のイイ人や金持ちな人がこうして実害をこうむることで実体あるAI対策が進むという一面もなくはないので難しいね
コピーAI絵師が弱小作家イジメやってるだけの国内の現状では対策がほとんど進んでないのは明らかだしな
>>28
そう言う方向からでの環境整備は、日本だと2歩も3歩も遅れそう。
研究分野の進化が遅いと、悪名高い国だからなぁ。
>コピーAI絵師が弱小作家イジメやってるだけの国内の現状
これに関してはまだ日本は良いほう
投稿サイトとか対処するケース多いしソフトやアプリとかのサービスもユーザーがAIに反発したら方針転換してくれてる
海外はもっとひどい目にあってるからクリエイターは抗議かなりしてるけど、AIサービス側もプラットフォームもクリエイターの声をスルーしてるだけところが多い
生成AIによるクリエイターの被害に関しては日本の作家はかなり不利益被ってるし、これ完全に海外サービスがすべての元凶だからもっと真剣に考えてほしいもんだわ
ま、研究者の評価は論文数で決まるから仕方ないよ
査読したのは一体どんな人なんだ？
寝不足だったり忙しくて超テキトーに査読したのか？
それとも査読者までAIだったとかいうオチ？
遊びで偽論文書いて、どうよと見せたらすぐにバレた
あの人結構有名な教授なのでそりゃ仕方ない
やっぱ人類にはAIはまだ早いわ
幼稚園児にスマホ与えるようなもん
もう生成すると自動的にAI絵と分かるロゴが入る様にするしかないかな。
音が消せないスマホカメラみたいな感じで。
>>6
既にAI対策のためにステガノグラファーは実用化されてるけど
それを破るツールもすぐに出てきて
さらにそれに対応するとまた新たな突破ツールが出できてのイタチごっこなのが現状ですね
>>6
逆にAIでないことを証明するために、今後全ての画像は作成者の情報をNFTで結びつけるべきかもしれない
作成者まで遡れれば、悪意があったとしても対処が可能だろうから
論文書く方も評価する方も、地位や収入に影響する以上ヒューマンエラーは起こりうる
そこをどう回避するか、はたまた科学の限界なのか
有象無象の中から真実が世に現れる難しさはいつの時代も変わらないのか
査読もAIが行っていたりしてな
ダブルチェックで俺以外も確認するだろうからヨシ！な現場猫案件な気がする
難しいことは置いて、御神体として崇めよう
誰かが読んで確認し、OKしてから掲載しているのかと思っていた
世に出てる雑誌は校正絶対あるし
>>13
学術誌はその分野の専門家がその確認OK出しをやっていて、それが記事やコメ欄で出てる「査読」だ。
だからこの雑誌の編集部が正式に謝罪してるし科学者やこのコメ欄でどうなってるんだと突っ込んでる人がいる。
ビッグマウスってやつだ、そりゃあ叩かれる。いやさ叩いたのが先かね？
未知なる世界を未知なる言語と挿絵でつづった、異世界の百科事典「コデックス・セラフィニアヌス」
の記事を思い出した。意味深そうで意味不明な説明とか絵の作風が似てる。
ヴォイニッチも未来から過去に送り込まれたAIアートなのかもしれない
「こんな論文を出している研究者」というレッテルは貼られないのかしら？
数稼ごうと思ってやったことが研究者として、人としての信頼を失う事にならないのかしら？？
イチモツ論文を出した研究者の周辺はどう感じてるのかしらね。
逆に「査読通ったwww」くらいのものなのかしら。
やはりAIに頼るのはいちもつの不安があるな。
>>23
いちもつのファンは多いからバズるんだよな
査読もAIだったんじゃね？
「ソーカル事件」の再来だろこれ
っていうかこうやってフェイク資料やフェイクニュースが氾濫するともはや情報の信頼性が完全に損なわれる
こんなんじゃAIを使うメリットよりデメリットの方が上回ってしまうだろうし、そうなるとAIをフリーダムに使える時期はもう終わりで規制やガイドラインをみっちり設けないといけなくなる
>>29
不正論文が査読誌に載っちゃう問題はこれまでもちょくちょく起きてることなのでソーカル事件ほどではない
粗悪な論文工場の問題もずっと前からあることなので、そんな目新しい事件でもないし
懸念されるのはすでに言われているようにそれがAIで精緻化・自動化されて大量流通する事態になりかねないことで、
それはさいわいまだ起きてないのと今後のAI検出技術とのいたちごっこがどちらに転ぶかも未知数なので、要注視ってのが現状
査読なんてまともにしとらんのだろう。
今期のはAI云々じゃなくて査読を通過した、ってとこの方が問題じゃないかな。
まず人間の脳が馬鹿なので
AIも進化しているようで馬鹿なのよ
学術論文の世界にまで現場猫が出るようになったか・・・
（多分だれかがが査読したはずだからヨシッ！）