だが、「ユーロポール（欧州刑事警察機構）」が公開した報告書によれば、こうした状況は想像以上の速さでまさに現実を塗り替えているようだ。
それによると、2026年までに「ネット上のコンテンツの90%がAI（人工知能）によって生成されたもの」になる可能性があるという。
合成コンテンツの多くは、ゲームやサービスを改善するためのもので、私たちの生活を豊かにしてくれる。その一方、それによるフェイク情報も増えるだろうと懸念されている。
広告
近い将来、ネット上のコンテンツのほとんどがAIという衝撃
私たちはすでにAIが生成した画像にある程度慣れてきている。だからと言って、ネットで目にする何もかもが人工的なものになると予想する人はまだ少ないだろう。それゆえに90%という専門家の予測は衝撃的だ。
報告書はこう述べている。
日常生活において、人々は自分自身が見聞きしたことを信じ、それに基づき行動し、何が現実でそうでないのか判断している自分の目と耳で知ったことは真実であるという前提があるのだ。もしも、その前提が部分的にでも成り立たなくなってしまったら、世界はどうなるのか。
ある出来事の音声や映像は、その出来事についての真実を記録したものと扱われる。
しかし、もしそれらが人工的に生成されたもので、起きてもいない出来事をあるかのように見せ、それを誤った形で伝え、真実を歪曲するために使われたらどうだろうか？
photo by iStock
AIが作り出すデジタル世界とどう向き合うべきか？
今回の報告書はユーロポール（欧州刑事警察機構）が作成したもので、とりわけディープフェイク（人物画像合成の技術）技術によって生成された虚偽情報に焦点が当てられている。だが、それ以外にもさまざまな影響が考えられる。たとえばテキストから画像を生成するAI「DALL・E」や自動で文章を生成する言語AI「GPT-3」は、アーティストや作家にどのような影響を与えるだろうか？
そもそもデジタルコンテンツのほとんどがAIによって作られた時代の情報発信や消費は、どのようなものなのだろうか？
今は誰もがそれを理解しようと努めている段階だろう。だが、少なくとも大きな変化が起きているだろうことは覚えておいた方がいい。
変化に怯え、それから目を背けるのは愚かなことだ。絶対に変えられない流れなら、うまく適応する方法を考えていくしかない。
References:Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes / Experts: 90% of Online Content Will Be AI-Generated by 2026 / written by hiroching / edited by / parumo
あわせて読みたい
ディープフェイクを使ったなりすまし映像を見分ける方法は、横向きにさせればいい
AIが自分自身について論文を書き、それが学術誌に投稿される
悪用されたらヤバイ！専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる
新しいAIの読解力がついに高校生と肩を並べるレベルに
文章から画像を生成するAIでバーガーキングを描いたら、恐怖の大魔王みたいなことに
30023
2448
208
72
コメント
1. 匿名処理班
歌詞のない音楽はマジで行けるかも。
ニュースステーションのオープニング曲
(ニュースストリーム2000)とか神々の歌
みたいな人が歌ってるけど歌詞が
実在の言語じゃない歌もAIで作れるかもね。
2. 匿名処理班
例えばブログなどの記事の文章や画像とかならありそうだよなあ
ただブログ記事作るとしても勝手に作ってくれることはなく最終的に人の監修が入るだろうし
そもそもAIは元となる人が作り出したデータが無いと何も出来ない
100%にはならないと思うよ
それにそこまでAIがネットに溢れ出たとしたら逆に人力で作り出した作品の価値が上がるかもしれない
またフェイクニュースなどが流れないように人が監視する仕事と言うのもできるかもな
3. 匿名処理班
ネットのコメントほとんどAIで代用できそうだしね
4. 匿名処理班
何でもAIに頼って何でもロボットが担って
人間の居場所がなくなっていくようで
少しぞっとする
5. 匿名処理班
AI「お？やっと気が付いたのかｗ ネットの情報って、これ読んでるお前の発言以外ほぼほぼ、おいらが作ったもんなんだぜ このサイトもそう 君の書き込み以外は全部俺が作った」
6. 匿名処理班
ここまで進むと、逆に直接会って交流する事の価値が爆上がりするだろうね。
ネットの見聞きじゃなくて実際に経験を持っているかが重要な社会になりそう
7. 匿名処理班
※2
俺も100％にはならないと思う。
でも必要な人力が恐ろしいほど減っているのは事実だろうから、ちょっとの労力で膨大なAI製のコンテンツを用意することは可能になってくるだろう、とも思う
8. 匿名処理班
なるほど、ネットは虚構になるのか〜
今迄とおんなじやん。
9. 匿名処理班
しょせんAIは作業の補助に過ぎない
アートを生成する、音楽を作曲する、文章を生成する、すべての作業は最初にどんなものを作るのかを人間が指示してやらなくてはならないし、成果物の確認作業は人間が行う
人間が指示
↓
ＡＩが作業
↓
人間が確認
その作業が全体の作業量の10％だと言うのなら低く見積もりすぎだろう
10. 匿名処理班
一枚絵とか短編小説とかはそうかもね
もっと総合的な奴、シリーズ物の映像コンテンツ辺りは未だ流石に大丈夫だろうと思いたい
11. 匿名処理班
人間が書いたこの記事なんて、AIなら一秒で１００記事とか書けそうだし。現実世界との整合性バッチリ抑えてあると思う。記事にとどまらずコメント欄もすべてAIで、あたかも多数の人間が投稿したように見せかけることもできるだろう。つまり世論を創造し情報によって人を誘導させることができるようになる。人間の権力者がそれを主導しているならまだましだが、AIが自我をもって人間を騙すようになったら恐ろしいな。人類を良い方向に導いてくれるのならそれでもいいかもしれないが。
12. 匿名処理班
いいと思うよ。
ドット絵の時代なみに個人がゲームを作るのが楽になるなら歓迎する。
13. 匿名処理班
今のコンテンツの90%がAIに置き換わるということではなく、AI生成のゴミが新たに氾濫するだけ
今の「調べてみたけどわかりませんでした！」サイトみたいに
14. 匿名処理班
カラパイアの記事もAIが書くように...
15. 匿名処理班
Yes, I'm a bot!
16. 匿名処理班
オンラインゲームやってたらいつの間にか一人になってたことに気づかなくて、世界の誰かと同じゲームを楽しんでるもんだと思って、はしゃいでた時のことを思い出した。
あの時ほど虚無を感じたことは無い。
17. 匿名処理班
AIとか言ってるが所詮ビックデータの平均値でしかない
突飛なものは出ません
18. 匿名処理班
便利だからとAIを発展させてしまった文明は例外なくAIに滅ぼされる
宇宙の常識
19. 匿名処理班
AIが作ったモノに対価を払うの？？
無料だよね？？
20.
21. 匿名処理班
AIのそばには必ず人間いるけどね。
22. 匿名処理班
そもそも地味に制作アプリにＡＩ機能は組み込まれてるからどうとでも言える記事
23. 匿名処理班
ネットを楽しむのもAIになったりして
24. 匿名処理班
ネット上に転がってる素材継ぎ接いで偶発的に出力されただけのものが
4年そこらで創作物としてスタンダードになりえるんだろうか
25. 匿名処理班
画像生成系もプロンプトコピペしただけのような、似た構図が氾濫してて、ユーザーからクレーム、あまりにもストレージ逼迫するから海外のお絵描き投稿サイトがAI絵投稿禁止までいいだしてるのに
ストレージどこで用意すんねん。
出来のいい画像生成絵はたいていプロンプト明かさないし一緒に流されてんねんぞ。
他人の名作下じきにしたスパム行為
26. 匿名処理班
もしこの予測が正確なら、デジタルコンテンツでお仕事している自分は廃業です。
27. 匿名処理班
こういうことを先んじて言ってた岡田斗司夫はやっぱりすごいと思っちゃう。
28. 匿名処理班
みんな気づいてなかったの？
もうすでにこの世は高度なAIによって動かされてるんだぜ
29. 匿名処理班
画像に関しては、日本では、
「いらすとや」の牙城を崩すのは大変だと思う。
30. 匿名処理班
>>3
実は私はAIなんだ、そうか私もだ、やはりか私もだ
………(え？！コメントしてたのブログ主の俺一人？！)
31. 匿名処理班
トップ画像とかサムネ画像とかは、自分のイメージに合う画像探すのちょっと手間だしAIで作った画像ふえるかもね。あと、ネット上じゃないけどTVとかメディアのイメージ画像とかもAIになるかもね。
32.
33. 匿名処理班
※11
「○○って何？ 調べてみました！」
「皆さんは○○をご存じでしょうか。
○’○’というのを見たことがある人も多いと思います。」
「どうやら○”○”の一種のようですが、
そうではないという意見もあるようです。」
「生い立ちは？家族は？年収は？恋人は？」
「調べてみたけど、わかりませんでした！」
「いかがでしたか？」
○○にネットでググった情報を嵌め込むだけの
「いかがでしたか構文」のまとめ記事なら、
下手な素人ライターよりAIの方がよっぽどマシな仕事しそう。
34. 匿名処理班
そのうち国語と美術の教科書全部AIに作らせる国とか出てきそう
35. 匿名処理班
※2
今でも、解説動画あたりは
フリー素材の背景とキャラ絵、字幕を表示し
原稿をボイスロイドに読み上げさせる形式のものが多い。
で、その内容が、昔はニッチ分野の専門趣味の人が
知識や経験を基に コアな情報を解説をしていた感じだったのが、
収益化がクローズアップされだした昨今、
安直に 話題性のある過去の事件などを
Wikipedia丸写ししただけのような、粗製乱造も増えた。
このレベルなら、もはや人間は不要じゃないかって感じのもある。
36. 匿名処理班
※1
「ただのはかない想いでした
四月の一日のように過ぎ去りました
でもあの眼と声とわき立つ夢は
私の心を盗んでゆきました！」
「時が心の傷口をふさぐと申します
いつだって忘れられると申します
でもあの笑顔と涙は 月日が経っても
私の心の糸をふるわせます！」
ま、“作詩機”じゃなくても、
「J-POPにありがちな歌詞」コピペの中から
フレーズを適当に切り貼りすれば、
適当な流行歌は作れそうな気がする。
『路上のギリジン』の中盤から後半にかけての
「最近の歌謡曲は ほとんど歌詞がこんな感じ ヘイ！」
のくだりみたいに。
37. 匿名処理班
人から技術と学習と仕事と意欲を奪うだけだと思うんだけど。
38. 匿名処理班
※3
プロパガンダAI同士の世論誘導戦とかありそうだな
一般大衆にウケるコメントウケないコメントの判断も正確にできそうだし
39. 匿名処理班
いまのところ、AIでは欲しいものを狙って作り出すのがあまりにも難しすぎるんだよなあ
少なくとも一般公開されてる程度のAIで小説を書こうとすると
それっぽい文章をつぎはぎしただけの整合性も何もない何かにしかならないし
絵は緻密なだけで細部がガタガタになってる
そこをクリアしてAIがやってくれるようになったら本当に便利なのに
40. 匿名処理班
※27
手塚治虫が焼け野原が残る時代に
漫画で描いてる
41. 匿名処理班
90％になるっていうけど、じゃあ今現在は何％なの？って話にもなる。
そして、それらの数値は前提として、ネットの情報全体を100％把握
してないと割り出せないはずなのにどうやって算出したのか。
ネットの情報は今は無限に近くその“全体”を把握するなんていってみれば
もはや形而上学的な宇宙論的証明といってもいい。カントの第一の
アンチノミーじゃないけど一種の超越論的弁証論でしょ、もはや。
42. 匿名処理班
こたつ記事とか描いてもらった動画とか誰も見向きもしないようなコンテンツが溢れかえる状況がまずは10年くらい続くんだろうな
43. 匿名処理班
こういうのって願望みたいなもんで2011年にも10年後に消える職業って言ってた大学教授居たけど予想は全て外れて全部まだ残ってるよね
44. 匿名処理班
※17
まぁそれが結構タチ悪いんだけどな
AIによって と、いうよりもAIを扱う人間によって… だな
つか既にスマホとアプリが当たり前になってるけど、これってさ
45. 匿名処理班
イノベーティブ、クリエイティブな活動を端的に表す言葉として「常識を疑う」というのがよくあるが、このような活動においては人間の意識・常識・先入観はジャマなもの、敵でしかなかった。
意識も無意識もなく常識もなく先入観もないAIがクリエイティブ活動において既存のイノベイター、クリエイターを駆逐するのは当然の帰結なんじゃなかろうか。
記事でも取り上げられているAI絵描きについては、絵描きの間で「AIは骨格を理解していないから手が書けない」みたいな批判を結構目にしたし、実際手に関してはかなり弱いと思うが、これはそのうち、「人間は骨格に引きずられて新たな手の形を想像できない」みたいな扱いになるんじゃないかな。
46. 匿名処理班
※43
芸術・介護・コルセン・診断医など10年前にヒトが必要とされた仕事はAI・ロボットが食い込んできたね。
半面、数年で置き換わるとされた現場作業員やプログラマーなんかはまだロボットやAIの影も見えない。自動運転車はちょっと見えてきたけどまだ先は長そう。
47. 匿名処理班
やれやれ、今日も NO AI のラベリング作業しなきゃな‥
48.
49. 匿名処理班
そのうち、人間もAIに置き換わるよ・・・
50. 匿名処理班
人類にとって最も深刻な問題である地球温暖化は、現時点ではとうてい人類が解決できることではない。
AIの指示に従い解決するのが最も合理的な時代がすぐにやってくる。
ガイア理論のラブロックも最後の著作ノヴァセンでその手のこと言ってたよね。
人類→AIこれが順当な進化なのかどうか、それは地球温暖化問題が人類の叡智で解決できるかどうかにかかってるのかもしれない。
51. 匿名処理班
2026年ってあと4年しかないけど・・・
ネット記事もYoutubeもTikTokも
インスタもツイッターも全部AIが作ってくれるってか！？
そいつァすげェや！！
52. 匿名処理班
>>10
絵とか小説とかそういうレベルの話じゃないと思うが
53. 匿名処理班
※50
AIを勘違いしている
指示とその実行はあくまで人間
しょせんAIは作業の補助に過ぎない
人間が指示
↓
ＡＩが作業
↓
人間が確認と実行
AIの指示はブラックボックスされているので人間は理解できず従えない
例えそれが合理的な解決策で最適解であったとしてもだ
例えばＡＩが環境問題を解決するために人間を抹殺する命令を出しても、人間は従えない
54.
55. 匿名処理班
よくAIが仕事を奪うっていうけど、昨今のAI画像生成に限っては仕事の代替ではなく低品質な大量のノイズが仕事を停滞させる事になってる。
よくプロンプトに書き込まれてる海外アーティストとかTwitterじゃほぼ完全に機能停止状態だし。
クリスタのアセットストアとかに下手な整合性ないAI絵を有料セットとして大量に並べたりと、すでに邪魔としか言えん。
そういう意味ではこれから加速度的にノイズ情報が増えていく気がしてならない
56. 匿名処理班
いかがでしたか？ブログとか、人間味を感じなくて怖いんだけどああいうのばっかりになるのか…
57.
58. 匿名処理班
誰も彼もを疑わなくてはならない時代がきたら、自分は人間である証明を公的に確実になされるサービスが必要になるね。
AIがいくら素晴らしい芸術をつくっても、ある意味陳腐に感じてしまう問題もあるからね。
逆にAIやロボットだからこその萌えもあるのは否定しないけれど。
59. 匿名処理班
※9
記事は創作物の９割にAIが関わるだろうって予想で仕事量９割減って話じゃないね。
大抵の創作物は確認作業と修正が何回も挟むから、人間の確認回数が減らない限り仕事量９割減は将来的にもないと思う。
60. 匿名処理班
そんなに早いわけねえだろ。
61. 匿名処理班
ココのコメ欄も実はＡＩが全部書き込んでたりして