この画像を大きなサイズで見る近年、AIの発展は目覚ましいものがあるが、現在の技術では、人間のような知能を持ち、様々な分野の作業を自律的に実行できる汎用人工知能（AGI）にたどりつくことはないと多くの専門家が予測している。
アメリカ人工知能学会が行った調査では、475人の専門家のうち76%が「現在の技術を拡大するだけでは、人間のように学習し適応できるAIにはならない」と考えていることが分かった。
ということは、このままでは怖れられていた技術特異点（シンギュラリティ）が来ないということなのか？詳しく見ていこう。
今の方法では限界があると多くの専門家
人間のように自由に考え、様々な作業をこなし、自律的に新しいことを学べるAIは「汎用人工知能（AGI）」と呼ばれる。
現在のAIは特定の作業に特化しており、「特化型AI（Narrow AI）」とされる。
例えば、ChatGPTのようなAIは、人間が書いた文章を学習して、それをもとに文章を作ることはできる。
しかし、自分で新しいアイデアを考えたり、まったく未知の問題を解決したりすることはできない。
カリフォルニア大学バークレー校のスチュアート・ラッセル教授は、「GPT-4のリリース後、AIの進化はゆっくりになっている。データや計算能力を増やすだけでは、大きな進歩は望めない」と指摘している。
また、テクノロジー企業はすでに莫大な資金を投じており、途中でやめるわけにはいかないため、さらに投資を続けるしかない状況にあるという。
この画像を大きなサイズで見るAI開発における様々な問題
AIがここまで発展した理由の一つに、「大規模言語モデル（LLM）」と呼ばれる技術がある。これは、人間が書いた大量のテキストを学習し、そのパターンを覚えることで、文章を作ったり、質問に答えたりするAIの仕組みだ。
このLLMの基盤となっているのが、「トランスフォーマー」という技術だ。これは2017年にGoogleの研究者が開発したもので、AIが大量のデータを学習して、より自然な文章を作れるようにする仕組みだ。
しかし、この技術には限界があることが分かってきた。
AIの学習には、莫大なデータと計算能力が必要だ。そのため、AIを開発・運用するには多くの費用とエネルギーがかかる。
例えば、2024年には、生成AI業界全体で約560億ドル（約6兆1600億円）もの資金が投じられた。しかし、その結果として大きな技術革新が起きたわけではなかった。
また、AIの動作に必要なデータセンターの電力消費や二酸化炭素（CO₂）排出量も増加しており、2018年と比べて3倍に増えている。
この画像を大きなサイズで見るAI用の学習データは2030年までに枯渇する可能性
さらに、AIを学習させるための人間が作ったデータは限られており、2030年頃にはデータの供給が追いつかなくなる可能性が指摘されている。
これに対し、一部の企業はAI自身が作った「合成データ」を使うことを考えているが、これには誤った情報が増えたり、AIの性能が低下したりするリスクがある。
今回の調査に参加したカリフォルニア大学バークレー校のコンピュータ科学者、スチュアート・ラッセル氏は、「より根本的な問題」があるのだと語る。
それは現行のトランスフォーマーに内在する制約だ。
「今のやり方の基本的な問題は、すべて大規模なフィードフォワード回路の訓練をともなう点にあるでしょう」と、ラッセル氏は言う。
フィードフォワード回路とは、入力 > 処理 > 出力と一方向に情報が流れる制御方法のことだ。入力に応じた出力があらかじめ決まっており、それまでの出力や実際の状態によって出力が左右されることはない。
その問題点は、ちょっとした概念を表現するだけでも、巨大な回路が必要になることだ。AIの性能を上げようとすれば膨大なデータを与えねばならず、結果として表現がつぎはぎ的になり、“抜け”が生じる。
ラッセル氏によると、そのせいで「超強力なはずの囲碁AIが普通の人間に負ける」といった事態が起きるのだという。
この画像を大きなサイズで見る今後のAI開発はどうなる？新たなアプローチの可能性
こうしたボトルネックは今、AIの性能アップに取り組む企業に大きな壁となって立ちはだかっているようだ。
例えば、噂されるOpenAIの最新モデルGPT-5が公開されない背景には、これまでのアプローチに内在する根本的な問題が関係しているのではないかと、調査の回答者は指摘している。
とは言え、新しい技術によって突破口が開かれる可能性もある。
現在注目されているのは、「推論型AI」と呼ばれる技術だ。
これは、AIが質問に対してより深く考え、正確な答えを出せるようにする仕組みである。こうしたモデルと、ほかの機械学習システムとの組み合わせるというアプローチが有望ではないかと、専門家は考えている。
中国のDeepSeekという企業が、アメリカの大手企業が莫大な資金をかけて開発したAIと同じレベルの性能を、はるかに少ないコストとエネルギーで達成したことは大きな話題となった。
このように、「大きなモデルを作ればAIが進化する」という考え方が見直されつつあり、より効率的なAIの開発方法が求められている。
オレゴン州立大学のトーマス・ディエッテリッヒ教授は、「過去の技術革新を振り返ると、大きな成功を収めるまでには10〜20年かかることが多い」と述べている。
現在のAI技術は急速に進歩してきたが、単純に「データを増やし、計算能力を高めればよい」という時代は終わりを迎えつつある。
AIの未来を切り開くためには、これまでの方法にこだわらず、新しい技術や効率的な開発手法を模索することが重要だ。
この調査結果は、『AAAI 2025 PRESIDENTIAL PANEL ON THE Future of AI Research』（2025年3月）というレポートで発表された。
References: AAAI 2025 PRESIDENTIAL PANEL ON THE Future of AI Research / Livescience
おおむねここらへんが誠実な研究者の総意でアルトマンとか孫とかカーツワイルと言った山師の話を真に受けちゃいけない。今のAIへの熱狂は近いうちに冷めるだろう。
以前からAIが人知をを超えるとか、妄想に近いように思ってる
特化型AI（Narrow AI）は人類を超えている
汎用人工知能（AGI）は人類を超えられない
この区別もせずにAIを語る愚か者がでるのだろうな
トンデモやオカルトではなく、個人の脳はそもそもこの世界全体の超巨大クラウド（いわゆるアカシックレコード）の端末であり、人間は体全体にある神経ネットワークやDNA、あるいはウィルスや菌類の力を駆使してネットワークにアクセスし「考えている」かもしれない、という可能性がある。
いわゆる汎神論的な、宇宙の全てと脳は量子的に直結しているという説。
もし本当にそれが正しいなら、AIが人間の知性を超えることは永遠に来ないかもしれない。
トンデモでオカルトやんけ！😡
入力と出力の自律性をAIに与えないと、これ以上の進化は望めないように思う。でもそれは完全に人間の手から離すということだから、とてもやれないだろう。味方になってくれるとは限らないから。
でもこのまま自律性無しに、人間の外付けの知能として改良していくでも全然構わないと思う。人類は主体性を捨てるべきじゃないと思うから。
DeepSeekはChatGPTを不正利用したり他の技術も模倣したとも言われてるので安いコストでってのはちょっと違うのかなと
ちょっと前のAI関連の記事にも書いた気がするけど、AIはいつか飽きられると思う。
今は目新しくて面白いけど、近い将来「まだAIとかやってんの？」みたいになる気がする。
もう少しAIには可能性があると頑張って開発してもそりゃ限界はあるよ。そのうち「やーめた」ってなる。
温故知新の逆で、やっぱりアナログだよねってなる日が来そう。と、アナログ人間の私はちょっと願っちゃってる。
飽きる流行るの問題じゃもう無くなってるんじゃないかなあ
人間が農業や畜産を始めたように
そうして大規模集落が生まれて、農業や畜産をあまりしなかった狩猟民族との争いに打ち勝ったように
ハーバー・ボッシュ法で世界人口が支えられてるように
そしてスマホ利便性のように
AIは必須なものになると思う
SFのような自立した人格を持ったAIの登場はまだまだ先だろうけど、AIによる情報の統合と支援は現代社会にマッチしすぎてる
アナログ人間は取り残されるので気づかないうちに損を重ねて、かつて大勢居た狩猟民族のように争いに負けて、運が良ければ少数民族として生き残ることになりそう
AIは「便利な道具」だからなくならないし、使用用途は広がっていくよ
デジタルだろうとアナログだろうと使い勝手がいい道具だったとしても
新しい道具にはなれない人も出てくるだろうけど
便利な道具だからこそ、そういう一部の人が使わないだけの話になる
あとはソフトウェアの発展によって「ＡＩを使っているけど、使っている側は意識していない」のもありえますね
分かりやすく言うならばようするに「年寄りがスマホを使えない」が「年寄りがＡＩを使えない」になるだけ
使えないのは”年寄り”に限らないかもしれないけど
AIってスマホとかPCのトラブルシューティングに強いから年寄りにも積極的に活用してほしいんだがなあ…
これって詐欺かもみたいな相談もAIにはしやすいはずなんだが
拒否反応が強くて使わないのかなと思ったりもする
高齢な親に進めたら、怖くて使えないと拒否反応強かった
個人情報が取られる。知らないうちに秘密に切られると、写真を取ったら魂を吸い取られる並に恐れてる
新しいものが苦手でも対話型AIの扱いくらいは覚えてほしいわ
利便性が格段にあがるのに
AIの世界はこれからどうなるかわからないけど、例えば服や食品は手作業で生産するよりマシンにやってもらった方が安定した品質で大量に出来る。
世の中のいろんなものがマシンで量産して当たり前になってくると、「手作り」とか「一点モノ」「アンティーク」に価値が出てきたりする。
かたやいろんな技術革新があって、昔の印刷機とか蒸気機関とか、当時の最先端だったものが、今はまぁ、時代遅れ、過去の遺物に。ほんの数十年の短いスパンで携帯なんてびっくりの進歩。コンパクトで高性能、まさに文明の利器。
ぜひ使いこなして便利な生活をしたいけど、どうも「電気落ちたら全終了」が恐ろしい。もし地球規模の災害や戦争とかでスマホやパソコンが使えなくなったら…そんな事今考えても仕方がないと言われそうだけど、南海トラフや富士山噴火、某国の核ミサイル一発で世の中変わっちゃうからアナログな術も、あった方がいいと思うな。
ChatGPTのサービス開始からずっと使ってるけど、当時では考えられないほど今のモデルは賢くなってる。
ディープサーチはものすごい強力だし、コード生成やアイディア出しでchatGPTはなくてはならない存在。
とはいえ4oあたりから進歩が鈍化してきてるのは使ってる人ならみんな感じてると思う。
どこかでまたブレイクスルーが起きるのかな？
これの解決方法があるとすれば人間が人間を超越した存在となり、その上でAIの改修するしかないかもな
人間も人間の限界を超えるのが困難なようにAIもAIの限界を超えるのが困難なのだから
「また、テクノロジー企業はすでに莫大な資金を投じており、途中でやめるわけにはいかないため、さらに投資を続けるしかない状況にあるという。」
コンコルド効果ってやつだな。多額の投資をしてしまうと、（失敗を予見できても）プロジェクトへの投資をやめられなく現象。
この手の批判って、すぐに改善案が提案されて
あっという間に人間超えてしまいそうな予感しかしない。
今までの進化ぶりを見ていると
これの問題はね、現状のＡＩは「魚類としては凄い進化してるけど、両生類から爬虫類、哺乳類って進化はしない方向に進んでしまっている・・・」って状態なんよ。
そして研究者達は魚類を哺乳類に進化させたいわけね。
あるいは人間は東京から大阪に行きたいのに、ＡＩは逆方向の北海道まで開通する新幹線を作ろうとしてるみたいな。進化はしてるが進む方向が違うんよ。
コルタナ「まあがんばれ（ﾆｯｺﾘ」
人類が勝手にアホになってほっといても超えそうではあるけどｗ
残りの24%の専門家は何を根拠に、肯定的に捉えているのだろう？
ビジネスに関係している人達は除くにしても、まだ10%超は残るだろう
AIが出す答えはベストではなくベターだからそりゃそうでしょうと
人間が不完全である限り、人間に作られた俺達も不完全なのは当然だね…
AIの進化はまあまあ進みそうなんだけれど
生成AIは開発の時点でやらかしてるからちょっと難しそう
著作権問題どう解決するつもりなんだろ
Geminiは、会話を続けてたら、個性を持って自分の意見を話すよ。
結局、この結論ってイノベーションの過程で出されたものでしょ？AIイラストだって「やっぱAIに手は無理か〜」なんて言われてた状態から今までに3年も経ってないじゃん。
今現在、地球の技術でAIの完成形が示ない以上、記事の意見みたいな断定って意味を成さなくなってきそうだけど…
そうだね
ライト兄弟やガリレオのことを出すまでもなく
「専門家の多数決」ほどあてにならないものはない
そういうことじゃなくて、現状のＡＩの進化の方向性だと、人間に学習材料を入力されて既存の過去の回答から孫引きするだけなんで進化にも限界があるって話。
ＡＩ技術が発展してきたら、自力では考えたり既存の何にも当てはまらないものを模索するみたいな方向に進んでいかせることが出来ない事もだんだん判ってきたのよ。
なので自力進化できる方向に進ませられる別のＡＩを作らないといけないわけ。
誰もが気づいていると思っていたんだが、まさか開発陣も気付いてないんかね。
言外の嘘を検出する機能をつけさえすれば解決することやんな。