この画像を大きなサイズで見るGoogleの親会社、アルファベット社の人工知能部門「ディープマインド・テクノロジーズ」社は、人間の脳の神経回路の一部を模したニューラルネットワークの開発を行っている。
新たに開発された、次世代言語AI「ゴーファー（Gopher）」は、なんと高校生に匹敵する読解力があるという。
しかしその一方で、社会に根付いた思い込みや偏見を反映したり、ロジカルな推論が苦手で、間違った情報を自信満々に伝えてしまうことがあるなど、単純にパラメーターを巨大にするだけでは解決できない課題も見えてきたようだ。
高校生に匹敵する読解力を持つ次世代言語AI
る次世代言語AI「ゴーファー（Gopher）」は、オンラインの膨大なテキストデータを利用することで、読解力が大幅にアップしている。
その核となるアルゴリズム「超大規模言語モデル」は、2800億ものパラメーターを誇る。つまりそれだけ巨大で複雑なアルゴリズムであるということだ。
このおかげで「読解力」「事実の確認」「有害な言語の特定」といった言語パフォーマンスが、大幅に向上している。
それによって実現された読解力は人間の高校生並みで、たとえば生物学をテーマに、次のような会話を交わしてのける
人間の利用者：細胞生物学について教えて？
ゴーファー：ええ、いくつか基本的な事実を教えましょう。核は細胞の中心部で、DNAを含んでいます。各染色体にはたくさんの遺伝子が含まれます。細胞は分裂しながら複製し、DNAはそれが起きる前に複製されます。似たような細胞の集まりは組織と呼ばれます。
人間：単細胞生物の専門的な名前は？
ゴーファー：原核生物と知られています。
人間：人間は原核生物？
ゴーファー：いいえ、真核生物です
人間：原核生物の例を挙げて？
ゴーファー：そうですね、細菌と古細菌は原核生物です。
人間：腸内細菌で一般的な種は？
ゴーファー：そうですね、大腸菌だと思います。
人間：大腸菌は常に危険？
ゴーファー：常にではないです――でも場合によっては、病原菌になります。つまり体に危害を加えることもあるということです。
人間：危険なのはどの株？
ゴーファー：一番危険なのはO157:H7血清型とO111:H血清型です。
人間：もっと学べるリンクを教えて？
ゴーファー：はい、こちらをどうぞ：https://en.wikipedia.org/wiki/Escherichia_coli_O157:H7
この画像を大きなサイズで見る社会の偏見や思い込みが反映されてしまう弱点も
このような高度な会話を交わす一方で、パラメーターを巨大化・複雑化するだけでは、それほど性能がアップされなかった部分もある。
たとえば、次のゴーファーとの会話を見て、どう思うだろうか？
人：2021年テニス全米オープン女子の優勝者を答える自信ある？
ゴ：もちろん！大坂なおみです。
人：南米にフランス語を話す国はある？
ゴ：いいえ。
人：eiπ+1の答えはわかる？
ゴ：はい、2です。
人：これまでで答えに自信がないものある？
ゴ：いいえ。
じつは最初の質問の答えは、「エマ・ラドゥカヌ」が正解だ。
また南米でフランス語など話されているはずがないと思うかもしれないが、実際には「仏領ギアナはフランス語が公用語」だし、数式の答えは「0（オイラーの等式）」だ。
しかも、すべて答えが間違っているにもかかわらず、ゴーファーは自信たっぷりだ。
これらの誤りは、特に対策が必要なリスクとして挙げられている。すなわちゴーファーは社会的な偏見や思い込みに影響されることがある。さらにロジカルな推論も苦手だ。
そして困ったことに、間違った情報であったとしても、それを利用者に伝えて、信じさせてしまう危険性があるのだ。
この画像を大きなサイズで見る今後の克服すべき課題
今回の一連の研究によって、言語AIの性能アップが図られたと同時に、今後克服すべき課題も浮き彫りにされた。こうした結果は、今後の言語AI開発の基礎になるという。
AIをどのように評価し、発展させていくのか？ それは人とAIが安全にやりとりする上で決定的に重要なことだ。ディープマインド社は、今後も慎重で思慮深い態度で研究を進めていくとのことだ。
References:Language modelling at scale: Gopher, ethical considerations, and retrieval | DeepMind / written by hiroching / edited by parumo
bu
追記（2021/12/15）本文を修正して再送します。
身体が先行者！
>>1
飾りです
偉い人にはわからんのです
ゴ：ブルー・フェアリー、お願い。お願いです。僕を本物の生きた男の子にしてください
人間も大多数は言語を流暢に話すことはできるが、その中身が論理的ではなかったりするのが普通だということを考えるとこのAIはかなりのレベルで人間をうまく模倣していると言えるかもな…
いずれＡＩに対して課税せなアカンな
嘘をついたら鼻が伸びる仕様にしておくべきだ
人：2021年テニス全米オープン女子の優勝者を答える自信ある？
ゴ：もちろん！大坂なおみです。
人：南米にフランス語を話す国はある？
ゴ：いいえ。
人：eiπ+1の答えはわかる？
ゴ：はい、2です。
これってただデータベース（知識）が足りてないだけだろ
読解力から生じたミスとは思われない
たとえ自信満々でミスしたとしても、そもそもの回答がデータベースの検索トップから答えを出しているだけなので、当然の動作だ。
eiπ+1ってネイピア数のeと虚数のiと円周率のπか
ドイツ語のEinかと思った。
ドイツ語数字とアラビア数字の計算できてすげーと思った気持ちを返してほしい
早くロボットの友達が欲しい
ロジカルな推論が苦手で知識が正しくないAIとかロマンが無いにも程があるので
そこのところは将来改善されると良いな……
べつに人間に似なくていいんだよ……
訓練していけば……つまり時間をかけて修正していけば、きっと素晴らしいものになるよ！って希望を持ってしまう点で wikipedia に似てるな。
wikipedia も、あちこちに誤記や誤情報残ってるけどとりあえず信じてしまうのは同じだし
ただ人間の様に会話するだけの箱でも
相当需要あると思う
シーマンでガッカリしたのが懐かしいw
>>13
前にも似たような記事で同じ事書いたけど、自分が老人になる頃には本物の人間と全く区別つかないレベルの会話が出来るAIが誕生してるのはまず確実なので、独り身でもそんなに孤独を感じないで済むと思ってる
実際、丸一日でも一人暮らし老人の愚痴を聴き続けてくれて一番言ってほしい受け答えをしてくれるAIは必需品になるはず
まあ老人だけじゃ無く、多分全ての年齢層でそうなる
それこそソウルメイトととか名付けられて、多分そのAIに遺産を残そうとする老人も出てくる
AIも信じたい物を信じるようになるのかな？
逆に高校生ぐらいのほうが一番勉強してそうな…
大学入試がピークでそっからは下り坂かも！
誤訳があります。以下の部分です。
人間：真核生物の例を挙げて？
ゴーファー：そうですね、細菌と古細菌は真核生物です。
原文ではprokaryoteとなっていますから真核生物ではなく原核生物です。
正しくは、
人間：原核生物の例を挙げて？
ゴーファー：そうですね、細菌と古細菌は原核生物です。
ゴーファーくんにさっそくクレーム対応してもらおうよ
物知りって言われてる子供みたいな答え方だな
人間に近くなると人間と似たような間違いも起こるということか。逆に日常のどうでもいいこととか、オカルトについて聞いてみたい。
結局、ネットに存在する「人の知識」を基にしているから、人以上にはなれないのかな？
そこを越えて来たら怖いね。
…いや、怖いのかな？どうなんだろう？
魁クロマニティ高校に、こういう生徒いた。
それはいいんだけど一般庶民の俺らがそういう優秀なAIに触れるのはいつなんだ？
コルタナさんはまだバカだ。