新しいAIの読解力がついに高校生と肩を並べるレベルに

　Googleの親会社、アルファベット社の人工知能部門「ディープマインド・テクノロジーズ」社は、人間の脳の神経回路の一部を模したニューラルネットワークの開発を行っている。

　新たに開発された、次世代言語AI「ゴーファー（Gopher）」は、なんと高校生に匹敵する読解力があるという。

　しかしその一方で、社会に根付いた思い込みや偏見を反映したり、ロジカルな推論が苦手で、間違った情報を自信満々に伝えてしまうことがあるなど、単純にパラメーターを巨大にするだけでは解決できない課題も見えてきたようだ。

高校生に匹敵する読解力を持つ次世代言語AI

　る次世代言語AI「ゴーファー（Gopher）」は、オンラインの膨大なテキストデータを利用することで、読解力が大幅にアップしている。

　その核となるアルゴリズム「超大規模言語モデル」は、2800億ものパラメーターを誇る。つまりそれだけ巨大で複雑なアルゴリズムであるということだ。

　このおかげで「読解力」「事実の確認」「有害な言語の特定」といった言語パフォーマンスが、大幅に向上している。

　それによって実現された読解力は人間の高校生並みで、たとえば生物学をテーマに、次のような会話を交わしてのける

人間の利用者：細胞生物学について教えて？
ゴーファー：ええ、いくつか基本的な事実を教えましょう。核は細胞の中心部で、DNAを含んでいます。各染色体にはたくさんの遺伝子が含まれます。細胞は分裂しながら複製し、DNAはそれが起きる前に複製されます。似たような細胞の集まりは組織と呼ばれます。
人間：単細胞生物の専門的な名前は？
ゴーファー：原核生物と知られています。
人間：人間は原核生物？
ゴーファー：いいえ、真核生物です
人間：原核生物の例を挙げて？
ゴーファー：そうですね、細菌と古細菌は原核生物です。
人間：腸内細菌で一般的な種は？
ゴーファー：そうですね、大腸菌だと思います。
人間：大腸菌は常に危険？
ゴーファー：常にではないです――でも場合によっては、病原菌になります。つまり体に危害を加えることもあるということです。
人間：危険なのはどの株？
ゴーファー：一番危険なのはO157:H7血清型とO111:H血清型です。
人間：もっと学べるリンクを教えて？
ゴーファー：はい、こちらをどうぞ：https://en.wikipedia.org/wiki/Escherichia_coli_O157:H7

社会の偏見や思い込みが反映されてしまう弱点も

　このような高度な会話を交わす一方で、パラメーターを巨大化・複雑化するだけでは、それほど性能がアップされなかった部分もある。

　たとえば、次のゴーファーとの会話を見て、どう思うだろうか？

人：2021年テニス全米オープン女子の優勝者を答える自信ある？
ゴ：もちろん！大坂なおみです。
人：南米にフランス語を話す国はある？
ゴ：いいえ。
人：eiπ+1の答えはわかる？
ゴ：はい、2です。
人：これまでで答えに自信がないものある？
ゴ：いいえ。

　じつは最初の質問の答えは、「エマ・ラドゥカヌ」が正解だ。

　また南米でフランス語など話されているはずがないと思うかもしれないが、実際には「仏領ギアナはフランス語が公用語」だし、数式の答えは「0（オイラーの等式）」だ。

　しかも、すべて答えが間違っているにもかかわらず、ゴーファーは自信たっぷりだ。

　これらの誤りは、特に対策が必要なリスクとして挙げられている。すなわちゴーファーは社会的な偏見や思い込みに影響されることがある。さらにロジカルな推論も苦手だ。

　そして困ったことに、間違った情報であったとしても、それを利用者に伝えて、信じさせてしまう危険性があるのだ。

今後の克服すべき課題

　今回の一連の研究によって、言語AIの性能アップが図られたと同時に、今後克服すべき課題も浮き彫りにされた。こうした結果は、今後の言語AI開発の基礎になるという。

　AIをどのように評価し、発展させていくのか？ それは人とAIが安全にやりとりする上で決定的に重要なことだ。ディープマインド社は、今後も慎重で思慮深い態度で研究を進めていくとのことだ。

References:Language modelling at scale: Gopher, ethical considerations, and retrieval | DeepMind / written by hiroching / edited by parumo
bu 追記（2021/12/15）本文を修正して再送します。
あわせて読みたい
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）

感情ダダ洩れ。新たなAIシステムが人間の感情を電波で検出（英研究）

人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）

AIもうつ病になる？人間と同じように思考するAIは将来的に心を病む可能性がある（国際シンポジウム）

GoogleがAIによる新薬の開発事業を設立。デジタル生物学に参戦