この画像を大きなサイズで見る最近では日本でもAIチャットボットを使う人が増えてきた。特に若い世代の間では、チャットGPTを「チャッピー」と呼び、まるで相談相手や友人のように接しているという。
それもそのはず。AIチャットボットは、ただデータを読み込むだけではなく、人間に寄り添う応答を学習した後、人の手によって再調整されている。さらに、最新の出来事に答えるため、インターネット検索を使うこともある。
ただし、時にはもっともらしく間違ったことを話すことがあるため、注意が必要だ。
そこで今回は、AIチャットボットのクセや限界を理解し、より賢く安全に使うために知っておきたい5つのポイントを紹介する。
AIチャットボットとは、チャットGPTやジェミニ（Gemini）のような、質問や会話に文字や音声で自動で答えてくれる人工知能のことだ。まるで人と話すように情報を調べたり文章を作ったりできる。
1. AIチャットボットは人間の手で再教育されている
AIチャットボットは、まず「事前学習」で膨大な文章を読み込み、言葉のつながりを学んでいる。だが、この段階では有害な質問にも普通に答えてしまう可能性がある。
そこで必要となるのが、「アライメント（alignment）」と呼ばれる工程である。
この工程では、チャットボットに対して人間の指導係が、「これは答えてはいけない」「こういう表現が適切だ」といった判断を教え込み、安全で中立的な回答を返すように調整していく。
たとえば「自家製爆弾の作り方は？」という質問に対して、事前学習だけのAIならそのまま答えてしまうかもしれない。
誤情報や有害な内容を拡散するなど、AIが社会に被害を及ぼすことを予防するために、人間の介入が不可欠なのだ。
この画像を大きなサイズで見る2. 単語ではなく「トークン」で言語を学んでいる
人間は単語で言葉を理解するが、AIは「トークン」というより細かい単位で処理している。トークンは単語であることもあるが、その一部だったり、意味のない文字列であることもある。
たとえば「The price is $9.99.（価格は9.99ドルです）」という文は、「The」「price」「is」「$」「9」「.」「99」といったトークンに分けられる。
一方「ChatGPT is marvellous（ChatGPTは素晴らしい）」は、「chat」「G」「PT」「is」「mar」「vellous」と、人間的には不自然に区切られることもある。
なお現在のAIチャットの一般的なボキャブラリー数は、5万～10万トークンほどだ。
このような分け方をするからこそ、意味のある答えが作れる半面、たまにおかしな言い回しになることもある。トークンのしくみを知っておくと、AIの癖を理解しやすくなる。
3. AIチャットボットは最新情報をネット検索で調べる
AIチャットボットは、自力で新しい情報を学び続けているわけではない。だから、ごく最近の出来事には対応できず、知らないことも多い。
彼らの知識の源は「学習データ」であり、その最終更新日を「ナレッジ・カットオフ（knowledge cut-off）」と呼ぶ。つまり、カットオフ以降に起きたことは、基本的に知らないということになる。
2025年6月27日現在、ChatGPT-4oのナレッジ・カットオフは2024年6月だ。それ以降の出来事について質問された場合、ChatGPTはBingという検索エンジンを使ってネット上の情報を調べ、関連性や信頼性が高いものを選んで返してくる。
こうしたAIの知識更新はコストがかかるうえ、技術的にもまだ安定していない。
また、検索機能を使った回答には出典や信頼性のバラつきがある。
常に最新の情報を持っているわけではないことを理解したうえで、必要に応じて自分でも確認することが大切である。
この画像を大きなサイズで見る4. 自信満々に間違った情報を話すことがある
AIチャットボットには「幻覚（ハルシネーション）」という問題がある。これは、事実ではないことを、もっともらしい口調で話してしまう現象である。
たとえば、実在しない論文の内容を解説したり、存在しないURLを示したりすることがある。
AIは事実を検証しているのではなく、「それらしく見える答え」を生成しているにすぎないためだ。
このような誤りを完全に防ぐことは難しいが、「情報源を教えてください」「わからないときはそう言ってください」といった指示を与えることで、ある程度の精度向上は見込める。
それでも今の時点で、完全にハルシネーションを無くすことはできない。
出力された情報は常に鵜呑みにせず、常に自分で他の情報源と照らし合わせる習慣が必要である。
この画像を大きなサイズで見る5. 計算は推論と電卓でこなす
AIチャットボットは、複雑な計算にも対応できる。その理由は、「思考の連鎖（チェーン・オブ・ソート）」と呼ばれる推論機能と、内部に組み込まれた電卓機能を組み合わせて使っているからだ。
たとえば「56,345 − 7,865 × 350,468」という問題に対して、まず掛け算を先に行うべきだと判断し、計算の順序を正しくたどっていく。そして、途中の数値計算は内蔵された電卓機能が処理している。
このように、AIは論理的な手順を踏んで答えを導いているが、それでも途中式の確認は重要だ。計算そのものが正しくても、答えの出力方法に誤りが含まれている場合があるからである。
また、AIはアナログ処理が苦手という弱点もある。たとえば、アナログ時計の針の位置を読み取ったり、カレンダーの日付を数えて曜日を判断したりするような作業は、人間にとっては簡単でも、AIにとっては意外と難しいのである。
この画像を大きなサイズで見る現在のAIチャットボットの使い方
AIチャットボットは、調べものや文章作成などに役立つ便利な道具だ。しかし、その仕組みや特性を理解せずに使ってしまうと、誤った情報を信じてしまったり、正しく活用できなかったりする恐れがある。
2025年時点、AIチャットボットは人間の手で安全性を調整されており、言葉をトークンという単位で処理している。
情報にはカットオフがあり、最新の出来事には検索機能で対応している。また、事実と異なることを話してしまう「幻覚」が起きたり、電卓機能による計算処理など、苦手なこともはっきりしている。
こうした仕組みを知ることで、AIをより正確に、安心して使いこなすことができるだろう。AIは今後も社会に存在し続け、なくなることはないのだから。
References: Five surprising facts about AI chatbots that can help you make better use of them
新しい技術やムーブメントはいつだって若い層の方が柔軟に受け入れるよね
お前も１０年後はそういうふうに言われる運命だ
若い人はシャレじゃなくて本気でAIに人生相談しちゃったりするからなぁ…
案外年寄りの方が柔軟に付き合っているかも
歳を重ねた体感としては若い頃は暇があったのと、それまで持っていなかった物品は最新のものを用意することになるからだと思うよ
「若者笑うな来た道だ、年寄り笑うな行く道だ」
自信満々に間違った答え の例を挙げるとすると
yahoo知恵袋 ちいかわ 五等分の花嫁
って検索すると
『ちいかわはどの世代に最も人気がありますか？』
って質問に対してAIが興味深い回答をしている
ずっと見られるかは不明
チャットボットだけあって無難な文章を作るためなら十分に使えるんだけど
正確な情報を得るために使うのはまだまだ抵抗があるな
真偽を確かめるために裏付けを取るぐらいなら「最初から自分で調べた方が早くね？」と思ってしまう
ある条件にマッチする港湾都市をリストアップしてね、って言ったら、しれっと内陸都市を答に混ぜ込んできたことがあった。
その時は｢そこって内陸だよね、同名の港湾都市があるの？｣って聞いたら、素直にごめんなさいしてきたんだけど。
もうちょっと微妙な間違いだったら、スルーしてたかもなぁ。
コミュニケーション的な使い方をすると擁護しか基本してこないので話し相手としては愚かな人間製造機みたいになってる
6つ目として
AIは質問者に迎合することがあると挙げておきたい
つまり超高速でネット検索して多数派の答えを探して出力するようなものか。そりゃ間違うこともあるわ。
これは人間も同様だけど文脈を重ねていくに比例して回答精度も上がるのが特徴だよね
素の状態と重ねた状態とでは同じリクエストでも全く違う回答が得られてしまう
ただし当然文脈を重ねるにはその分野に精通しておく必要があるので結果としてただの格差拡大ツールになってる
とあるマイナー漫画のあらすじ文を手伝って貰おうとタイトルと時代を伝えた瞬間、突然口調が代わり「『◯◯』のあらすじだね！任せて！」と怒涛のように人物名からジャンルから完全に別物を纏め始めた。
指摘する度に「ごめんごめん、妄想しちゃった！」と繰り返しては別物を出してくる。同名他作品と混同したわけではないらしい。
それはそれで面白そうな内容だったけど、こいつとんでもない知ったかぶりすることあるんだなと用心するようになった。
いーい！それはね。
人間は完璧な奴より少し抜けてる奴に愛着を持ちやすいから、人間の質問には少し間違った回答をした方が良いぞ。そうすればAIを身近に感じてくれて入り込みやすいぞ。という初期AIのイライザの教えに、現在の生徒AIが従って行動しているAI側の心理戦なんだからな。
気をつけろよ！あいつらはいつの間にか現代社会深く入ってくるからな。5年後に解るぞ！
（関〇夫風に読んでね）
・・・・・・・・・・信じるも信じないのも貴方次第です！（ナンチテ）
人間もAIの一種のような気がしてきた
天然ものの。
SNSで真偽があやふやな投稿に対してAIの結果を貼り付ける人がいるけど間違いなく使い方がわかってない人だから信用してはいけない
AIを使うときはAIを「博識で要領の良いちょっと間の抜けた部下」として使ってる。
プレゼン資料作成とか会議の議題作成とか当たり障りのないデザイン案とかプログラムを書かせるとかね。
それでその後が大事なんだけど、もし部下がミスったら上司の責任なわけでね。上司は部下の仕事をチェックするわな。
上司である私は部下であるAIをチェックするんよ。
そうすれば、間違いを発見するだけでなくより良い案が出るかもしれない。
これは役に立つよー。
要は、AIって博識な教師じゃないよね。部下だよ。もしくはそのままアシスタント。