1万8000杯の水を注文する動画がバズったことでタコベルがＡＩドライブスルーを再考

この画像を大きなサイズで見る

　アメリカの大手ファストフードチェーンの「タコベル（Taco Bell）」が、ドライブスルーで導入していたAIによる自動応答システムの利用を考え直すと発表した。

　客が「水を1万8000杯」注文するという、悪ふざけ動画が拡散して話題になったほか、注文をAIが理解できず、客が苛立つ場面を収めた映像も広まったからだ。

　こうした事例を受け、同社はAIの全面展開を一旦保留し、店舗や時間帯に応じて人間のスタッフが介入する運用へと方針を修正するそうだ。

ストレスフルな時もある「AI対応のドライブスルー」

　タコベルでは2023年から、ドライブスルーでの顧客対応の支援策として、AIによる自動応答システムを導入した。

　現在では全米の500以上の店舗で、このAIによる対応をしているそうだ。

　AIの顧客に対する応対は、下の動画のような感じだ。

　「こんにちは、タコベルへようこそ！」という挨拶から始まって、キャンペーンコードの有無を確認したり、注文を聞いて復唱する。

　サイズや数もちゃんと確認。カスタマイズも把握しているみたいだが、注文が長くなったり複雑になったりすると、途中で人間のオペレーターに変わる仕組みとなっている。

　当初はこの取り組みに自信満々だったタコベル側。AIの導入について、次のように説明していた。

従業員のバックオフィス業務を強化し、顧客にはAIが対応するという新たな体験を楽しんでもらい、効率化を目的としています

　要するに、ドライブスルーで注文する顧客の相手をAIに任せることで、従業員は他の仕事に専念し、顧客の注文は効率化できるはずだった。

　TikTokやYouTubeなどの動画媒体には、タコベルでのAIとの会話の様子を撮影した動画がたくさん投稿され始めた。

　例えばこれ。「マウンテンデューのラージサイズ！」と注文しているにもかかわらず、スルーして「お飲み物はどうなさいますか？」と聞いて来るAI。

　そしてこんな人も現れた。タコベルのAIに向かって、「1万8000杯の水を頼む」と注文する投稿者。

　AIが「OK」と返事しそうになったタイミングで、生きている人間のスタッフが割って入って対応を代わった。

View this post on Instagram

A post shared by Brad Huber (@officialbradhuber)

AIを忌避する声や擁護する意見

　この動画は「AIを回避する方法」と銘打ってYouTubeにも転載され、それぞれ2千万回を超す再生回数を記録するほど注目が集まった。

　動画を見た視聴者たちからは、自身の経験談やAIに対する不信感、逆に擁護する意見などがたくさん寄せられている。

• AIが「オッケー」と言いかけた瞬間に遮断されてシステムが切られたのは、爆弾解除の映画みたいで笑った
  • 人間のオペレーターが最後の一瞬でAIを止め、1万8000杯の水が出てくるのを防いだんだ
• 疲れ切った声で対応していた店員がちょっと気の毒だった
  • あの人は初めてじゃなく、何人も同じ悪ふざけに遭遇してそうだ
  • AIの対応が続く限り、また同じことをやるヤツは出てくるだろうしね
• 従業員がAIの口を塞ぐイメージが浮かんで笑った
• 一番面白いのは、従業員がこのやり取りを最初から最後まで聞いていたってこと
• 数年前Taco Bellで働いてたけど、あの会社はマジで人員削ってばかり。ドライブスルー担当しながらフロントレジもやらされる。どうやって2か所同時に回せって言うんだ。現場は地獄だよ。今回の件で店員は相当ストレスを感じただろうし、辞める寸前なんじゃないか
• 自分ももう体験済み。注文してたらAIが何度も「他にご注文は？」と繰り返し、最後には画面が勝手に消えた。父が「元に戻せ！」と怒鳴って、笑えるけどイライラした
• 結局、AIなんて見かけ倒しで、中身が伴ってなかったんじゃないか…
  • 1万8000杯の水を注文しただけでシステムがバグるなら、それはAIの問題じゃなくてシステム設計の怠慢だ。基盤技術のせいにすべきじゃない
  • 動画ではAIが「1万8000杯の水」を受けた瞬間に人間のオペレーターに切り替わった。むしろ予想通りの動作で、なぜこれをAI失敗の例として取り上げるのかわからないよ
• ほとんどのケースでAIはちゃんと動作していて、付加価値を生んでる。過去15年でAIがどれだけ進化したか見れば、こんな問題9か月後には存在しない。30年前に「ネットなんて虚構だ」と言っていた人たちと同じだよ
• 口頭じゃなくて、アプリなら簡単なのに。アプリで注文して番号を伝えて受け取ればそれで終わりだ
  • アプリは個人情報を抜かれるからって、忌避する層が一定数いるんだよな
• これはAIの問題じゃない。怠惰な実装の問題だ。AIは「可能かどうか」なんてわからないし、将来的にも理解できる保証はない。だから必要なのはAIの出力を検証する別の仕組みだ。注文内容と数を解析して、メニューと照合し、数量が常識的範囲を超えてないか確認する。これで十分だ
  • 必要なのはAIじゃなくて、従来型のチェック機構だよ。人間の入力だって「指が滑って1万8000杯」と打ち込むことがある。そんな異常値や金額は、本来マネージャー承認が必要だろう。仮に正規の注文だったとしても、店がその数を提供できるとは限らない
  • つまり「明らかにおかしい注文は承認制にすべき」という話だよね。人間だって間違える。自分も何度も違う注文を渡されたことがある。でも「1万8000杯の水」なんて人間なら絶対に対応しない
• 正直、この程度の問題でシステム全体を撤回するのは大げさだ。マクドナルドのタッチスクリーンでも似たような「バカ注文」があったけど、それで撤去されたわけじゃない。バグを直して終わりだよ
  • タッチスクリーンは客が自分で訂正できる。でもAI音声は客が訂正できないからやっかいなんだよ

正解はAIと人間による「ハイブリッドな」運用？

　タコベルではAIの導入以来、ウイルスによる不具合に直面したものの、200万件の注文が正常に処理されたと述べている。

　この事態に、タコベルの最高デジタルテクノロジー責任者であるデーン・マシューズ氏は、次のように語っている。

正直に言うと、私たちは本当に多くのことを学んでいます。皆さんと同じように期待外れに終わることもありますが、時には本当に驚かされることもあります。

チームとしては、現場に「このような時はAIを使う」よう勧めたり、「AIを実際にモニターして、必要に応じて介入する」よう勧めたりするつもりです

　タコベルだけじゃなく、マクドナルドもAIによるドライブスルー対応の見直しを余儀なくされている。

　2024年にはIBMと提携して行っていた実装実験を終了。勝手に注文を追加したり、あり得ない組み合わせ（アイスクリーム＋ベーコンなど）を薦めたりなど、客からの苦情が殺到したんだそうだ。

　現在、マクドナルドでは顧客対応すべてをAIにやらせるのではなく、生成AIを利用した音声サービスを導入することでドライブスルーに対応。

一方、ウェンディーズはGoogle Cloudと連携した「FreshAI」の展開を2025年に500〜600店舗規模へ拡大する計画だ。

　つまり、ファストフード業界でのAI活用の方向性は一枚岩ではなく、各社が「どこまで自動化し、どこで人を介在させるか」を探っている段階だと言えるだろう。

この画像を大きなサイズで見る

　まあ、人間が対応していてもオーダーミスや聞き間違いなんかは常にあるわけで、最近のドライブスルーは音声の聞きやすさや確認画面の見やすさなど、だいぶ進化してきていると思う。

　混雑度や客層、注文の複雑さといった、環境に応じた「使いどころ」さえ間違えなければ、AIによる自動音声対応は、有効な手段であることは間違いない。

　今回のタコベル経営陣のAIへの再評価は、「撤退」ではなく、より現場に適合した「ハイブリッドな運用」への移行という位置づけである。

　AIの単独運用を避け、人間による即時介入を可能にすることで、イレギュラー入力や悪用に対し、現実的な耐性を高められるだろう。

References: Taco Bell Slows Down AI Rollout After '18,000 Water Cups' Prank Crashes System

• #海外の反応
• #AI
• #話題
• #ドライブスルー
• #注文