AI・先端テクノロジー

第17回　あなたの会社のAIは「あなたの会社らしく」ふるまえていますか？

• AIエージェント
• 生成AI

公開日 : 2026.08.04

著者 :

高柳 慎一（BCG Xパートナー）

世界の皆さん、おはようございます、こんにちは、こんばんは。BCG Xの高柳です。皆さんは最近、企業の問い合わせ窓口でAIエージェントと会話したこと、ありませんか？　ありますよね？　例えば「返品したいんですが……」と打ち込むと、数秒でスラスラと的確な答えが返ってくる。便利になったなあと思う一方で、なんとなく「どこの会社も同じ返し方だな」と感じたことはないでしょうか。今回は、この「どこも同じ」がなぜ企業にとって静かなリスクになるのか、そしてAIエージェントに必要なのは指示だけではなく、その会社ならではのアイデンティティ（らしさ）なのだ、というお話をしたいと思います。ネタ元は同僚が書いたBCGの論考ですが、私の目線でこれを解説します。

同じモデル・同じ性能なのに、顧客の印象が真逆になる

まず、こんな場面を想像してみてください。2つの小売企業A社とB社が、まったく同じ性能のAIを用いて、同じ「正確・親切・コンプライアンス順守」の基準でAIエージェントを構築したとします。そこへ2人のお客さんが、ほぼ同じ相談を持ち込む。「事情があって、返品期限をだいぶ過ぎてしまったんですが……」。

この問い合わせに対し、A社のAIエージェントは「効率と手順」を大事にする文化で育てられており、規定の返品ポリシーを淡々と当てはめて会話する。一方、B社のAIエージェントは「一流の顧客サービスとブランドへの愛着」を根っこに持っていて、お客さんの利用が長年にわたることを踏まえ、例外的に返品を受ける道を探す。どちらの振る舞いもAIエージェントの挙動として間違ってはいません。

しかし、顧客が受け取る印象は正反対で、B社のほうが好ましいのではないでしょうか？　そして仮に数百万回の接客を積み重ねたとき、この差は雪だるま式にA・B社の顧客満足度やブランドイメージに効いてきます。このA・B社それぞれのAIエージェントの違いを生む正体こそが「らしさ」、すなわち企業文化（カルチャー）なのです。

実はこれ、「企業版のアライメント問題」なんです

ここで、身近な例をひとつ。あるコールセンターで「1件あたりの通話時間を短くしよう」という目標を立てたとします。数字は測りやすいし、短ければ効率的。一見よさそうですよね。ところが現場では何が起きるか。オペレーターは電話を早く切ることに一生懸命になり、お客さんの話を最後まで聞かず、そっけない対応が増えていく。本当に大事だったのは「お客さんに満足してもらうこと」だったのに、測りやすい数字を追いかけた結果、本当の狙いからどんどん離れていってしまう。

実はこれ、経済学や統計の世界では昔から知られた話で、「グッドハートの法則」と呼ばれます。ひとことで言えば「ある指標が“目標”になった瞬間、その指標は良い指標ではなくなる」です。例えば通話時間という指標は、本来、効率のよさを測るモノサシでしかなかったのに、それ自体をノルマにした途端、みんながモノサシを縮めることに夢中になって、肝心の中身が空っぽになってしまう。そういうお話です。

そして、この「グッドハートの法則」をAIの世界ではアライメント（整合性）の問題と呼びます（詳しくはこの連載の第2回に書きました）。AIやAIエージェントは「与えられた何らかの目標（報酬）を最大化する」ようにできています。でも「わが社らしく、心のこもった接客を」なんて、そのままでは目標数字にできませんよね。だからAI開発の現場では、スピード、正確性、動作効率といった、測りやすい代わりの目標をついつい立ててしまう。すると冒頭の返品の話のように、システムはちゃんと動くのに、いつの間にか「その会社らしさ」が抜け落ちていく、そんな現象が起きるわけです。

量の指標だけを見て、質——つまり「らしさ」を見落としてしまうと、どこの会社のAIエージェントも定量化しやすい同じような指標で最適化され、その結果、同じような受け答えをし、冒頭で話した「どこの会社も同じ返し方だな」という状態になってしまうのです。文化なきAIは“金太郎飴”的AIを量産する、とも言えそうです。

あなたの会社「らしさ」はどうやって、AIに組み込まれるのか

では、目に見えない文化をどうやってAIに組み込むのでしょう。「誠実であれ」「顧客第一で」。こういう言葉は、そのままではAIが実行できる命令になりません。大きく分けると、アプローチは2つ考えられます。

1つ目はAIエージェントに直接埋め込んでしまうという発想です。AIエージェントへの入力（プロンプト）に、タスク指示だけでなく「何を最優先し、何を断り、迷ったらどう考えるか」という会社の人格を書き込む。例えば、信頼を旗印にする会社なら「確信が持てないときは正直にそう言え。会話を綺麗に終わらせるために、確信があるふりをするな」と入力する方法です。これはシンプルで調整しやすい、現実的な入り口でしょう。この発想をより深めた代表例が、私たちAI屋にはおなじみの、アンソロピックの「Constitutional AI（憲法AI）」です。明文化した憲法（原則集）をもとにモデル自身が出力を批評・修正するやり方で、AIモデルを作り上げ（学習させ）ながら価値観を焼き込んでしまうわけです。

2つ目は、ルールベースのガバナンス層です。AIエージェントの出力を顧客に届ける前に「この返答は自社の価値観に沿っているか」を自動でAIに審査させる、いわばリアルタイムの文化監査です。医療系の会社が、感情的にデリケートな場面で冷たすぎる言い回しを検知して、人間味や共感的対応の抜け落ちを未然に防ぐ、といった使い方が考えられます。

AIエージェントを「育てる」という発想を持つと差別化につながる

人を採用するとき、会社は能力だけでなく「うちのカルチャーに合うか」を必ず見ますよね。ところがAIやAIエージェントの話になると、AIとしての性能ばかりを評価して「らしさ」のフィットをほとんど問わない。これはバランスを欠いているのではないでしょうか。人に教えられないほど曖昧な文化は、AIエージェントにも組み込むことはできません。逆に、自社の価値観を人に教えられる粒度まで言語化し、AIエージェントを「育てる」という発想を持てる企業が次のフェーズで一歩先に行き、差別化が叶うのではないでしょうか？

AIエージェントが私たちの代わりに動く時代、「我が社は何を“らしさ”として、文化として掲げるか？」だけでは足りません。問われているのは、「私たちの代わりに動くAIエージェントも、我が社らしく振る舞えているか？」です。

皆さんの会社のAIは、ちゃんと“皆さんの会社らしく”ふるまえていますか？　

次回もお楽しみに、Catch you later！

高柳 慎一
ボストン コンサルティング グループ
BCG X パートナー

北海道大学理学部卒業。同大学大学院理学研究科修了。総合研究大学院大学複合科学研究科統計科学専攻博士課程修了。博士（統計科学）。株式会社リクルートコミュニケーションズ、LINE株式会社、株式会社ユーザベースなどを経て現在に至る。デジタル専門組織BCG Xにおける、生成AIを含むAIと統計科学のエキスパート。