グッドハートの法則とAIメトリクスの専制

Amazonの従業員たちは、仕事を進めるためではなく、トークン消費スコアを水増しするためにバックグラウンドでAIエージェントを動かしている。MetaやMicrosoftの従業員も同様だ。この現象にはすでに名前がついている。「トークンマックシング」。成果と指標を混同したマネージャーを満足させるために、何の意味もないAI利用メトリクスを消費し、社内リーダーボードを操作する行為だ。

これはAIの問題ではない。経営管理そのものと同じくらい古い、マネジメントの問題だ。そしてこの問題にも名前がある。グッドハートの法則である。

英国の経済学者チャールズ・グッドハートは1975年に明快に述べた。「ある指標が目標になった瞬間、それは良い指標ではなくなる。」つまり、メトリクスに報酬や結果を結びつけた瞬間、人々が最適化する対象が変わる。本来その指標が表すべき成果ではなく、指標そのものを最適化するようになるのだ。

そのものを最適化するようになるのだ。 私は2018年（AIが話題になる以前）に「Blinkered by Targets（目標に盲目にされて）」という記事でこのダイナミクスについて書いた。ある営業担当のシニア・バイス・プレジデントが、今四半期の数字を達成するためだけに、飽和した市場で過剰販売をスタッフに求めなければならないと打ち明けてくれた。彼女は間違っていると分かっていた。スタッフも分かっていた。過剰販売は来四半期の結果を前借りするだけで、三ヶ月後にはより深刻な問題を生むことは明白だった。しかしKPIがそれを求めた。だからKPIはそれを手に入れた。彼女は悪いリーダーではなかった。良いリーダーが盲目にされていたのだ。指標だけに視野が狭められ、その背後にあるビジネスが視界から消えてしまっていた。

当時、彼女に伝えたことは、今日AIの利用KPIを導入しているリーダーたちにそのまま当てはまる。指標を忘れ、自分が本当に達成しようとしていることを問え。彼女がそれをした瞬間、一度の会話で完全な戦略的アジェンダが生まれた。恣意的な目標を達成する必要のないもの、すべてがビジネスにとって真に有益なものが。

AIバージョンのこの失敗は、イノベーションの言語をまとって現れるだけに、より陰険だ。企業はこれらの目標を「販売割当」とは呼ばない。「AIフルエンシー指標」「導入ベンチマーク」「トークン消費目標」と呼ぶ。フレーミングは進歩的だ。ロジックは同一だ。Amazonは開発者の80%以上に毎週AIツールを使うよう求め、社内リーダーボードで消費量を追跡した。一部の開発者は、数字を最大化するためだけに、何の業務価値もない無意味なタスクに社内AIプラットフォームを使うことで応じた。指標が目標になった。目標がゲームになった。グッドハートの法則、まさにその通りに。

ダメージはトークンの無駄遣いにとどまらない。AIが生成したミスがプロジェクトを遅延させ、設備を損傷し、効果に関わらず使用を強制されたシステムに苦しむ従業員が生む財務的損失の報告が相次いでいる。経験豊富なプロフェッショナルたちは、専門知識を真の問題解決に活かすのではなく、AIのアウトプットの修正係に追いやられている。そして最も腐食性の高い影響（最も測定しにくいもの）は、リーダーシップが実際に何を価値とするかについて送られるシグナルだ。成果を生むのではなく利用数字を達成することで報われると、従業員はすぐに学ぶ。評価されるのはコンプライアンスだと。卓越性でも、判断力でも、いかなるAIにも代替できない種類の専門的裁量でもなく。

私は最近の記事で、AIから真のリターンを得ている企業は「どうAIでコストを削減するか」を問うていないと論じた。彼らは「AIによって、これまで決してできなかったことで何ができるか」を問うている。それが戦略的な問いだ。未来のビジョンから出発し、逆算する。AIは加速装置になる。大胆なことを、これまで届かなかったスピードとスケールで可能にするツールに。

AI利用メトリクスはまったく逆の方向を向いている。現在から出発しているのである。ツールはここにある、目標はここにある、コンプライアンスはこういうものだなどと。そして、より多くのトークンが消費され、リーダーボードへの不安が増すだけで、現在と見分けのつかない未来へと積み上げていく。それはプランだ。グッドハートの法則は、それがリターンにならないことを保証する。

Amazonの例には示唆に富む詳細がある。社内AIツール「Kiro」が複数のAWSの障害を引き起こした。それでも同社は開発者をそこへ向かわせ続けた。潜在的にはより優れた外部の代替品から遠ざけながら。この場合、メトリクスが奉仕していたのは企業戦略だった。社内製品の普及、競合他社への依存度の削減。従業員の有効性ではない。ビジネスの成果でもない。その指標は、主張していた内容について決してそうではなかった。そして組織の全員がそれを知っていた。

それこそがグッドハートの法則が最終的に暴露するものだ。目標が指標を腐敗させるということだけでなく。目標の選択が、リーダーシップが実際に何を信じているかを、そしてそれを証明するために何を犠牲にする覚悟があるかを明らかにするということを。

すなわち、組織にAIを導入しているすべてのCEOへの問いはこれだ。あなたのAI指標は実際に何を測定しているのか。正直な答えが「従業員がツールをどれだけ使っているか」であれば、あなたが持っているのは戦略ではなく、コンプライアンス体制だ。インプットを測定しているのであって、アウトカムを測定していない。そして、かつてないことをAIで実現できるかもしれないあなたの優秀な人材が、何も教えてくれない数字を達成するために、バックグラウンドでエージェントを動かしている。

導入率を忘れるべきだ。そして代わりに問いを投げかけて欲しい。あなたのビジネスは6ヶ月前にはできなかった何ができるようになったか。以前はそれを無視するために人員を必要としていた問題が、今は解決されているか。組織のどのリーダーが、AIがなければ下していた判断よりも真に優れた判断を下すためにAIを活用したか。

それらは答えるのが難しい問いだ。ダッシュボードの快適さに抵抗する。しかし問う価値のある唯一の問いだ。なぜなら、それらはビジネスについてのものであり、指標についてのものではないから。

指標が目標になったとき、それは良い指標ではなくなる。それは2018年の販売KPIについても言え、2026年のAI利用メトリクスについても言えることだ。そして次に来るいかなる指標についても真実であり続けるだろう。計測器をそれが仕えるべき成果と混同する誘惑に抵抗しない限り。