精度95％の高性能な予測モデルが、現場で使われないまま放置されている。

その隣で、精度80％ほどの、少し見劣りするモデルが、すんなり受け入れられて活躍している。

こんな逆転劇が、実際のビジネスの現場ではしばしば起こります。

ここで言う「採用」とは、人材の採用のことではありません。

作ったモデルを、現場が信頼して業務に採り入れ、実際に使ってくれるかどうか。

その「モデルの採用」のことです。

せっかく高い精度のモデルを用意しても、現場に採用されなければ、その価値はゼロになってしまいます。

なぜ、より正しいはずのモデルが選ばれず、少し劣るモデルが選ばれるのか。

これは技術の問題ではなく、人間の問題です。

人を動かすのは「正しさ」ではなく「納得」だから。

今回は、その仕組みを心理の観点から読み解いていきます。

精度は高いのに、使われないモデル

　「95％当たる」のに現場が動かない

まず、冒頭の逆転劇を具体的に見てみましょう。

ある生産現場で、設備の故障を予測するモデルが導入されたとします。

精度は95％と申し分ありません。

ところが「来週、この設備が止まります」という警告に対し、保全担当者は動きませんでした。

理由を聞くと、「なぜそう言えるのか分からないものを信じて、生産を止めるわけにはいかない」。

同じことは営業でも起こります。

受注確率を高精度で弾き出すモデルがあっても、「なぜこの商談が低いのか」が分からなければ、担当者は自分の感覚を優先してしまいます。

数字がどれほど正しくても、理由の見えない予測は、現場の行動を変えられないのです。

そして皮肉なことに、こうして使われないまま眠るモデルは、「精度は高かったのに現場が非協力的だった」と誤解されがちです。

しかし本当の原因は、現場の姿勢ではなく、モデルが理由を語れなかったことのほうにあります。

　「80％だが理由が分かる」モデルは受け入れられる

一方で、興味深い対比があります。

精度は少し劣るものの、判断の理由を語れるモデルは、驚くほどすんなり現場に馴染みます。

「この設備が危ないのは、いつもと違う微細な振動が出ているからです」と根拠を添えられれば、ベテランは「なるほど、そこか」と腑に落ち、点検に動きます。

受注予測でも「この商談が低いのは、過去に同様の条件で失注が続いているからです」と示せれば、営業は納得して手を打てます。

精度で5％、10％劣っていても、理由が見えるモデルのほうが、実際には使われ、成果を生むのです。

考えてみれば、これは不思議な現象です。

より多く当てるモデルを選ばず、あえて説明できるモデルを選ぶ。

純粋に「正しさ」だけを基準にするなら、明らかに不合理な選択です。それでも現場が後者を選ぶのは、現場が愚かだからではありません。

人間が行動を起こすとき、正しさとは別のものを必要としているからです。その「別のもの」の正体を、次章で明らかにしていきます。

　これは技術課題ではなく「納得」の課題

ここで気づくべきは、両者を分けているのが精度ではない、ということです。

95％のモデルが敗れ、80％のモデルが勝つ

この差を生んだのは、技術的な優劣ではなく、「現場が納得できたかどうか」でした。

つまり、モデルが現場に採用されるかどうかを決める最後の関門は、精度という技術指標ではなく、人間の納得という心理の問題なのです。

ならば、その「納得」とは何なのかを、もう少し掘り下げてみる必要があります。

人は「正しさ」より「理由」で動く

　コピー機の実験——「なぜなら」の不思議な力

人がどんなときに「納得」して動くのかを、鮮やかに示した有名な実験があります。

1978年、ハーバード大学の心理学者エレン・ランガーらが行った、コピー機の順番待ちをめぐる実験です。

混み合ったコピー機の列に割り込ませてもらえるか、頼み方を変えて試したところ、結果は次のようになりました。

「すみません、先に使わせてください」

……とだけ頼んだ場合、承諾率は約60％。

ところが……

「急いでいるので、先に使わせてください」

……と理由を添えると、承諾率は約94％まで跳ね上がったのです。

たったひと言、理由を加えるだけで、これだけの差が生まれました。

冷静に考えれば、「急いでいる」という理由は、割り込みを正当化する強い根拠とは言えません。

列に並んでいる全員が、多かれ少なかれ急いでいるはずだからです。

それでも、理由が添えられた途端に、相手はすんなり譲ってしまう。

この結果は、人間の意思決定が、私たちが思うほど「内容の吟味」だけで動いているわけではないことを、鮮やかに示しています。

　驚くのは、理由の「中身」より「理由がある」こと自体が効いた点

この実験には、さらに驚くべき続きがあります。

ランガーらは、ほとんど意味をなさない理由でも試しました。

「コピーを取りたいので、先に使わせてください」

コピー機の列なのですから、誰だってコピーを取りたいに決まっています。

理由になっていない理由です。

ところが、それでも承諾率は約93％と、ちゃんとした理由の場合とほとんど変わりませんでした。

人は理由の「中身」を吟味する前に、「なぜなら」という言葉と、その後に何か理由らしきものが続くこと自体に反応して、承諾してしまうのです。

ただし、ここには見逃せない但し書きがあります。

コピー枚数を増やして「頼みごとの重さ」を上げると、意味のない理由はもう通用しなくなり、まっとうな理由だけが効きました。

つまり、軽い頼みごとなら理由の「存在」だけで人は動くが、重い決断になると、人は理由の中身をちゃんと吟味しはじめる、ということです。

　だから、根拠を語れるモデルは信頼される

この心理は、予測モデルの現場にそのまま当てはまります。

数字だけを突きつけるモデルは、「理由なしの頼みごと」と同じで、人を動かしにくい。

一方、「なぜなら、この要素がこう効いているからです」と根拠を添えるモデルは、人の「なぜなら」への反応を味方につけ、信頼を得やすくなります。

先ほどお話しした80％のモデルが勝った理由も、まさにここにあります。

人は、正しさそのものよりも、理由が示されることに安心し、納得して動くのです。

たとえばマーケティングの現場で、「このキャンペーンは効果が高いと予測されます」とだけ言われても、担当者はいまひとつ本腰を入れられません。

ところが「なぜなら、過去に反応の良かった層とこの企画の相性が高いからです」と一言添わるだけで、腰の重さが変わります。

予測の数字は同じでも、理由の有無が、人の初動をこれほど左右するのです。

「納得」がなければ、正しさは活かされない

　納得できない予測は、そもそも実行に移されない

ここで立ち止まって考えたいのは、「正しさ」だけでは何も起こらない、という厳しい事実です。

マーケティングで、解約しそうな顧客を高精度で予測するモデルがあったとします。

しかし「なぜこの顧客が解約しそうなのか」が示されなければ、担当者は具体的な引き止め策を打てません。

開発現場で、新製品の需要を精緻に予測しても、その根拠が腑に落ちなければ、生産計画の責任者はその数字に基づいて増産を決断できません。

納得できない予測は、どれほど正しくても、机の上に置かれたまま実行に移されず、成果を生まないのです。

　納得は、行動と「間違いの発見」の両方を生む

納得には、予測を行動に変える力があります。しかも、それだけではありません。

理由が共有されると、現場は「その理由は自分たちの感覚と合っているか」を検証できるようになります。

たとえば……

この予測は振動の変化が根拠だと言うが、
うちの設備でそれは考えにくい

こうした違和感から、モデルの見落としや思わぬ間違いに早く気づけます。

理由が見えないモデルでは、間違ったまま突き進んでも誰も止められません。

納得は、正しく使うための入り口であると同時に、間違いを食い止める安全装置でもあるのです。

さらに、納得はモデルへの信頼を長持ちさせます。

理由が見えていれば、たまに予測が外れても「今回はこの要因が読みきれなかったのだな」と受け止められ、次も使い続けようという気持ちになります。

ところが理由の見えないモデルは、一度大きく外すと「やはり信用できない」と一気に見放されがちです。

納得は、その場の行動だけでなく、モデルと現場の長い付き合いをも支えているのです。

　「正しいが使われない」より「納得できて使われる」

こうして見ると、一つの逆説が浮かび上がります。

事業へのインパクトという観点では、「正しいのに使われないモデル」より、「少し劣っても納得されて使われるモデル」のほうが、往々にして価値が大きいのです。

精度を1％上げるために多大な労力を注ぐより、理由を分かりやすく示して現場の納得を一段深めるほうが、実際の成果につながることは珍しくありません。

モデルの価値は、性能表の数字ではなく、それが現場で使われ、行動を生んで初めて実現します。

そして、その最後のひと押しをするのが「納得」なのです。

もちろん、精度がどうでもよいという話ではありません。あまりに外れるモデルは、いくら説明が丁寧でも信頼を失います。

言いたいのは、精度と納得は「どちらか」ではなく「両方」で考えるべきものだ、ということです。

十分な精度という土台の上に、納得という仕上げを乗せて、初めてモデルは現場で力を発揮します。

説明する技術（XAI）が本当に解いている問題

　XAIは精度を上げる技術ではない

近年、ブラックボックスな予測モデルに後から理由を推し量る技術が注目されています。

「どの要素が、この予測にどれだけ寄与したか」を可視化する、XAI（説明可能なAI）と総称される手法群です。

ここで押さえておきたいのは、これらの技術は、モデルの精度を1％たりとも上げるものではない、ということです。

予測そのものは何も変わりません。変わるのは、その予測に「理由」という付き添いがつくかどうか、それだけです。

一見すると、これは物足りない話に聞こえるかもしれません。「精度が上がらないなら、何の意味があるのか」と。

しかし、ここまでお話しした通り、現場でモデルが使われない原因の多くは、精度不足ではなく、納得不足のほうにあったのです。

だとすれば、精度を上げる技術よりも、納得を生む技術こそが、詰まっていた場所を開けてくれる鍵になります。

　XAIが埋めるのは「モデルと人の間の納得のギャップ」

では、精度を上げないこの技術は、いったい何の役に立つのでしょうか。

答えは、これまで見てきたことの中にあります。

XAIが埋めているのは、技術の穴ではなく、「正しいモデル」と「それを使う人間」の間に横たわる納得のギャップです。

どれほど正しい予測も、人が納得できなければ行動に変わらない。その最後の断絶に橋を架けるのが、説明する技術の本当の役割です。

XAIが解いているのは、突きつめれば技術の問題ではなく、人間の心理の問題なのです。

この視点に立つと、「精度は十分なのに、なぜか使われない」という悩みの正体が、はっきり見えてきます。

だからこそ、モデルを現場に導入するときは、精度を磨く努力と、説明を用意する努力を、別々のものとして並行して考える価値があります。

前者はモデルを「より正しく」し、後者はモデルを「より使われるもの」にします。

どちらが欠けても、現場での成果は生まれません。

性能の高いエンジンを積んでも、運転手が安心してアクセルを踏めなければ、車は走らないのと同じです。

　ただし「納得」は諸刃。「それっぽい説明」の危うさ

最後に、大切な注意点があります。納得は人を動かす強い力ですが、だからこそ諸刃の剣でもあります。

思い出してください。コピー機の実験では、「コピーを取りたいので」という中身のない理由でも、軽い頼みごとなら人は納得してしまいました。

同じことが、説明にも起こり得ます。もっともらしいだけで実態とずれた説明でも、受け手は「理由があるなら」と、つい信じ込んでしまう。

これは、納得を得る技術が、裏を返せば「誤った納得」を生む技術にもなりうる、ということです。

ただし救いもあります。

あの実験で、頼みごとが重くなると人は理由の中身を吟味しはじめたように、重要な意思決定の場面では、私たちも説明を鵜呑みにせず「この理由は本当に筋が通っているか」と吟味する姿勢を取り戻せます。

納得は、正直な説明の上に築いてこそ意味があるのです。

今回のまとめ

予測モデルが現場に採用されるかどうかを決めるのは、精度という技術指標ではなく、人間の納得という心理でした。

「95％の寡黙なモデルが敗れ、80％でも理由を語るモデルが勝つ」

一見不合理に見えるこの選択は、「人は正しさより理由で動く」という、私たちの根深い性質からすれば、むしろ自然なことだったのです。

だからこそ、説明する技術が本当に解いているのは、モデルをより正しくすることではなく、モデルを人間に受け入れられるようにすることだと言えます。

ただし、忘れてはならないのは、納得は誠実に勝ち取るべきものであって、都合よく作り出すものではない、という一点です。

もっともらしい説明で相手を丸め込むのではなく、正直で、後から検証にも耐える説明を積み重ねていく。

正しさと納得、その両方が同時に成り立つようにモデルを選び、育てていくこと。

それが、予測モデルを「予測精度の数字」から「現場を動かす力」へと変える、確かな道すじになるのではないでしょうか。