見えない根っこを照らす地図

深い森の中で、学者が空からの地図で森全体の緑をチェックしています。その足元では、森の管理人が一本の枯れかけた木を心配そうに見つめています。森全体を見る人と、一本の木を見る人。どちらも森を元気にしたいのに、見ている世界が全く違います。実は、銀行の自動システムが公平かを確かめる時も、これと同じことが起きています。全体を見るプログラマーと、目の前のお客さんを見る窓口の担当者は、水や養分を配る「見えない根っこ」の仕組みを一緒に理解する必要があるんです。

誰にローンを貸すかを決めるシステムは、地中で水を配る見えない根っこのようなものです。システムを作ったプログラマーは、森全体にどれくらい水が撒かれたかしか見えません。一方、お客さんと話す窓口の人は、目の前の人が審査に落ちたことだけを知ります。なぜその人に水が届かなかったのか、窓口の人には見えません。プログラマーにも、一人ひとりの事情は見えません。難しい計算が壁になって、どこを直せばいいのか話し合うことができないでいました。

そこで新しく作られた画面は、土の中に安全で光るインクを流し込むような働きをします。一つの画面の上で、根っこのネットワーク全体がパッと明るく浮かび上がるんです。ただ結果だけを見るのではありません。この画面を使えば、システムがどうやってその結論を出したのか、光る道筋をそのまま目でたどることができます。一見関係なさそうな背景のデータが、実はこっそり結果に影響していた、というような隠れた繋がりもはっきりと見えてきます。

同じ画面の前に座ることで、プログラマーと窓口の人はついに一緒に作業できるようになりました。プログラマーは画面を引いて光る地図の全体を見渡し、システム全体の偏りを見つけ出します。一方で窓口の人は、審査に落ちた特定の人のデータにズームインします。そして審査に通った人のデータと並べ、光る線を最初の情報までさかのぼっていくんです。そうすることで、どこで二人の道が分かれたのかを正確に突き止めることができます。

この光る地図が教えてくれるのは、本当の公平さは計算だけでも、人間の感覚だけでも作れないということです。複雑な計算を分かりやすい光の道筋に翻訳したことで、システムを作る人と使う人が、やっと手を取り合うことができました。つまり、私たちが銀行でローンを申し込む時、社会全体の大きなパターンと、一人ひとりの細かな事情の両方をちゃんと理解してくれるシステムに、正しく見てもらえるようになるということです。