AIの公平さとビー玉の転がる床

AIが公平かどうかを確かめるために、石職人の「ビー玉テスト」を想像してみてください。敷き詰められた床が本当に平らなら、置いたビー玉は動きません。もし勝手に転がれば、そこには見えない「傾き」があるということです。

もしAIに「四角い石」だけを与えて学習させたらどうなるでしょう。これは特定の性別のデータしか知らない状態です。一見きれいな床に見えても、ビー玉を置くとすぐに隅へ転がってしまいます。材料が偏っていると、どうしても公平な土台が作れないのです。

そこで、四角い石に「丸い川原の石」も混ぜてみます。これは別の性別や異なる視点のデータを入れるということです。すると、丸い石が四角い石の隙間を埋め、お互いがガッチリと噛み合うようになりました。

出来上がった床は、単一の材料のときよりずっと頑丈です。ビー玉を置いても、ピタリと止まって動きません。多様なデータを組み合わせることで、偏りのないバランスの取れた判断ができるようになったのです。

驚くことに、人間の親方が作った床ではビー玉が少し揺れましたが、この混ぜ合わせの床では微動だにしませんでした。人間には無意識の癖がありますが、適切なデータさえあれば、AIは人間以上に公平になれるのかもしれません。