AIの視線と、舞台裏のスポットライト

市民劇場の照明ブースでの出来事です。リハーサル中、自動追尾のスポットライトが主役の顔ではなく、衣装のキラキラしたベルトのバックルばかりを照らして困っていました。機械にとっては「一番明るい点」だけが重要で、その周りにある肝心の役者の表情は真っ暗な闇に沈んでしまうんです。

実はこれ、AIが画像を見るときに起きる問題とそっくりなんです。たとえば「犬」の写真を見ても、今のAIは鼻先や耳の尖った部分といった「一番目立つ点」だけを強烈に意識してしまいます。そのせいで、毛並みや全体のシルエットといった「普通の強さ」の情報が見えなくなり、まるで点だけで当てずっぽうをしているように見えていました。

そこで、あるチームがこの「照明卓」の配線を変えることにしました。今までは「一番強いライト以外は消す」という極端なルールだったのをやめて、それぞれのライトが独立して光れるようにしたんです。これなら、主役ほど目立たなくても、物語に必要な「中くらいの明るさ」の情報も消されずに残ります。

すると、舞台の景色が一変しました。刺すような一点だけの光がやわらかく広がり、役者の顔つきや立ち姿、手に持った小道具までがはっきりと浮かび上がったのです。ただの「まぶしい点」ではなく、そこにある「全体像」がつながって見えるようになりました。

こうして全体が見えるようになると、私たちもAIを信じやすくなります。「たまたま一点だけ色が似ていたから」ではなく、ちゃんと形や文脈を捉えて判断していることがわかるからです。ブラックボックスだったAIの頭の中が、少しだけ透明になったような感覚ですね。