보이지 않는 뿌리를 밝히는 형광 염료

울창한 소나무 숲에서 생태학자는 항공 지도를 보며 숲 전체가 얼마나 푸른지 살핍니다. 반면 동네 숲 지킴이는 시들어가는 나무 한 그루 앞에 무릎을 꿇고 옆의 건강한 나무와 무엇이 다른지 비교하죠. 두 사람 모두 숲이 건강해지길 바라지만 서로 완전히 다른 언어로 이야기하고 있습니다. 우리가 인공지능의 공정성을 확인하는 방식도 딱 이렇습니다. 개발자는 숲 전체를 보는 생태학자처럼 시스템이 큰 집단을 평등하게 대하는지 확인하고, 은행 직원은 지킴이처럼 특정 고객이 억울한 일을 당하지 않았는지 살피거든요. 문제를 고치려면 두 사람 모두 영양분을 나누는 숨겨진 뿌리 연결망을 똑같이 볼 수 있어야 합니다.

대출을 심사하는 자동화 시스템은 마치 물을 나누어주는 거대하고 보이지 않는 땅속 뿌리 연결망과 같습니다. 시스템을 만든 개발자는 숲 전체에 물이 얼마나 공급됐는지만 봅니다. 반면 고객과 직접 만나는 은행 직원은 눈앞의 고객이 대출을 거절당했다는 사실만 알 수 있죠. 결과가 불공평해 보여도 은행 직원은 왜 뿌리가 내 고객만 피해갔는지 알 길이 없고, 개발자는 개인의 억울한 사연을 보지 못합니다. 복잡한 수학 공식이 서로의 시야를 가려버려서 도대체 무엇을 고쳐야 할지 합의하기가 어려운 겁니다.

근데 최근 개발된 새로운 시각화 화면이 이 문제를 해결했습니다. 마치 흙 속에 무해한 형광 염료를 부어서 얽히고설킨 뿌리 전체를 하나의 화면에 반짝이게 드러내는 것과 같죠. 이 새로운 화면은 단순히 합격과 불합격이라는 결과만 보여주는 게 아닙니다. 개발자와 은행 직원이 대출 심사의 정확한 경로를 함께 따라가 볼 수 있게 해줍니다. 고객의 여러 배경 정보가 서로 어떻게 몰래 영향을 주고받았는지 그 숨겨진 연결 고리들을 선명하게 보여주는 것이죠.

이제 개발자와 은행 직원은 같은 화면 앞에 나란히 앉아 함께 일할 수 있습니다. 개발자는 화면을 넓게 확대해서 반짝이는 전체 지도를 보며 시스템 흐름 속에 숨어 있던 편향성을 쉽게 찾아냅니다. 동시에 은행 직원은 거절당한 특정 신청서를 확대해서 승인된 신청서와 나란히 놓고 비교할 수 있습니다. 반짝이는 선들을 따라 가장 처음 입력된 정보까지 거슬러 올라가면, 도대체 어느 지점에서 두 사람의 운명이 갈라졌는지 정확히 확인할 수 있거든요.

이 반짝이는 지도는 공정성이란 단순히 수학 문제나 인간의 감각 중 하나만으로 해결될 수 없다는 걸 보여줍니다. 복잡한 계산 과정을 누구나 볼 수 있는 투명한 길로 번역해 주면서, 마침내 시스템을 만드는 사람과 사용하는 사람이 힘을 합칠 수 있게 된 겁니다. 이제 평범한 사람들도 사회 전체의 큰 흐름은 물론이고 개인의 고유한 삶의 모습까지 모두 이해하는 시스템에서 평가받을 수 있게 되었습니다.