Скрытые корни справедливости
В лесу эколог изучает общую карту зелени, а лесник осматривает одну увядающую сосну. Так же мы проверяем компьютерные алгоритмы. Программист оценивает систему в целом, а банковский клерк смотрит на отказ конкретному человеку. Чтобы найти ошибку, им обоим нужно увидеть скрытую корневую систему, которая распределяет ресурсы.
Программа по выдаче кредитов работает как невидимые корни под землей. Создатели алгоритма видят только общий поток воды в лесу. Клерк видит лишь то, что его клиенту отказали. Из-за скрытой математики банковский работник не понимает причину отказа, а программист не замечает за цифрами человека. Они не видят картину целиком.
Новый визуальный интерфейс решает эту проблему. Он работает как безопасный светящийся краситель, который подсвечивает все корни на общем экране. Вместо сухого слова об отказе система показывает весь путь решения. Люди могут ясно увидеть, как одна деталь из прошлого клиента незаметно повлияла на итоговый результат.
А потом программист и клерк садятся за один экран. Программист отдаляет карту и видит перекосы в общих светящихся потоках. В это же время клерк приближает заявку клиента и сравнивает ее с одобренной. Он ведет взглядом по линиям до самых исходных данных, чтобы понять, где именно пути двух людей разошлись.
Эта карта доказывает, что честность требует и точных расчетов, и человеческого взгляда. Интерфейс переводит сложные формулы в понятные зрительные пути. Штука в том, что теперь люди могут проверять решения программы, опираясь на свое понимание законов общества и уникальные детали жизни каждого отдельного человека.