جذور العدالة الخفية
في غابة واسعة، يراقب خبير بيئي خريطة لاخضرار الأشجار كلها، بينما يركز حارس الغابة على شجرة واحدة ذابلة. كلاهما يريد غابة صحية. الحكاية إن هذا ما يحدث عند تقييم أنظمة الكمبيوتر. المبرمج مثل الخبير يراقب المجموعات الكبيرة، وموظف البنك مثل الحارس يركز على قرض لشخص واحد. لفهم الصورة، يحتاج الاثنان لرؤية الجذور الخفية التي تغذي الجميع.
نظام الكمبيوتر الذي يحدد من يحصل على قرض بنكي يشبه شبكة جذور عملاقة ومخفية تحت الأرض توزع الماء. المبرمج الذي صنع النظام يرى فقط كمية الماء الإجمالية في الغابة، بينما يرى موظف البنك أن عميله لم يحصل على القرض. عندما يبدو القرار ظالما، لا يعرف الموظف لماذا تجاوزت الجذور عميله، ولا يرى المبرمج قصة هذا الإنسان. الحسابات المخفية تعزل كل طرف عن الآخر.
هنا يظهر حل جديد عبارة عن شاشة عرض بصرية تعمل كأنها صبغة مضيئة وآمنة سكبناها في التربة. هذه الصبغة تضيء شبكة الجذور بالكامل على شاشة مشتركة. بدلا من رؤية النتيجة النهائية فقط بالرفض أو القبول، تسمح هذه الشاشة للمبرمج والموظف بتتبع مسار القرار خطوة بخطوة. هكذا يمكنهم رؤية الروابط الخفية بين المعلومات وكيف يؤثر تفصيل صغير على النتيجة.
الآن يجلس المبرمج وموظف البنك أمام نفس الشاشة. المبرمج يبتعد بالصورة ليرى الخريطة المضيئة لكل الروابط، ويكتشف أي تحيز خفي في النظام بأكمله. وفي نفس الوقت، يقترب الموظف بالصورة ليرى طلب قرض مرفوض، ويقارنه بطلب آخر مقبول. يتتبع الموظف الخطوط المضيئة حتى يصل إلى المعلومات الأساسية، ليعرف بالضبط أين افترق المساران ولماذا.
هذه الخريطة المضيئة تثبت أن العدالة ليست مجرد مسألة حسابية ولا حكما بشريا فقط، بل مزيج ضروري من الاثنين. من خلال تحويل الحسابات المعقدة إلى مسارات مرئية واضحة، يتشارك صناع النظام ومستخدموه في العمل أخيرا. يعني هذا أن الناس العاديين الذين يطلبون قروضا سيتم تقييمهم بنظام يفهم الأنماط العامة للمجتمع، ويقدر تفاصيل حياتهم الفردية في نفس الوقت.