Las pegatinas que deciden lo que una máquina “cree”
En el cuartito de atrás de la biblioteca hay una mesa llena de libros nuevos y rollos de pegatinas de colores. Varias personas hojean y pegan: “apto para familia” o “ojo”. La bibliotecaria se queda con la pegatina más repetida. Idea simple: cómo juntas muchos juicios pequeños decide lo que el sistema aprende a creer.
La bibliotecaria piensa que, con muchas opiniones, las manías personales se compensan. Pero si varias personas son más duras con ciertos autores o personajes, no es un error al azar. Es un empujón siempre hacia el mismo lado. Si ese empujón se repite, la “más repetida” puede salir segura… y injusta.
Para comprobar si ese empujón pasa de verdad, se miraron montones de decisiones hechas por gente donde ya se sabía la respuesta correcta. Había casos de un entorno de justicia y también comentarios cortos en internet marcados como dañinos o no. Así se pudo ver dos cosas a la vez: acierto general y a quién le caían más los fallos.
Salió algo que rompe una suposición común. No solo se inclinaban quienes iban a lo loco. Hubo personas que acertaban bastante y aun así trataban a unos grupos peor que a otros. En la mesa de la biblioteca, es quien suele poner la pegatina correcta, pero marca con “ojo” a cierto tipo de autor más que a otros parecidos.
Y entonces el golpe para la “pegatina más repetida”. En muchos libros, el grupo que votaba estaba lleno de gente inclinada, aunque el filtro para llamarla “inclinada” fuera suave. El resultado final podía darse la vuelta frente a la etiqueta correcta, no por confusión, sino por mayoría. Si los echas, baja el acierto y se quedan libros sin etiqueta.
Se probó juntar votos de formas más listas, y a veces mejoraba un poco, pero no quitaba esa inclinación de forma segura. A ratos la empeoraba. Y cuando luego se entrenan herramientas con esas pegatinas torcidas, salen menos finas y más desiguales entre grupos. La bibliotecaria mira la mesa y entiende: si las pegatinas nacen torcidas, todo lo que venga después ya va guiado por eso.