Algoritmos como instrumento de detección de decisiones humanas discriminatorias (SJS\5 Vigo 30/11/22)
“El uso de algoritmos para la toma de decisiones no está desprovisto de algunos riesgos,
especialmente, porque (entre otro motivos) si los datos que los alimentan están sesgados, muy
probablemente, esto contaminará la decisión final (es lo que se conoce como: «garbage in, garbage
out» – GIGO).
Sin menoscabar el potencial dañino de esta circunstancia (y, especialmente, el impacto que se deriva
de la escalabilidad de la herramienta) tendemos a olvidar que los algoritmos (o las fórmulas más o
menos complejas) también pueden contribuir a desvelar los sesgos ocultos de las personas.
El cerebro humano es una «caja negra» biológica. De modo que (aunque su impacto normalmente
no es escalable, o mucho menos), no sólo puede cobijar sesgos, sino que, además, si son sesgos
conscientes, nuestra inteligencia nos permite esforzarnos para tratar de enmascararlos (aportando
una sofisticada argumentación para justificar una decisión).