por Dr. Horacio Krell*
La mente humana como la IA pueden ser herramientas poderosas si se les entrena bien. La IA no es inherentemente buena o mala; su valor dependerá de cómo la utilicemos para mejorar la sociedad y no para replicar sus defectos
La Naturaleza del Prejuicio
Los conflictos que excluyen a las personas tienen su origen en prejuicios profundamente arraigados. Estas ideas preconcebidas marginan al «otro» basándose en características como raza o grupo social, sin análisis crítico. El prejuicio lleva a estigmatizar sin pruebas, evitando el debate y prefiriendo la agresión al razonamiento.
Uno de los principales problemas es que muchos no son conscientes de sus propios prejuicios. El «efecto Halo», por ejemplo, nos lleva a atribuir cualidades positivas o negativas en función de características superficiales, mientras que la «ilusión de validez» nos hace confiar en predicciones sin fundamento.
El cerebro humano está diseñado para saltar a conclusiones rápidas, lo que facilita el fanatismo y la seguridad dogmática. Sócrates enseñaba que «una vida no examinada no merece ser vivida», recordándonos la importancia de cuestionar nuestros propios prejuicios.
Técnicas para combatir los prejuicios
Existen varias estrategias para mitigar el impacto de los prejuicios:
- El método del abogado del diablo: Cuestionar activamente los prejuicios para reconocer sus peligros.
- La indagación dialéctica: Evaluar un plan junto con su contraplan para obtener una visión completa.
- La perspectiva externa: Considerar enfoques opuestos para entender las limitaciones de nuestras creencias.
Estas técnicas ayudan a reducir las decisiones impulsivas y permiten un análisis más profundo.
El ejemplo de Asimov sobre la relatividad de la inteligencia
El Dr. Isaac Asimov, famoso escritor de ciencia ficción, relató una anécdota en sus memorias que pone de manifiesto cómo la inteligencia es una función de la situación y el contexto. A pesar de su alto puntaje en una prueba de aptitud intelectual, Asimov se encontraba realizando tareas de cocina en el ejército. Su mecánico, a quien consideraba intelectualmente inferior según los estándares académicos, era capaz de resolver problemas que Asimov no entendía.
En una ocasión, el mecánico contó la historia de un sordomudo que pidió clavos en una ferretería usando gestos, y luego preguntó cómo creía Asimov que un ciego habría pedido tijeras. Asimov, creyendo estar en lo correcto, hizo el gesto de cortar con los dedos. El mecánico se rio y le explicó que el ciego simplemente había pedido tijeras con su voz.
Estaba seguro de que no acertaría.»¿Por qué?, le pregunté. ´´Porque es tan educado que sabía que no podría ser muy inteligente».
Este ejemplo subraya cómo la inteligencia no es absoluta ni universal, sino situacional y adaptativa, lo que resalta la importancia de no caer en prejuicios simplistas sobre la capacidad intelectual de los demás.
La mente se maneja con dos sistemas
Uno es rápido y automático, da respuestas con lo que tiene en la memoria, y el otro es racional y se ocupa de las tareas complejas. El sistema 1 se activa automáticamente y rastrea la información que se adecua a la cuestión, según la Ley del menor esfuerzo.
El Sistema 2, es más lento y prudente. Observa y controla el pensamiento y las acciones sugeridas, dejando que actúen o reprimiendo o modificando sus sugerencias.
Muchas acciones no resultan del análisis. Las consecuencias son decisiones apresuradas, errores frecuentes, opiniones sesgadas, juicios subjetivos y respuestas intuitivas.
Solo cuando entra en juego el Sistema 2, que posterga las sugerencias del sistema emocional e invierte en un esfuerzo cognitivo, podemos resolver problemas complejos. Conviene analizar la racionalidad a través de los errores más que de sus triunfos.
Los prejuicios en la inteligencia artificial
Al igual que la mente humana, la inteligencia artificial (IA) también puede estar sujeta a prejuicios. Dado que la IA aprende a partir de datos proporcionados por humanos, puede replicar errores y sesgos presentes en esos datos. Un ejemplo claro fue el chatbot de Microsoft, «Tay», que en menos de 24 horas de interacción en Twitter se volvió racista debido a la exposición a comentarios sesgados.
¿Qué se puede hacer para prevenir esto? La auditoría de algoritmos debe ser interdisciplinaria, integrando tanto escepticismo como ciencias sociales. Los prejuicios en la IA pueden automatizarse si no se detectan y se corrigen, lo que puede ampliar los problemas en lugar de resolverlos. Por tanto, es vital entrenar estos sistemas con datos balanceados y críticos.
Como mencionaba Platón hace casi 2500 años, la lectura y la escritura ya enfrentaban críticas por reducir el conocimiento a datos o erosionar la memoria. Hoy, con la inteligencia artificial, enfrentamos un reto similar: evitar que la tecnología nos aleje del pensamiento crítico y creativo. En definitiva, tanto la mente humana como la IA pueden ser herramientas poderosas si se les entrena bien. La IA no es inherentemente buena o mala; su valor dependerá de cómo la utilicemos para mejorar la sociedad y no para replicar sus defectos.
