Sesgos, heurísticos y otros atajos del
pensamiento
¿Por qué el ruido de un tubo de escape y la palabra
“tirador” pueden provocar una estampida de transeúntes en Nueva York? ¿Sabías que cuanto menos atractiva
es una persona acusada de estafa, más posibilidades tiene de evitar la condena? El pódcast de Prodigioso
Volcán que te guía por los túneles de la mente para conocer sus atajos… y sus fallos.
—Si la mente humana
fuera un videojuego, los sesgos serían esos falsos atajos que te lo ponen difícil para pasar de nivel
La racionalidad humana no tiene nada de perfecta: está configurada de forma que es funcional en ciertos contextos y disfuncional en otros.
Cuando tomamos una decisión, no accedemos a toda la información disponible ni somos
completamente imparciales, sino que estamos influidos por mecanismos mentales como los sesgos. A veces, estos
nos ayudan a pensar más rápido, pero también nos llevan a cometer errores.
Porque podemos estar saboteando nuestras propias decisiones y proyectos pese a
tener la mejor de las intenciones. Todo ello, en un momento en el que empieza a ser habitual delegar
estas tareas en sistemas de inteligencia artificial. En los últimos años, el desarrollo de algoritmos
que reproducen prejuicios y sesgos cognitivos ha hecho saltar las alarmas. El mundo profesional está
cada vez más concienciado con la diversidad, la sostenibilidad y la inclusión, pero los sesgos —los
nuestros y los de las máquinas— pueden ir en su contra incluso de manera inconsciente.
Los sesgos cognitivos son alteraciones de nuestra mente a la hora de procesar la
información. Pueden conducir a nuestro cerebro a una conclusión incorrecta o una interpretación
incoherente. Surgen cuando necesitamos actuar rápido, cuando hay demasiada información o no tenemos
suficiente, o cuando nos vemos forzados a recordar. Expertos como Massimo Piatelli —profesor de
lingüística y ciencia cognitiva en la Universidad de Arizona— los han definido como los
“túneles de la mente”, las alcantarillas ocultas bajo nuestra actividad cerebral.
Ante todo, piensa en el impacto que pueden tener estas trampas de la mente a la hora de decidir. Si una persona no se cuestiona sus sesgos, puede terminar contratando perfiles de un mismo origen socioeconómico o diseñar un producto que se ajusta más a sus preferencias que a las del usuario final, por ejemplo. También afectarán a las relaciones entre los equipos, a la toma de decisiones de mercado y a los resultados que se obtengan en los test de usuario.
Conocerlos y tener una guía para identificarlos nos ayudará a detectar tendencias
de comportamiento en consumidores y usuarios, pero también revelará los puntos ciegos en los que
podemos caer como equipo u organización. Establecer una lista con los sesgos más comunes en función de
tu actividad y sector puede ser un primer paso eficaz.
—Para orientarte en los túneles de la mente
El concepto de sesgo cognitivo fue acuñado por el psicólogo Daniel Kahneman
en un artículo publicado junto a Amos Tversky en 1972, cuando se
percataron de que las personas no podemos razonar de forma intuitiva con magnitudes muy grandes de
información.
Sin embargo, el economista Herbert Simon ya había allanado el camino años atrás. En
1947 publicó Comportamiento administrativo, donde hablaría por primera vez del modelo de
racionalidad limitada, que plantea que las personas tomamos decisiones de forma parcialmente irracional a
causa de nuestras limitaciones cognitivas, de información y de tiempo.
Este modelo surgió como reacción a las teorías de la racionalidad, muy
populares en ciencias políticas y económicas, que proponen que los humanos somos seres racionales que
decidimos cuál es la solución óptima para cada problema utilizando todos los datos a nuestro alcance.
Frente a la idea clásica del "hombre económico", Simon defendió la visión del “hombre
administrativo”.
Millones de "piezas" de información por segundo. Es lo que el psicólogo social y profesor universitario Timothy Wilson estima que absorbe la mente humana mediante los sentidos. Sin embargo, solo somos capaces de procesar 40 de esas 11 millones. Lo cuenta en su libro Strangers to Ourselves: Discovering the Adaptive Unconscious (2002).
Ramas como la medicina, la psicología o las ciencias políticas empezaron a interesarse por los sesgos cognitivos. Así surgió la disciplina de la Economía conductual, que encumbraría a Kahneman tras ganar el Premio Nobel de Economía en el año 2002. Según Kahneman, nuestra forma de reaccionar racionalmente al medio tiene dos modalidades.
Es el modo en el que trabajamos la mayor parte del tiempo: el cerebro reutiliza una biblioteca de rutinas de lenguaje, pensamiento y acción que han funcionado en el pasado. Como cuando en un deporte se automatizan las jugadas de manera que los deportistas no tengan que pararse a pensar cada vez. Es en ese contexto donde pueden surgir los sesgos, cuando intentamos ordenar y comprender el mundo de forma demasiado rápida a través de los instintos, experiencias previas y estereotipos.
Es una modalidad basada en reglas, analítica y muy controlada respecto a la intensidad de las emociones. Requiere de mucha atención e información para tomar decisiones y tiende a pensar más en probabilidades que en estereotipos. Por ejemplo, aprender a conducir, un tipo de aprendizaje que pasará al pensamiento rápido una vez se automatice.
Si vas a jugar en modo rápido tienes que saber que hay ciertos obstáculos
que no te lo pondrán fácil para pasar de nivel. Quizá no sean aguas venenosas, lagos de lava o muros de
ladrillo, pero son capaces de cegarte ante la propia realidad.
Un estudio realizado en 2015 por la Universidad Nacional del Sur (Argentina)
identificó los heurísticos más comunes en la actividad empresarial de las pymes de la región de
Bahía Blanca (Buenos Aires). Se trabajó con una metodología de panel de expertos: investigadores de dos
universidades locales y referentes del mundo de las pymes definieron el nivel de presencia de cada
heurístico. Se concluyó que los más observados son el de la disponibilidad, el de representatividad y el
de la sobreconfianza.
La tendencia a pensar que si algo puede ser recordado debe ser importante. Las personas suelen inclinar sus juicios hacia la información más reciente o disponible, pensando que si es lo primero que nos viene a la mente se debe a la frecuencia o probabilidad con que ocurre. Por ejemplo, considerar más peligroso viajar en avión que en coche porque los accidentes aéreos tienen más cobertura mediática y los recordamos durante años.
Consiste en realizar juicios en la medida en que algunas situaciones se parecen a otras situaciones o categorías. Para ello hay que determinar si la persona, acción o suceso es representativo de una clase y, si se decide que lo es, se considerará probable que pertenezca a esa clase. Atribuir características a una persona nada más conocerla por cómo viste, por ejemplo.
Se da cuando una persona confía más en sus propios conocimientos y habilidades para tomar decisiones de lo que debería desde un punto de vista objetivo y de lo que confiaría en otras personas en las mismas circunstancias. Por ejemplo, cuando un político asegura que va a resolver un problema estructural que sus antecesores han sido incapaces de gestionar.
Un poco de autocrítica y perspectiva transversal para ser más
imparcial, eficaz e inclusivo en cualquier proyecto en el que te embarques. Un kit de supervivencia
contra los sesgos, tanto para organizaciones como profesionales a título individual.
¿Quieres detectar posibles sesgos que puedan interferir en el resultado de tus
proyectos?
El objetivo tanto de organizaciones como de personas debería ser
evitar los puntos ciegos de su racionalidad limitada y trabajar para que la inteligencia artificial (IA)
no reproduzca los sesgos de aquellos que la entrenan.
A finales de 2017, Amazon protagonizó
un sonado caso de sesgo algorítmico: un intento de automatizar la contratación de personal
resultó en la discriminación de mujeres a la hora de seleccionar candidatos. La IA
había sido entrenada para identificar los perfiles deseables entre los empleados de Amazon. La mayoría
eran hombres, así que el modelo entendió que eran preferibles los candidatos masculinos y que lo
relacionado con las mujeres era negativo. Sus recomendaciones iban a perpetuar un sesgo existente en
la empresa, y no fue un caso aislado.
La inteligencia artificial ya está
presente en nuestras vidas, pero muchas veces se entrena con datos que reproducen prejuicios
sociales o que son excluyentes a nivel identitario (racial, de nivel de
estudios, de género…). Además, más allá de los datos sesgados, habrá que afrontar el problema también
en otros estadios del proceso: a la hora de determinar el objetivo con el que se crea ese modelo o de
decidir qué atributos debe considerar, por ejemplo.
Los atajos siempre son atractivos. Y, cuando se trata de la mente, no es fácil ignorar sus
encantos. Para pasarte el juego tendrás que demostrar autoconocimiento, perspectiva y ojo crítico. Parece poca
cosa, pero adentrarse en los túneles del pensamiento humano es toda una aventura.
¿Quieres saber más sobre sesgos y psicología del comportamiento? También puedes
escribirnos para echar una partidita. Nos encantan los videojuegos.
¿Quieres saber más sobre desarrollo para dummies y cómo acercarte a la programación? ¿O sobre cualquier otra cosa? Nos encantan las manualidades.
