Daniel Kahneman: "Claramente, la IA va a ganar. Cómo la gente se va a adaptar es un problema fascinante"
 |
| El psicólogo ganador del Nobel sobre la aplicación de sus ideas a las organizaciones, por qué no estamos equipados para comprender la propagación de un virus y la disrupción masiva que está a la vuelta de la esquina. |
Daniel Kahneman, de 87 años, recibió el premio Nobel de economía en 2002 por su trabajo sobre la psicología del juicio y la toma de decisiones. Su primer libro, Thinking, Fast and Slow , un bestseller mundial, expuso sus ideas revolucionarias sobre el error humano y los prejuicios y cómo se pueden reconocer y mitigar esos rasgos. Un nuevo libro, Noise: A Flaw in Human Judgment, escrita con Olivier Sibony y Cass Sunstein R, aplica esas ideas a las organizaciones. Esta entrevista tuvo lugar la semana pasada por Zoom con Kahneman en su casa de Nueva York.
Supongo que la pandemia es un buen punto de partida. De alguna manera, ha sido el mayor experimento hora a hora en la toma de decisiones políticas globales. ¿Crees que es un momento decisivo en el entendimiento de que necesitamos "escuchar la ciencia"?
Sí y no, porque claramente, no escuchar ciencia es malo. Por otro lado, la ciencia tardó bastante en ponerse en marcha.
Uno de los problemas clave parece haber sido la incapacidad generalizada para comprender la idea básica del crecimiento exponencial. ¿Eso te sorprende?
Los fenómenos exponenciales son casi imposibles de captar. Tenemos mucha experiencia en un mundo más o menos lineal. Y si las cosas se aceleran, por lo general se aceleran dentro de lo razonable. El cambio exponencial [como ocurre con la propagación del virus] es realmente otra cosa. No estamos equipados para eso. Se necesita mucho tiempo para educar la intuición.
¿Crees que la cacofonía de opinión en las redes sociales exacerba eso?
Sé muy poco sobre las redes sociales, hay una brecha generacional demasiado grande. Pero claramente ha aumentado el potencial de propagación de información errónea. Es un nuevo tipo de medio que esencialmente no tiene ninguna responsabilidad por la precisión y ni siquiera por los controles de reputación.
¿Podría definir lo que quiere decir con "ruido" en el libro, en términos sencillos: en qué se diferencia de cosas como la subjetividad o el error?
Nuestro tema principal es realmente el ruido del sistema. El ruido del sistema no es un fenómeno dentro del individuo, es un fenómeno dentro de una organización o dentro de un sistema que se supone que toma decisiones uniformes. Realmente es algo muy diferente a la subjetividad o el sesgo. Hay que analizar estadísticamente un gran número de casos. Y luego ves ruido.
Algunos de los ejemplos que describe: la extraordinaria variación observada en la sentencia por los mismos delitos (incluso influenciada por asuntos externos como el clima o los resultados de fútbol del fin de semana), por ejemplo, o las enormes discrepancias en la suscripción de seguros o el diagnóstico médico o las entrevistas de trabajo. basados en la misma información de referencia, son impactantes. El motor de ese ruido a menudo parece residir en el estado de protección de los "expertos" que toman las decisiones. Me imagino que ningún juez quiere reconocer que un algoritmo sería más justo para hacer justicia.
El sistema judicial, creo, es especial en cierto modo, porque es una persona "sabia" la que está decidiendo. Hay mucho ruido en la medicina, pero en la medicina hay un criterio objetivo de verdad.
Supongo que la gente está instintiva o emocionalmente más inclinada a confiar en los sistemas humanos que en los procesos más abstractos.¿Ha formado parte de un jurado o ha pasado mucho tiempo en los tribunales?
No lo he hecho. Pero he tenido muchas conversaciones con jueces sobre la posibilidad de investigar cómo el ruido afecta su juicio. Pero, ya sabes, a la comunidad judicial no le conviene investigarse a sí mismos.
Ese es ciertamente el caso. Vemos eso, por ejemplo, en términos de la actitud hacia la vacunación. Las personas están dispuestas a correr muchos, muchos menos riesgos cuando se enfrentan a la vacunación que cuando se enfrentan a la enfermedad. Entonces, esta brecha entre lo natural y lo artificial se encuentra en todas partes. En parte, esto se debe a que cuando la inteligencia artificial comete un error, ese error les parece completamente tonto a los humanos, o casi maligno.
No hablas de coches sin conductor en tu análisis. Pero eso, supongo, se está convirtiendo en un campo clave de este argumento, ¿no es así? Por mucho más seguros que puedan ser estadísticamente los automóviles automatizados, cada vez que causan un accidente, ¿se magnificará excesivamente?
Estar mucho más seguro que las personas no será suficiente. El factor por el cual tienen que ser más seguros que los humanos es realmente muy alto.
Han pasado 50 años desde que usted y el difunto Amos Tversky comenzaron a investigar estas preguntas . ¿Cree que sus conclusiones sobre el sesgo humano medible y la falibilidad deberían haberse entendido más ampliamente a estas alturas?
Sabes, no teníamos ninguna expectativa particular de cambiar el mundo cuando hicimos nuestra investigación. Y mi propia experiencia de lo poco que este conocimiento ha cambiado la calidad de mi propio juicio puede ser aleccionadora. Evitar el ruido en el juicio no es algo en lo que las personas vayan a ser muy buenas. Realmente pongo mi fe, si es que hay algo que poner, en las organizaciones.
Me pregunto si ve su trabajo en una tradición casi satírica, destacando la locura humana.
Realmente no. Me veo a mí mismo como un psicólogo bastante objetivo. Obviamente, los humanos somos limitados. Pero también son bastante maravillosos. En Thinking, Fast and Slow , realmente estaba tratando de hablar sobre las maravillas del pensamiento intuitivo y no solo sobre sus defectos, sino que los defectos son más divertidos, por lo que se presta más atención allí.
Una de las cosas que me llamó la atención al leer el libro es que, por mucho que los individuos y las organizaciones profesen el deseo de ser eficientes y racionales, hay una parte fundamental de nosotros que está aburrida de la previsibilidad y solo quiere tirar los dados. ¿Crees que lo tienes suficientemente en cuenta?
Hay muchos dominios en los que realmente desea diversidad y creatividad. Pero también es necesaria la uniformidad en las tareas bien definidas. Si el esfuerzo por lograr la uniformidad desmotiva a la gente, o si se vuelve excesivamente burocrático, eso en sí mismo puede ser un problema. Eso es algo que las organizaciones van a tener que negociar.
Al ver las elecciones estadounidenses, me sorprendió la frecuencia con la que los políticos de ambos lados apelaron a Dios en busca de guía o ayuda. No hablas de religión en el libro, pero ¿la fe sobrenatural aumenta el ruido?
Creo que hay menos diferencia entre la religión y otros sistemas de creencias de lo que pensamos. A todos nos gusta creer que estamos en contacto directo con la verdad. Diré que, en algunos aspectos, mi creencia en la ciencia no es muy diferente de la creencia que otras personas tienen en la religión. Quiero decir, creo en el cambio climático, pero en realidad no tengo ni idea. En lo que creo son en las instituciones y los métodos de las personas que me dicen que hay cambio climático. No deberíamos pensar que porque no somos religiosos, eso nos hace mucho más inteligentes que las personas religiosas. La arrogancia de los científicos es algo en lo que pienso mucho.
Termina su libro con algunas ideas para eliminar el ruido, crear listas de verificación para la toma de decisiones, tener “observadores de decisiones designados”, etc. Me acordé de esos estudios que muestran cómo los esfuerzos corporativos para reducir los prejuicios raciales y de género inconscientes mediante la capacitación obligatoria han sido ineficaces o contraproducentes . ¿Cómo tiene en cuenta estas consecuencias imprevistas?
Siempre existe el riesgo de que eso ocurra. Y esas ideas que menciona no han sido probadas en gran medida, pero creemos que vale la pena considerarlas. Otros en el libro se basan en más experiencia, son más sólidos.
¿Siente que existen peligros más amplios en el uso de datos e inteligencia artificial para aumentar o reemplazar el juicio humano ?
Habrá consecuencias masivas de ese cambio que ya están comenzando a ocurrir. Algunas especialidades médicas están claramente en peligro de ser reemplazadas, ciertamente en términos de diagnóstico. Y hay escenarios bastante aterradores cuando se habla de liderazgo. Una vez que sea demostrablemente cierto que puede tener una IA que tenga un juicio empresarial mucho mejor, diga, ¿qué afectará eso al liderazgo humano?
¿Ya estamos viendo una reacción violenta contra eso? Supongo que una forma de entender las victorias electorales de Trump y Johnson es como una reacción contra un mundo de información cada vez más complejo: su atractivo es que son simples oportunistas impulsivos. ¿Es probable que veamos más de ese populismo?
He aprendido a no hacer nunca pronósticos. Ciertamente, no solo no puedo hacerlo, sino que no estoy seguro de que se pueda hacer. Pero una cosa que parece muy probable es que estos grandes cambios no sucederán silenciosamente. Habrá una disrupción masiva. La tecnología se está desarrollando muy rápidamente, posiblemente de manera exponencial. Pero la gente es lineal. Cuando las personas lineales se enfrentan a un cambio exponencial, no podrán adaptarse a eso con mucha facilidad. Entonces, claramente, algo está por llegar ... Y claramente, la IA va a ganar [contra la inteligencia humana]. Ni siquiera está cerca. Cómo la gente se va a adaptar a esto es un problema fascinante, pero uno para mis hijos y nietos, no para mí.
Su propia vida comenzó en una incertidumbre aún más extrema, como un niño en la Francia ocupada: su padre fue arrestado primero por los nazis como judío, luego salvado y su familia escapó para esconderse. ¿Cuánto de su interés de toda la vida en estas preguntas, la necesidad de comprender las motivaciones humanas, se basó en esas ansiedades y miedos, cree?
Cuando miro hacia atrás, creo que siempre voy a ser psicólogo. Desde muy pequeño tuve curiosidad por saber cómo funciona la mente. Sin embargo, no creo que mi historia personal haya tenido mucho que ver con eso, siempre estuvo ahí.
¿Siente que sigue siendo fundamentalmente el niño que era cuando tenía seis o siete años?
Si. Ciertamente hay una continuidad. Todavía puedo reconocer algo dentro de mí.
Cuando se embarcó en este trabajo, ¿podría imaginar que todavía sería duro en 8 7?
¡No, imaginé que estaría muerto! Pero para mi sorpresa, todavía tengo la misma curiosidad. Estoy colaborando en varios proyectos e investigaciones desde que terminé el libro. Una es cómo la incapacidad para resolver el famoso " problema del bate y la pelota " se correlaciona con la creencia en Dios y que el 11 de septiembre fue una conspiración. Para mí todo es tan divertido como siempre.
Comentarios
Publicar un comentario