¿Puede el aprendizaje automático convertir los sesgos cognitivos en un mejor diseño?

En la mayoría de los casos, para el mediodía de un día de labor normal, la exposición a las redes sociales, el email y otros estímulos tecnológicos —muchos de los cuales están creados con técnicas de manipulación para captar la atención de los usuarios— ya ha agotado nuestras limitadas reservas cognitivas. Se diría que se nos está esquilmando el recurso natural más preciado que tenemos: la cognición.

El cerebro humano suele recurrir a más de 200 sesgos cognitivos para proteger su potencial. Estos atajos mentales, relacionados con la memoria, las creencias, la ética y el comportamiento, nos ayudan a tomar decisiones más rápidamente, pero a menudo lo hacen de forma irracional y perjudicial para nosotros.

Hay ciertos sesgos cognitivos comunes que pueden entrar en juego durante el proceso de trabajo de diseñadores e ingenieros, cosa que podría impedirles realizar un trabajo de la máxima calidad. Por ejemplo, cuando se utilizan herramientas físicas o software de diseño, la ley del instrumento es un reflejo de la dependencia excesiva de algunas personas para con las herramientas o los ajustes predeterminados que más conocen, sean o no las opciones más adecuadas. Según este sesgo, si lo que tenemos es un martillo, todo nos parecerá un clavo. El instrumento da forma a nuestro modo de pensar: el martillo es la solución para todo.

Un atajo cognitivo relacionado con este último, la fijación funcional, es el sesgo según el cual una herramienta solo puede solucionar el problema para el que está diseñada: el martillo sirve única y exclusivamente para golpear clavos. Pero los grandes diseñadores, arquitectos e ingenieros siempre han modificado las herramientas que tienen para que hagan lo que ellos quieren. Los virtuosos de todo tipo dictan lo que la herramienta puede hacer por ellos, como Jimi Hendrix, que hacía hablar a su guitarra.

En un marco colaborativo, la existencia de varios sesgos puede amplificar su impacto en el producto del trabajo de un equipo. Uno de los típicos errores en los que se suele caer es la ley de la trivialidad de Parkinson, según la cual un equipo elude los retos más difíciles e invierte demasiadas energías en asuntos triviales. A este sesgo también se lo llama bike-shedding: se refiere al equipo preocupado por la compleja misión de diseñar un reactor nuclear y que, en lugar de esforzarse en el reactor en sí, invierte demasiado tiempo en construir el cobertizo donde los técnicos guardan las bicis.

Las tareas más complejas de un equipo pueden también venir envueltas en el efecto de ambigüedad, según el cual cierta información incompleta o confusa puede llevar a miembros del equipo a dejar sendas creativas sin explorar. Esto podría conducirlos a apoyarse en el sesgo de autoridad, que dicta que la persona más veterana trate de completar los datos que faltan y el resto del equipo le siga la corriente, aunque tengan otras ideas.

Lo cierto es que esas personas más experimentadas también pueden ser víctimas del sesgo de retrospección idílica, por el que se engañan al pensar que una solución acertada del pasado podrá aplicarse a un problema del presente. Y, aún peor, entra en juego el sesgo de autoridad, que lleva a los propios expertos a pensar que saben más de lo que realmente saben.

¿Qué pasaría si nos valiésemos de la tecnología para eliminar sesgos y gestionar, proteger e incluso regenerar recursos cognitivos?

A veces los sesgos cognitivos pueden ser beneficiosos. Muchas startups, para no perder la motivación, necesitan creer que todo funcionará frente a obstáculos extraordinarios, con lo cual tienden hacia el sesgo del optimismo: hacerse ilusiones. En otras ocasiones, la capacidad de nuestro cerebro para identificar patrones en la aleatoriedad —mirar una nube y ver en ella una cabeza humana— puede amplificarse con métodos de creatividad que fomentan los malentendidos. Por ejemplo, el método «Round-Robin» que se enseña en los talleres del Instituto LUMA incrementa la capacidad de generar nuevas ideas.

Los métodos de diseño de los últimos 100 años, como el del propio Instituto LUMA —cuyo nombre es un acrónimo de los pasos de su proceso creativo: mirar, comprender, fabricar y avanzar (Look, Understand, Make, Advance)—, son estrategias adquiridas para eliminar los sesgos o incluso aprovechar los atajos cognitivos con capacidad de potenciar la creatividad. El mencionado método Round-Robin proviene del proceso de dibujo del cadáver exquisito practicado por dadaístas y surrealistas a comienzos del siglo pasado.

Hoy en día existe todo un un sector de empresas, vendedores y diseñadores de experiencias del usuario que utilizan «patrones oscuros» (Dark Patterns en inglés) para amplificar nuestros sesgos. El término lo acuñó Harry Brignull, experto de la experiencia del usuario, para referirse a técnicas perversas de manipulación. Uno de estos patrones oscuros, el llamado Roach Motel —«motel de cucarachas», término con el que en Estados Unidos se refieren a los hostales de carretera de higiene y gestión cuestionables—, describe un escenario en el que puedes registrarte en un sitio, pero no salir de él. Si alguna vez has intentado darte de baja del gimnasio o de tu cuenta de Facebook, es probable que te hayas visto atrapado en un motel de cucarachas.

En el espacio de los medios en línea, a menudo no somos los clientes: somos el producto, y nuestros valiosos recursos cognitivos, también. El aprendizaje automático está ampliando trucos del ámbito de los patrones oscuros que amplifican los sesgos para realizar efectivos ataques del tipo «negación de la atención» y «negación de la curiosidad» contra miles de millones de mentes humanas. Esta podría ser la razón del declive de las cifras de productividad desde la introducción de los smartphones y otros aparatos con conectividad.

¿Pero qué pasaría si, en lugar de amplificar los sesgos y minar nuestra cognición hasta el agotamiento en beneficio de la codicia de algunos, se utilizase la tecnología para ayudarnos a suprimir estos sesgos y gestionar, proteger o incluso regenerar los recursos cognitivos?

Tomemos por ejemplo los auriculares con cancelación de ruido, que gracias a un micrófono detectan sonidos externos y generan electrónicamente ondas sonoras opuestas para contrarrestarlos. ¿Qué ocurriría si existiera un sistema de aprendizaje automático que pudiera detectar sesgos cognitivos según se dan a tiempo real y mitigar sus efectos perjudiciales, emparejando el sesgo con un método de diseño conocido por reducir su impacto negativo?

Autodesk ha comenzado a estudiar este tipo de sistemas. El equipo de investigación, en una fase inicial de recolección de datos, entrevistó a algunos directores de diseño de producto, fundadores de institutos de métodos de diseño, como LUMA, y arquitectos de renombre. El objetivo era localizar las trampas habituales en las que ven caer a los equipos creativos, así como sus trucos para obtener mejores resultados mediante la cancelación de sesgos en el proceso de diseño y la construcción de recursos cognitivos a lo largo del tiempo.

Una de los entrevistados, Ayse Birsel, diseñadora industrial y escritora, tiene un proceso de diseño propio llamado Deconstruction:Reconstruction (De:Re), según el cual descompone y analiza sus elementos básicos para volver a unirlos de formas originales e innovadoras. Por ejemplo, su Resolve System de mobiliario de oficina para Herman Miller, de gran éxito, reimagina el cubículo y lo convierte en algo teatral, con sus bambalinas y escenario.

Birsel animó tanto a diseñadores como a empresarios a pensar de forma totalmente diferente en cuanto a ese tipo de mobiliario y, así, atacar de frente todo sesgo cognitivo. La autora guarda listas de objetos que siempre fracasan en la fase de lanzamiento de producto, en la transición a producción, etc. Ciertos aspectos de su sistema De:Re encaran estas modalidades de fracaso mediante estrategias potentes y reproducibles.

El equipo de investigación de Autodesk, para esbozar un prototipo de su «marco de cancelación de sonido cognitivo», trazó un mapa de todos los trucos del De:Re de Birsel, identificando los distintos sesgos sociales, de decisión y de memoria que esta lograba suprimir. Dicho mapa sugiere una base inicial para un algoritmo de aprendizaje automático que podría intervenir cuando aparezcan sesgos cognitivos en el proceso de trabajo de un equipo creativo.

Ahora que las herramientas de diseño y fabricación de Autodesk están en la nube, se abre la veda de la exploración de métodos para equipar estas herramientas con sistemas de detección de atajos cognitivos destructivos a tiempo real: no detectarían lo que los equipos creativos estarían diseñando, sino cómo piensan estos durante el proceso. También existen tecnologías capaces de detectar claves vocales, como el tono, el ritmo del habla y la elección de palabras, además de claves visuales, como el lenguaje corporal o las expresiones faciales. Mediante el recabado y la comparación de suficientes datos procedentes de herramientas de diseño, salas de reuniones, fábricas y obras de construcción, el sistema podría, llegado el momento, combinar dichas claves con los sesgos cognitivos adecuados.

La clave tal vez sea descubrir cómo lidiar con la detección de sesgos cognitivos de modo que no solo los líderes de equipo y los coordinadores puedan intervenir de la mejor manera posible, sino que todos los miembros del equipo sean capaces de identificar sesgos por sí mismos y aprender a ajustarlos para ampliar su cognición.

No existe un Fitbit para la mente… todavía. Pero lo ideal sería que el sistema resultante de esta investigación fuera más allá de reconocer sesgos cognitivos y pudiera actuar como una especie de aparato de «yo cuantificado» para la metacognición: un método para mostrarnos los pensamientos que se ocultan tras nuestro modo de pensar.

El mundo se está volviendo cada vez más complejo y automatizado. En lo que respecta al futuro del trabajo, la cifra de empleos reemplazables por la automatización es incierta. Lo que sí es innegable es que necesitaremos aprender nuevas habilidades y tecnologías constantemente. Queda mucho trabajo por hacer, pero ese trabajo necesita más atención y creatividad para producir mejores objetos y un mundo mejor.

Más allá de afinar y aumentar la capacidad cognitiva, una visión más amplia de estas investigaciones sería la evolución hacia una API de aprendizaje permanente que pudiera ayudar a las personas a centrarse en las habilidades con más probabilidad de tener un alto valor económico en un futuro inmediato. Así, este sistema podría ejercitar y regenerar, de forma predictiva, los recursos cognitivos de una persona para prepararla hacia el próximo paso en su carrera.

Ya hay diseñadores e ingenieros trabajando en la siguiente generación de toda clase de objetos, desde calzado inteligente hasta ciudades inteligentes. Sus retos del futuro requerirán unos niveles de atención, comprensión, creatividad y capacidad de enfrentarse a decisiones complejas nunca vistos. Para ello, necesitarán tecnologías que valoren su cognición, en lugar de agotarla.

Neta Tamir, doctoranda en la Universidad Cornell, es coautora de este artículo.