Inteligencia Artificial: entre el bombo publicitario y la realidad

Esta columna fue escrita en coautoría con Andrés Velásquez*

Detrás de expresiones sencillas y pegajosas como “inteligencia artificial” está la sobresimplificación de conceptos complejos y el afán por mercadear como maravillosas, soluciones tecnológicas mientras las ponen de moda. 

El cierre del siglo veinte vio cómo el mercado accionario de las puntocom crecía prometiendo ganancias fabulosas. La burbuja que se creó en torno a las empresas que nacieron para hacer actividad comercial en internet y que fueron las primeras en usar los dominios .com (por eso el nombre) se reventó pronto llevándose por delante muchos sueños. 

El big data prometía obtener grandes cantidades de información para la toma de mejores decisiones, mejor y más eficiente gasto público, más control, y sí, algo de eso sucedió, pero mucho también terminó en una obsesión por la vigilancia, decisiones automatizadas ilegítimas, injustas o sesgadas; falta de capacidad para procesar los datos recogidos, y no pocas veces la creación de bases de datos con insumos de poca calidad, consecuencia del afán por implementar maravillas. 

Las ciudades inteligentes que nos prometían hace cinco años no están por todos lados, tampoco han mejorado la vida de la mayoría de las personas, solo algunas urbes han sabido capitalizar las soluciones concentrándose en aplicaciones muy concretas, nada cercano a las expectativas originales. El blockchain tiene aplicaciones interesantes y ha hecho ricas a algunas personas, pero no sirve para todo lo que se prometió y sí ha sido protagonista de muchos fiascos como la gran promesa fallida en El Salvador o las innumerables estafas que usan esta tecnología como excusa e incluso como medio. 

Actualmente la expresión de moda es: ¡la inteligencia artificial! Hablemos de IA.

El denominador común de estas expresiones es que con el paso del tiempo se nota que a punta de marketing prometen cambios de paradigma rápido, tan exagerados que nos hacen dudar sobre el riesgo existencial que supone su implementación. Son todas soluciones tecnológicas mágicas que anticipan grandes ganancias, crecimiento económico, desarrollo social, solución a problemas complejos y, en suma, una mejor vida que está a la vuelta de la esquina a cambio –eso sí– de grandes inversiones. 

Atención, esto no quiere decir que esas tecnologías estén vacías, no. Tampoco significa que no hayan sido y sigan siendo transformadoras. Al contrario, cualquiera de estas tecnologías son responsables de grandes cambios sociales que también son evidentes con el paso del tiempo: hay empresas .com exitosas como Amazon, Ebay o Alibaba. No creo que podamos imaginar ciudades sin las aplicaciones para orientarnos en el transporte público. Claro que hay que aplaudir el éxito que una aplicación de blockchain tuvo en las últimas elecciones de Guatemala en contra del fraude. Sin embargo, lo que termina pasando con las tecnologías con frecuencia no es equiparable con las promesas iniciales que nos venden los medios. El paso del tiempo desvela el verdadero impacto y deja a un lado sueños inflados y expectativas incumplidas y, en muchos casos, pérdidas económicas importantes en todos los niveles.

Aceptar que eso sucede también con la IA no es fácil porque esa es la burbuja del momento. Cuando se aterrice lo que realmente es, más allá del bombo publicitario, habrá muchas buenas aplicaciones que facilitarán la vida de las personas, otras que la complicarán, y, en todo caso, el test de realidad decepcionará a muchas personas, mientras concreta los temores que otros tantos advertimos. Entonces, sin duda la IA es transformadora, pero no es todo lo que están prometiendo y hay riesgos importantes en su aplicación tanto económicas como en impacto en derechos. Siempre justifica hacerle un test de realidad.

Una herramienta para entender el problema: el ciclo Gartner del bombo

Una forma de aproximarnos desde ya al test de realidad puede ser usando la metodología “ciclo Gartner del bombo” (o simplemente “hype cycle”). Diseñada por la consultora estadounidense Gartner que ofrece servicios a inversionistas en tecnología para la toma de decisiones de inversión. La metodología sirve para analizar la madurez en el desarrollo y apropiación de tecnologías emergentes. 

El ciclo Gartner del bombo describe ese desarrollo a partir de cinco fases: detonante tecnológico, pico de expectativas infladas, descenso de la desilusión, cuesta de la iluminación y meseta de la productividad.

Con esta metodología podemos ilustrar el rol del marketing en el bombo y creación de burbujas que inflan las expectativas en las tecnologías emergentes y las acciones de las empresas que las promueven. El marketing es instrumental para la adopción temprana, la generación de ruido y expectativas en la sociedad, los inversionistas y los gobiernos. 

Gartner describe que en la primera fase una posible tecnología irrumpe con pilotos que atraen el interés de los medios de comunicación y se genera mucha publicidad y bombo. Después aparecen algunas historias de éxito y muchos fracasos que no necesariamente se reflejan en aprendizajes para quienes las han adoptado. Las siguientes fases describen lo que sucede después: la desilusión, la cuesta de aprendizajes y, finalmente, la tecnología se estabiliza ya se sabe qué es lo que realmente se puede esperar de ésta.

Casos para aproximarnos al bombo publicitario y la inteligencia artificial

• Muchas aplicaciones se quedan en la fase del detonante o bombo publicitario: el lavado de IA

Esa primera fase de bombo publicitario funciona como una burbuja en la que se inflan mucho los proyectos y las expectativas. Se ha descrito por ejemplo el llamado “lavado de IA” (AI washing) que es cuando una empresa exagera las capacidades de un producto o servicio que vende como IA para que parezca más sofisticado, innovador o inteligente de lo que es en realidad. Es una forma de describir cómo se infla la burbuja.

Se parece al ruido que hay ahora mismo en torno al “just walk out” (solo sal caminando) de Amazon. Esta es una aplicación de IA que los supermercados Amazon usan desde 2018 en EEUU con el fin de que los clientes salgan tranquilamente del almacén sin registrar la compra –sin pasar por la caja registradora–, simplemente reciben la factura después. Lo que una investigación estableció es que el proceso involucra a miles de personas trabajando con salarios muy bajos desde la India. La descripción que hace la investigación se ajusta a la máxima: “falséalo hasta que lo logres” (Fake it til’ you make it), tan popular en la ética de Sillicon Valley que en un gran porcentaje de los proyectos no pasa de la parte falseada, una ética start up que tiene detractores.

En el caso de Amazon, se entiende que la empresa justifique que los procesos de IA que involucran aprendizajes automatizados –como la de just walk out– no es que tengan a personas mirando pantallas para identificar la mercancía, sino que requieren de muchas personas revisando el proceso de entrenamiento. En este punto la diferencia no importa porque se percibe como una promesa rota y obscena que no consigue minimizar la crítica. 

Hay preguntas críticas que se mantienen: ¿Hasta dónde se justifica esa aplicación que después de seis años usa a miles de personas mal pagas en un país en desarrollo para que unas cientos en un país desarrollado compren un poco más cómodamente? O, pensando en la crisis climática que afecta a la humanidad, ¿acaso estas soluciones justifican los gastos energéticos tan altos y su impacto en el medio ambiente? ¿Realmente todo vale?

• La burbuja de la IA generativa está a punto de reventarse

Gartner publicó en 2023 una gráfica en la que se visualiza en qué punto del ciclo están diferentes aplicaciones de IA. Unas –como los carros autónomos– ya están en tercera o cuarta fase y por tanto se están estabilizando, ya es posible saber cuál será su verdadera dimensión. En la gráfica se ve que la IA generativa, que actualmente produce ríos de tinta mediáticos –con aplicaciones como Chat GPT–, está en su pico de expectativas. De acuerdo con estos consultores, pronto empieza el descenso en picada de la desilusión para esta IA. Pronto veremos esto qué significa frente a las grandes expectativas generadas. 

• La burbuja de la IA de decisión apenas se está inflando

Una aplicación de IA que está en plena cuesta de subida de acuerdo con Gartner es la de la “inteligencia de decisión”. Esta IA aprovecha el análisis predictivo para predecir y modelar resultados probables, con la expectativa de apoyar la mejor toma de decisiones. Básicamente se trata de estadística. 

Una aplicación de este tipo que es bastante peligrosa es la que se relaciona con la predicción del crimen. Se trata de nuevo de encontrar mecanismos que nos permitan evitar el crimen, encontrar a los criminales con promesas de usar la frenología, craneometría, fisionomía u otras disciplinas con ese fin, ahora con la IA. Hemos visto candidatos a altos cargos políticos que se comen el cuento de que hay tecnología que permite identificar a criminales por “su forma de caminar”. El problema es que los convencidos, si llegan a tener la chequera en el bolsillo, son capaces de invertir e implementarlas, sin medir las afectaciones, los muchos sesgos, sin contar que se puede perder esa platica por andar creyendo en frijoles mágicos. Estas tecnologías, según Gartner, todavía están en plena burbuja así que esperen más fantásticas promesas.

En conclusión, hay que buscar entender el poder e impacto del bombo publicitario 

Es urgente que como sociedad entendamos esas construcciones publicitarias y el poder del marketing en la creación de realidades no tan reales. Frente a las tecnologías emergentes las sociedades debemos desarrollar rápidamente nuevas habilidades para identificar cuándo y hasta qué punto estamos frente al bombo de una promesa comercial que nos arrastra a burbujas peligrosas.

Se requiere que nuestras sociedades aprendan a lidiar con la sobreexpectativa que los innovadores, los especuladores, el interés mediático y las ganas de soluciones fáciles, generan sobre estas tecnologías y que en este momento tiene a la IA en el ojo del huracán. 

Desarrollar estas habilidades no solo será imprescindible para los inversionistas a los que Gartner ofrece orientación; es una necesidad creciente para quienes toman decisiones de compra de tecnología; también es para trabajar y reaccionar en temas regulatorios; y, para la sociedad civil que hace control al poder, y, en general, para cualquiera, porque es muy fácil dejarse llevar por la marea. Estas tecnologías siempre tienen límites y son falibles, no podemos esperar utopías literarias que a veces los emprendedores o los políticos persiguen como si fueran profecías.. 

Advertir de los riesgos y límites de las tecnologías emergentes no significa tecnofobia. Es más bien una forma de proteger el interés público. Se trata de ayudar a la sociedad a hacer el test de realidad, sirve para no tragar entero y mantener un pie en tierra, para verla en su verdadera dimensión.

Muchos desarrollos e investigaciones que tienen la etiqueta de la IA son interesantes y sobrevivirán a la reventada de sus burbujas. En realidad venimos utilizándolos sin darnos cuenta hace tiempo: correctores de gramática, traductores, transcriptores o sistemas de procesamiento de imágenes médicas que se basan en algoritmos de esta gran sombrilla que es la IA. Sin la exageración publicitaria de la burbuja de la IA, podemos esperar que la evolución de estos algoritmos se concrete en avances que mejoren la vida de las personas y desarrolle la economía, sin embargo, nos obliga a lidiar con sus impactos negativos pues, según el caso, transformará sectores económicos -dejará a muchas personas sin trabajo-, y es previsible que sirva para implementaciones de orden autoritario y anti-derechos. Este test de realidad es el que debemos poder discutir mirando el fenómeno de frente y pudiendo separar el aire de la burbuja.