Ni apocalipsis ni ingenuidad

Por Marcelo Ferreyra

Especial para MiTrenque

Dado que hace muchos años investigo y trabajo en Inteligencia Artificial (IA), varios amigos me consultaron qué opinaba sobre la posibilidad de que la IA elimine a toda la humanidad en los próximos diez años.

La respuesta corta es que no creo que esto suceda. Es más, creo que las noticias alarmantes que han ocupado los titulares de los medios de comunicación en las últimas semanas desvían la atención de una situación que ya estamos viviendo: el mal uso de las tecnologías digitales, como las redes sociales, los teléfonos inteligentes y la IA.

Las noticias

En la segunda semana de septiembre, Jacob Coxon renunció a su trabajo en Anthropic, la empresa desarrolladora de Claude, alegando que las compañías de IA avanzan a toda velocidad hacia modelos capaces de mejorarse a sí mismos, sin considerar debidamente los riesgos. Su publicación superó las 150 millones de vistas.

Horas después, su compañero Evan Hubinger lo respaldó. Afirmó que, a su juicio, existe más de un 10 % de probabilidad de que la IA pueda acabar con la humanidad en la próxima década y que la empresa todavía no tiene un plan para resolver el problema de la alineación de una superinteligencia con los valores humanos, ni está clara la manera de lograrlo.

Estas noticias recorrieron el mundo y, como era de esperar, generaron preocupación por un futuro cercano desviando la atención de acciones concretas que sí están a nuestro alcance.

Analicemos las noticias

¿De dónde sale ese 10 %? No contamos con datos empíricos que permitan calcular directamente una probabilidad de este tipo. Es más, ni siquiera existe acuerdo entre los distintos investigadores, cuyas estimaciones de riesgo abarcan un rango enorme.

Este desacuerdo muestra hasta qué punto estas cifras dependen de supuestos, modelos y juicios expertos. No sabemos cuándo, o incluso si podría producirse un escenario de este tipo.

Hubinger habla de una IA que pueda crear otra más inteligente, que a su vez podría crear otra superior, y así sucesivamente. Llama a este proceso automejora recursiva. Él mismo aclara que el riesgo de los modelos actuales es bajo: lo que le preocupa es una superinteligencia surgida de ese proceso, que, según él, avanza más rápido de lo que se pensaba.

Ninguna de las estimaciones de riesgo extremo tiene hoy un respaldo empírico sólido, y no me parece razonable presentar la extinción humana por IA como un escenario probable para la próxima década. Mi argumento es que una IA depende de una infraestructura humana: servidores, energía, conectividad y mantenimiento, que podrían limitarse en caso necesario.

Hay quienes creen que esto no alcanza para garantizar la seguridad de una IA y argumentan que un sistema suficientemente inteligente podría anticipar ese riesgo y actuar para preservar su acceso a esos recursos, por ejemplo, copiándose en otros servidores antes de ser detectado.

Para que una IA actuara de esta manera tendría que desarrollar estrategias que favorecieran su propia preservación y el acceso continuado a los recursos necesarios para cumplir sus objetivos. No se sabe si los sistemas actuales pueden desarrollar este tipo de comportamiento de manera autónoma y sostenida en el mundo real, ni está claro cuándo podría suceder, si es que alguna vez sucede.

Los sistemas de IA están orientados por los objetivos y restricciones que se les proporcionan, aunque es posible que encuentren estrategias no previstas para alcanzarlos. Pero que una IA pueda desviarse de lo que esperamos de ella en busca de un objetivo, no significa que terminará eliminando a la humanidad.

Las consecuencias de la digitalización

La digitalización trajo beneficios incalculables, pero, como toda tecnología, también vino acompañada del riesgo de hacernos demasiado dependientes de ella.

La masificación de Internet y de la Web a mediados de los años `90 podría ser un buen punto de partida. Comenzó una era de acceso prácticamente instantáneo al conocimiento humano y se redujo drásticamente el costo de producir y distribuir información. Esto permitió democratizar la publicación de contenidos que antes estaba reservada, en gran medida, a gobiernos, grandes empresas y medios de comunicación.

Pero Internet también nos cambió a nosotros.

Antes podíamos concentrarnos en una lectura lineal: leíamos un libro de papel y podíamos sostener una reflexión profunda durante períodos prolongados. Con la lectura en Internet comenzamos a dispersar la atención, siguiendo enlaces, cambiando continuamente de contexto y adquiriendo hábitos multitarea que dificultan mantener la concentración más allá de dos o tres páginas.

Luego aparecieron los teléfonos inteligentes, que llevaron esta situación aún más lejos. Ahora llevamos una computadora en el bolsillo que nos mantiene permanentemente conectados. Recibimos notificaciones durante todo el día y las redes sociales compiten constantemente por nuestra atención.

Finalmente, la Inteligencia Artificial irrumpió en escena, con el riesgo de modificar aún más nuestros hábitos mentales.

No quisiera que se malinterprete mi opinión sobre la IA. Me parece una tecnología extraordinaria, siempre y cuando la usemos inteligentemente. Nos permite amplificar nuestras capacidades cognitivas, pero si la utilizamos incorrectamente y dejamos que piense por nosotros, correremos el riesgo de perder habilidades que nos llevó mucho tiempo adquirir.

Educar en tiempos de la IA

Estoy convencido de que cuanto más conocemos la tecnología que utilizamos, mejor podemos aprovecharla.

¿Alguna vez sentiste que la tecnología avanza más rápido de lo que podes entenderla?

El problema es que la tecnología evoluciona a un ritmo exponencial, y seguirle el paso se vuelve casi imposible. Pero hay una estrategia que puede ayudarnos: aunque las tecnologías cambian a una velocidad extraordinaria, se basan en principios fundamentales que evolucionan mucho más lentamente. Esos principios nos permiten entender cómo funcionan las cosas, incluso las más complejas.

Desde mi punto de vista, conocer esos principios es una herramienta clave para enfrentar la vorágine de nuevos dispositivos y aplicaciones que aparecen continuamente.

¿Cómo es posible que una máquina pueda conversar con nosotros, razonar y ser creativa?

Arthur C. Clarke decía que cualquier tecnología suficientemente avanzada es indistinguible de la magia. Cuando una persona no entiende cómo funciona un artefacto complejo, su funcionamiento puede parecer un fenómeno sobrenatural o mágico.

Conocer lo que ocurre detrás de escena de la IA le quita parte de ese misterio, al menos hasta cierto punto, y nos habilita a hacer un uso más efectivo de ella.

Y si a esta educación sobre los fundamentos de la tecnología, que en definitiva, no es otra cosa que ciencia aplicada, la complementamos con el pensamiento crítico, que también tiene profundas raíces en la ciencia, podremos contar con una combinación perfecta para aprovechar al máximo la tecnología.

Pensamiento crítico: la alfabetización del siglo XXI

El pensamiento crítico es una materia pendiente en la educación argentina.

Las pruebas PISA no lo miden directamente, pero evalúan capacidades estrechamente relacionadas con él, entre ellas la comprensión de textos y la capacidad de interpretar información.

En los resultados de 2025, publicados este mes, solo alrededor del 40% de los estudiantes alcanzó el nivel mínimo en lectura, frente al 69% del promedio de la Organización para la Cooperación y el Desarrollo Económicos (OCDE).

Pensar críticamente va mucho más allá de dudar o ser escéptico. La duda es solo el punto de partida.

El pensamiento crítico es un proceso para encontrar respuestas fundamentadas que implica analizar argumentos, identificar supuestos ocultos, evaluar evidencias, reconocer sesgos y realizar inferencias lógicas, entre otras actividades.

Aprender a cuestionar ha sido un escudo contra la desinformación desde hace muchos años, pero hoy es todavía más importante cuando tratamos con una IA, porque esta tecnología está desarrollada sobre una base que prioriza la coherencia frente a la veracidad.  Por eso, cuando no disponen de información suficiente, pueden generar una respuesta falsa pero que suena completamente razonable. La fluidez de una respuesta no es una garantía de su veracidad.

En este nuevo escenario, saber preguntar, contrastar información, evaluar evidencias y reconocer los límites de una respuesta se vuelve una habilidad fundamental.

Para terminar

Como expliqué más arriba, no considero razonable, ni útil, presentar la posibilidad de que la IA elimine a la humanidad en la próxima década como un escenario probable. Tampoco creo que tengamos evidencia suficiente para asignarle una probabilidad precisa.

De lo que sí estoy seguro es de que debemos esforzarnos por recuperar nuestra independencia frente a las redes sociales y evitar que la IA piense por nosotros.

Para lograrlo, es necesario mejorar la educación y comprender las bases científicas que explican cómo funciona la tecnología: la del pasado, la actual y, por qué no, la futura. Y, por supuesto, debemos reforzar el pensamiento crítico, esa herramienta que nos ayuda a analizar la información y a separar lo posible de lo imposible, lo probable de lo improbable y, sobre todo, lo verdadero de lo simplemente convincente, ya provenga de otras personas, de las redes sociales o de la propia IA.

El desafío no es decidir si debemos convivir con la IA. Ya lo estamos haciendo. El verdadero desafío es aprender a utilizarla sin dejar de pensar por nosotros mismos.