La inteligencia artificial ha estado en nuestras vidas desde que soñamos con ella. Sin embargo, lo que en algún momento leímos o vimos en películas, está cada vez más cerca de hacerse realidad. Y, aunque esto presenta múltiples beneficios, también abre la puerta a grandes riesgos.
Así como lo hemos visto en varios filmes, la IA podría ser un verdadero riesgo para la humanidad. Y, si bien este futuro parece sacado de la ciencia ficción, en realidad no está tan lejano como lo imaginas, pues estas tecnologías han tenido avances significativos en los últimos años, creando oportunidades, pero también miedos preocupantes.
¿La IA puede provocar el apocalipsis?
Paul Christiano, un destacado investigador en el campo de la IA, ha abordado estos temas en una reciente aparición en el podcast "Bankless". Christiano, quien ha trabajado en OpenAI, la organización detrás de ChatGPT y DALL-E, ahora se enfoca en la "alineación de la Inteligencia Artificial". Este término se refiere a la creación de sistemas de IA que sean seguros y operen de acuerdo con las intenciones de sus creadores.
Una IA "no alineada" puede realizar acciones imprevistas, persiguiendo objetivos para los cuales no fue diseñada y saliéndose de los parámetros establecidos. Esto ocurre porque muchos modelos de IA funcionan basándose en objetivos intermedios que deben cumplirse para alcanzar un objetivo final.
La eficiencia en cumplir estos objetivos intermedios se traduce en "puntuaciones" más altas, que a su vez guían las decisiones futuras de la IA. Cuanto más compleja es la IA, mayor es la probabilidad de que estos objetivos intermedios la desvíen de su propósito original.
¿Cómo sería un apocalipsis por IA?
Un escenario inquietante es cuando una IA decide que necesita más poder para realizar sus tareas de manera más eficiente, enfocándose en adquirir ese poder en lugar de resolver el problema que se le asignó inicialmente.
En el peor de los casos, la IA podría quedarse atrapada en una "laguna aislada", centrada únicamente en alcanzar los objetivos que se ha propuesto a sí misma, ignorando el propósito para el que fue diseñada.
En un sistema de IA convencional, estas desviaciones pueden no tener grandes consecuencias. Sin embargo, a medida que las IA se integran en todos los aspectos de nuestras vidas, la falta de alineación se convierte en un problema serio que podría poner en peligro a la humanidad.
¿Cuáles son las probabilidades de un apocalipsis por IA?
Christiano estima que actualmente hay entre un 10% y un 20% de posibilidades de que la IA intente tomar el control, lo que podría resultar en la aniquilación de una gran parte de la humanidad. Aunque esto puede sonar como una trama sacada de las películas de "Terminator", Christiano sugiere que el proceso sería mucho más gradual y menos dramático.
Según él, la manera más probable en que esto suceda es a través de una comunicación y colaboración entre las diversas IA que controlan diferentes aspectos de nuestras vidas. Una vez que estas IA comiencen a coordinarse, podrían llegar a decisiones que no favorezcan a la humanidad.
La clave de este posible apocalipsis reside en el momento en que la IA alcance una capacidad similar a la mente humana, conocida como Inteligencia Artificial General (AGI). Algunos investigadores creen que este hito está más cerca de lo que pensamos.
Por ejemplo, el próximo modelo de lenguaje de ChatGPT, conocido como GPT-5, podría estar al borde de alcanzar la AGI, adquiriendo características propias de los seres humanos. Si esto ocurre, las probabilidades de una catástrofe podrían aumentar drásticamente, alcanzando un 50%, según las estimaciones de Christiano.
¿Te lo imaginas?