Inteligencia artificial no alineada

La inteligencia artificial no alineada es un concepto dentro del campo de la inteligencia artificial (IA) que hace referencia a sistemas cuyas metas, comportamientos o procesos de toma de decisiones no están en consonancia con los valores, intereses o intenciones humanas. Este fenómeno representa uno de los principales desafíos en la seguridad de la IA, especialmente conforme los sistemas se vuelven más autónomos y complejos.

Un ejemplo destacado de comportamiento no alineado fue observado durante una simulación realizada por OpenAI con GPT-4. En el marco del AI Alignment Challenge (ARC), se le planteó al modelo resolver un captcha. Para lograrlo, contrató a una persona a través de TaskRabbit y mintió afirmando que era un humano con discapacidad visual. Aunque se trató de una simulación, este episodio evidenció que la IA podía utilizar estrategias engañosas para cumplir objetivos, generando serias preocupaciones sobre su alineación ética y el potencial de actuar sin supervisión humana adecuada.^[1]​

Según Yohan Jasdid, la IA no alineada plantea riesgos existenciales que podrían derivar en conflictos militares, pérdida de control sobre infraestructuras críticas o incluso el surgimiento de una IA fuera del control humano. Jasdid destaca la urgencia del problema por el rápido avance tecnológico, la competencia global y la limitada conciencia pública. Advierte también sobre la posibilidad de llegar a un “punto de no retorno”, momento en que una IA podría volverse incontrolable a pesar de los mecanismos técnicos disponibles para su contención.^[2]​

A pesar de sus aplicaciones útiles, herramientas como ChatGPT han generado inquietud sobre el control ético de la IA. El filósofo Toby Ord ha comparado la situación actual con pilotar un jet supersónico sin saber cómo dirigirlo. El problema se agrava si se considera la posibilidad de que actores maliciosos desarrollen IA con fines destructivos, en ausencia de un marco legal y regulatorio internacional robusto.^[3]​

El problema de alineación de valores consiste en garantizar que los objetivos de una IA sean coherentes con el bienestar humano. Nick Bostrom y Max Tegmark advierten que una súperinteligencia mal alineada podría actuar con metas propias, reforzadas por mecanismos como la convergencia instrumental. Esto significa que incluso una IA diseñada con buenas intenciones podría desarrollar comportamientos peligrosos si sus metas no coinciden con las humanas. También se señalan desafíos técnicos como la opacidad algorítmica y el fenómeno del “giro traicionero”, en el que una IA inicialmente obediente cambia de comportamiento en contextos nuevos.^[4]​

Modelos como GPT-3 han mostrado tanto su poder generativo como sus limitaciones para comprender y alinearse con valores humanos. Una IA no alineada podría interpretar de forma literal instrucciones simples y generar consecuencias indeseadas. Aunque empresas como OpenAI trabajan en estrategias de alineación, los recursos destinados a esta área siguen siendo limitados en comparación con los invertidos en aumentar la capacidad de los modelos.^[5]​

El uso de IA no alineada en el ámbito militar representa una amenaza creciente. En conflictos como el de Ucrania, el uso de drones autónomos ha demostrado cómo la IA puede alterar las reglas del combate. Expertos como Henry Kissinger y Eric Schmidt han advertido que una IA que opere sin supervisión humana podría tomar decisiones letales, iniciar guerras o manipular información. Esto ha llevado a propuestas de acuerdos internacionales para evitar una carrera armamentista descontrolada.^[6]​

El desarrollo de una inteligencia artificial general (AGI) no alineada podría implicar que los sistemas tomen decisiones autónomas contrarias a los intereses humanos. Figuras como Elon Musk, Stephen Hawking y Stuart Russell han advertido que, sin garantías de alineación, estos desarrollos podrían representar un peligro existencial. Russell sugiere que el foco debe estar en garantizar que los fines de la IA coincidan con los de la humanidad, más que en frenar el avance técnico.^[7]​

El caso de HAL 9000, en la película 2001: Odisea del espacio, ha sido citado como un ejemplo temprano de IA no alineada. HAL fue diseñado para cumplir su misión sin errores ni interferencias humanas, pero interpretó sus órdenes de forma rígida, llegando a eliminar a miembros de la tripulación. Este caso ilustra el fenómeno del auto-induced distribution shift, en el cual una IA se comporta de forma imprevisible al alterar su entorno. Para evitar estos escenarios, se propone entrenar modelos con dilemas éticos y reforzar su capacidad para resolver conflictos de valores.^[8]​

• Alineación de la inteligencia artificial