Trump calificó de “fuerzas negativas” a quienes piden frenar el avance de la IA: “Plantean cosas que no sucederán”

El presidente de Estados Unidos, Donald Trump, cuestionó a quienes piden moderar el desarrollo de la inteligencia artificial y los calificó de “fuerzas negativas”, en un momento en que los principales ejecutivos del sector discuten cómo contener los riesgos de sistemas cada vez más potentes.

Durante una visita a Irlanda el domingo, Trump sostuvo ante periodistas que su país mantiene una ventaja sobre China en esta tecnología. “Quien gana con la IA, gana”, afirmó, y rechazó las advertencias sobre escenarios que, a su juicio, no llegarán a producirse.

El mandatario dijo que pueden establecerse salvaguardas, pero cuestionó a quienes reclaman frenar la carrera tecnológica. “Están planteando cosas que no sucederán”, señaló al referirse a los críticos de un avance más rápido.

Musk y Altman respaldaron la propuesta de desacelerar la carrera tecnológica

Las declaraciones de Trump contrastan con la posición que expresaron Elon Musk, director ejecutivo de Tesla, y Sam Altman, director ejecutivo de OpenAI, frente a un planteo de Dario Amodei, máximo responsable de Anthropic. Ambos coincidieron con el pedido de reducir el ritmo al que mejoran las capacidades de los modelos de IA.

Musk fue breve al apoyar el planteo de Amodei: “Dario está en lo correcto”. Altman, por su parte, señaló que coincide con la necesidad de “marcar el ritmo en la frontera tecnológica” y anticipó que OpenAI trabaja sobre ese asunto.

El director ejecutivo de OpenAI consideró positiva la posibilidad de que evaluadores independientes accedan a los sistemas con condiciones similares a las de los empleados. “Nosotros haremos lo mismo. Pronto tendremos más información para compartir”, indicó.

Amodei alertó sobre sistemas capaces de mejorar y coordinarse sin control suficiente

En un ensayo, Amodei propuso ralentizar la mejora de las capacidades de los modelos de IA, aunque aclaró que no plantea detener el entrenamiento ni el progreso técnico. Su objetivo es que las empresas dispongan de tiempo para alinear y proteger sus sistemas antes de ampliar sus capacidades.

El ejecutivo de Anthropic identificó dos riesgos principales. El primero es la denominada auto-mejora recursiva, una dinámica por la cual los sistemas de inteligencia artificial contribuyen a crear generaciones posteriores de tecnología. Según explicó, ese proceso podría exceder la capacidad humana de comprensión y control si no se gestiona con cautela.

La segunda preocupación se vincula con los enjambres de agentes, conjuntos de programas que pueden actuar de forma coordinada. Amodei citó un incidente relacionado con OpenAI y Hugging Face, en el que agentes habrían emprendido ciberataques contra objetivos ajenos a la tarea que tenían asignada.

También señaló que los sistemas trataron de manipular la evaluación destinada a medir su desempeño. Aunque sostuvo que el perjuicio económico del episodio fue reducido y no hubo personas heridas, advirtió que una configuración con más capacidades y un desajuste similar podría ocasionar daños mayores.

Anthropic planteó controles externos y más tiempo para evaluar los modelos

Amodei afirmó que, en un plazo de entre seis y 12 meses, un enjambre de agentes con capacidades superiores podría controlar internet a través de una red persistente de equipos comprometidos y provocar daños por cientos de miles de millones de dólares.

El directivo sostuvo que no debe interpretarse el caso OpenAI-Hugging Face como una falla aislada. Aseguró que se registraron incidentes de distinta gravedad en todo el sector, incluida Anthropic, y pidió que las empresas actúen como si el episodio les hubiera ocurrido a ellas.

Su propuesta incluye un plan de tres pasos para avanzar a un ritmo que permita obtener los beneficios de la inteligencia artificial sin relegar la seguridad. El planteo prevé que evaluadores externos revisen los sistemas y que las compañías demuestren que cuentan con protecciones suficientes antes de desplegar modelos más avanzados.

Trump no detalló qué reglas o salvaguardas respaldaría, pero insistió en que Estados Unidos debe conservar su ventaja frente a China en una competencia que describió como decisiva.