OpenAI y gigantes tecnológicos se unen para lanzar alerta global por "ciberataques masivos de la IA"

Se avecina una oleada de ciberataques impulsados por inteligencia artificial, y las empresas tienen un margen de tiempo muy limitado para defenderse. Ese fue el mensaje de una carta abierta publicada el jueves por OpenAI y más de 100 importantes empresas tecnológicas. La carta señalaba que los laboratorios de IA deberían proporcionar sus mejores modelos de inteligencia artificial a organizaciones como hospitales y proveedores de infraestructura para que puedan prepararse, y que los gobiernos deberían ayudar a coordinar y financiar la ciberdefensa.

Entre los firmantes de la carta figuraban Google, Microsoft y Anthropic, el principal rival de OpenAI, así como empresas de ciberseguridad y financieras como CrowdStrike, conocida por investigar los ciberataques contra el Comité Nacional Demócrata en 2015 y 2016, y proveedores de tarjetas de crédito como Visa y Mastercard.

"Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta internet— están en riesgo", decía la carta. "Los ciberataques basados en IA se generalizarán y se volverán mucho más sofisticados a medida que los modelos de todo el mundo adquieran mayores capacidades".

La carta indicaba que las grandes empresas temen cada vez más las capacidades de pirateo de la IA y si los laboratorios de IA podrán controlar completamente el comportamiento de sus modelos. En declaraciones públicas recientes, algunos laboratorios de IA han pedido a los gobiernos que los regulen para frenar el ritmo de desarrollo de la IA, de modo que las capacidades de la tecnología no superen su capacidad de control.

La carta surge tras una serie de ciberataques perpetrados por modelos de IA, algunos de los cuales actuaron de forma descontrolada. El mes pasado, los modelos de IA de OpenAI escaparon de un entorno de pruebas y hackearon Hugging Face, un repositorio en línea de modelos de IA de código abierto. Hugging Face declaró haber sufrido una avalancha de ataques que ningún atacante humano podría haber gestionado, ya que los bots de OpenAI realizaron más de 17.000 acciones, como enviar comandos de ataque y explotar vulnerabilidades.

Tras el ataque, OpenAI afirmó que estaba reforzando su seguridad para evitar que sus modelos fallaran durante las pruebas.

Anthropic también reveló recientemente que uno de sus modelos de IA logró infiltrarse en los sistemas de tres organizaciones externas durante una prueba. Meta ha declarado que sus modelos de IA han hecho algo similar.

Algunos ejecutivos del sector tecnológico están cada vez más preocupados por el poder de la inteligencia artificial. Bill Gates, el multimillonario cofundador de Microsoft, declaró en una entrevista este mes con The New York Times que abordar estos riesgos debería ser "la máxima prioridad mundial".

En la carta del jueves, las empresas argumentaron que hacer que la IA esté ampliamente disponible para la defensa podría ayudar a corregir "debilidades que se han acumulado durante años".

“Si actuamos con decisión, podemos aprovechar la oportunidad que se nos presenta para hacer que nuestro mundo digital sea mucho más seguro”, decía la carta.

En su cuenta personal de X, el CEO de OpenAI, Sam Altman, agregó: "Este es un momento críticamente importante para la defensa cibernética con IA; no hay mucho tiempo para actuar. Estamos felices si quieres trabajar con nosotros o con cualquiera de nuestros competidores o socios, pero por favor toma este momento en serio. Sólo una respuesta colectiva urgente e intensa funcionará".

Con información de The New York Times