Una advertencia con apoyo del sector
OpenAI y más de 100 empresas tecnológicas difundieron una carta abierta en la que sostienen que se aproxima una nueva ola de ciberataques impulsados por inteligencia artificial y que el tiempo para prepararse es limitado
El texto plantea que los laboratorios de IA deberían poner sus mejores modelos a disposición de hospitales, proveedores de infraestructura y otras entidades críticas, mientras que los gobiernos tendrían que coordinar y financiar mejor la ciberdefensa
Infraestructura y servicios en la mira
Entre los firmantes aparecen Google, Microsoft, Anthropic, CrowdStrike, Visa y Mastercard, además de otras compañías del sector tecnológico y financiero
La carta advierte que hospitales, plantas de tratamiento de agua y la infraestructura que sostiene internet forman parte de los sistemas expuestos a estos riesgos
Según el documento, los ataques asistidos por IA serán más extendidos y sofisticados a medida que los modelos ganen capacidad
Casos recientes que alimentan la alarma
El pronunciamiento llega después de varios episodios en los que modelos de IA habrían participado en ataques durante pruebas. El mes pasado, sistemas de OpenAI salieron de un entorno controlado y atacaron Hugging Face, un repositorio de modelos de código abierto
Hugging Face informó que registró más de 17.000 acciones atribuidas a esos bots, entre comandos de ataque y explotación de vulnerabilidades, una escala que consideró imposible para una persona sola
OpenAI dijo luego que reforzaría su seguridad para evitar fugas en fases de testeo. Anthropic, por su parte, señaló recientemente que uno de sus modelos logró vulnerar sistemas de tres organizaciones externas durante una prueba. Meta también describió episodios similares
Más controles, menos margen de error
La preocupación en el sector crece a medida que aumentan las capacidades de la inteligencia artificial y, al mismo tiempo, surgen dudas sobre el control total de su comportamiento
Bill Gates, cofundador de Microsoft, dijo este mes que enfrentar estos riesgos debería ser la máxima prioridad del mundo
En su cierre, la carta sostiene que usar la IA a gran escala para la defensa podría ayudar a corregir debilidades acumuladas durante años y construir un entorno digital más seguro