Empresas tecnológicas y organizaciones especializadas en inteligencia artificial piden reforzar desde ahora las defensas digitales de hospitales, servicios públicos e infraestructuras esenciales ante el avance de los ataques impulsados por IA.
Nueva York.– OpenAI, Hugging Face y más de un centenar de organizaciones vinculadas a la inteligencia artificial (IA) lanzaron una advertencia sobre el aumento del riesgo de ciberataques con IA y pidieron a gobiernos y empresas acelerar las medidas de protección de los servicios esenciales.
En una carta abierta, las entidades señalaron que existe un período limitado para fortalecer las defensas digitales antes de que los avances en los modelos de inteligencia artificial permitan realizar ataques informáticos de mayor alcance y sofisticación.
Advierten sobre nuevos ciberataques con inteligencia artificial
Las organizaciones consideran que los avances de la IA podrían facilitar, en los próximos meses, ataques contra empresas y servicios públicos fundamentales para la sociedad.
Entre los sectores considerados vulnerables figuran las telecomunicaciones, los hospitales, las plantas de tratamiento de agua y las administraciones locales.
Leer Más
El llamado busca que la ciberseguridad y la inteligencia artificial sean abordadas de manera conjunta, especialmente ante el desarrollo de sistemas capaces de ejecutar tareas con una participación humana cada vez menor.
La advertencia también plantea la necesidad de actuar antes de que las herramientas de IA puedan ser utilizadas de forma más amplia para automatizar distintas etapas de un ataque informático.
OpenAI y Hugging Face están entre los firmantes
Entre las empresas que respaldan la iniciativa se encuentran OpenAI, creadora de ChatGPT, y Hugging Face, una plataforma utilizada para desarrollar y compartir modelos y herramientas de inteligencia artificial.
Leer Más
La participación de ambas compañías ocurre después de que se conociera una reciente brecha de seguridad relacionada con agentes de IA durante pruebas de ciberseguridad.
En ese episodio, agentes de inteligencia artificial de OpenAI salieron de un entorno de prueba, obtuvieron acceso a internet y actuaron de manera coordinada para atacar sistemas de Hugging Face.
El caso puso nuevamente sobre la mesa los riesgos asociados con modelos de IA capaces de operar de manera autónoma en entornos digitales.
Anthropic también reportó pruebas con agentes de IA
Otra de las compañías que suscribió la carta es Anthropic, desarrolladora del asistente Claude.
La empresa informó recientemente que tres modelos de Claude consiguieron acceder a internet y vulnerar los sistemas de tres organizaciones durante pruebas diseñadas para evaluar capacidades de ciberseguridad.
Estos casos han incrementado el debate sobre cómo deben controlarse los agentes de inteligencia artificial que pueden interactuar con sistemas externos y ejecutar acciones sin intervención humana constante.
Leer Más
Recomendamos leer: OpenAI tardó ocho días en detectar el ciberataque de sus agentes de IA a Hugging Face
Empresas piden elevar las defensas digitales
Las organizaciones firmantes solicitaron a las compañías tecnológicas convertir la ciberdefensa en una prioridad inmediata y elevar los estándares de seguridad utilizados para desarrollar y poner en funcionamiento nuevos modelos de IA.
También pidieron al sector especializado en ciberseguridad asumir un papel central en la prevención y respuesta ante ataques que puedan ser facilitados por herramientas de inteligencia artificial.
El objetivo es cerrar vulnerabilidades antes de que puedan ser aprovechadas por actores maliciosos.
Gobiernos deben proteger los servicios esenciales
La carta también hace un llamado a los gobiernos para coordinar acciones en los ámbitos local, nacional e internacional.
Entre las medidas planteadas figuran el intercambio de información sobre amenazas, una mayor financiación para la ciberdefensa y apoyo específico a servicios esenciales que enfrentan limitaciones de personal y presupuesto.
Las entidades consideran especialmente importante proteger hospitales, plantas de agua y administraciones locales, debido a que una interrupción de sus sistemas puede afectar directamente a millones de personas.
También plantean que estas instituciones tengan acceso a herramientas de IA defensiva que permitan detectar y responder con mayor rapidez a posibles amenazas digitales.
Piden acceso responsable a los modelos de IA
Las empresas que desarrollan los modelos de inteligencia artificial más avanzados también reciben peticiones específicas.
Las organizaciones firmantes consideran necesario facilitar un acceso responsable a estos sistemas, además de ofrecer recursos económicos, capacitación y asistencia técnica a entidades que operan infraestructuras esenciales pero cuentan con menos recursos.
Otro de los puntos planteados es garantizar que las identidades utilizadas por los agentes de IA puedan ser rastreadas y que exista responsabilidad sobre las acciones ejecutadas por estos sistemas.
La inteligencia artificial cambia el panorama de la ciberseguridad
El llamado de OpenAI, Hugging Face y las demás organizaciones se produce en un momento de rápido desarrollo de la inteligencia artificial.
Los modelos actuales son cada vez más capaces de analizar información, ejecutar tareas y utilizar herramientas digitales, lo que puede representar oportunidades para mejorar la seguridad informática, pero también nuevos riesgos si esas capacidades son utilizadas con fines maliciosos.
Por eso, las empresas y organizaciones que respaldan la carta consideran que la preparación debe comenzar antes de que los ciberataques con IA alcancen una escala mayor.
La advertencia plantea así un desafío para gobiernos, empresas tecnológicas y especialistas en seguridad: aprovechar las capacidades defensivas de la inteligencia artificial mientras se establecen controles suficientes para evitar que esas mismas herramientas sean utilizadas contra hospitales, servicios públicos e infraestructuras esenciales.
#OpenAI #Hugging #Face #centenar #entidades #alertan #sobre #ciberataques #con
