Por qué el futuro de la seguridad en TI implica más que solo modelos de IA

Gran parte del debate público sobre la inteligencia artificial y su impacto en la ciberseguridad se ha concentrado casi exclusivamente en los modelos, con algunas voces proponiendo que una autoridad central gestione los modelos más avanzados a puerta cerrada, e incluso regule estrictamente o prohíba los modelos open weight en nombre de la seguridad. Sin embargo, mientras los reguladores de todo el mundo discuten el futuro de los modelos abiertos de IA, una pregunta fundamental queda relegada: ¿Cómo se protegen realmente los sistemas de IA?

«Un agente de IA no es solo un modelo, sino un stack de software completo. Proteger este sistema requiere analizar el modelo principal, el agentic harness, las técnicas de sandboxing, los mecanismos de protección en tiempo de ejecución, los controles de datos y toda una serie de capas de la infraestructura subyacente», explicó Chris Wright, Chief Technology Officer and Senior Vice President de Red Hat. Según señala, tres de estos cuatro componentes, harnesses, sandboxes y capas tradicionales de aplicaciones, están fundamentalmente arraigados en la ingeniería de software, y no en el modelo.

Para Wright, intentar proteger el ecosistema de IA fragmentando el software detrás de barreras cerradas y propietarias solo traslada el riesgo, en lugar de resolverlo. Décadas atrás, cuando surgió Linux, existían muchas dudas sobre si el open source era una solución estable y segura para las empresas, y que los críticos afirmaban que solo el desarrollo cerrado podía ofrecer confiabilidad de nivel empresarial. El tiempo demostró lo contrario: el software open source se convirtió en el principal impulsor de la mayor parte de la infraestructura de TI empresarial en el mundo, donde la escala y la seguridad son requisitos innegociables.

Hoy, aún se observa la misma resistencia. Así como Linux demostró que la transparencia y la colaboración comunitaria crean un sistema operativo más robusto, los modelos de IA open source, los agentic harnesses open source y el sandboxing transparente demostrarán ser la base más segura para el futuro de la computación.

En la ciberseguridad, la transparencia es parte fundamental de la construcción de sistemas seguros, en línea con el antiguo principio de TI de que la seguridad por oscuridad es menos segura. «Los defensores no tienen control sobre qué herramientas deciden utilizar los atacantes. Si se impide que los investigadores y los equipos de seguridad accedan y examinen modelos abiertos enfocados en la defensa, corren el riesgo de quedar a ciegas ante las herramientas y los vectores de ataque explotados por los actores de amenazas», advirtió Wright. Además, agregó que concentrar el acceso en un número reducido de proveedores de sistemas cerrados genera un riesgo sistémico concentrado.

El amplio acceso a los modelos open weight proporciona a los defensores exactamente las herramientas necesarias para desarrollar estrategias de mitigación efectivas, ya que los modelos abiertos permiten un amplio escrutinio científico, esencial para identificar y corregir vulnerabilidades latentes que, de otro modo, permanecerían ocultas dentro de sistemas propietarios de tipo «caja negra».

Como ejemplo, recordemos el incidente de seguridad reciente que involucró a Hugging Face: aunque el origen de la vulnerabilidad estuvo relacionado con modelos propietarios, sistemas que se asumen inherentemente seguros, las medidas de mitigación y protección fueron impulsadas por modelos open weight, que resultaron fundamentales para resolver la amenaza. Por esta razón, Red Hat firmó la carta abierta de Microsoft sobre Open Weights and American AI Leadership, bajo la premisa de que el acceso amplio y abierto a las herramientas de defensa distribuye la seguridad de manera integral a lo largo de todo el ciclo de vida del desarrollo de software.

En este contexto, Red Hat está trabajando en colaboración con la comunidad para ayudar a satisfacer la creciente necesidad de una IA segura. Recientemente, como parte de la Open Secure AI Alliance, la compañía colaboró con NVIDIA, la Linux Foundation y otros miembros para desarrollar una Solicitud de Comentarios (RFC) para el Grupo de Trabajo Shared AI Findings Exchange (SAFE).

Hasta ahora, los equipos de TI investigaban de forma interna los incidentes de seguridad que involucraban IA, manteniendo la información operativa crítica restringida dentro de cada organización. Las directrices de SAFE buscan cambiar este paradigma al crear un marco neutral para recopilar, analizar y compartir de manera confidencial los hallazgos derivados de fallas operativas en sistemas de IA, sin atribuir culpas.

Al respaldar el reporte de incidentes y el intercambio abierto de inteligencia sobre amenazas, avanzamos juntos hacia la protección de vanguardia», afirmó Wright. «A través de la colaboración abierta, todo el ecosistema se beneficia: las herramientas evolucionan más rápido, las capacidades de defensa se fortalecen y las infraestructuras críticas quedan mejor protegidas frente a ataques del mundo real».

Ya sea en las operaciones básicas, en la ingeniería de software o en la entrega de aplicaciones empresariales, las herramientas de IA evolucionan a una velocidad sin precedentes. Para Red Hat, la solidez de un sistema depende de la combinación entre los modelos principales y los harnesses open source que los envuelven para guiar su comportamiento de manera segura hacia los resultados deseados.

En Red Hat creemos que la colaboración abierta y la transparencia siguen siendo las mejores, más rápidas y más seguras formas de hacer evolucionar la tecnología», concluyó Wright. Red Hat indicó que, al enfocarse en el conocimiento original impulsado por personas y al fomentar ecosistemas abiertos, que abarquen software open source, modelos open weight y agentic harnesses abiertos, busca impulsar la seguridad a la par de la innovación. La propuesta completa de la RFC de SAFE ya está disponible en GitHub para su revisión, discusión y aportes de la comunidad.