Por qué la apertura es una necesidad para la seguridad de la IA: Cloudera se une a la Open Secure AI Alliance
La IA agéntica está pasando de las demostraciones a la producción más rápido que cualquier otra tecnología empresarial en el pasado. Los sistemas autónomos ya están analizando datos propios, utilizando herramientas internas y tomando medidas importantes dentro de los flujos de trabajo de la actividad principal de la empresa. Ese cambio plantea una pregunta urgente: cuando los agentes pueden actuar, ¿quién puede supervisarlos, verificarlos y defenderlos?
La respuesta de Cloudera's es que las defensas que protegen nuestra infraestructura deben construirse en abierto. Por eso nos enorgullece ser un socio fundador—junto con NVIDIA y otros líderes en la nube, ciberseguridad, software empresarial, código abierto e investigación en IA—de la recién formada Open Secure AI Alliance, un movimiento para desarrollar y compartir tecnologías, técnicas y herramientas abiertas para proteger el software y los agentes en la era de la IA.
Tres razones por las que esta alianza encaja con nuestra estrategia
1. La infraestructura abierta es fundamental, no una funcionalidad
Cloudera cuenta con una larga y profunda trayectoria en el ámbito del código abierto, que ha sido fundamental. Desde hace tiempo entendemos que los formatos abiertos de lakehouse de datos son un pilar fundamental de la economía y funcionan, en esencia, como un servicio esencial que sustenta la computación en nube, los servicios financieros, las telecomunicaciones y la infraestructura gubernamental.
En la era de la IA, el software de código abierto y los modelos de pesos abiertos son fundamentales para el liderazgo y la Ciberseguridad. Las estimaciones del sector muestran que entre el 76 % y el 99 % de las bases de código de software comercial ya dependen del software de código abierto.
Los modelos abiertos convierten a los usuarios en creadores, aceleran la innovación y garantizan que el progreso no quede restringido a un reducido número de organizaciones centralizadas. Más importante aún, un ecosistema abierto permite la investigación científica independiente y un escrutinio amplio, lo que permite a los defensores comprender, evaluar y mejorar el comportamiento de los sistemas de IA.
2. Neutralidad: cualquier modelo, cualquier entorno
En Cloudera, defendemos la neutralidad absoluta. Reconocemos que, para mantener el liderazgo en la revolución de la IA, la infraestructura que sustenta nuestra economía requiere un acceso seguro y protegido tanto a modelos cerrados y propietarios como a modelos abiertos.
Nuestros clientes empresariales necesitan la flexibilidad para adaptar la IA a sus sectores específicos, datos propios, clientes y requisitos operativos. Deben poder hacerlo mientras protegen sus datos y evitan depender de ningún proveedor.
Al mantenernos estrictamente neutrales, ofrecemos a las organizaciones la capacidad de crear sistemas híbridos que reflejen sus prioridades particulares.
Esto es especialmente importante en sectores muy regulados (como las finanzas, el sector público y las infraestructuras críticas), donde las empresas deben garantizar el cumplimiento normativo, la soberanía de los datos y la resiliencia geopolítica, y a menudo optan por evitar depender de API alojadas en el extranjero. La seguridad y la defensa de la IA requieren un ecosistema diverso y abierto, en lugar de un único punto de control.
3. El papel fundamental del marco de ejecución de IA en la seguridad y el gobierno
Aunque el sector se ha centrado en exceso en los modelos fundacionales, la seguridad nos obliga a tener una visión más amplia. Un agente de IA no es solo un modelo; es un sistema complejo formado por modelos, entornos de prueba y controles de seguridad que determinan a qué puede acceder el agente.
El marco de ejecución es la estructura de soporte fundamental que permite a un agente de IA observar el contexto, razonar sobre los problemas y actuar con decisión. Dado que los agentes operan de forma autónoma en todos los sistemas empresariales, proteger este marco de ejecución es primordial. Los sistemas cerrados corren el riesgo de dejar la inteligencia crítica fuera del alcance de los defensores. Por el contrario, los marcos de ejecución y las herramientas abiertos amplían considerablemente las capacidades defensivas y aumentan la transparencia.
A través de la Open Secure AI Alliance, NVIDIA está aportando investigaciones clave para acelerar el desarrollo de estas herramientas de ciberseguridad. Por ejemplo, el marco de código abierto NVIDIA Labs Object-Oriented Agent (NOOA) facilita la integración de los entornos de ejecución con los modelos, lo que hace que el comportamiento de los agentes sea infinitamente más fácil de probar, rastrear, auditar y gobernar. Estas capacidades garantizan que, cuando los agentes se implementan en los flujos de trabajo corporativos, sus acciones sigan cumpliendo con las normas y sean observables.
Nuestra cartera de agentes está diseñada precisamente para eso: ejecutar y orquestar los modelos que elijas dentro de tu propio entorno, con linaje, políticas y observabilidad aplicados de principio a fin. La inferencia abierta y los controles de puerta de enlace, un contexto gobernado y una capa de herramientas, junto con una auditabilidad total, garantizan que, cuando un agente actúa, sus acciones sigan siendo conformes, explicables e inspeccionables.
La defensa abierta solo funciona si se puede implementar bajo un marco de gobierno, en producción, sobre datos que una empresa no puede permitirse trasladar. Esa superficie de implementación es lo que Cloudera aporta a la Alianza.
Un llamamiento sobre seguridad y protección de la IA a los responsables políticos—y a los desarrolladores
Mientras los reguladores se enfrentan al reto de la seguridad de la IA, es crítico que los modelos abiertos, los entornos de ejecución y las herramientas de seguridad se reconozcan como activos defensivos, no como pasivos. Las restricciones generales sobre los sistemas de frontera abierta debilitarían la capacidad defensiva y concentrarían la dependencia en unos pocos proveedores cerrados, que es justo lo contrario de la resiliencia.
La vía más segura es la que permite a más defensores probar, verificar y reforzar los sistemas de los que depende la sociedad, junto con sólidas salvaguardias, normas claras contra el uso indebido y medidas correctivas rápidas.
La apertura por sí sola no garantiza la confianza. Sigue siendo necesario realizar pruebas rigurosas, contar con una infraestructura segura, un gobierno claro y supervisión humana. Pero un ecosistema abierto es lo que amplía la comunidad de defensores que pueden hacer ese trabajo.
Cloudera se compromete a trabajar con NVIDIA y nuestros demás socios para construir ese futuro—uno en el que la IA sea potente, abierta, gobernada y segura desde el diseño. Invitamos a las empresas, los gobiernos y los investigadores a unirse a nosotros.