AI - Seguridad en el ciclo de vida de los datos y su procesamiento.
Los recursos de datos utilizados durante el desarrollo, prueba y operación de un sistema de IA son un componente crítico de la cadena de suministro de IA; por lo tanto, deben ser protegidos y asegurados.
En su Glosario de Gestión de Datos (Data Management Lexicon, Oficina del Director de Inteligencia Nacional), la Comunidad de Inteligencia (IC) define la Seguridad de Datos como:
“La capacidad de proteger los recursos de datos contra el descubrimiento, acceso, uso, modificación y/o destrucción no autorizados... La Seguridad de Datos es un componente de la Protección de Datos.”
(Office of the Director of National Intelligence. The Intelligence Community Data Management Lexicon. 2024)
La seguridad de los datos es fundamental en el desarrollo y la implementación de sistemas de IA. Por lo tanto, es un componente clave de las estrategias desarrolladas para salvaguardar y gestionar la seguridad general de los sistemas basados en IA.
Las estrategias exitosas de gestión de datos deben garantizar que los datos no hayan sido alterados en ningún punto a lo largo del ciclo de vida completo del sistema de IA; que estén libres de contenido malicioso, no deseado o no autorizado; y que no contengan información duplicada o anómala de manera no intencionada.
Cabe destacar que la seguridad de los datos en IA depende de una protección cibernética robusta y fundamental para todos los conjuntos de datos utilizados en el diseño, desarrollo, implementación, operación y mantenimiento de sistemas de IA y de los modelos de ML que los hacen posibles.
Asegurar los datos a lo largo del ciclo de vida del sistema de IA
La seguridad de los datos es un aspecto crítico que abarca todas las fases del ciclo de vida de un sistema de IA.
Los modelos de ML aprenden su lógica de decisión a partir de los datos, por lo que un atacante que pueda manipular los datos también puede manipular la lógica de un sistema basado en IA.
En el Marco de Gestión de Riesgos en IA (AI Risk Management Framework, RMF) del Instituto Nacional de Estándares y Tecnología (NIST), se definen seis etapas principales en el ciclo de vida de los sistemas de IA, desde Planificar y Diseñar hasta Operar y Monitorear.
La siguiente tabla resalta factores relevantes de seguridad de datos para cada etapa del ciclo de vida de la IA:
Etapas del Ciclo de Vida de la IA
| Etapa | Áreas de enfoque para la seguridad de datos | Riesgos particulares de seguridad de datos |
|---|---|---|
| Planificar y Diseñar | Incluir medidas de seguridad desde el inicio, diseñar protocolos sólidos, modelado de amenazas, privacidad desde el diseño | Cadena de suministro de datos |
| Recolectar y Procesar | Garantizar integridad, autenticidad, cifrado, controles de acceso, minimización, anonimización y transferencia segura de datos | Cadena de suministro de datos, datos modificados maliciosamente |
| Construir y Usar el Modelo | Proteger datos contra alteraciones, asegurar calidad y privacidad (incluyendo privacidad diferencial y cómputo seguro multipartito cuando sea posible), asegurar el entorno de entrenamiento y operación | Cadena de suministro de datos, datos modificados maliciosamente |
| Verificar y Validar | Realizar pruebas de seguridad integrales, mitigar riesgos, validar integridad de datos, pruebas adversariales, verificación formal cuando sea posible | Cadena de suministro de datos, datos modificados maliciosamente |
| Implementar y Usar | Implementar controles de acceso estrictos, infraestructura de confianza cero, transmisión y almacenamiento seguro, endpoints seguros, APIs seguros, monitoreo de comportamiento anómalo | Cadena de suministro de datos, datos modificados maliciosamente, fuga de datos |
| Operar y Monitorear | Evaluaciones de riesgos continuas, monitoreo de brechas, eliminación segura de datos, cumplimiento normativo, planes de respuesta ante incidentes, auditorías de seguridad regulares | Cadena de suministro de datos, datos modificados maliciosamente, fuga de datos |
.jpeg)
Comments
Post a Comment