AI - Seguridad en el ciclo de vida de los datos y su procesamiento.

 Los recursos de datos utilizados durante el desarrollo, prueba y operación de un sistema de IA son un componente crítico de la cadena de suministro de IA; por lo tanto, deben ser protegidos y asegurados.



En su Glosario de Gestión de Datos (Data Management Lexicon, Oficina del Director de Inteligencia Nacional), la Comunidad de Inteligencia (IC) define la Seguridad de Datos como:

“La capacidad de proteger los recursos de datos contra el descubrimiento, acceso, uso, modificación y/o destrucción no autorizados... La Seguridad de Datos es un componente de la Protección de Datos.”
(Office of the Director of National Intelligence. The Intelligence Community Data Management Lexicon. 2024)

La seguridad de los datos es fundamental en el desarrollo y la implementación de sistemas de IA. Por lo tanto, es un componente clave de las estrategias desarrolladas para salvaguardar y gestionar la seguridad general de los sistemas basados en IA.

Las estrategias exitosas de gestión de datos deben garantizar que los datos no hayan sido alterados en ningún punto a lo largo del ciclo de vida completo del sistema de IA; que estén libres de contenido malicioso, no deseado o no autorizado; y que no contengan información duplicada o anómala de manera no intencionada.

Cabe destacar que la seguridad de los datos en IA depende de una protección cibernética robusta y fundamental para todos los conjuntos de datos utilizados en el diseño, desarrollo, implementación, operación y mantenimiento de sistemas de IA y de los modelos de ML que los hacen posibles.


Asegurar los datos a lo largo del ciclo de vida del sistema de IA

La seguridad de los datos es un aspecto crítico que abarca todas las fases del ciclo de vida de un sistema de IA.

Los modelos de ML aprenden su lógica de decisión a partir de los datos, por lo que un atacante que pueda manipular los datos también puede manipular la lógica de un sistema basado en IA. 

En el Marco de Gestión de Riesgos en IA (AI Risk Management Framework, RMF) del Instituto Nacional de Estándares y Tecnología (NIST), se definen seis etapas principales en el ciclo de vida de los sistemas de IA, desde Planificar y Diseñar hasta Operar y Monitorear. 

La siguiente tabla resalta factores relevantes de seguridad de datos para cada etapa del ciclo de vida de la IA:


Etapas del Ciclo de Vida de la IA

EtapaÁreas de enfoque para la seguridad de datosRiesgos particulares de seguridad de datos
Planificar y DiseñarIncluir medidas de seguridad desde el inicio, diseñar protocolos sólidos, modelado de amenazas, privacidad desde el diseñoCadena de suministro de datos
Recolectar y ProcesarGarantizar integridad, autenticidad, cifrado, controles de acceso, minimización, anonimización y transferencia segura de datosCadena de suministro de datos, datos modificados maliciosamente
Construir y Usar el ModeloProteger datos contra alteraciones, asegurar calidad y privacidad (incluyendo privacidad diferencial y cómputo seguro multipartito cuando sea posible), asegurar el entorno de entrenamiento y operaciónCadena de suministro de datos, datos modificados maliciosamente
Verificar y ValidarRealizar pruebas de seguridad integrales, mitigar riesgos, validar integridad de datos, pruebas adversariales, verificación formal cuando sea posibleCadena de suministro de datos, datos modificados maliciosamente
Implementar y UsarImplementar controles de acceso estrictos, infraestructura de confianza cero, transmisión y almacenamiento seguro, endpoints seguros, APIs seguros, monitoreo de comportamiento anómaloCadena de suministro de datos, datos modificados maliciosamente, fuga de datos
Operar y MonitorearEvaluaciones de riesgos continuas, monitoreo de brechas, eliminación segura de datos, cumplimiento normativo, planes de respuesta ante incidentes, auditorías de seguridad regularesCadena de suministro de datos, datos modificados maliciosamente, fuga de datos 

Mg. en Ing. Carlos Gerardo Said 

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA