Marco de Referencia (OWASP ML/LLM Top 10, NIST AI RMF)
Marcos de referencia clave para seguridad en IA
Frente a la novedad de las amenazas de IA, distintos organismos han publicado marcos de referencia que ayudan a estructurar un programa de seguridad sin partir de cero. El OWASP Top 10 para LLM identifica los riesgos más frecuentes en aplicaciones basadas en modelos de lenguaje, como la inyección de prompts, la fuga de datos sensibles o la dependencia excesiva en las respuestas del modelo, mientras que el OWASP Top 10 para Machine Learning cubre amenazas como el envenenamiento de datos o el robo de modelos. El NIST AI Risk Management Framework, por su parte, ofrece un enfoque más amplio de gobernanza, orientado a mapear, medir y gestionar el riesgo de IA a lo largo de todo su ciclo de vida. Usar estos marcos como checklist inicial evita reinventar criterios de evaluación y facilita comunicar el nivel de madurez de seguridad de IA a auditores o directivos que ya conocen estos estándares.