Shadow AI es el uso de sistemas o herramientas de inteligencia artificial dentro de una organizacion sin el conocimiento, aprobacion o supervision de las areas de gobierno de TI o riesgos.
El Shadow AI representa uno de los riesgos emergentes mas significativos para las organizaciones. Empleados que utilizan herramientas de IA generativa, APIs de terceros o modelos propios sin pasar por los procesos de evaluacion de riesgos, privacidad y seguridad de la organizacion. Puede exponer datos confidenciales, generar riesgos legales y comprometer la integridad de procesos criticos.
Shadow AI es un subconjunto de Shadow IT especifico para herramientas de IA. Comparte los mismos riesgos de gobierno pero agrega riesgos propios como sesgo, alucinaciones y exposicion de datos a modelos externos.
Mediante monitoreo de trafico de red hacia APIs de IA conocidas, encuestas al personal, revision de gastos en suscripciones y analisis de logs de navegacion.
¿Necesitas una evaluacion en este ambito?