Shadow AI e o uso de sistemas ou ferramentas de inteligencia artificial dentro de uma organizacao sem o conhecimento, aprovacao ou supervisao das areas de governanca de TI ou riscos.
Shadow AI representa um dos riscos emergentes mais significativos para as organizacoes. Empregados utilizando ferramentas de IA generativa, APIs de terceiros ou modelos proprios sem passar pelos processos de avaliacao de riscos, privacidade e seguranca da organizacao. Pode expor dados confidenciais, gerar riscos legais e comprometer a integridade de processos criticos.
Shadow AI e um subconjunto de Shadow IT especifico para ferramentas de IA. Compartilha os mesmos riscos de governanca mas adiciona riscos proprios como vies, alucinacoes e exposicao de dados a modelos externos.
Mediante monitoramento de trafego de rede para APIs de IA conhecidas, pesquisas com o pessoal, revisao de gastos com assinaturas e analise de logs de navegacao.
Precisa de uma avaliacao nesta area?