Erro de IA do Google gera falsa acusação de abuso infantil e investigação policial
O YouTube, pertencente ao Google, utiliza sistemas de IA para analisar vídeos
O The New York Times destacou casos em que a vida digital de pais foi prejudicada por fotos e vídeos de seus filhos nus, sinalizados por sistemas de IA do Google, levando a investigações policiais. As informações são do Estadão.
Jennifer Watkins, embora não usasse o YouTube, teve seu canal desativado devido a um vídeo de seus filhos, feito por desafio de colega de classe, classificado erroneamente como exploração sexual infantil.
O YouTube, pertencente ao Google, utiliza sistemas de IA para analisar vídeos, mas falhas podem ocorrer, erroneamente rotulando indivíduos inocentes como abusadores de crianças.
Watkins perdeu acesso não apenas ao YouTube, mas a todas as suas contas no Google, enfrentando consequências financeiras, e teve que recorrer da decisão para explicar que foram os filhos que fizeram o upload do vídeo.
Grupos defensores das crianças e legisladores pressionam empresas de tecnologia para combater a disseminação online de imagens abusivas, enquanto o Google desenvolveu algoritmos para sinalizar conteúdo inédito.
O Google é um dos principais denunciantes de pornografia infantil aparente, colaborando com o National Center for Missing and Exploited Children, mas a gravidade do problema é difícil de avaliar apenas por números, pois muitos casos podem não ter intenção maliciosa.
