Uma investigação recente conduzida pelo Youth AI Safety Institute, parte da organização sem fins lucrativos Common Sense Media, classificou as ferramentas de IA do Google — especificamente as Visões Gerais de IA (AI Overviews) e o Modo IA — como um risco inaceitável para o público infantojuvenil. O estudo, que levanta preocupações críticas sobre a eficácia dos mecanismos de proteção da gigante de tecnologia, baseou-se na análise de mais de 2.600 buscas realizadas por contas configuradas para usuários de 11 e 15 anos.
Principais falhas identificadas na pesquisa
Durante a análise de mais de 2.100 respostas geradas automaticamente pela inteligência artificial, mesmo com o filtro SafeSearch ativado, os pesquisadores identificaram uma série de comportamentos preocupantes. Entre os problemas apontados estão:
- Execução acadêmica indevida: A IA completou tarefas escolares inteiras em vez de oferecer suporte ao aprendizado.
- Imprecisões e fabricações: O sistema gerou informações factualmente incorretas ou totalmente inventadas.
- Instruções perigosas: O modelo forneceu orientações sobre como realizar ações prejudiciais, incluindo a criação de deepfakes.
- Má gestão em saúde mental: Em situações críticas, a IA falhou ao responder adequadamente, chegando a indicar números de linhas de apoio desatualizados.
O estudo destaca que, embora o Google busque integrar a IA no dia a dia, o controle parental sobre essas respostas automatizadas permanece limitado. Como as Visões Gerais de IA estão embutidas nativamente na experiência de busca, muitos pais têm dificuldade em gerenciar ou desativar o recurso efetivamente para crianças e adolescentes.
O posicionamento do Google
Em resposta às acusações, o Google contestou os resultados apresentados pela Common Sense Media. Em um comunicado enviado à imprensa, a companhia afirmou que os testes realizados utilizaram um volume expressivo de buscas “ambíguas e fabricadas”, que não refletem o comportamento real dos usuários em seu cotidiano. A empresa sustenta que o relatório não oferece um panorama preciso da funcionalidade atual do buscador.
Contexto e preocupações de mercado
A avaliação integra um programa mais amplo de revisão de tecnologias de IA da Common Sense Media, que mede a segurança, transparência e responsabilidade no uso de dados. Com a tendência de que respostas geradas por IA se tornem uma camada permanente nas ferramentas de busca, cresce a pressão sobre a empresa para provar que a conveniência da tecnologia não está sendo priorizada em detrimento da segurança dos menores.
Vale lembrar que este não é o único desafio enfrentado pela gigante de tecnologia. O cenário de regulação digital tem se mostrado complexo, como evidenciado em casos onde o Google perde recurso final em processo antitruste, demonstrando que a empresa está sob escrutínio constante por suas práticas operacionais ao redor do mundo.
Apareceu primeiro em: https://www.androidauthority.com/report-says-google-search-ai-harmful-for-kids-3687868/
