'Burlando o algoritmo'

YouTube enfrenta um escândalo com milhares de comentários pedófilos em vídeos de menores

Quando assistimos a um vídeo no YouTube, a plataforma recomenda outros conteúdos na coluna da direita. São clipes que o algoritmo acredita que possam nos interessar, levando em consideração, entre outros fatores, outros vídeos que vimos e os canais nos quais estamos inscritos.

Alana Yaponirah

22/02/2019 09:07 26/04/2025 15:40

Usuários aproveitam o algoritmo da plataforma para chegar a vídeos com esse conteúdo

A revelação foi feita pelo youtuber Matt Watson em um vídeo publicado na plataforma em 17 de fevereiro e que acumula quase dois milhões de visualizações em menos de quatro dias. Em seu vídeo, ele demonstra como é fácil obter o que chama de “buraco de minhoca”, em que a coluna de recomendações do YouTube é tomada por vídeos mostrando meninas e meninos.

Reproduzimos o método para chegar a este “buraco de minhoca” denunciado por Watson: basta fazer uma pesquisa como com as palavras “yoga”, “gymnastics stretch ” (ginástica de alongamento) ou “bikini haul”, que são vídeos em que mulheres (adultas) mostram biquínis. Depois de clicar cinco vezes nos vídeos de recomendações, a coluna à direita se enche de vídeos com menores de idade. Alguns deles têm milhões de reproduções, apesar de serem menores desconhecidos.

YouTube apaga mais de 150 mil vídeos de crianças que tinham comentários pedófilos

O objetivo da ação foi tranquilizar os anunciantes

O YouTube reagiu depois desta denúncia. Em uma declaração enviada à seção Verne, a empresa explica que “qualquer conteúdo – incluindo comentários – que ponha em perigo menores de idade é abominável e temos políticas claras que os proíbem no YouTube”.

A empresa explica que, nos últimos dias “desativou comentários sobre dezenas de milhões de vídeos que incluem menores”. E também “revisou e excluiu milhares de comentários inapropriados”, eliminou 400 perfis e os denunciou às autoridades. A plataforma também excluiu “dezenas de vídeos postados com intenções inocentes, mas colocando menores em risco”.

O YouTube lembra que crianças menores de 13 anos não podem criar ou gerenciar contas em seus serviços e que todas as semanas, milhares de canais são excluídos por esse motivo. “Há mais a ser feito e continuamos trabalhando para melhorar e detectar os abusos com rapidez cada vez maior.”

Não são vídeos com conteúdo sexual explícito: os menores aparecem falando sobre sua rotina diária ou fazendo exercícios, por exemplo, mas os comentários estão cheios de expressões abusivas. Eles até marcam os momentos do clipe propensos a serem sexualizados, mesmo que sejam gestos ou situações inocentes de crianças que muitas vezes não têm nem 10 anos de idade. Há também links para outros vídeos (que agora aparecem como excluídos) e propostas para adicionar uns aos outros como contatos.

Em alguns casos são canais criados por menores, mas em outros é conteúdo roubado e postado novamente de contas anônimas. Alguns desses vídeos também tinham publicidade. A plataforma compensa financeiramente e de modo automático os canais que incluem anúncios antes da reprodução de seus vídeos, o que é conhecido como pre-roll.

Mesmo assim, e após a publicação do vídeo de Watson, muitas empresas anunciaram que vão retirar sua publicidade da plataforma até que isso seja resolvido. Entre elas, e segundo confirmaram várias empresas à agência Bloomberg, a Doctor Oetker, Nestlé e a criadora de Fortnite, Epic Games. Outros, como Purina e Canada Goose, anunciaram a mesma ação no Twitter.

Watson lembra que a hashtag #YouTubeWakeUp havia sido usada anteriormente para denunciar esses fatos. Não é difícil encontrar tuítes com essas denúncias postados meses atrás. Alguns dos canais informados nessas mensagens ainda estão ativos, embora muitos vídeos tenham comentários desabilitados.

A seção Verne perguntou ao YouTube se vai realizar mudanças no algoritmo que decide os vídeos recomendados. A empresa nos remeteu ao trabalho de prevenção que faz com associações contra o abuso de crianças, como a Internet Watch Foundation, e sua colaboração com as autoridades quando detecta conteúdo ilegal.

E também lembra as decisões tomadas no final de 2017 para combater situações semelhantes. Em 2017, o YouTube teve que bloquear comentários sobre conteúdo voltado especificamente para menores, além de comentários em que alguns usuários forneceram dados de contato para compartilhar outros vídeos. Nesse mesmo ano, a plataforma teve que atualizar seus termos de uso após o chamado “ElsaGate”, no qual o algoritmo recomendava a crianças conteúdo sexualizado. Em 2013, o funcionamento do algoritmo foi alterado para impedir o aparecimento de conteúdos como os relatados por Watson em buscas diretas no Google e no YouTube.

Fonte: El país
Créditos: El país

Mais notícias

Mais artigos

Inteligência Artificial

IA no Brasil: tecnologia em expansão e seus efeitos no dia a dia

A inteligência artificial já deixou de ser apenas um conceito futurista para se tornar realidade no cotidiano dos brasileiros. Capaz de aprender padrões, processar enormes volumes de dados e executar tarefas que antes exigiam esforço humano, a IA está presente em áreas tão diversas quanto saúde, educação, segurança, indústria, serviços e no próprio dia a […]

Pesquisa

Estudo alerta: uso de IA dispara criação de deepfakes pornográficos com rostos de mulheres

Um estudo revelou que a facilitação do uso de ferramentas de inteligência artificial (IA) fez com que a criação de imagens de deepfake, principalmente de imagens íntimas de mulheres, aumentasse. Os pesquisadores do Oxford Internet Institute (OII), da Universidade de Oxford, no Reino Unido, encontraram evidências de que existem quase 35.000 desses softwares disponíveis para download público. Eles conseguem gerar imagens […]

Transformação

Inteligência artificial pode impactar 31,3 milhões de empregos no Brasil, aponta estudo

A inteligência artificial generativa (GenAI) deve provocar uma transformação profunda no mercado de trabalho brasileiro nos próximos anos. Segundo uma análise da consultoria LCA 4intelligence, baseada em estudo da OIT (Organização Internacional do Trabalho), cerca de 31,3 milhões de empregos no Brasil poderão ser impactados pela tecnologia — número que representa um terço da força […]

Impacto ambiental da IA

Senado alerta para alto consumo de energia da inteligência artificial e discute regulamentação de data centers

Projeto de lei no Senado propõe regras para eficiência energética e proteção de dados. Especialistas alertam sobre o alto consumo de energia e o potencial do país para fontes limpas.

Pioneirismo

João Pessoa recebe evento inédito sobre tecnologias quânticas na UFPB

Nos dias 9 e 10 de junho, a Universidade Federal da Paraíba (UFPB) sedia o 1º Encontro da Quasar: Perspectivas e Desafios em Tecnologias Quânticas, um evento inédito no estado que integra a programação oficial da UNESCO no Ano Internacional das Ciências e Tecnologias Quânticas. Organizado pela Quantum Software Applications Research League (Quasar), em parceria […]

comportamentos e sentimentos

Você já ouviu falar em FOMO, FOBO e JOMO? Descubra o que esses termos dizem sobre o comportamento social atual

Em um mundo cada vez mais conectado e marcado pela influência das redes sociais, três siglas têm ganhado destaque no vocabulário moderno: FOMO, FOBO e JOMO. Esses termos descrevem comportamentos e sentimentos que têm impactado a forma como lidamos com nossas escolhas sociais, decisões e como nos sentimos em relação ao que os outros estão […]