App SimSimi é banido do Brasil após aprender palavrões e ameaças de morte

O aplicativo sul-coreano SimSimi, que permite aos usuários conversar com uma inteligência artificial, acaba de ser banido do Brasil após “causar um impacto social negativo” em nosso país. Como reportado anteriormente por internautas no Facebook, o personagem virtual do app “aprendeu”, graças aos próprios utilizadores tupiniquins, a dar respostas ofensivas e até mesmo a fazer ameaças de morte.

No comunicado oficial emitido pela equipe responsável pelo software, os programadores afirmam que “alguns usuários brasileiros estão ensinando respostas maliciosas ao SimSimi”, incluindo “ameaça de crimes, como assassinato ou sequestro de crianças e suas famílias”. Os textos ofensivos estariam aparecendo mesmo com o aplicativo configurado para não exibir conteúdo adulto.

A empresa afirma que tal tipo de abuso é “inédito” na plataforma e avisou que o SimSimi só será restabelecido por aqui depois que a situação for corrigida. O Canaltech tentou acessar o serviço e confirmou que a versão para navegadores apresenta uma mensagem de erro caso seja acessada por um internauta brasileiro; o app foi retirado das versões nacionais da Play Store e da App Store.

O SimSimi foi criado com a intenção de ser um programa educativo para crianças, sendo capaz de corrigi-las sempre que um erro ortográfico for identificado no chat. De forma inversa, os usuários também podem ensinar novas frases para a inteligência artificial, tal como reportar aos desenvolvedores a incidência de palavras chulas. Porém, ao que tudo indica, esse recurso não foi o suficiente para “limpar” o vocabulário do personagem.

E, bem, sabemos que aqui no Brasil a “zoeira” não tem limites – e agora é a vez dos sul-coreanos descobrirem isso. Resta aguardar que a IA seja aprimorada para que os trollsnão consigam mais ensiná-la a sere malcriada, para que o app volte a funcionar por aqui.