SimSimi: SaferNet alerta para conteúdo impróprio e recomenda aos pais a desinstalação

27 de abril de 2018

A empresa coreana ISMaker decidiu suspender a utilização no Brasil do aplicativo SimSimi depois de uma série de denúncias de pais e da SaferNet sobre a existência de conteúdo impróprio para crianças e jovens, além de permitir apologia a violência e ao crime. O app não está mais disponível para download na AppStore e na Google Play.

Chatbot criado para habilitar conversas automáticas com os usuários, o SimSimi utiliza a Inteligência Artificial para assimilar informações durante as interações, tornando os diálogos mais divertidos e “humanos” – a exemplo dos assistentes pessoais dos celulares. É possível também sugerir respostas, ampliando o “repertório” do sistema. O problema é que falhas na programação estão permitindo ao aplicativo assimilar respostas maliciosas e disseminá-las.

Os termos de uso do SimSimi especificam que é vedado ao usuário ensinar ou publicar conteúdo que retrate ou incentive ameaças, condutas perigosas e violência excessiva, ou mesmo que contenha descrição de atos sexuais explícitos, entre outras restrições. Mas em teste realizado pela SaferNet na versão em português, em menos de cinco minutos de conversa o aplicativo violou suas próprias regras e veiculou espontaneamente mensagens de estímulo ao abuso sexual de crianças.

“Esses resultados evidenciam que os desenvolvedores do app perderam o controle sobre o comportamento do algorítmo de Inteligência Artificial, tornando-se nocivo sobretudo para usuários vulneráveis e em situações de sofrimento psicológico”, destaca o psicólogo e diretor da SaferNet, Rodrigo Nejm. “Enquanto o problema não for definitivamente resolvido, recomendamos aos pais e educadores que conversem com as crianças e adolescentes, e desinstalem o SimSimi dos tablets e smartphones”, orienta. “Mas o ideal é manter uma rotina familiar de acompanhamento do uso que os filhos estão fazendo das tecnologias digitais”, acrescenta. “Proibir não educa, mas educar protege”.

Em nota, a ISMaker reconhece que o SimSimi tem causado um “impacto social negativo significativo no Brasil”, ressaltando que manterá sua publicação suspensa no país até que tenha controle suficiente sobre esse tipo de abuso, mas não esclarece como pretende resolver as falhas encontradas. Na Irlanda, o app chegou a ser banido por determinação das autoridades locais em decorrência de vários casos de cyberbullying.

 

Confira aqui as dicas da SaferNet para ampliar a segurança das crianças no ambiente digital.

Fonte: Dialogando - SimSimi: SaferNet alerta para conteúdo impróprio e recomenda aos pais a desinstalação Dialogando

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Comentário(s)

Newsletter

Receba nossas notícias e fique por dentro de tudo ;)

Nós utilizamos cookies para melhorar sua experiência em nosso site. Se você continuar navegando, consideramos que está de acordo com a nossa Política de Privacidade.

Telefonica