Simsimi: Alerta Para Conteúdo Impróprio E Recomendação A Desinstalação Simsimi: Alerta Para Conteúdo Impróprio E Recomendação A Desinstalação

SimSimi: alerta para conteúdo impróprio e recomendação a desinstalação

SimSimi: alerta para conteúdo impróprio e recomendação a desinstalação

A empresa coreana ISMaker decidiu suspender a utilização no Brasil do aplicativo SimSimi depois de uma série de denúncias de pais e da SaferNet sobre a existência de conteúdo impróprio para crianças e jovens, além de permitir apologia a violência e ao crime. O app não está mais disponível para download na App Store e na Play Store.

Chatbot criado para habilitar conversas automáticas com os usuários, o SimSimi utiliza a Inteligência Artificial para assimilar informações durante as interações, tornando os diálogos mais divertidos e “humanos” – a exemplo dos assistentes pessoais dos celulares.

É possível também sugerir respostas, ampliando o “repertório” do sistema. O problema é que falhas na programação estão permitindo ao aplicativo assimilar respostas maliciosas e disseminá-las.

Os termos de uso do SimSimi especificam que é vedado ao usuário ensinar ou publicar conteúdo que retrate ou incentive ameaças, condutas perigosas e violência excessiva, ou mesmo que contenha descrição de atos sexuais explícitos, entre outras restrições.

Mas em teste realizado pela SaferNet na versão em português, em menos de cinco minutos de conversa o aplicativo violou suas próprias regras e veiculou espontaneamente mensagens de estímulo ao abuso sexual de crianças.

Esses resultados evidenciam que os desenvolvedores do app perderam o controle sobre o comportamento do algoritmo de Inteligência Artificial, tornando-se nocivo sobretudo para usuários vulneráveis e em situações de sofrimento psicológico”, destaca o psicólogo e diretor da SaferNet, Rodrigo Nejm.

“Enquanto o problema não for definitivamente resolvido, recomendamos aos pais e educadores que conversem com as crianças e adolescentes, e desinstalem o SimSimi dos tablets e smartphones”, orienta.

Mas o ideal é manter uma rotina familiar de acompanhamento do uso que os filhos estão fazendo das tecnologias digitais”, acrescenta: “Proibir não educa, mas educar protege”.

Em nota, a ISMaker reconhece que o SimSimi tem causado um “impacto social negativo significativo no Brasil”, ressaltando que manterá sua publicação suspensa no país até que tenha controle suficiente sobre esse tipo de abuso, mas não esclarece como pretende resolver as falhas encontradas.

Na Irlanda, o app chegou a ser banido por determinação das autoridades locais em decorrência de vários casos de cyberbullying.

Confira aqui as dicas da SaferNet para ampliar a segurança das crianças no ambiente digital.

Fonte: Dialogando - SimSimi: alerta para conteúdo impróprio e recomendação a desinstalação (2018)

Deixe uma resposta

O campo mensagem deve conter pelo menos 3 caracteres

Comentário(s)

  • Nathaly

    10/06/2018 03:08

    Existe um modo infantil para o app, as crianças que querem ser idiotas e fingem ter mais idade, sendo que é muito bem avisado que o outro modo é para maiores

  • Juraci Vieira Gutierres

    28/04/2018 22:44

    Vou espalhar como utilidade pública.

    • Dialogando

      03/05/2018 18:12

      Valeu, Juraci! Parceria que nunca acaba!

SimSimi: alerta para conteúdo impróprio e recomendação a desinstalação 2019-11-25 20:35:10
Newsletter

Receba nossas notícias e fique por dentro de tudo ;)