Facebook está testando algoritmo para prevenir suicídios

O Facebook está levando muito a sério a recente onda de suicídios transmitidos ao vivo em sua plataforma e anunciou os testes de um sistema que pode ajudar a detectar quando um usuário estiver apresentando comportamentos desse tipo. A empresa está trabalhando ao lado de serviços de apoio, que terão suas mensagens, links e contatos exibidos caso seja necessário.

A empresa não deu detalhes sobre a iniciativa nem disse de que maneira ela vai funcionar, mas psicólogos também estão envolvidos nos experimentos. A ideia é que o algoritmo funcione mesmo sem a denúncia de um outro usuário, identificando padrões de comportamento e postagens que possam levar a uma tentativa de tirar a própria vida. Também não há previsão de quando, nem se, o sistema será aplicado a todos os utilizadores ao redor do mundo.

Sob muitas críticas devido à ausência de moderação e ao fato de transmissões ao vivo e vídeos de suicídio terem permanecido no ar por diversas horas, o Facebook também anunciou recentemente a contratação de três mil novos funcionários para seu time de moderação. A ideia é levar as denúncias relacionadas a abusos e atentados de forma mais séria, além de dar uma resposta mais veloz para os casos relatados por seus usuários.

Entretanto, o CEO da rede social, Mark Zuckerberg, também citou o outro lado dessa questão, contando a história de como, em pelo menos duas situações, a permanência de vídeos no ar ajudou a salvar vidas. Em um caso, autoridades conseguiram entrar em contato com o suicida a partir da própria transmissão ao vivo, convencendo-o a procurar ajuda e desistir da ideia de tirar a própria vida.

Em outro caso, na cidade de Bibb, no estado americano da Geórgia, uma garota foi encontrada ainda viva após uma tentativa de suicídio transmitida ao vivo. Ela havia tomado remédios e colocado um saco sobre a cabeça, exibindo tudo para sua rede de amigos. Um deles, entretanto, era primo do xerife local, o que ajudou a salvar a vida da usuária.

Após contato com a escola em que a jovem estudava, ela foi localizada em casa, já inconsciente, mas ainda com pulsação. Socorrida, a adolescente foi levada ao hospital e está em recuperação, devendo sair sem sequelas. As autoridades locais consideraram o Facebook uma ferramenta fundamental para que o auxílio pudesse ser feito de forma imediata, efetivamente salvando vidas.

Para a rede social, então, trata-se de encontrar um balanço entre a necessidade de investigar tais casos e ajudar as vítimas, ao mesmo tempo em que não se pode permitir que a plataforma se transforme em um show de horrores. No caso da Geórgia, a transmissão ao vivo era fechada apenas para os amigos da adolescente, o que ajudou nesse sentido. Mas como configurações desse tipo estão nas mãos dos usuários, a empresa ainda precisa achar uma maneira de lidar com isso.

Fonte: Gadgets Now