O Instagram admitiu que o sistema de inteligência artificial que utiliza para proteger os usuários vulneráveis precisa ser aprimorado, após as comunidades que incentivam e fazem apologia aos transtornos alimentares não foram capturadas no aplicativo.
Desde o ano 2016, essa importantíssima e gigantesca rede social mantém uma política que, sempre que um usuário busca por tópicos potencialmente perigosos como “#proanorexia”, um pop-up aparece como um alerta e os indica para onde eles podem conseguir ajuda antes que eles consigam acessar o conteúdo .
De acordo com as próprias regras da plataforma, esses pop-ups precisam obrigatoriamente acompanhar todos os termos de pesquisa ligados a tópicos confidenciais.
Entretanto, a Sky News ficou sabendo sobre quase uma dúzia de hashtags que são abertas livremente, sem alerta, enquanto supostamente, aparentemente promovem atitudes prejudiciais e nocivas no que concerne à comida e à imagem corporal.
Os termos de pesquisa da hashtag foram pequenas variações ou grafias diferentes em outras que foram sinalizadas.
O Instagram acrescentou as advertências dentro de algumas horas após ter sido informado e assumiu que a aprendizagem de máquina aplicada no último semestre para eliminar essas expressões e sinalizá-los ainda é um trabalho em andamento.
O ex-bulímico Daniel Magson, que agora é vice-presidente da instituição de caridade Anorexia & Bulimia Care, falou disse que as redes sociais como o Instagram necessitam fazer mais para promover a educação e a proteção dos usuários.
Ele declarou: “É incrivelmente nocivo e um risco real para a saúde”.
“Não é um espaço seguro e essas comunidades estão promovendo coisas como ‘estes são os melhores lugares para jantar com banheiros privados para depois’.
“Eles promovem as melhores maneiras de ferir ou auto-agredir e isso não deve ser permitido”.
O Instagram afirma que mantém os tópicos da hashtag ao vivo, a não ser que eles continuamente promovam práticas danosas.
Isso é feito com base em conselhos de instituições de caridade com as quais eles são parceiros, que visam intervir quando necessário.
A rede social anunciou há pouco tempo que está duplicando o número de pessoas que atuam nas equipes de segurança e proteção do Facebook e Instagram para 20.000 até o fim de 2018.
Isso também inclui um time de 7.500 revisores de conteúdo.
A companhia, que é de propriedade do Facebook, falou através de um comunicado: “Nós nos importamos profundamente em fazer do Instagram um lugar onde as pessoas se sintam fortalecidas, inspiradas e confortáveis para se expressarem”.
“Todos os dias, milhões de pessoas usam o Instagram para fortalecer relacionamentos com amigos e construir comunidades de apoio, particularmente em torno da imagem corporal”.
“O Instagram foi criado para promover uma comunidade segura, gentil e solidária e estamos comprometidos em mantê-lo assim.”
Um pesquisa efetuada em 2017 pela Royal Society for Public Health demonstrou que, das cinco grandes redes sociais (Facebook, Instagram, Snapchat, Twitter e YouTube), o Instagram é aquela que possui o impacto mais negativo sobre os usuários.
A notícia é de que dezenas de milhares de pessoas em todo o mundo devem tirar o mês das mídias sociais como parte da campanha para que as pessoas limitem a quantidade de tempo que passam nas redes sociais.