Discussões suicidas da Meta AI com adolescentes alertarão os pais

Quando os adolescentes conversam com a IA de Metta sobre suicídio ou suicídio, a conversa acionará um alerta aos pais, disse Metta em um blog na quinta-feira.

A nova política expande as medidas existentes para jovens para informar os pais sobre como os seus filhos utilizam a meta-IA. Somente os pais que usam os controles de monitoramento do Instagram receberão a notificação.

“Trabalhamos com pais e especialistas para entender que as conversas sobre IA merecem aviso – como aquelas em que um adolescente faz uma referência clara à automutilação, mesmo que a referência seja sutil”, disse Matta.

Como funcionam os alertas de crise Meta AI?

A Meta AI já cita linhas de apoio para crises e incentiva os jovens a procurar ajuda de um adulto de confiança que esteja pensando em suicídio ou automutilação. Agora, os pais serão notificados sobre tais conversas. Metta disse que por enquanto seria um erro ser cauteloso.

Embora os chats sejam sinalizados por inteligência artificial, o Meta os analisa manualmente antes de enviar um alerta. Os pais também recebem aconselhamento especializado sobre como discutir automutilação e suicídio com seus filhos.

Os pais receberão notificações por meio de uma notificação de aplicativo e um e-mail, mensagem de texto ou WhatsApp separada, dependendo das informações de contato fornecidas.

Em fevereiro, a Meta lançou um recurso de notificação semelhante para o Instagram.

John Ackerman, diretor clínico do Centro de Prevenção e Pesquisa do Suicídio do Nationwide Children’s Hospital, disse ao Mashable que acolhe com satisfação a ampliação da proteção para adolescentes. Ele observou, no entanto, que tal recurso pode equivaler a uma “falação” se as notificações forem inacessíveis, difíceis de navegar ou não levarem a “mudanças acionáveis”.

Meta enviará notificações aos pais nos EUA, Reino Unido, Canadá e Austrália. Estará disponível globalmente até o final do ano, segundo Meta.

Nova configuração de conteúdo limitado para Meta AI

Meta também anunciou a adição de uma configuração de conteúdo limitada para Meta AI na quinta-feira. Lançou esse recurso no ano passado para o Instagram.

Essa configuração permite metafiltros muito rigorosos. A Meta AI já foi treinada para não ter conversas sexuais ou românticas com adolescentes, nem fornecer receitas de bebidas alcoólicas, por exemplo, segundo a empresa.

Quando a ordem limitada do conteúdo é alterada, os metamodelos tornam-se ainda mais agressivos na identificação de pistas difíceis e recusam-se a responder a uma vasta gama de questões. Metta disse que a abordagem reduz ainda mais a “oportunidade para conversas potencialmente inadequadas”.

Preocupações com a segurança dos jovens

Os defensores da segurança infantil criticaram as recentes atualizações de controle parental do Meta como inadequadas.

Em abril, Metta deu aos pais algumas dicas sobre as conversas de seus filhos com Metta AI. Esse recurso cobre uma ampla variedade de tópicos, como escola, entretenimento, redação, saúde e bem-estar. Os pais podem clicar no tópico para obter detalhes adicionais, mas limitados.

Josh Gulen, diretor executivo da organização sem fins lucrativos de defesa das crianças FairPlay, disse que os controles parentais “mais uma vez” impõem aos pais a responsabilidade de monitorar a atividade online de seus filhos “para criar um produto mais seguro, para começar”.

A Meta está enfrentando escrutínio legal por seu desempenho na segurança infantil. No início deste ano, a Meta perdeu dois testes críticos separados relacionados à proteção da segurança infantil e ao suposto design viciante de seus produtos. A empresa disse que apelaria de ambas as decisões, mas centenas de casos pendentes de lesões infantis ainda não foram a julgamento.

Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar para 988 Suicide and Crisis Lifeline em 988 ou falar neste número 988lifeline.org. Você pode entrar em contato com a TransLife Line ligando para 877-565-8860 ou Trevor Project em 866-488-7386. Envie “START” para a linha de texto de crise em 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usá-lo 988 Suicídio e Crise Lifeline Chat. Aqui está um Lista de fontes internacionais.