Substack adiciona uma ferramenta que detecta conteúdo gerado por IA

Substack apresenta uma nova ferramenta para ajudar os leitores a descobrir se o conteúdo foi escrito por um ser humano ou gerado por IA. Anunciado em uma postagem de blog na terça-feira, o novo recurso da plataforma de autopublicação é alimentado pela ferramenta de detecção Pangram AI e está disponível em postagens, notas, respostas e comentários do Substack.

“Nem tudo que é feito com IA é lixo, e nem todo lixo é feito com IA”, escreveu o cofundador e CEO da Substack, Chris Best. “O problema é quando há uma incompatibilidade entre as expectativas do leitor e a realidade, especialmente quando ele involuntariamente investe sua atenção em algo sem nenhum pensamento humano do outro lado.”

A ferramenta de detecção de IA da Substack agora está disponível na web e no aplicativo iOS, seguido pelo Android. Para verificar o conteúdo do Substack em busca de contribuições de IA, basta clicar ou tocar no menu “…” e selecionar “Verificar texto de IA”. Uma janela pop-up aparecerá indicando qual porcentagem do texto que Pangram determinou ser gerado por IA, assistido por IA ou humano.

O novo recurso de detecção de IA do Substack tem algumas restrições. Especificamente, funcionará apenas para passagens de texto do Substiva com mais de 100 palavras e apenas para aquelas publicadas após as 8h30 PT/11h30 do dia 21 de julho. A tentativa de verificar o conteúdo do Substack publicado antes disso resulta em um pop-up informando que ele não é elegível para detecção de IA.

A tentativa de verificar passagens com menos de 100 palavras também exibe um pop-up explicando que não há texto suficiente para a IA detectar com precisão. O pop-up nas postagens de Best também oferece uma mensagem adicional: “Ainda estou descobrindo tudo isso. (Enquanto isso, essas palavras são minhas, para o bem ou para o mal.)”

Pengram irá digitalizar o texto em busca de qualquer autor de IA somente se o leitor solicitar. Como tal, cabe aos utilizadores tomar a iniciativa e investigar da melhor forma possível a proveniência daquilo que lêem. Best observa que a ferramenta não consegue detectar se, por exemplo, um ser humano usou IA para fazer pesquisas antes de escrever uma postagem.

A ferramenta de detecção de IA do Substack também adiciona alguns novos recursos para os autores. Os escritores agora podem adicionar uma declaração explicando como escreveram o conteúdo, que aparecerá quando os leitores usarem a ferramenta de detecção de IA em suas postagens. Os autores podem executar a ferramenta de detecção de IA da Pengram em seus projetos e enviar um relatório se acharem que seu conteúdo foi classificado incorretamente. Curiosamente, os próprios escritores podem remover o sinalizador desativando completamente a detecção de IA em seu conteúdo, independentemente de a detecção do Pengram estar correta ou não.

O próprio Pangram usa IA para detectar texto gerado por IA. No entanto, em vez de IA generativa, ele implementa um modelo de rede neural classificador treinado para reconhecer e distinguir entre texto humano e texto gerado por IA. A empresa afirma que o conjunto de dados do seu algoritmo de texto de autoria humana foi recolhido de fontes publicadas antes de 2021, antes da IA ​​generativa ser amplamente utilizada na Internet, para garantir que nenhum texto gerado pela IA se infiltrasse.

Best afirmou que o Substack pretende adicionar mais recursos focados em IA no futuro com base no interesse e feedback do usuário. Isso inclui permitir que os usuários definam preferências para o conteúdo recomendado pela Substack, sugerindo que poderemos eventualmente ver a opção de filtrar completamente o conteúdo gerado por IA.

Um estudo recente da empresa de marketing digital Graphite descobriu que o número de artigos online gerados principalmente por IA agora é igual ao número escrito por humanos. Várias publicações foram solicitadas para usar IA para gerar artigos nos últimos anos, muitos dos quais repletos de erros. Em alguns casos, esses artigos gerados por IA foram atribuídos a autores falsos gerados por IA ou a “equipes” de publicações.