O ChatGPT ilustra a viragem da tecnologia para a aposta na Inteligência Artificial (IA). Mas, como todos os programas, acarreta preocupações éticas. No entanto, não sendo uma aplicação perfeita, não pode ser completamente fiável. Ainda assim, muitos utilizadores têm recorrido à aplicação com intenções de “encurtar” trabalho e esforço. Desde o lançamento do ChatGPT que se têm identificado lacunas em termos de regulamentação, assim como no âmbito da Educação, com docentes a denunciarem o uso da aplicação para adulterar trabalhos, relatórios e exames. Edward Tian, de 22 anos, demonstrou que com IA se combatem falhas da IA e criou o GPTZero.
O GPTZero tem potencial para identificar usos antiéticos na comunidade académica. Edward Tian decidiu trazer transparência para a Inteligência Artificial.
O jovem de 22 anos estuda Ciência de Computadores na Universidade de Princeton, em Nova Jérsia e, durante as férias de Natal, decidiu criar uma forma de detetar se o texto foi ou não criado pelo ChatGPT.
O programa tornou-se tão popular que fez com que o site fosse abaixo. Segundo o The Guardian, na primeira semana após o lançamento registaram-se 30.000 acessos ao site. Foi aqui que entrou a Streamlit, uma plataforma gratuita que está a hospedar o GPTZero, para fornecer ao jovem recursos para acompanhar o tráfego da web.
Como funciona?
Há dois indicadores a que o GPTZero recorre para identificar se o texto é de origem humana ou se foi criado pelo ChatGPT. No próprio site do GPTZero, o programa começa por analisar uma série de algoritmos complexos e profundos, apoiados por experiências internas e alguns artigos conceituados, já publicados.
O programa criado por Tian aplica um cálculo de “perplexidade”, que mede a complexidade de um texto e de “rutura”, que compara a variação das frases. Isto porque, de acordo com o jornal NPR, os seres humanos tendem a escrever textos com maior complexidade e frases mais longas enquanto que o chatbot avançado opta por textos mais uniformes.
Quanto mais familiar for o texto para o GPTZero, maior a probabilidade de ter sido gerado por Inteligência Artificial.
Num vídeo de demonstração publicado no Twitter, Tian comparou a análise de uma história no The New Yorker e uma publicação no LinkedIn escrita pelo ChatGPT. Distinguiu com sucesso a escrita por um humano versus a escrita por uma plataforma de IA.
Depois de analisar mais de 10 milhões de artigos e textos, alguns gerados por IA e outros escritos por humanos, desenvolve-se o algoritmo do ZeroGPT com uma taxa de precisão de deteção de texto superior a 98%.
"Ao testar o novo modelo em conjunto de dados de artigos de notícias da BBC e artigos gerados por IA a partir das mesmas manchetes, o modelo aprimorado tem uma taxa de falsos positivos de inferior a 2%", disse Edward Tian.
As limitações
O próprio criador do programa reconhece que o chatbot não é infalível. Por exemplo, Toby Walsh, professor de Inteligência Artificial na Universidade de New South Wales, apresenta críticas ao GTPZero.
Ao The Guardian disse que, “a menos que a plataforma seja adquirido por uma grande empresa, é improvável que tenha impacto na capacidade do ChatGPT de ser usado para plágio”.
"É sempre uma corrida armamentista entre a tecnologia para identificar o texto sintético e os aplicativos", disse ele. "E é muito fácil pedir ao ChatGPT para reescrever em estilo mais pessoal".
Walsh disse que os utilizadores também podem pedir ao ChatGPT para adicionar mais "aleatoriedade" ao texto para evitar os censores e ofuscar com diferentes sinónimos e edições gramaticais.
Enquanto isso, cada aplicação desenvolvida para detetar textos sintéticos dá maior capacidade para os programas de inteligência artificial escaparem dessa deteção.
Um assinante recorreu às redes sociais para dizer que "Esta é ao mesmo tempo uma ferramenta muito útil para os professores e, por outro lado, uma ferramenta muito perigosa - confiar demais nela levaria à exacerbação de bandeiras falsas".