Limites e Alucinações do ChatGPT
Nesta página
O que o ChatGPT não consegue fazer e por que isso importa
Saber utilizar o ChatGPT começa por saber onde ele falha. A ferramenta é poderosa, mas tem defeitos que a experiência por si só não resolve — é preciso contorná-los. Esta lição é, provavelmente, a mais crítica do curso, pois separa os utilizadores que verificam a informação daqueles que, um dia, divulgarão desinformação com toda a confiança. A OpenAI afirma isto claramente nos seus Termos de Utilização: uma resposta pode ser imprecisa, não deve ser a sua única fonte de verdade nem substituir aconselhamento profissional, e cabe-lhe avaliar a sua exatidão.
Alucinações: quando o modelo inventa coisas
Uma alucinação é uma resposta que parece perfeitamente correta — com uma formulação confiante e uma estrutura impecável — mas que é factualmente errada. O ChatGPT não está a mentir; gera a continuação mais provável com base em padrões aprendidos, e essa continuação é por vezes incorreta. Quando não “sabe” algo, nem sempre para para o dizer; pode, em vez disso, gerar uma resposta que soa plausível.
A OpenAI descreve as formas mais comuns: definições, datas ou factos incorretos; citações, estudos ou referências inventadas atribuídas a fontes inexistentes; e respostas demasiado confiantes a perguntas ambíguas ou complexas. Existe outra armadilha que muitos descobrem da pior maneira: o ChatGPT não consegue indicar de forma fiável se um texto foi escrito por uma IA ou se foi ele próprio a escrevê-lo. A sua resposta à pergunta “Foi você que escreveu este ensaio?” não prova nada.
A defesa resume-se a quatro hábitos. Verifique independentemente qualquer informação crítica: números, datas, nomes, fontes. Deixe que as ferramentas adequadas fundamentem a resposta: utilize a pesquisa na web para acontecimentos recentes e factos específicos, a análise de dados para cálculos e a investigação aprofundada para cruzar múltiplas fontes. Peça fontes e, em seguida, abra-as: uma ligação que não sustenta a afirmação vale tanto como não ter fonte nenhuma. Por fim, eleve o nível de raciocínio em questões delicadas: não eliminará o risco, mas dá tempo ao modelo para percorrer a sua lógica.
O que o modelo não pode saber
O conhecimento do modelo tem uma data de corte. Sem pesquisa na web, tudo o que aconteceu após essa data é invisível para ele, e pode nem sequer perceber que lhe falta informação. Com a pesquisa na web ativada, surge outro limite: alguns sites permanecem inacessíveis devido a problemas técnicos, paywalls ou porque bloqueiam bots.
A cobertura varia também consoante o tema. Em assuntos bem documentados, as respostas são frequentemente excelentes; em temas de nicho ou raramente abordados, a qualidade pode cair drasticamente, sem que o tom o indique. A OpenAI assinala também vieses: apresentar uma única perspetiva como verdade absoluta, simplificar em excesso questões nuances ou deturpar o peso do consenso científico ou do debate societal. Em temas sensíveis, cruze a informação com outras fontes.
Limites de raciocínio
Cálculos em várias etapas continuam a ser um ponto fraco quando feitos “de cabeça” no texto da resposta. Para qualquer cálculo que influencie uma decisão, peça ao modelo que utilize a análise de dados, que executa código, e verifique com uma ferramenta dedicada. Cadeias de raciocínio muito longas acarretam o mesmo risco: o fio condutor perde-se e surgem inconsistências ao longo do processo. Contar é outra falha contra intuitiva: tallying letras, palavras ou itens pode confundir o modelo, embora uma criança o conseguisse fazer.
Limites práticos de uma conversa
Cada conversa tem uma janela de contexto — a quantidade de informação que o ChatGPT pode utilizar nessa sequência. As suas mensagens e as respostas dele ocupam espaço, e algumas trocas muito longas podem consumir mais do que muitas curtas: não há, portanto, um número fixo de mensagens por conversa. O tamanho desta janela aumenta consoante o seu plano. Quando está cheia, o ChatGPT avisa-o (“Context window full”): pode ainda rever a sequência e, em seguida, iniciar imediatamente uma nova conversa, opcionalmente com um resumo fornecido pelo ChatGPT. Esse resumo pode omitir uma instrução antiga ou uma formulação exata: volte a anexar o que for importante.
O mesmo efeito aplica-se a saídas longas: se pedir ao modelo que escreva um documento de vinte páginas secção por secção, podem surgir contradições entre as partes. Uma revisão completa não é opcional, e as inconsistências assinaladas podem ser corrigidas numa única mensagem.
Experimente você mesmo
Teste os limites por si mesmo. Peça uma citação específica de um autor francês, com a sua fonte, e depois verifique-a você mesmo utilizando um motor de busca. Pergunte sobre um acontecimento muito recente sem pesquisa na web e, em seguida, pergunte novamente com a pesquisa ativada. Peça ao modelo que faça um cálculo em cinco etapas “de cabeça”, depois através da análise de dados, e refaça-o manualmente. Por fim, pergunte quantas vezes aparece a letra R em “extraordinary” e conte você mesmo. Estes exercícios criam uma intuição — mais fiável do que qualquer regra memorizada — sobre quando precisa de verificar.
Duas armadilhas o aguardam. Primeiro, a confiança cega: quanto maiores forem as consequências, mais rigorosos devem ser os seus controlos. Segundo, o extremo oposto: culpar a ferramenta quando o seu prompt foi vago. Antes de concluir que há um erro, reformule o seu pedido.
Fontes oficiais: Does ChatGPT tell the truth? (Centro de Ajuda da OpenAI: alucinações, ferramentas, data de corte, vieses, deteção de texto por IA) · ChatGPT Free Tier FAQ (conversa completa) · Europe Terms of Use (exatidão da resposta) · Data analysis with ChatGPT (cálculos executados em Python)
Pontos-chave
- As alucinações derivam do funcionamento do ChatGPT: ele gera texto plausível, não necessariamente texto verdadeiro
- Verifique sempre factos críticos, citações, fontes e números; o ChatGPT não consegue detetar de forma fiável texto escrito por IA
- A pesquisa na web, a análise de dados e a investigação aprofundada reduzem o risco, mas não o eliminam
- As conversas têm uma janela de contexto limitada: quando está cheia, inicie uma nova sequência com o essencial
- Conhecer estes limites não reduz a utilidade do ChatGPT — torna-o mais eficaz