O que acontece realmente quando escreves uma pergunta ao ChatGPT?

Usar ChatGPT parece quase banal.

Escreves:

"Dá-me ideias para um jantar rápido."

Carregas Enter.

Dois segundos depois tens uma lista.

Mas o que aconteceu nesses dois segundos?

Não há uma pessoa do outro lado. Também não existe uma base de dados gigante onde o ChatGPT procura uma resposta já escrita.

O processo é bastante mais interessante.

Primeiro: a tua frase é transformada em números

Computadores não percebem palavras como nós.

Por isso, antes de a inteligência artificial conseguir trabalhar com a tua pergunta, o texto é dividido em pequenas unidades chamadas tokens.

Um token pode ser uma palavra, parte de uma palavra ou até um sinal de pontuação.

Por exemplo:

Hoje quero fazer massa.

pode ser dividido internamente em vários pequenos elementos.

Cada um é depois convertido numa representação matemática.

A partir daqui, a IA deixa de estar a trabalhar diretamente com letras. Está a trabalhar com números.

Depois entra o contexto

O modelo olha para aquilo que escreveste e para o contexto disponível na conversa.

Se anteriormente disseste:

"Sou vegetariano."

e depois perguntas:

"O que faço para jantar?"

essa informação pode influenciar a resposta.

É por isso que uma conversa com IA consegue parecer contínua.

Não significa necessariamente que a IA tenha uma memória humana sobre ti. Significa que está a receber determinado contexto juntamente com a nova pergunta.

A seguir começa a previsão

Esta é provavelmente a parte mais importante.

Um modelo como o ChatGPT gera texto prevendo o que deve aparecer a seguir.

Simplificando muito:

"A capital de Portugal é..."

é muito provável que seja seguido por:

"Lisboa".

Mas a IA faz isto numa escala gigantesca.

Para cada pequeno pedaço da resposta, calcula quais são as continuações mais prováveis tendo em conta tudo o que veio antes.

Escolhe uma.

Depois repete.

E repete.

E repete.

É assim que aparece uma frase inteira.

Então a IA só está a completar frases?

Sim.

E também não.

Dizer que um modelo de linguagem "só prevê a próxima palavra" é tecnicamente útil, mas pode ser enganador.

É como dizer que um computador "só movimenta eletrões".

É verdade, mas não explica tudo o que emerge desse processo.

Para conseguir prever texto muito bem, o modelo acaba por aprender relações entre conceitos, estilos de escrita, idiomas, estruturas lógicas, programação, matemática e enormes quantidades de padrões existentes na linguagem humana.

É isso que lhe permite responder a perguntas que nunca viu exatamente daquela forma.

A IA vai pesquisar a resposta à Internet?

Nem sempre.

Há uma diferença importante entre:

• responder usando o conhecimento do próprio modelo;
• pesquisar informação externa;
• utilizar ferramentas;
• consultar documentos que lhe forneceste.

Um modelo pode responder sem fazer qualquer pesquisa naquele momento.

E aqui nasce um dos seus maiores problemas.

Pode produzir uma resposta perfeitamente convincente... que está errada.

Porque responde com tanta confiança quando não sabe?

Porque o mecanismo base não é:

"Sei isto?"

É mais parecido com:

"Que sequência de texto faz mais sentido aqui?"

Por isso, fluência e verdade não são a mesma coisa.

Um texto pode parecer excelente e conter informação falsa.

É também por isso que vale a pena confirmar informação quando estão em causa saúde, dinheiro, legislação, notícias ou decisões importantes.

O mais curioso

Quando escreves uma pergunta à IA, ela não recebe exatamente aquilo que tu vês no ecrã.

Há normalmente outras instruções, contexto, configurações e mecanismos envolvidos.

A tua pergunta é apenas uma parte daquilo que o modelo usa para construir a resposta.

A forma mais simples de pensar num chatbot moderno é esta:

não é um Google que fala contigo e não é uma pessoa digital.

É um sistema extremamente sofisticado de interpretação de contexto e geração de informação.

E perceber esta diferença ajuda bastante a usá-lo melhor.