Usar ChatGPT parece quase banal.
Escreves:
"Dá-me ideias para um jantar rápido."
Carregas Enter.
Dois segundos depois tens uma lista.
Mas o que aconteceu nesses dois segundos?
Não há uma pessoa do outro lado. Também não existe uma base de dados gigante onde o ChatGPT procura uma resposta já escrita.
O processo é bastante mais interessante.
Primeiro: a tua frase é transformada em números
Computadores não percebem palavras como nós.
Por isso, antes de a inteligência artificial conseguir trabalhar com a tua pergunta, o texto é dividido em pequenas unidades chamadas tokens.
Um token pode ser uma palavra, parte de uma palavra ou até um sinal de pontuação.
Por exemplo:
Hoje quero fazer massa.
pode ser dividido internamente em vários pequenos elementos.
Cada um é depois convertido numa representação matemática.
A partir daqui, a IA deixa de estar a trabalhar diretamente com letras. Está a trabalhar com números.
Depois entra o contexto
O modelo olha para aquilo que escreveste e para o contexto disponível na conversa.
Se anteriormente disseste:
"Sou vegetariano."
e depois perguntas:
"O que faço para jantar?"
essa informação pode influenciar a resposta.
É por isso que uma conversa com IA consegue parecer contínua.
Não significa necessariamente que a IA tenha uma memória humana sobre ti. Significa que está a receber determinado contexto juntamente com a nova pergunta.
A seguir começa a previsão
Esta é provavelmente a parte mais importante.
Um modelo como o ChatGPT gera texto prevendo o que deve aparecer a seguir.
Simplificando muito:
"A capital de Portugal é..."
é muito provável que seja seguido por:
"Lisboa".
Mas a IA faz isto numa escala gigantesca.
Para cada pequeno pedaço da resposta, calcula quais são as continuações mais prováveis tendo em conta tudo o que veio antes.
Escolhe uma.
Depois repete.
E repete.
E repete.
É assim que aparece uma frase inteira.
Então a IA só está a completar frases?
Sim.
E também não.
Dizer que um modelo de linguagem "só prevê a próxima palavra" é tecnicamente útil, mas pode ser enganador.
É como dizer que um computador "só movimenta eletrões".
É verdade, mas não explica tudo o que emerge desse processo.
Para conseguir prever texto muito bem, o modelo acaba por aprender relações entre conceitos, estilos de escrita, idiomas, estruturas lógicas, programação, matemática e enormes quantidades de padrões existentes na linguagem humana.
É isso que lhe permite responder a perguntas que nunca viu exatamente daquela forma.
A IA vai pesquisar a resposta à Internet?
Nem sempre.
Há uma diferença importante entre:
- responder usando o conhecimento do próprio modelo;
- pesquisar informação externa;
- utilizar ferramentas;
- consultar documentos que lhe forneceste.
Um modelo pode responder sem fazer qualquer pesquisa naquele momento.
E aqui nasce um dos seus maiores problemas.
Pode produzir uma resposta perfeitamente convincente... que está errada.
Porque responde com tanta confiança quando não sabe?
Porque o mecanismo base não é:
"Sei isto?"
É mais parecido com:
"Que sequência de texto faz mais sentido aqui?"
Por isso, fluência e verdade não são a mesma coisa.
Um texto pode parecer excelente e conter informação falsa.
É também por isso que vale a pena confirmar informação quando estão em causa saúde, dinheiro, legislação, notícias ou decisões importantes.
O mais curioso
Quando escreves uma pergunta à IA, ela não recebe exatamente aquilo que tu vês no ecrã.
Há normalmente outras instruções, contexto, configurações e mecanismos envolvidos.
A tua pergunta é apenas uma parte daquilo que o modelo usa para construir a resposta.
A forma mais simples de pensar num chatbot moderno é esta:
não é um Google que fala contigo e não é uma pessoa digital.
É um sistema extremamente sofisticado de interpretação de contexto e geração de informação.
E perceber esta diferença ajuda bastante a usá-lo melhor.
Free resources
If this article was useful, start with the free resources too
It is the simplest way to move from reading to testing: download a resource, try it in your own context, and decide later if you want to go deeper with the ebook.