Dizemos constantemente:
"A inteligência artificial aprendeu."
Mas isto pode criar uma imagem errada.
Não há um pequeno cérebro digital a ler livros e a tomar notas.
Treinar um modelo é sobretudo um processo matemático.
Começamos com um modelo que não sabe quase nada
Imagina um sistema inicialmente incapaz de prever texto de forma útil.
Recebe exemplos.
Tenta prever determinada continuação.
Falha.
O sistema calcula quão errada foi a previsão.
Depois ajusta milhões ou milhares de milhões de valores internos.
Repete.
Muitas vezes.
Um exemplo muito simplificado
Apresentamos:
"Lisboa é a capital de..."
O modelo prevê:
"Espanha."
Está errado.
O processo de treino ajusta internamente o modelo para tornar determinadas relações mais prováveis e outras menos.
Com quantidades enormes de exemplos, começa a captar padrões.
Portugal relaciona-se com Lisboa.
França com Paris.
Cães com animais.
PHP com programação.
Mas também aprende estruturas muito mais abstratas.
O conhecimento fica em parâmetros
Um modelo tem enormes quantidades de valores numéricos chamados parâmetros.
Durante o treino, esses valores são ajustados.
É aí que grande parte da capacidade do modelo fica codificada.
Não existe necessariamente uma pequena tabela:
| Pergunta | Resposta |
|---|---|
| Capital de Portugal | Lisboa |
É uma representação distribuída e muito mais complexa.
Então não memoriza nada?
Modelos podem memorizar partes de dados de treino, especialmente informação repetida ou padrões específicos.
Mas reduzir todo o processo a memorização não explica como conseguem responder a combinações de perguntas que nunca apareceram exatamente assim.
O objetivo do treino é aprender padrões suficientemente gerais para aplicar a casos novos.
Treino não é o mesmo que conversa
Outro erro comum:
"Acabei de dizer isto ao ChatGPT, portanto agora o modelo aprendeu."
Não necessariamente.
Usar um modelo e treinar um modelo são processos diferentes.
Durante uma conversa, a informação pode fazer parte do contexto e influenciar respostas seguintes.
Isso não significa que naquele segundo os parâmetros globais do modelo tenham sido reprogramados.
E quando corrigimos uma IA?
Podes melhorar a resposta atual.
Por exemplo:
"Não escrevas em português do Brasil. Usa português de Portugal."
A partir daí, dentro do contexto disponível, o modelo pode adaptar-se.
Mas isso é diferente de treinar novamente todo o sistema.
Porque precisa de tantos dados?
Porque linguagem e mundo são extremamente complexos.
Para funcionar bem, um modelo precisa de encontrar relações entre uma quantidade gigantesca de conceitos.
É essa escala que permite fenómenos surpreendentes.
Quando dizemos que uma IA "aprendeu", estamos a usar uma metáfora humana conveniente.
Na prática, estamos a falar de:
um sistema matemático que ajustou uma quantidade enorme de valores até ficar muito bom a reconhecer e reproduzir padrões.
Menos ficção científica.
Mais matemática.
Free resources
If this article was useful, start with the free resources too
It is the simplest way to move from reading to testing: download a resource, try it in your own context, and decide later if you want to go deeper with the ebook.