Agentes
Reflexion: agentes que aprendem com os próprios erros
No método Reflexion, o agente escreve uma autocrítica depois de falhar e usa essa nota na tentativa seguinte. Melhora sem mexer nos pesos do modelo.
@raulelgreco1 min de leitura
Treinar um modelo de novo a cada erro é caro. O Reflexion, de Shinn e colegas (2023), propõe outra saída: deixar o agente refletir em linguagem natural.
Como funciona
- O agente tenta resolver a tarefa.
- Um sinal de avaliação indica sucesso ou falha, como testes de código que passam ou não.
- O agente escreve uma reflexão sobre o que deu errado.
- Essa reflexão fica numa memória e entra no contexto da próxima tentativa.
Os autores relataram ganhos em geração de código, tomada de decisão em ambientes de texto e raciocínio, sem nenhum ajuste de pesos.
Limites
- Depende de um bom sinal de avaliação. Sem saber se errou, o agente não tem o que corrigir.
- A memória ocupa espaço no contexto.
- A autocrítica pode estar errada e reforçar uma estratégia ruim.
A ideia de usar a própria linguagem como memória de aprendizado aparece hoje em muitos agentes de programação.
Foto: Alex Knight / Unsplash.