Tom, formato, as regras do seu domínio e três exemplos, enviados outra vez em cada chamada. O modelo continua a falhar o seu vocabulário, e o seu arquivo de boas respostas nunca lhe foi mostrado.
Tom, formato, as vinte regras do seu domínio, três exemplos. Tudo é enviado outra vez em cada pedido, e pago de cada vez.
Os seus códigos de produto, a numeração das cláusulas, a forma como os seus analistas escrevem um resumo. Um modelo genérico chega perto e fica por aí.
Milhares de boas respostas estão no seu arquivo. O modelo nunca viu uma.
O fine-tuning treina um modelo com pares de entrada e da resposta que quer. As regras passam do prompt para os pesos. O prompt fica curto, as respostas ficam mais perto das suas.
Três partes. Os dados vêm primeiro, e a maior parte do trabalho está aí.
Bons exemplos, limpos, e em número suficiente.
O modelo base, o método, as execuções.
O modelo afinado à frente dos seus utilizadores.
Quatro fases, com um número no fim de cada uma.
A tarefa, os exemplos que tem, e o critério.
Construir o conjunto de treino e o de teste.
Execuções, avaliação, a escolha.
Servir, observar, entregar.
Prompts mais curtos, respostas mais próximas, e um modelo que é seu.
Instruções e exemplos passam para os pesos. Cada chamada envia a tarefa e pouco mais, o que custa menos e corre mais depressa.
Medido no conjunto reservado contra as respostas que a sua equipa escreveu. O número é reportado antes de alguém depender dele.
Pesos, conjunto de treino e avaliação são entregues. Pode retreinar, mover ou desativar sem nós.
| Lado a lado | Prompt | Modelo afinado |
|---|---|---|
| O seu vocabulário | Explicado em cada prompt | Aprendido dos exemplos |
| Esforço | Dias a escrever, manutenção sem fim | Semanas a construir, depois retreino a uma cadência |
| Exatidão na sua tarefa | A que o prompt alcança | Medida contra as suas respostas, com critério |
| Tokens por chamada | Instruções mais exemplos mais tarefa | A tarefa |
| O que fica seu | Um prompt | Os pesos, os dados, a avaliação |
Depende da tarefa. Uma tarefa estreita com formato consistente pode mostrar um ganho mensurável com algumas centenas de pares limpos. Uma tarefa ampla precisa de milhares. Contamos o que tem na descoberta e medimos primeiro uma base com prompt, para que a decisão de afinar assente num número.
O treino corre na sua infraestrutura ou numa via que não retém dados. O conjunto de treino é anonimizado antes de ser usado, e os pesos que produz são seus. Nada dos seus exemplos chega a um modelo partilhado.
O seu domínio muda: produtos novos, regras novas, frases novas. Registamos entradas e saídas, e retreinamos a uma cadência que define, normalmente quando a exatidão real cai abaixo do critério. Cada versão é guardada com o seu conjunto de treino para que qualquer entrega possa ser revertida.
Sim. Modelos base abertos podem ser afinados e servidos dentro do seu perímetro. Escolhemos o modelo base na descoberta a pensar no seu hardware, para que o modelo afinado corra onde os dados podem estar.
Somos uma equipa pequena de especialistas seniores. Escolhemos o modelo certo e a camada certa, e construímos o mínimo de maquinaria que resolve o problema. Tem uma chamada com um engenheiro, não um deck de vendas.
