Por que aumentar a eficiência de token do modelo permite aumentar o preço
Categories:
O GPT5.5 tem o preço dobrado em relação ao GPT5.4, e o GPT5.4 teve um aumento de preço de cerca de 40% em relação ao GPT5.3codex. Os dois aumentos de preço têm uma lógica básica em comum, ou seja, a eficiência de token foi melhorada. O GPT5.2 é um modelo lento a ponto de deixar as pessoas furiosas, mas a série GPT5 tem alta precisão na localização de problemas, poucos bugs e pode reduzir significativamente a carga mental de revisão, por isso nunca tive coragem de abandoná-lo. A partir do GPT5.3codex, cada geração do modelo GPT melhorou visivelmente a velocidade. Segundo a declaração oficial, o modelo, ao melhorar o desempenho, reduziu o custo de tokens de raciocínio. Ou seja, com o hardware inalterado e a melhora no desempenho, o modelo é mais “direto ao ponto”. Eu entendo isso como o modelo tendo inteligência maior e lógica mais clara, conseguindo pensar rapidamente na conclusão correta, em vez de refletir várias vezes. Quem já viu a cadeia de pensamento de alguns modelos de código aberto notará que seu processo de raciocínio pode estar majoritariamente errado, mas contando com múltiplas reflexões e múltiplas introduções de detalhes, ainda pode chegar à resposta correta no final, só que a cadeia de pensamento é longa e péssima. A eficiência de raciocínio do GPT5.5 agora pode ser considerada única no setor. O raciocínio do opus costumava ser ilusório, e a partir do 4.7 também surgiu o “Você precisa de…?”. Pela minha experiência, após o GPT5.4 a taxa de precisão de recomendação já era muito alta. Espero que nossos modelos distilem o GPT5 logo, e parem de destilar o opus.
