le choix de trajectoire de github copilot
Categories:
copilot était utilisable sans limite dans vscode insider de février à juillet de l’année dernière, j’ai pu observer durant cette période le déclin progressif des capacités agent de copilot. Difficile à imaginer, la première version d’aperçu de copilot était en fait la meilleure, puis les capacités agent ont diminué progressivement. Quel a été le changement exact ? C’est la direction d’évolution du développement de copilot : au cours de la dernière année et plus, elle a été « économiser les tokens ». Au début, les agents de chacun lisait les fichiers en les lisant entièrement d’un coup, qwen cli/claudecode/gemini/copilot faisaient tous ainsi au début, l’effet était très bon, sauf que la consommation de tokens était probablement assez élevée, le contexte se remplissait aussi rapidement, et si l’on reconstruisait le contexte, le taux de hit du cache diminuait. Plus tard, tout le monde est passé à la lecture par fragments, certains font un grep puis lisent quelques dizaines de lignes autour, et relisent si ce n’est pas suffisant, d’autres utilisent des outils structurés comme LSP pour lire le code. L’agent de copilot utilise la méthode de lecture du fichier de haut en bas, lit 50 lignes à chaque fois, occasionnellement 200 lignes, mais lit toujours de haut en bas. Avec la limite par défaut de 50 appels d’outils et un contexte d’entrée de moins de 200k, le travail qu’il peut accomplir est assez limité. Au début, les services de chaque fabricant étaient déficitaires, dans l’attente de conquérir des parts d’écosystème à bas prix, puis de réduire les coûts plus tard ; seulement, durant cette année et plus, on s’est enfin rendu compte que les coûts ne pouvaient pas être réduits, et forcer la réduction des coûts ferait de son produit un produit de troisième ordre. Donc ne blâmons pas trop copilot, tous les agents pouvant être sur la table sont déjà facturés au token, copilot est déjà l’un des retardataires. Après avoir abandonné le fardeau historique du comptage par utilisation, espérons que copilot améliore bien son agent et rattrape le gros de la troupe, après tout il reste celui qui s’intègre le mieux avec vscode. Faire des outils IA peut être cher, mais ne peut pas être trop médiocre.
