scelta di percorso di github copilot
Categories:
copilot da febbraio a luglio dell’anno scorso su vscode insider era utilizzabile illimitatamente, in questo periodo ho assistito al declino graduale delle capacità agent di copilot. Difficile immaginare che la versione di anteprima del primo mese di copilot fosse in realtà la migliore, poi le capacità agent sono diminuite progressivamente. Qual è stato esattamente il cambiamento? È che la direzione di sviluppo e evoluzione di copilot, nell’ultimo anno e oltre, è stata “risparmiare token”. All’inizio gli agent di tutti leggevano i file in un’unica soluzione leggendoli interamente, qwen cli/claudecode/gemini/copilot all’inizio facevano così, l’effetto era molto buono, solo che il consumo di token era probabilmente un po’ alto, e il contesto si riempiva rapidamente; se si ricostruiva il contesto, il tasso di hit della cache diminuiva. In seguito tutti si sono orientati verso la lettura a frammenti: alcuni dopo grep leggono alcune decine di righe sopra e sotto, se non basta leggono ancora; altri usano strumenti strutturati come LSP per leggere il codice. L’agent di copilot usa il metodo di lettura del file dall’alto verso il basso, legge 50 righe alla volta, occasionalmente 200 righe, ma sempre dall’alto verso il basso. Combinato con il limite predefinito di 50 chiamate di strumenti e un contesto di input inferiore a 200k, il lavoro che può completare è abbastanza limitato. All’inizio i servizi di tutti i produttori erano in perdita, con l’aspettativa di occupare la posizione ecologica a basso prezzo e poi trovare il modo di ridurre i costi, solo che in questo anno e oltre hanno finalmente scoperto che i costi non si possono abbassare, e forzare la riduzione dei costi farebbe diventare il proprio prodotto di terza categoria. Quindi non biasimate troppo copilot, tutti gli agent capaci di sedersi al tavolo sono già a pagamento per token, copilot è già uno dei più indietro. Speriamo che, liberatosi del fardello storico del conteggio a consumo, copilot migliori bene il proprio agent e tenga il passo con il gruppo, dopotutto è ancora quello integrato meglio con vscode. Nel fare strumenti AI si può essere cari, ma non si può essere troppo scarsi.
