wybór ścieżki github copilot
Categories:
copilot od lutego do lipca zeszłego roku był dostępny bez limitu w vscode insider, w tym czasie obserwowałem stopniowy spadek możliwości agenta copilot. trudno uwierzyć, że pierwsza wersja podglądowa copilot okazała się najlepsza, a potem możliwości agenta stopniowo malały. Jaka to była konkretna zmiana? Otóż kierunek rozwoju copilot w ciągu ostatniego roku i kilku miesięcy to „oszczędzanie tokenów”. Wcześniej agenty wszystkich czytały pliki naraz w całości — qwen cli, claudecode, gemini i wczesny copilot działały w ten sposób, efekt był bardzo dobry, tylko zużycie tokenów było zapewne dość duże, kontekst też szybko się zapełniał, a przy przebudowie kontekstu wskaźnik trafień w pamięć podręczną spadał. Później wszyscy poszli w kierunku czytania fragmentami — jedni po grep czytają kilkadziesiąt linijek w górę i w dół, jak brakuje, to czytają więcej, inni używają strukturalnych narzędzi jak LSP do czytania kodu. Agent copilot czyta pliki od góry do dołu, za każdym razem 50 linii, czasem 200, ale stale od góry w dół. Przy domyślnym limicie 50 wywołań narzędzi i wejściowym kontekście poniżej 200k, zakres jego możliwości jest dość ograniczony. Wczesne usługi wszystkich producentów były stratne, zakładano zdobycie pozycji w ekosystemie po niskiej cenie, a później obniżenie kosztów, tyle że w ciągu tego roku i kilku miesięcy w końcu odkryto, że kosztów nie da się obniżyć, a wymuszona redukcja kosztów sprawia, że produkt staje się trzeciorzędny. Więc nie ma co zbytnio winić copilot — agenty, które utrzymały się przy stole, już liczą opłaty za tokeny, a copilot jest jednym z opóźnionych. Mam nadzieję, że po zrzuceniu historycznego balastu liczenia na sztuki copilot porządnie poprawi swojego agenta i dogoni resztę, w końcu to nadal najlepiej zintegrowane z vscode. Narzędzia AI mogą być drogie, ale nie mogą być zbyt słabe.
