github copilot의 노선 선택
copilot은 작년 2월부터 7월까지 vscode insider에서 무제한으로 사용할 수 있었으며, 나는 이 기간 동안 copilot의 agent 능력이 점차 쇠퇴하는 것을 목격했다. 상상하기 어렵다, copilot의 첫 달 미리보기 버전이竟然 효과가 가장 좋았으며, 이후 agent 능력이 점차 하락했다. 구체적으로 어떤 변화인가? 那就是 copilot의 개발 진화 방향이, 지난 1년여 동안은 “token 절약"이었다는 점이다. 초기에는 각 업체의 agent가 파일을 읽을 때 한 번에 전부 읽었는데, qwen cli/claudecode/gemini/copilot 초기 모두 그랬으며, 효과는 매우 좋았지만 token 소모가 꽤 클 것으로 추정되고, 컨텍스트도 빠르게 채워지며, 컨텍스트를 재구성하면 캐시 적중률이 떨어진다. 이후 모두 조각 읽기 방향으로 나아갔는데, 어떤 것은 grep 후 상하 수십 줄을 읽고 부족하면 다시 읽으며, 어떤 것은 LSP 같은 코드 구조화 도구를 사용해 읽는다. copilot의 agent는 파일을 위에서 아래로 읽는 방식을 사용하며, 매번 50줄을 읽고 가끔 200줄을 읽지만, 계속 위에서 아래로만 읽는다. 기본 50회의 도구 호출 제한과 200k 미만의 입력 컨텍스트와 맞물려,它能完成的工作比较有限. 초기 각 업체의 서비스는 모두 적자를 보았으며, 저가로 생태계 지위를 점령한 후 후기에 비용을 낮추려는 기대였으나, 이 1년여 시간 동안终于 비용을 낮출 수 없음을 발견했고, 무리하게 비용을 낮추면 자사 제품이 3류 제품이 되었다. 그러므로 copilot을 너무 비난하지 말자, 상위 테이블에 오를 수 있는 agent들은 이미 모두 token 과금제이며, copilot은 이미 뒤처진 하나다. 횟수 과금의 역사적 부담을 던져버린 후, copilot이 자신의 agent를 잘 개선하여 대열에 합류하기를 바란다, 어쨌든 그것은 여전히 vscode와 가장 잘 통합되어 있으니까. AI 도구를 만드는 것은 비쌀 수 있지만, 너무 형편없어서는 안 된다.
