블로그
화웨이 token plan 꽤 비싸다
Tuesday, June 09, 2026 에서 블로그
싸지 않다, 특히 이 할당량 소모 방식이 문제인데, 입력과 출력이 모두 plan에 포함된다. 나는 자주 한 번의 요청에 2천만 tokens가 나오는데, 59위안 구간은 내 요청 3번분밖에 안 된다. 코딩용으로 쓰면 입력의 약 99%가 입력 캐시인데, 캐시 히트를 정가로 계산하는 건 꽤 황당하다. 쓰는 사람이 생기게 하려면 입력을 계산하지 말고 출력만 할당량에 넣어야, 그때야 고려할 만한 가치가 있다. 예를 들어 알리바바 클라우드의 token …
github copilot의 노선 선택
Thursday, June 04, 2026 에서 블로그
copilot은 작년 2월부터 7월까지 vscode insider에서 무제한으로 사용할 수 있었으며, 나는 이 기간 동안 copilot의 agent 능력이 점차 쇠퇴하는 것을 목격했다. 상상하기 어렵다, copilot의 첫 달 미리보기 버전이竟然 효과가 가장 좋았으며, 이후 agent 능력이 점차 하락했다. 구체적으로 어떤 변화인가? 那就是 copilot의 개발 진화 방향이, 지난 1년여 동안은 “token 절약"이었다는 점 …
해고될까 봐 걱정된다면 오히려 AI를 써야 한다
Thursday, June 04, 2026 에서 블로그
지난 1년 반 동안, 일부 기업은 AI의 역할을 과대평가하여 감원을 시작했으나, 시간이 흐르면서 기업은 AI가 생각보다 똑똑하지도 않고 저렴하지도 않다는 것을 서서히 깨닫고, AI token 소비를 줄이며 감원 속도를 늦추기 시작했습니다. 매우 중요한 이유 중 하나는 AI가 저렴하지 않고, 책임을 질 수 없다는 점입니다. 과거 일부 업계에서는 AI가 감옥에 갈 수 없다는 것을 가지고 농담 삼았지만, 제 실제 업무 경험에 따르면, 그것에는 분명히 …
나는 함부로 기업을 비판하면 안 된다는 것으로 이해한다
Saturday, May 30, 2026 에서 블로그
비록 네티즌의 일부 게시물에는 확실히 새끼 나그네가 강을 건넌다는 문제가 있긴 하지만, 다람쥐가 물이 아주 깊다고 말하지 못하게 할 정도는 아니지. 비교형 게시물에는 흔히 패자와 승자가 있는데, 앞으로 패자가 없게 될지 모르겠다. 일부 제조사는 확실히 과장 홍보를 지나치게 하거나, 순위표의 수식어를 구하기 어려운 데서 찾아 일반 소비자에게 오해를 쉽게 불러일으킨다. 이전에는 제품을 비판할 때 모두 직접 써본 뒤 피해를 피하는 경험을 공유했는데, …
샤오미 API, llm 가성비 상위권
Thursday, May 28, 2026 에서 블로그
앞서 글을 올려 mimo-2.5-pro의 성능이 그 가격을 정당화하기 부족하다고 비판했는데, 그 성능은 정말 gpt5.x나 opus4.x와 견줄 수 없었다. 내가 굳이 비교하려 한 게 아니라 샤오미가 그들과 비교하겠다고 했기에 격차가 뚜렷하다고 지적한 것이다. 하지만 지금 샤오미가 deepseek과 견주는 것으로 바꿨으니, 아직 한번 해볼 만하다고 생각한다. llm을 파는 것은 본래 비용에 따라 가격을 매겨서는 안 된다. 앞서가면 초과 이익을 …
아키텍처가 부패하는 한 가지 요인은 개발 비용에 타협하는 것
Wednesday, May 27, 2026 에서 블로그
부패한 아키텍처의 특징은 다음과 같다: 다수의 특수 처리, 호환 처리, 심각한 결합, 되돌리기 어려움. 아키텍처는 모두 서서히 부패한다. 부패한 아키텍처는 새로운 기능을 개발하기 어렵고, 버그 수정이 힘들며, 하나를 건드리면 온몸이 반응하여 테스트와 QA도 하기 어렵다. 내가 본 적 있는 비전공 개발 애호가가 글을 올려 말하기를, 모델이 코드를 작성할 때의 추상화 행동을 제한하면 코드를 더 이해하기 쉽다고 했다. 사람이 더 이해하기 쉬운 코드는 …
deepseek는 영원히 내 AIgateway에서 한 자리를 차지한다
Friday, May 22, 2026 에서 블로그
2.5할인이 영구적으로 1/4로, 사재기할 필요 없고, 패키지 필요 없고, 5시간 주간 할당량 채울 필요 없고, 한가한 시간/바쁜 시간 배율 계산할 필요 없고, token과 credit 환율 계산할 필요 없이, 소매가 곧 도매가로, 꼼수 없이, 모두 진심입니다.
적절한 망각이 모델 성능에 유리하다
Thursday, May 21, 2026 에서 블로그
GPT5 시리즈는 높은 재현율을 가지며 매우 엄밀한 논리를 구현할 수 있어 버그 해결에 탁월합니다. 동시에 맥락의 앞뒤 모순을 즉시 발견할 수 있어 현재众多 모델 중 유일한 경험을 제공합니다. 하지만 최근 개인 리버싱 프로젝트에서 GPT5의 리버싱 능력이 제한적이며 opus 모델보다明显 떨어진다는 것을 발견했습니다.很多时候 명확히 불가능하다고 답하지만 opus로 바꾸면 기능 리버싱을 빠르게 구현할 수 있습니다. opus는 자신의 리버싱 과정을 …
AI가 작성한 코드의 버그는 더 적은가 더 많은가
Wednesday, May 20, 2026 에서 블로그
AI가 너무 잘 써서 bugs/lines는 분명 적겠지만, lines가 폭증하는 것을 감당하지 못한다. 예전엔 쓰기 싫었던 요구사항도 지금은 팍팍 써대니 버그도 점점 늘어난다. 또한 AI가 남의 버그를 찾는 것도 일품이라, 숨겨진 버그들이 다 드러났다. 예전의 대형 기업이나 인기 라이브러리가 지금처럼 이틀 걸러 큰 버그가 터지진 않았다. 리버싱과 공격이 더 쉬워지면서, 점차 사람들은 AI가 창조만 하는 것이 아님을 깨닫게 될 것이고, 이후의 공 …