Il piano token di Huawei è piuttosto costoso
Categories:
Non è economico, specialmente il modo in cui viene conteggiato il consumo della quota, input e output sono entrambi inclusi nel piano. Spesso una singola richiesta mi costa 20 milioni di token, la fascia da 59 yuan basta solo per 3 richieste. Se usato per la codifica, circa il 99% dell’input è cache di input, calcolare la cache di input hit al prezzo pieno è abbastanza assurdo. Se vogliono che qualcuno lo usi, non conteggiare l’input, includi solo l’output nella quota, solo così vale la pena prenderlo in considerazione. Ad esempio, il piano token di Alibaba Cloud, per lo meno distingue tra input e cache di input, il prezzo della cache hit è 1/10, è già un certo sconto. Non so se da parte di Huawei non ci sia effettivamente la cache hit, o se la documentazione si sia dimenticata di scriverlo.
