华为token plan termahal
Mahal, terut cara perhitungan kuota ini, input dan output both dihitung di dalam plan. Saya sering sekali permintaan satu kali 2kw tokens, kuota 59 hanya cukup untuk 3 permintaan. Untuk coding, sekitar 99% input adalah input cache, harga penuh untuk cache hit terasa luar biasa. Jika ingin orang gunakannya, jangan hitung input, hanya hitung output di kuota, begitu layak untuk dipertimbangkan. Seperti plan token Alibaba Cloud, setidaknya membedakan input dan input cache, harga cache hit adalah 1/10, juga beberapa menawarkan. Tidak tahu apakah Huawei memang tidak memiliki cache hit, atau dokumentasi hanya lupa menulis.
Mahal, terut cara perhitungan kuota ini, input dan output both dihitung di dalam plan. Saya sering sekali permintaan satu kali 2kw tokens, kuota 59 hanya cukup untuk 3 permintaan. Untuk coding, sekitar 99% input adalah input cache, harga penuh untuk cache hit terasa luar biasa. Jika ingin orang gunakannya, jangan hitung input, hanya hitung output di kuota, begitu layak untuk dipertimbangkan. Seperti plan token Alibaba Cloud, setidaknya membedakan input dan input cache, harga cache hit adalah 1/10, juga beberapa menawarkan. Tidak tahu apakah Huawei memang tidak memiliki cache hit, atau dokumentasi hanya lupa menulis.
