Тарифный план токенов Huawei довольно дорогой
Недёшево, особенно способ учёта расхода лимита — и ввод, и вывод засчитываются в план. Часто одиночный запрос у меня съедает 20 млн токенов, тарифа за 59 юаней хватает всего на 3 запроса. При кодинге около 99% ввода — это кэш ввода, а попадание в кэш ввода считается по полной цене — довольно нелепо. Если хотите, чтобы им пользовались, не считайте ввод, а засчитывайте в лимит только вывод,…
Categories:
Недёшево, особенно способ учёта расхода лимита — и ввод, и вывод засчитываются в план. Часто одиночный запрос у меня съедает 20 млн токенов, тарифа за 59 юаней хватает всего на 3 запроса. При кодинге около 99% ввода — это кэш ввода, а попадание в кэш ввода считается по полной цене — довольно нелепо. Если хотите, чтобы им пользовались, не считайте ввод, а засчитывайте в лимит только вывод, тогда стоит рассмотреть. Например, тарифный план токенов облачной платформы Alibaba хотя бы различает ввод и кэш ввода, цена при попадании в кэш — 1/10, это уже какая-то скидка. Не знаю, действительно ли у Huawei нет попадания в кэш или они забыли написать об этом в документации.
