Could you please provide the text you’d like translated?

Kalkulačka nákladů na tokeny AI API: Odhad nákladů na vstupní a výstupní tokeny

AI API Token Cost Calculator: Estimate Input and Output Costs

Odhad nákladů na AI API z výdajů na vstupní a výstupní tokeny, objemu požadavků a sazeb modelů, s praktickými příklady a způsoby, jak snížit náklady.

Odhadněte náklady na AI API před jeho nasazením

Enter the rates published by your provider. Cached tokens, free tiers, batch discounts and taxes are excluded.

Inzerovaná cena AI modelu se obvykle uvádí za milion vstupních tokenů a za milion výstupních tokenů. Tyto sazby se mohou výrazně lišit, takže náklady na požadavek API závisí na tom, kolik kontextu odešlete, i na tom, kolik textu model vygeneruje.

Pomocí výše uvedené kalkulačky odhadněte denní nebo měsíční rozpočet. Nahraďte ukázkové sazby aktuálními cenami, které zveřejňuje vámi zvolený poskytovatel a model. Kalkulačka nenačítá živé ceny.

Krok za krokem: výpočet rozpočtu API

  1. Změřte vstupní tokeny. Zahrňte systémové pokyny, zprávu uživatele, historii konverzace, načtené dokumenty a jakýkoli další text odeslaný modelu.
  2. Změřte výstupní tokeny. Použijte skutečný počet výstupních tokenů z odpovědí API nebo jej odhadněte z reprezentativního testu.
  3. Zadejte požadavky za den. Začněte s pozorovaným využitím nebo realistickou prognózou, nikoli s optimistickým maximem.
  4. Zadejte ceny poskytovatele za milion tokenů. Ceny vstupu a výstupu je nutné zadat samostatně, v USD pro aktuální zobrazení kalkulačky.
  5. Porovnejte odhad se svým rozpočtem. Opakujte s vyšším počtem požadavků a delšími prompty, abyste pochopili možné budoucí zvýšení.

Základní vzorec je:

Cena za požadavek = (vstupní tokeny ÷ 1 000 000 × vstupní sazba) + (výstupní tokeny ÷ 1 000 000 × výstupní sazba).

Výsledek vynásobte počtem požadavků a získáte odhad celkových nákladů na využití.

Příklad výpočtu: AI asistent pro zákaznickou podporu

Předpokládejme, že asistent podpory používá 2 000 vstupních tokenů a 500 výstupních tokenů na požadavek. Pouze pro ilustraci předpokládejme sazby 1 USD za milion vstupních tokenů a 4 USD za milion výstupních tokenů.

Položka Výpočet Náklady
Vstup na požadavek 2 000 ÷ 1 000 000 × 1 USD 0,002 USD
Výstup na požadavek 500 ÷ 1 000 000 × 4 USD 0,002 USD
Celkem za požadavek 0,002 USD + 0,002 USD 0,004 USD
100 požadavků za den 100 × 0,004 USD 0,40 USD/den
Odhad na 30 dní 0,40 USD × 30 12,00 USD

Tyto ceny jsou hypotetické, nejde o cenové nabídky pro žádný konkrétní model. Pokud vaši uživatelé posílají delší zprávy nebo vaše aplikace uchovává rostoucí historii konverzace, počet vstupních tokenů se může zvýšit.

Illustration of the article's main concept

Příklad výpočtu: generování článků pomocí API

Předpokládejme, že publikační postup odesílá dlouhé zadání a referenční materiál v celkovém rozsahu 12 000 vstupních tokenů a poté obdrží 3 000 výstupních tokenů. Při použití stejných ilustrativních sazeb:

  • Vstup: 12 000 ÷ 1 000 000 × 1 USD = 0,012 USD.
  • Výstup: 3 000 ÷ 1 000 000 × 4 USD = 0,012 USD.
  • Jedno generování: 0,024 USD.
  • 50 generování: 1,20 USD.

Tento odhad pokrývá pouze tato volání modelu. Výzkumné požadavky, přepisování, překladatelská volání, opakování, generování obrázků a další služby se přičítají k celkové částce.

Jak měřit tokeny místo odhadování

Většina odpovědí AI API poskytuje informace o využití, jako jsou počty vstupních a výstupních tokenů. Zaznamenejte tyto počty z reprezentativního souboru skutečných požadavků a poté vypočítejte průměr nebo hodnotu vysokého percentilu. Například zaznamenejte název modelu, typ operace, vstupní tokeny, výstupní tokeny a zda požadavek uspěl. Nezaznamenávejte zbytečně soukromý obsah promptu.

Tokenizér vám může pomoci odhadnout délku promptu před jeho odesláním, ale zpráva o využití z API je obecně lepším zdrojem pro skutečné fakturační jednotky. Počty tokenů nejsou totožné s počty slov a poměr se mění podle jazyka, formátování a kódu.

Proč se vaše faktura může lišit

Příčina Co zkontrolovat
Vstupní tokeny z mezipaměti Zda poskytovatel účtuje tokeny z mezipaměti jinou sazbou
Dávkové zpracování Zda se uplatňuje asynchronní dávková sleva
Opakování a neúspěšné požadavky Zda spotřebovaly fakturovatelné tokeny
Dlouhá historie konverzace Zda se celá historie znovu odesílá při každém tahu
Volání nástrojů nebo multimodální vstupy Zda se uplatňují další typy tokenů nebo samostatné poplatky
Změny modelu Zda má nasazený model odlišné vstupní/výstupní sazby
Daně, kredity a bezplatné tarify Zda ovlivňují skutečně fakturovanou částku

Důležité: kalkulačka používá jednoduchý cenový model vstup/výstup. Samostatně nezohledňuje tokeny z mezipaměti, účtování tokenů za uvažování, poplatky za zvuk, obrázky nebo video ani minimální poplatky specifické pro poskytovatele.

Jak snížit náklady na API bez ztráty kvality

Omezte opakovaný kontext. Odesílejte pokyny a dokumenty potřebné pro aktuální úkol, místo abyste automaticky přikládali každou dřívější výměnu.

Nastavte rozumné limity výstupu. Stručný úkol na extrakci zřídka potřebuje stejný limit výstupu jako dlouhá zpráva. Ověřte, že odpověď stále obsahuje všechny požadované informace.

Technical workflow illustration

Použijte pro každý krok správný model. Klasifikace, shrnutí a složité uvažování mohou mít různé požadavky na kvalitu a náklady. Před přepnutím modelů proveďte benchmark na vlastních příkladech.

Ukládejte znovupoužitelné informace do mezipaměti, pokud je to podporováno. Zkontrolujte pravidla poskytovatele pro ukládání promptů do mezipaměti a změřte skutečnou slevu, místo abyste předpokládali, že na ni má nárok každý požadavek.

Sledujte využití v produkci. Sledujte tokeny a náklady na funkci, uživatele nebo úlohu. Nastavte upozornění na náhlé špičky a kontrolujte smyčky, které nadměrně opakují pokusy.

Časté dotazy

Zobrazuje kalkulačka aktuální ceny modelů?

Ne. Zadejte nejnovější vstupní a výstupní sazby z dokumentace k cenám vašeho poskytovatele. Výchozí hodnoty jsou příklady.

Co když můj poskytovatel účtuje v jiné měně?

Aktuální kalkulačka zobrazuje USD. V případě potřeby si sazby převeďte sami pomocí jasně zdokumentovaného směnného kurzu; kalkulačka neprovádí převod měn.

Mohu odhadnout měsíční náklady z denních požadavků?

Ano. Vynásobte denní odhad počtem dní, po které očekáváte, že bude aplikace spuštěná. Třicetidenní měsíc je užitečná plánovací konvence, nikoli záruka skutečného využití.

Proč jsou výstupní tokeny často dražší?

Poskytovatelé mohou stanovit samostatné sazby pro generování tokenů a zpracování vstupu. Vždy zkontrolujte aktuální ceny konkrétního modelu, místo abyste předpokládali jednu společnou sazbu.

Příklady výpočtů jsou ilustrativní. Před stanovením rozpočtu si přímo u poskytovatele API ověřte fakturační jednotky, aktuální ceny modelů a případné slevy.