Koszt tokenów LLM

Przy 12 mln in, 4 mln out, 3 cena in, 15 cena out wychodzi Szacunkowy koszt inferencji: 96,00 USD. Wynik nie jest rachunkiem API.

Wynik nie jest rachunkiem API. Ekspozycja API jest na Ekspozycja API.

Dane

Wynik

Wprowadź dane.

Często zadawane pytania

Co robi Koszt tokenów LLM?
Wykonuje obliczenie według modelu z formularza. Wynik pojawia się po kliknięciu Oblicz.
Jakiego wzoru używa kalkulator?
Logikę widać w sekcji „Jak obliczane są wyniki” pod formularzem.
Jakie dane muszę wpisać?
Wartości z etykiet pól; jednostki i waluta (jeśli dotyczy) z nagłówka strony.
Czy wynik jest dokładny czy szacunkowy?
Zależy od modelu — wzory dają wynik dokładny w ramach założeń; modele uproszczone traktuj orientacyjnie.

Jak to działa?

Koszt tokenów LLM na tej karcie to tokeny wejścia i wyjścia razy ich ceny. Przy 12 mln in, 4 mln out, 3 cena in, 15 cena out wychodzi Szacunkowy koszt inferencji: 96,00 USD.

koszt = tin × pin + tout × pout. We wzorze liczą się tokeny i inferencji.

96,00 USD nie jest rachunkiem API. Inny zestaw liczb daje 23,00 USD, kolejny 440,00 USD. Puste pola opcjonalne nie zmieniają wyniku.

Ekspozycja API liczy inny wskaźnik. Luka fairness też. Tu przy 12 mln in, 4 mln out, 3 cena in, 15 cena out zostaje 96,00 USD.

Wpisz 12 mln in, 4 mln out, 3 cena in, 15 cena out i kliknij Oblicz. Pod kartą są jeszcze dwa gotowe zestawy: 23,00 USD oraz 440,00 USD.

Zmiana liczb przy tych samych etykietach rusza wynik. Pierwszy przykład zostawia 96,00 USD.

Wzór

koszt = tin × pin + tout × pout.

Jak korzystać

  1. Wpisz 12 mln in, 4 mln out, 3 cena in, 15 cena out.
  2. Pola opcjonalne zostaw puste, jeśli nie chcesz ich liczyć.
  3. Kliknij Oblicz. Przy tym zestawie wychodzi Szacunkowy koszt inferencji: 96,00 USD.
  4. Drugi przykład pod kartą pokazuje Szacunkowy koszt inferencji: 23,00 USD, trzeci Szacunkowy koszt inferencji: 440,00 USD.
  5. Wynik nie jest rachunkiem API.

Koszt tokenów LLM = Szacunkowy koszt inferencji: 96,00 USD

Przy 12 mln in, 4 mln out, 3 cena in, 15 cena out wychodzi Szacunkowy koszt inferencji: 96,00 USD. Wynik nie jest rachunkiem API.

Koszt tokenów LLM
Koszt tokenów LLM to wynik tej karty. Przy pierwszym przykładzie jest Szacunkowy koszt inferencji: 96,00 USD.
tokeny
We wzorze jest tokeny. Drugi przykład zostawia 23,00 USD.
inferencji
We wzorze jest inferencji. Drugi przykład zostawia 23,00 USD.

Przykłady

Przykład 1

  • 12 mln in
  • 4 mln out
  • 3 cena in
  • 15 cena out

Szacunkowy koszt inferencji: 96,00 USD

Przy 12 mln in, 4 mln out, 3 cena in, 15 cena out wychodzi Szacunkowy koszt inferencji: 96,00 USD. Wynik nie jest rachunkiem API.

Przykład 2

  • 4 mln in
  • 1,5 mln out
  • 2 cena in
  • 10 cena out

Szacunkowy koszt inferencji: 23,00 USD

Przy 4 mln in, 1,5 mln out, 2 cena in, 10 cena out wychodzi Szacunkowy koszt inferencji: 23,00 USD.

Przykład 3

  • 40 mln in
  • 12 mln out
  • 5 cena in
  • 20 cena out

Szacunkowy koszt inferencji: 440,00 USD

Przy 40 mln in, 12 mln out, 5 cena in, 20 cena out wychodzi Szacunkowy koszt inferencji: 440,00 USD.

Powiązane kalkulatory

Najczęstsze pytania

Ile wychodzi przy 12 mln in, 4 mln out, 3 cena in, 15 cena out?

Szacunkowy koszt inferencji: 96,00 USD. Wynik nie jest rachunkiem API.

Co przy drugim przykładzie?

Szacunkowy koszt inferencji: 23,00 USD.

Co przy trzecim przykładzie?

Szacunkowy koszt inferencji: 440,00 USD.

Czy 96,00 USD jest rachunkiem API?

Nie. To wynik z pól tej karty.

Czy puste pola zmieniają 96,00 USD?

Nie. Puste pola opcjonalne nie zmieniają wyniku.

Czym to różni się od Ekspozycja API?

Tam inny wskaźnik. Tu Koszt tokenów LLM i Szacunkowy koszt inferencji: 96,00 USD.

Czy przecinek w liczbie działa?

Tak. Przecinek i kropka w polu liczby znaczą to samo.

Skąd waluta w 96,00 USD?

Etykieta nagłówka jest zwykle USD. Inna waluta zmienia napis, nie przelicza kwoty.

Czy 4 mln in, 1,5 mln out, 2 cena in, 10 cena out dają Szacunkowy koszt inferencji: 23,00 USD?

Tak. To drugi przykład pod kartą.