Liczenie odbywa się na tym urządzeniu. Twój tekst nigdy nie jest przesyłany. Wklej prompt lub otwórz dokument, ustaw, ile żądań się spodziewasz, wpisz ceny swojego dostawcy i zobacz, ile powinno kosztować zadanie, zanim je uruchomisz. Jest darmowe i prywatne.
Jak oszacować koszt
- Wklej tekst albo użyj Otwórz plik tekstowy. Wypróbuj przykład wstawia przykładowy tekst.
- Ustaw Tokeny wyjściowe na żądanie, czyli jak długiej odpowiedzi oczekujesz za każdym razem.
- Ustaw Liczbę żądań.
- Dodaj Dodatkowe tokeny wejściowe na żądanie dla wszystkiego, co jest wysyłane za każdym razem, jak instrukcje lub wcześniejsze wiadomości.
- Wpisz ceny za milion tokenów dla każdego modelu w tabeli.
- Odczytaj koszt na żądanie i sumę, a potem użyj Pobierz CSV, aby zachować porównanie.
Liczby dokładne i szacowane
Niektóre tokenizery są opublikowane, więc liczby dla tych modeli są dokładne dla samego tekstu, gdy opcja dokładnych liczb jest włączona. Inne rodziny modeli używają tokenizerów, które nie są opublikowane w formie, która mogłaby działać tutaj, więc ich liczby są szacunkami, oznaczonymi jako takie, opartymi na około 3,5 do 4 znakach na token dla angielskiego. Kod, liczby i inne języki zwykle zużywają więcej tokenów na znak.
Obliczanie kosztu
Każde żądanie kosztuje swoje tokeny wejściowe razy cena wejścia plus tokeny wyjściowe razy cena wyjścia, z cenami podanymi za milion tokenów. Suma mnoży to przez liczbę żądań. Dodaj dodatkowe tokeny wejściowe dla wszystkiego, co jest wysyłane z każdym żądaniem, jak wiadomość systemowa lub historia czatu.
Na przykład prompt 2000 tokenów z odpowiedzią 500 tokenów, powtórzony 1000 razy, to 2 miliony tokenów wejściowych i 0,5 miliona tokenów wyjściowych. Pomnóż każdą przez jej cenę za milion i dodaj.
Wskazówki dla dobrego planowania
- Uruchom szacunek na swoim najdłuższym realistycznym wejściu, a nie najkrótszym, aby budżet miał zapas.
- Wyjście zwykle kosztuje więcej za token niż wejście, więc długa odpowiedź może mieć większe znaczenie niż długi prompt.
- Porównaj kilka modeli obok siebie, zanim wybierzesz. Tańszy model, który potrzebuje mniej powtórzeń, może być lepszą wartością.
- Użyj Pobierz CSV, aby udostępnić liczby klientowi lub współpracownikowi.
Kto z tego korzysta
Freelancerzy wyceniający projekt przetwarzający dokumenty, małe firmy sprawdzające, czy automatyzacja jest opłacalna, i studenci utrzymujący projekt w budżecie. Aby przygotować długie dokumenty do przetwarzania, dzielenie tekstu na fragmenty dzieli je na części.
Pytania
Dlaczego nie ma uzupełnionych cen?
Ceny często się zmieniają i różnią się w zależności od rozmiaru modelu, regionu, rabatów za partie i pamięci podręcznej. Wpisanie aktualnej ceny ze strony dostawcy sprawia, że liczby są poprawne. Przykład używa zaokrąglonych, zmyślonych cen tylko po to, by pokazać, jak to działa.
Jak bliskie są oszacowania?
Dla zwykłej angielskiej prozy zwykle mieszczą się w granicach 10 do 20 procent. Traktuj je jako wskazówkę planistyczną, a nie rachunek. Dokładne wartości sprawdź na stronie użycia lub w punkcie końcowym liczenia tokenów u dostawcy.
Czy mogę dodać inny model?
Tak. Dodaj model, nadaj mu nazwę, podaj liczbę znaków na token i ceny. Jest zapisywany na tym urządzeniu razem z innymi cenami, a Wyczyść moje ceny je usuwa.
Czego nie obejmuje?
Tokeny formatowania dodawane przez API czatów, obrazy, dźwięk, definicje narzędzi, rabaty za pamięć podręczną wejścia i tokeny rozumowania, których niektóre modele używają podczas myślenia. Dodaj zapas za pomocą dodatkowych tokenów wejściowych lub wyjściowych.
Czym jest token?
Token to mały fragment tekstu, często krótkie słowo lub część dłuższego. W języku angielskim token to mniej więcej cztery znaki, czyli około trzy czwarte słowa.
Czy mój tekst jest gdzieś przechowywany?
Nie. Tekst jest liczony w Twojej przeglądarce. Zapisywane są tylko wpisane ceny i tylko na tym urządzeniu.