Jak skrócić czas odpowiedzi serwisu AI?

Żądanie wysyłane do API serwisu AI zawiera ciągi znaków do przetłumaczenia. Im dłuższe żądanie, tym więcej czasu API potrzebuje na jego przetworzenie.

Na przykład przetłumaczenie wpisu z 1000 ciągami znaków może zajęć ChatGPT ponad 1 minutę.

Aby skrócić czas odpowiedzi serwisu AI, możesz:

• Użyć szybszego modelu tego samego serwisu AI (np.: ChatGPT 5 mini zamiast ChatGPT 5)
• Zmniejszyć rozmiar ładunku (payload) wysyłanego do API w ustawieniach wtyczki

Przy zmniejszeniu rozmiaru ładunku żądanie zostanie podzielone na wiele mniejszych żądań, z których każde zostanie przetworzone szybciej. Ponieważ są one przetwarzane równolegle, ogólny czas odpowiedzi zostanie skrócony.

Przejdź do Settings > Service Configuration > [AI service] i zmniejsz opcję Max request payload length.

Wypróbuj różne wartości, aż znajdziesz tę, która daje najlepszy czas odpowiedzi. Na przykład, jeśli jest ustawiona na 8000, ustaw ją na 4000 i spróbuj ponownie.