Sprzęt i wdrażanie
Zasoby obliczeniowe
Compute
Inne nazwy i skróty: moc obliczeniowa, obliczenia.
Czym są zasoby obliczeniowe?
Środki potrzebne do wykonania obliczeń, na przykład czas pracy procesorów i liczba operacji.
W projektach AI wpływają na czas uczenia, przepustowość i koszty; nie są synonimem liczby parametrów modelu.
Przykład zastosowania
Zespół szacuje liczbę godzin pracy GPU potrzebną do treningu i osobno mierzy przepustowość obsługi zapytań.
O czym pamiętać?
Większy budżet obliczeń nie naprawia niewłaściwego celu uczenia lub złych danych.
Powiązane pojęcia
- Udostępnianie modelu do obsługi zapytań (Model serving)
- Wnioskowanie modelu (Inference)