Wpływ dostosowywalnego harmonogramowania orkiestratora na wydajność uczenia maszynowego w urządzeniach brzegowych

Ten artykuł analizuje wpływ niestandardowych strategii harmonogramowania na wydajność przepływów pracy uczenia maszynowego na brzegu (edge), na przykładzie harmonogramowania w Kubernetes. Optymalizacja obciążeń uczenia maszynowego (ML) na urządzeniach brzegowych o ograniczonych zasobach stała się istotnym wyzwaniem naukowym, które jest przedmiotem wielu badań. Poważne ograniczenia systemów brzegowych w zakresie mocy obliczeniowej, pamięci i energii sprawiają, że tradycyjne, chmurowe schedulery są nieskuteczne, co prowadzi do słabego wykorzystania zasobów i spadku wydajności. Podczas gdy liczne zaawansowane, oparte na danych rozwiązania zostały zaproponowane dla systemów na dużą skalę, ich złożoność i narzut często czynią je niepraktycznymi w środowiskach brzegowych. W przeciwieństwie do tego, niniejsza praca bada prostszy, lekki mechanizm harmonogramowania dla obciążeń opartych na CPU, który zapewnia efektywną i przewidywalną wydajność bez potrzeby korzystania z danych historycznych, dzięki czemu dobrze odpowiada unikalnym wymaganiom środowisk edge. Wykorzystując lekki klaster K3s zintegrowany z Kubeflow Pipelines, badamy, w jaki sposób różne funkcje „upakowywania zadań” wpływają na alokację zasobów i efektywność treningu modelu CNN na zbiorze danych MNIST. Nasze eksperymenty pokazują, że odpowiednio dostosowane konfiguracje harmonogramowania mogą prowadzić do zauważalnych usprawnień w czasie treningu i wykorzystaniu sprzętu w różnych rozmiarach klastrów brzegowych. Wyniki dostarczają praktycznych wskazówek dotyczących optymalizacji obciążeń AI w środowiskach edge o ograniczonych zasobach.