Seminarium: Systemy Rozproszone
22 kwietnia 2021, godzina 12:15, sala Zoom Meeting https://us02web.zoom.us/j/86169891592
Iwona Kotlarska , Paweł Czerwiński

Jak rozpraszać uczenie sieci neuronowych na klastrze złożonym z CPU i GPU?


Nowoczesne Klastry obliczeniowe przeznaczone do trenowania sieci często wyposażone są także w dobre procesory, które nie zostają wykorzystywane podczas treningu, który odbywa się wyłącznie na kartach. Ta strata wydajności powoduje, że trening odbywa się wolniej.

Podczas prezentacji opowiem o architekturach treningu sieci neuronowych, które pozwalają na skuteczne rozpraszanie na niejednolite serwery, z uwzględnieniem topologii sieci klastra. Porównam dotychczas stosowane - all-reduce oraz Parameter Server z najnowszą zaproponowaną, BytePS i opowiem w jaki sposób pozwala wykorzystywać pełne możliwości dostępnych procesorów i sieci.

Zapraszam,
Iwona Kotlarska

Bibliografia:


Mobilny USOS iOS


Aplikacja Mobilny USOS daje dostęp do najczęściej wykorzystywanych funkcjonalnosći USOSweb z poziomu telefonu. Najpierw została zaimplementowana na system Android, w ramach mojej pracy magisterskiej pracuję nad rozwojem wersji iOS.

Podczas prezentacji opowiem o procesie powstawania aplikacji. Zaprezentuję sukcesy i opiszę przyczyny niepowodzeń, które mogą się zdarzyć również przy innych projektach informatycznych. Przybliżę również wygodny mechanizm obsługi zdarzeń asynchronicznych.

Zapraszam,
Paweł Czerwiński

Materiały dodatkowe: