Marcin Rybiński - Redukcja rozmiarów kontenerów podczas wdrażania modeli uczenia maszynowego
🔹Redukcja rozmiarów kontenerów podczas wdrażania modeli uczenia maszynowego
🔹Marcin Rybiński
Podczas wdrażania modeli z wykorzystaniem kontenerów, największym wyzwaniem z jakim możemy się zmierzyć jest ich rozmiar, który bezpośrednio wpływa na: 1. Koszty związane z przechowywaniem ich 2. Koszty związane z przesyłaniem ich przez sieć 3. Koszty związane ze zwiększoną ilością pamięci RAM jak musimy przeznaczyć na działanie modelu 4. Czas wymagany na dostawienie nowej instancji z naszym modelem - w sytuacji gdy stosujemy autoskalowanie. W prezentacji zostaną omówione zagadnienia redukujące obraz, od prostszych po coraz trudniejsze. 1. Wybór odpowiedniego rozmiaru obrazu bazowego - pełny obraz vs. obraz w wersji slim vs. obraz w wersji alpine 2. Zadbanie o instalowanie tylko potrzebnych pakietów systemowych 3. Zadbanie o wyczyszczenie plików cachea po instalacji pakietów systemowych i środowiska pythonowego w kontenerze 5. Zadbanie o prawidłowe ustawienie .dockerignore aby uchronić się przed znalezieniem się w kontenerze przypadkowych, niechcanych plików 6. Przedstawienie działania package managera - poetry - który umożliwia na definiowanie środowisk developerskich i produkcyjnych, dzięki czemu w kontenerze znajdzie sie tylko to co jest wymafane na produkcji 7. Multistage building 8. Przyklad rozwiazania jak wyciągnąć model z kontenera, który zajmuje najwięcej miejsca z wykorzystaniem obiektow w Kubernetesie. Prezentacja wymaga znajomości Dockera i Kubernetesa.