SysOps/DevOps Warszawa MeetUp #67
Schedule
Thu Sep 19 2024 at 06:00 pm to 09:30 pm
Location
Warszawa | Warsaw, MZ
Advertisement
? Zapraszamy na SysOps/DevOps Warszawa MeetUp #67 ?? 19.09.2024 godz. 18:00
? Sesja Q&A po każdej prelekcji
? Warszawa, Allegro Tech, Fabryka Norblina, ul. Żelazna 51/53 (wejście Plater 3 od ul. Żelaznej, vis a vis Carrefour Express)
UWAGA! ZMIANA AGENDY!
Harmonogram:
?? 18:00 Networking
?? 18:15 Prelekcja #1: “APIM ❤️ Azure OpenAI” - Marek Grabarz
?? 19:20 Prelekcja #2: “Zarządzanie zasobami GPU na środowiskach Kubernetes” - Piotr Wlazło
?? 20:15 Networking i pizza!
?Pamiętajcie, żeby zapisać się też do warszawskiej grupy lokalnej:
https://www.meetup.com/pl-PL/sysopswarszawa/
?Nagrania z poprzednich MeetUpów znajdziecie na YouTubie http://www.youtube.com/c/SysOpsDevOpsPolska
Partnerzy:
✅ MDDV https://www.mddv.pl/
✅ OVHcloud https://corporate.ovhcloud.com/
✅ DataArt dataart.team/pl
✅ Akamai https://www.akamai.com/careers
✅ Allegro Tech https://allegro.tech/
✅ Eficode https://www.eficode.com
___________________________________________________________________
Prelekcja #1: “APIM ❤️ Azure OpenAI” - Marek Grabarz
Podczas tej sesji odkryjecie korzyści płynące z wykorzystania Azure API Management w projektach z Azure Open AI. Marek przedstawi metody obsługi przy pomocy APIM kluczowych zagadnień, takich jak: Load Balancing, Access Controlling, Token Rate Limiting, Semantic Caching Response Streaming, Vector Searching, Built-in Logging, Function Calling, Content Filtering i wiele innych. Te funkcje mogą znacząco zwiększyć efektywność i bezpieczeństwo Waszych projektów, zapewniając jednocześnie lepszą skalowalność i zarządzanie zasobami.
Marek Grabarz - pasjonat technologii i rozwiązań chmurowych, Technology Advisor w Protopia, Microsoft Azure MVP oraz Microsoft Certified Trainer.
___________________________________________________________________
Prelekcja #2: “Zarządzanie zasobami GPU na środowiskach Kubernetes” - Piotr Wlazło
Praca z modelami genAI jest łatwa, gdy są hostowane na chmurze korzystając z serwisów typu Azure AI studio, Vertex AI od GCP. Natomiast prawdziwa zabawa zaczyna się dopiero, gdy trzeba takie modele wdrożyć i pracować nad nimi w środowiskach on-premise na serwerach klienta. Powstają wtedy pytania o kartę graficzną: dlaczego jej potrzebujemy, jaką wybrać oraz jak zarządzać jej mocą? Jak sprawić, aby kontenery, np. na Kubernetes, mogły skorzystać z mocy obliczeniowej karty graficznej, w jaki sposób wirtualizować kartę graficzną i czy warto to robić oraz jak optymalizować zużycie karty graficznej przez model? Podczas prezentacji dowiecie się więcej o oprogramowaniu NVIDII wspierającym pracę na z kartami graficznymi na różnych platformach.
Piotr Wlazło - architekt rozwiązań obecnie pracujący z rozwiązaniami AI firm IBM i NVIDIA. Ex-IBMer. Jego praca polega głównie na konsultacjach technicznych z klientami i integratorami zainteresowanymi dołączeniem do swoich projektów rozwiązań wyżej wymienionych dostawców. Pracował z szerokim przekrojem technologii - poczynając od zarządzania danymi i AI, po monitorowanie środowisk aplikacyjnych, kończąc na platformach kontenerowych i automatyzacji procesów biznesowych.
Regulamin SO/DO MeetUpów stacjonarnych: https://bit.ly/RegulaminSODO
Advertisement
Where is it happening?
Warszawa, Pamiątki pl. Defilad, 00-110 Śródmieście, Polska,Warsaw, PolandEvent Location & Nearby Stays:
