Biografia
Giuseppe Zangari (nato nel 1982) si è laureato al Politecnico di Torino e ha conseguito un EMBA presso la Graduate School of Management del Politecnico di Milano. Ha ricoperto varie posizioni di leadership in organizzazioni globali quali Nokia e Pirelli, in SME italiane e nel Politecnico di Torino, guidando lo sviluppo di soluzioni business effective con tecnologie che vanno dall'IoT al cloud computing e AI. E’ un esperto di digital transformation, uno startup mentor e ha anche ricoperto il ruolo di Innovation Lead. In ArubaKube, è responsabile della massimizzazione del valore del progetto software, ricoprendo il ruolo di Product e Business Development lead.
Abstract
Offloading delle GPU in MLOps: analisi delle soluzioni multi-cloud per deployments AI/ML flessibili
La richiesta di risorse computazionali per le attività di AI è in crescita continua. Tuttavia, le GPU sono estremamente costose, e ciò nonostante sorgono spesso problemi di sottoutilizzo. Questo intervento propone di sfruttare le risorse inutilizzate disponibili altrove secondo un approccio cloud-native, con un costo minimo sul cluster di origine. Si evidenzierà come un cluster “origine” può rapportarsi con un cluster “donatore” e utilizzare l'hardware remoto per l'offload delle attività, con una completa trasparenza e una maggiore efficienza rispetto alle tecnologie attuali.
Presentazioni
Video
Bio
Giuseppe Zangari (born in 1982) graduated from the Politecnico di Torino and holds an EMBA from the Graduate School of Management at Politecnico di Milano. He has held various leadership positions in global software organizations like Nokia and Pirelli, in Italian SMEs and Politecnico di Torino, leading the development of business effective solutions with technologies ranging from IoT to cloud computing and AI. He is an expert of digital transformation, a startup mentor, and he also served as Innovation Lead. At ArubaKube, he is responsible for maximizing the software project's value, serving concurrently as Product and Business Development Lead.
Abstract
GPU Offloading in MLOps: Navigating the Multicloud Ecosystem for Flexible AI/ML Deployments
The demand for dedicated computational resources for AI tasks continues to surge. However, the investment required for high-performance GPUs can be substantial. Yet, underutilization issues frequently arise. This talk proposes to leverage unused resources available elsewhere according to a cloud-native approach, with minimal overhead on the originating cluster. This talk will present how an “origin” cluster can peer with a “donating” cluster and use the remote hardware for task offloading, with a complete transparency and a greater efficiency compared to current technologies.
Attribuzione 4.0 Internazionale