Speakers
Description
In questa demo verranno presentati alcuni dei tool sviluppati nell'ambito del progetto DEEP-Hybrid-Datacloud, un progetto H2020 che ha come obiettivo lo sviluppo e l’implementazione di tecnologie cloud che consentano un accesso facile e trasparente a risorse eterogenee in ambiente cloud e HPC, con un particolare focus sull'automazione del deployment di tool per il Deep Learning e il Machine learning, per diversi contesti applicativi.
Uno degli obiettivi del progetto è permettere agli utenti finali di sfruttare in maniera semplice e trasparente risorse hardware specializzate come GPU e Infiniband a supporto del processamento di grandi moli di dati (Big Data) con tecniche ML/DL.
Attraverso la PaaS di DEEP è possibile richiedere il deployment di applicazioni su macchine virtuali o docker container specificando, tra le risorse necessarie, il numero di GPU. La richiesta di deployment è espressa tramite un TOSCA template.
In particolare, per le applicazioni di tipo ML/DL è stato sviluppato un framework, DEEPaaS (DEEP as a Service), per fornire l'accesso "as a service" ai modelli di ML.
Nella demo verrà mostrato come è possibile fare il deployment di un modello per la classificazione delle piante attraverso una semplice interfaccia web, l'Orchestrator Dashboard, che guida l'utente nella definizione dei requisiti e consente il monitoraggio del deployment.
Dietro le quinte, la PaaS gestisce il complesso workflow necessario per soddisfare la richiesta dell'utente: l'Orchestrator seleziona il sito e il servizio migliore per il deployment tra quelli disponibili, considerando anche il supporto per le GPU. In questo caso, il deployment verrà automaticamente schedulato su un cluster Mesos e il servizio verrà fatto partire come docker container gestito dal framework Marathon. Una volta completato il deployment, l'Orchestrator restituisce l'endpoint attraverso il quale il servizio è accessibile. L'utente potrà visualizzarlo sulla dashboard come output del proprio deployment.
Il servizio mette a disposizione una semplice web ui per fare inferenza e/o training.
