Akmel Syed
Wallaroo.AI
LEARN, CONNECT, BUILD
Microsoft Reactor
Partecipa a Microsoft Reactor e interagisci con gli sviluppatori live
Sei pronto per iniziare a usare l''intelligenza artificiale e le tecnologie più recenti? Microsoft Reactor fornisce eventi, formazione e risorse della community per aiutare sviluppatori, imprenditori e startup a sviluppare la tecnologia di intelligenza artificiale e altro ancora. Unisciti a noi.
LEARN, CONNECT, BUILD
Microsoft Reactor
Partecipa a Microsoft Reactor e interagisci con gli sviluppatori live
Sei pronto per iniziare a usare l''intelligenza artificiale e le tecnologie più recenti? Microsoft Reactor fornisce eventi, formazione e risorse della community per aiutare sviluppatori, imprenditori e startup a sviluppare la tecnologia di intelligenza artificiale e altro ancora. Unisciti a noi.
Indietro
Deploying and Monitoring LLM Inference Endpoints
16 luglio, 2024 | 6:00 PM - 7:00 PM (UTC) Coordinated Universal Time
- Formato:
Live Stream
Argomento: Data Science & Machine Learning
Lingua: italiano
In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.
We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.
You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.
Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
Relatori
-
Martin Bald
Wallaroo.AI
-
Younes Amar
Wallaroo.AI
Questo evento fa parte del Wallaroo.AI: Techniques for Faster, Easier AI Series.
Fare clic qui per visita la pagina Serie dove è possibile visualizzare tutti gli eventi imminenti e su richiesta.