Akmel Syed
Wallaroo.AI
UPPTÄCK, ANSLUT, VÄXA
Microsoft-reaktor
Gå med i Microsoft Reactor och kommunicera med startups och utvecklare live
Är du redo att komma igång med AI? Microsoft Reactor tillhandahåller evenemang, utbildning och communityresurser som hjälper startups, entreprenörer och utvecklare att bygga sin nästa verksamhet på AI-teknik. Följ med oss!
UPPTÄCK, ANSLUT, VÄXA
Microsoft-reaktor
Gå med i Microsoft Reactor och kommunicera med startups och utvecklare live
Är du redo att komma igång med AI? Microsoft Reactor tillhandahåller evenemang, utbildning och communityresurser som hjälper startups, entreprenörer och utvecklare att bygga sin nästa verksamhet på AI-teknik. Följ med oss!
Gå tillbaka
Deploying and Monitoring LLM Inference Endpoints
16 juli, 2024 | 6:00 em - 7:00 em (UTC) Samordnad universell tid
- Format:
Livestream
Ämne: Datavetenskap & Machine Learning
Språk: Engelska
In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.
We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.
You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.
Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
Högtalare
-
Martin Bald
Wallaroo.AI
-
Younes Amar
Wallaroo.AI
Händelsen är en del av Wallaroo.AI: Techniques for Faster, Easier AI Series.
Klicka här för att gå till sidan Serie där du kan se alla kommande händelser och on-demand-händelser.