Akmel Syed
Wallaroo.AI
ODNAJDOWANIE, ŁĄCZENIE, ROZWIJANIE
Microsoft Reactor
Dołącz do firmy Microsoft Reactor i angażuj się ze startupami i deweloperami na żywo
Chcesz rozpocząć pracę ze swoją siecią AI? Firma Microsoft Reactor udostępnia wydarzenia, szkolenia i zasoby społeczności, aby pomóc startupom, przedsiębiorcom i deweloperom w budowaniu kolejnej działalności na podstawie technologii AI. Dołącz do nas!
ODNAJDOWANIE, ŁĄCZENIE, ROZWIJANIE
Microsoft Reactor
Dołącz do firmy Microsoft Reactor i angażuj się ze startupami i deweloperami na żywo
Chcesz rozpocząć pracę ze swoją siecią AI? Firma Microsoft Reactor udostępnia wydarzenia, szkolenia i zasoby społeczności, aby pomóc startupom, przedsiębiorcom i deweloperom w budowaniu kolejnej działalności na podstawie technologii AI. Dołącz do nas!
Wstecz
Deploying and Monitoring LLM Inference Endpoints
16 lipca, 2024 | 6:00 PM - 7:00 PM (UTC) Uniwersalny czas koordynowany
- Formacie:
Livestream
Temat: Nauka o danych i Edukacja maszyny
Język: angielski
In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.
We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.
You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.
Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
Głośniki
-
Martin Bald
Wallaroo.AI
-
Younes Amar
Wallaroo.AI
To zdarzenie jest częścią Wallaroo.AI: Techniques for Faster, Easier AI Series.
Kliknij tutaj, aby odwiedź stronę serii gdzie można było zobaczyć wszystkie nadchodzące i na żądanie wydarzenia.