Akmel Syed
Wallaroo.AI
TEMUKAN, HUBUNGKAN, TUMBUH
Reaktor Microsoft
Bergabunglah dengan Microsoft Reactor dan terlibat dengan startup dan pengembang secara langsung
Siap untuk mulai menggunakan AI? Microsoft Reactor menyediakan acara, pelatihan, dan sumber daya komunitas untuk membantu startup, wirausahawan, dan pengembang membangun bisnis mereka berikutnya pada teknologi AI. Bergabunglah dengan kami!
TEMUKAN, HUBUNGKAN, TUMBUH
Reaktor Microsoft
Bergabunglah dengan Microsoft Reactor dan terlibat dengan startup dan pengembang secara langsung
Siap untuk mulai menggunakan AI? Microsoft Reactor menyediakan acara, pelatihan, dan sumber daya komunitas untuk membantu startup, wirausahawan, dan pengembang membangun bisnis mereka berikutnya pada teknologi AI. Bergabunglah dengan kami!
Kembali
Deploying and Monitoring LLM Inference Endpoints
16 Juli, 2024 | 6.00 PM - 7.00 PM (UTC) Waktu Universal Terkoordinasi
- Format:
Streaming Langsung
Topik: Ilmu Data &Pembelajaran Mesin
Bahasa: Inggris
In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.
We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.
You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.
Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
Speaker
-
Martin Bald
Wallaroo.AI
-
Younes Amar
Wallaroo.AI
Acara ini merupakan bagian dari Wallaroo.AI: Techniques for Faster, Easier AI Series.
Klik di sini untuk kunjungi Halaman Seri di mana Anda bisa melihat semua acara yang akan datang dan sesuai permintaan.