Akmel Syed
Wallaroo.AI
ค้นพบ, เชื่อมต่อ, เติบโต
Microsoft Reactor
เข้าร่วม Microsoft Reactor และมีส่วนร่วมกับสตาร์ทอัพและนักพัฒนาแบบสด
พร้อมที่จะเริ่มต้นใช้งาน AI แล้วหรือยัง Microsoft Reactor มีกิจกรรม การฝึกอบรม และทรัพยากรของชุมชนเพื่อช่วยให้บริษัทสตาร์ทอัพ ผู้ประกอบการ และนักพัฒนาสร้างธุรกิจใหม่บนเทคโนโลยี AI เข้าร่วมกับเรา!
ค้นพบ, เชื่อมต่อ, เติบโต
Microsoft Reactor
เข้าร่วม Microsoft Reactor และมีส่วนร่วมกับสตาร์ทอัพและนักพัฒนาแบบสด
พร้อมที่จะเริ่มต้นใช้งาน AI แล้วหรือยัง Microsoft Reactor มีกิจกรรม การฝึกอบรม และทรัพยากรของชุมชนเพื่อช่วยให้บริษัทสตาร์ทอัพ ผู้ประกอบการ และนักพัฒนาสร้างธุรกิจใหม่บนเทคโนโลยี AI เข้าร่วมกับเรา!
ย้อนกลับ
Deploying and Monitoring LLM Inference Endpoints
16 กรกฎาคม, 2567 | 6:00 หลังเที่ยง - 7:00 หลังเที่ยง (UTC) เวลามาตรฐานสากล
- รูป แบบ:
Livestream
หัว ข้อ: Data Science & Machine Learning
ภาษา: ภาษาอังกฤษ
In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.
We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.
You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.
Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
ลำโพง
-
Martin Bald
Wallaroo.AI
-
Younes Amar
Wallaroo.AI
เหตุการณ์นี้เป็นส่วนหนึ่งของ Wallaroo.AI: Techniques for Faster, Easier AI Series.
คลิกที่นี่เพื่อ ไปที่หน้าชุดข้อมูล ซึ่งคุณสามารถดูเหตุการณ์ที่กําลังจะเกิดขึ้นและตามความต้องการทั้งหมดได้