Chuyển đến nội dung chính

HỌC HỎI, KẾT NỐI, XÂY DỰNG

Microsoft Reactor

Tham gia Microsoft Reactor và tương tác trực tiếp với các nhà phát triển

Bạn đã sẵn sàng bắt đầu với AI và các công nghệ mới nhất chưa? Microsoft Reactor cung cấp các sự kiện, đào tạo và tài nguyên cộng đồng để giúp các nhà phát triển, doanh nhân và công ty khởi nghiệp xây dựng dựa trên công nghệ AI và hơn thế nữa. Tham gia với chúng tôi!

HỌC HỎI, KẾT NỐI, XÂY DỰNG

Microsoft Reactor

Tham gia Microsoft Reactor và tương tác trực tiếp với các nhà phát triển

Bạn đã sẵn sàng bắt đầu với AI và các công nghệ mới nhất chưa? Microsoft Reactor cung cấp các sự kiện, đào tạo và tài nguyên cộng đồng để giúp các nhà phát triển, doanh nhân và công ty khởi nghiệp xây dựng dựa trên công nghệ AI và hơn thế nữa. Tham gia với chúng tôi!

Quay lại

Deploying and Monitoring LLM Inference Endpoints

16 tháng 7, 2024 | 6:00 CH - 7:00 CH (UTC) Giờ phối hợp quốc tế

  • Định dạng:
  • alt##LivestreamPhát trực tiếp

Chủ đề: Khoa học dữ liệu và học máy

Ngôn ngữ: Tiếng Anh

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Người phát biểu

Sự kiện liên quan

Các sự kiện dưới đây cũng có thể được bạn quan tâm. Hãy chắc chắn ghé thăm Trang chủ lò phản ứng để xem tất cả các sự kiện có sẵn.

Các phần của trang này có thể được dịch bằng máy hoặc AI.