学ぶ、つながる、構築する

Microsoft Reactor

Microsoft Reactor に参加し、開発者とライブで交流する

AI と最新のテクノロジを使い始める準備はできましたか? Microsoft Reactor は、開発者、起業家、スタートアップ企業が AI テクノロジなどを構築するのに役立つイベント、トレーニング、コミュニティリソースを提供します。ご参加ください。

学ぶ、つながる、構築する

Microsoft Reactor

Microsoft Reactor に参加し、開発者とライブで交流する

戻る

Deploying and Monitoring LLM Inference Endpoints

16 7月, 2024 | 6:00 午後 - 7:00 午後 (UTC) 協定世界時

形式:
ライブストリーム

トピック: データサイエンスと機械学習

言語: 英語

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

講演者