学习、联系、构建

Microsoft Reactor

加入 Microsoft Reactor 并实时与开发人员互动

准备好开始使用 AI 和最新技术了吗？ Microsoft Reactor 提供活动、培训和社区资源，帮助开发人员、企业家和初创公司利用 AI 技术等。快加入我们吧！

学习、联系、构建

Microsoft Reactor

加入 Microsoft Reactor 并实时与开发人员互动

准备好开始使用 AI 和最新技术了吗？ Microsoft Reactor 提供活动、培训和社区资源，帮助开发人员、企业家和初创公司利用 AI 技术等。快加入我们吧！

Deploying and Monitoring LLM Inference Endpoints

16 七月, 2024 | 6:00 下午 - 7:00 下午 (UTC) 协调世界时

形式:
直播

主题: 数据科学和机器学习

语言: 英语

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

主讲人