LEARN, CONNECT, BUILD

Microsoft Reactor

Csatlakozzon a Microsoft Reactorhoz, és vegye fel a kapcsolatot a fejlesztőkkel élőben

Készen áll az AI és a legújabb technológiák használatának megkezdésére? A Microsoft Reactor eseményeket, képzéseket és közösségi erőforrásokat biztosít a fejlesztőknek, vállalkozóknak és startupoknak az AI-technológiákra és egyebekre való támaszkodásához. Csatlakozzon Ön is!

LEARN, CONNECT, BUILD

Microsoft Reactor

Csatlakozzon a Microsoft Reactorhoz, és vegye fel a kapcsolatot a fejlesztőkkel élőben

Készen áll az AI és a legújabb technológiák használatának megkezdésére? A Microsoft Reactor eseményeket, képzéseket és közösségi erőforrásokat biztosít a fejlesztőknek, vállalkozóknak és startupoknak az AI-technológiákra és egyebekre való támaszkodásához. Csatlakozzon Ön is!

Visszalépés

Deploying and Monitoring LLM Inference Endpoints

16 július, 2024 | 6:00 du. - 7:00 du. (UTC) Koordinált egyetemes idő

  • Formátum:
  • alt##LivestreamÉlő közvetítés

Téma: Adattudomány > Machine Learning

Nyelv: Angol

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
  • LLM

Előadók

  • Akmel Syed

    • Sr Sales Engineer

    Wallaroo.AI

  • Martin Bald

    • Sr Manager DevRel Community

    Wallaroo.AI

  • Younes Amar

    • VP of Product

    Wallaroo.AI

Kapcsolódó események

Az alábbi események önt is érdekelhetik. Mindenképpen látogasson el a A Reactor kezdőlapja az összes elérhető esemény megtekintéséhez.

Az oldal egyes részei gépi vagy AI fordításúak lehetnek.