Naar hoofdinhoud gaan

LEARN, CONNECT, BUILD

Microsoft Reactor

Neem deel aan Microsoft Reactor en neem live contact op met ontwikkelaars

Klaar om aan de slag te gaan met AI en de nieuwste technologieën? Microsoft Reactor biedt evenementen, training en communitybronnen om ontwikkelaars, ondernemers en startups te helpen bouwen op AI-technologie en meer. Kom kijken.

LEARN, CONNECT, BUILD

Microsoft Reactor

Neem deel aan Microsoft Reactor en neem live contact op met ontwikkelaars

Klaar om aan de slag te gaan met AI en de nieuwste technologieën? Microsoft Reactor biedt evenementen, training en communitybronnen om ontwikkelaars, ondernemers en startups te helpen bouwen op AI-technologie en meer. Kom kijken.

Terug

Deploying and Monitoring LLM Inference Endpoints

16 juli, 2024 | 6:00 p.m. - 7:00 p.m. (UTC) Coordinated Universal Time

  • Notatie:
  • alt##LivestreamLivestream

Onderwerp: Datawetenschap & Machine Learning

Taal: Engels

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Sprekers

Gerelateerde gebeurtenissen

De onderstaande gebeurtenissen zijn ook interessant voor u. Zorg ervoor dat u onze Reactor-startpagina om alle beschikbare gebeurtenissen weer te geven.

Delen van deze pagina kunnen machinaal of door AI vertaald zijn.