Ignora e passa al contenuto principale

LEARN, CONNECT, BUILD

Microsoft Reactor

Partecipa a Microsoft Reactor e interagisci con gli sviluppatori live

Sei pronto per iniziare a usare l''intelligenza artificiale e le tecnologie più recenti? Microsoft Reactor fornisce eventi, formazione e risorse della community per aiutare sviluppatori, imprenditori e startup a sviluppare la tecnologia di intelligenza artificiale e altro ancora. Unisciti a noi.

LEARN, CONNECT, BUILD

Microsoft Reactor

Partecipa a Microsoft Reactor e interagisci con gli sviluppatori live

Sei pronto per iniziare a usare l''intelligenza artificiale e le tecnologie più recenti? Microsoft Reactor fornisce eventi, formazione e risorse della community per aiutare sviluppatori, imprenditori e startup a sviluppare la tecnologia di intelligenza artificiale e altro ancora. Unisciti a noi.

Indietro

Deploying and Monitoring LLM Inference Endpoints

16 luglio, 2024 | 6:00 PM - 7:00 PM (UTC) Coordinated Universal Time

  • Formato:
  • alt##LivestreamLive Stream

Argomento: Data Science & Machine Learning

Lingua: italiano

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Relatori

Eventi correlati

Anche gli eventi seguenti potrebbero essere di interesse per l'utente. Assicurati di visitare il nostro Home page del reattore per visualizzare tutti gli eventi disponibili.

Parti di questa pagina possono essere tradotte da macchina o IA.