Pular para o conteúdo principal

APRENDER, CONECTAR, CRIAR

Microsoft Reactor

Junte-se ao Microsoft Reactor e interaja com os desenvolvedores ao vivo

Pronto para começar a usar a IA e as tecnologias mais recentes? O Microsoft Reactor fornece eventos, treinamento e recursos da comunidade para ajudar desenvolvedores, empreendedores e startups a desenvolver a tecnologia de IA e muito mais. Junte-se a nós!

APRENDER, CONECTAR, CRIAR

Microsoft Reactor

Junte-se ao Microsoft Reactor e interaja com os desenvolvedores ao vivo

Pronto para começar a usar a IA e as tecnologias mais recentes? O Microsoft Reactor fornece eventos, treinamento e recursos da comunidade para ajudar desenvolvedores, empreendedores e startups a desenvolver a tecnologia de IA e muito mais. Junte-se a nós!

Voltar

Deploying and Monitoring LLM Inference Endpoints

16 julho, 2024 | 6:00 PM - 7:00 PM (UTC) Tempo Universal Coordenado UTC

  • Formato:
  • alt##LivestreamTransmissão ao vivo

Tópico: Ciência de dados e machine learning

Linguagem: Inglês

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Palestrantes

Eventos relacionados

Os eventos abaixo também podem ser do seu interesse. Não deixe de visitar nossa página inicial do Reactor para ver todos os eventos disponíveis.

Partes desta página podem ser traduzidas por máquina ou IA.