Ir al contenido principal

APRENDE, CONECTA, CREA

Microsoft Reactor

Unirse a Microsoft Reactor e interactuar con desarrolladores en directo

¿Está listo para empezar a trabajar con la inteligencia artificial y las tecnologías más recientes? Microsoft Reactor proporciona eventos, formación y recursos comunitarios para ayudar a los desarrolladores, empresarios y startups a basarse en la tecnología de inteligencia artificial y mucho más. ¡Acompáñenos!

APRENDE, CONECTA, CREA

Microsoft Reactor

Unirse a Microsoft Reactor e interactuar con desarrolladores en directo

¿Está listo para empezar a trabajar con la inteligencia artificial y las tecnologías más recientes? Microsoft Reactor proporciona eventos, formación y recursos comunitarios para ayudar a los desarrolladores, empresarios y startups a basarse en la tecnología de inteligencia artificial y mucho más. ¡Acompáñenos!

Volver

Deploying and Monitoring LLM Inference Endpoints

16 julio, 2024 | 6:00 p. m. - 7:00 p. m. (UTC) Hora universal coordinada

  • Formato:
  • alt##LivestreamLivestream

tema del evento: Ciencia de datos y aprendizaje automático

Idioma: Inglés

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Oradores

Eventos relacionados

Los siguientes eventos también pueden ser de su interés. Visite nuestra página principal de Reactor para ver todos los eventos disponibles.

Partes de esta página pueden estar traducidas por máquina o IA.