LEARN, CONNECT, BUILD

Microsoft Reactor

Připojte se k Microsoft Reactoru a zapojte se s vývojáři živě

Jste připravení začít s AI a nejnovějšími technologiemi? Microsoft Reactor poskytuje události, školení a komunitní zdroje, které vývojářům, podnikatelům a startupům pomáhají rozvíjet technologie AI a další. Připojte se k nám!

LEARN, CONNECT, BUILD

Microsoft Reactor

Připojte se k Microsoft Reactoru a zapojte se s vývojáři živě

Jste připravení začít s AI a nejnovějšími technologiemi? Microsoft Reactor poskytuje události, školení a komunitní zdroje, které vývojářům, podnikatelům a startupům pomáhají rozvíjet technologie AI a další. Připojte se k nám!

Přejít zpět

Deploying and Monitoring LLM Inference Endpoints

16 července, 2024 | 6:00 odp. - 7:00 odp. (UTC) Koordinovaný univerzální čas

  • Formát:
  • alt##LivestreamŽivý stream

Téma: Datová Věda a strojové učení

Jazyk: Angličtina

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition
  • LLM

Přednášející

  • Akmel Syed

    • Sr Sales Engineer

    Wallaroo.AI

  • Martin Bald

    • Sr Manager DevRel Community

    Wallaroo.AI

  • Younes Amar

    • VP of Product

    Wallaroo.AI

Související události

Níže uvedené události vás mohou také zajímat. Nezapomeňte navštívit naše Domovská stránka reaktoru zobrazení všech dostupných událostí.

Části této stránky mohou být přeloženy strojově nebo AI.