Przejdź do głównej zawartości

LEARN, CONNECT, BUILD

Microsoft Reactor

Dołącz do usługi Microsoft Reactor i skontaktuj się z deweloperami na żywo

Chcesz rozpocząć pracę ze sztuczną inteligencją i najnowszymi technologiami? Usługa Microsoft Reactor udostępnia zdarzenia, szkolenia i zasoby społeczności, które ułatwiają deweloperom, przedsiębiorcom i startupom tworzenie technologii sztucznej inteligencji i nie tylko. Dołącz do nas!

LEARN, CONNECT, BUILD

Microsoft Reactor

Dołącz do usługi Microsoft Reactor i skontaktuj się z deweloperami na żywo

Chcesz rozpocząć pracę ze sztuczną inteligencją i najnowszymi technologiami? Usługa Microsoft Reactor udostępnia zdarzenia, szkolenia i zasoby społeczności, które ułatwiają deweloperom, przedsiębiorcom i startupom tworzenie technologii sztucznej inteligencji i nie tylko. Dołącz do nas!

Wstecz

Deploying and Monitoring LLM Inference Endpoints

16 lipca, 2024 | 6:00 PM - 7:00 PM (UTC) Tempo Universal Coordenado UTC

  • Formatuj:
  • alt##LivestreamTransmissão ao vivo

Temat: Ciência de dados e machine learning

Język: Inglês

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Prelegenci

Zdarzenia pokrewne

Poniższe wydarzenia mogą Cię również zainteresować. Pamiętaj, aby odwiedzić nasz Strona główna reaktora aby wyświetlić wszystkie dostępne zdarzenia.

Części tej strony mogą być tłumaczone maszynowo lub przez AI.