Zu Hauptinhalt wechseln

LERNEN, KONTAKTE KNÜPFEN, PROGRAMMIEREN

Microsoft Reactor

Treten Sie Microsoft Reaktor bei, und engagieren Sie sich mit Entwicklern live

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

LERNEN, KONTAKTE KNÜPFEN, PROGRAMMIEREN

Microsoft Reactor

Treten Sie Microsoft Reaktor bei, und engagieren Sie sich mit Entwicklern live

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Zurück

Deploying and Monitoring LLM Inference Endpoints

16 Juli, 2024 | 6:00 PM - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

  • Format:
  • alt##LivestreamLivestream

Thema: Data Science und maschinelles Lernen

Sprache: Englisch

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Referenten

Zugehörige Events

Die folgenden Events könnten Sie auch interessieren. Besuchen Sie unsere Reactor-Startseite, um alle verfügbaren Events anzuzeigen.

Teile dieser Seite können maschinell oder durch KI übersetzt sein.