Zu Hauptinhalt wechseln
Megafon-Symbol

GitHub Universe on the Road

GitHub Universe is going on the road. Find a stop near you and join the experience.

Monitoring Azure OpenAI

April 24, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Monitoring Azure OpenAI

April 24, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Zurück

Monitoring Azure OpenAI

April 24, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

  • Format:
  • alt##LivestreamLivestream

Thema: Zentrale KI

Sprache: Englisch

In this session, we will explore the monitoring of Azure OpenAI. Starting with an overview of the big picture of the entire solution, we will then zoom in on Azure OpenAI services through the lens of the Well-Architected Framework (WAF). We will discuss key concepts such as Tokens, Rate Limiting, Quotas, and PTU, as well as Metrics & Alerts for Azure overall, with a focus on reliability and SRE. We will also delve into SLA and performance, including response times.

Specifically, for OpenAI, we will cover concepts like Token Usage, Quota, and Response Times. As we focus on monitoring for resiliency, performance, and response times, we will discuss Metrics, Dashboards, and Alarms. Finally, a detailed dive into diagnostic settings and log analytics, including the use of Kusto.

By the end of this session, you will have a comprehensive understanding of how to monitor Azure OpenAI, and be equipped with the knowledge and tools.earn live #fasttrack-azure This event will be recorded and livestreamed on youtube, you can only ask questions via chat.

[Check out more FastTrack events](https://developer.microsoft.com/en-us/reactor/?search=fasttrack

Referenten

Teile dieser Seite können maschinell oder durch KI übersetzt sein.