Zu Hauptinhalt wechseln
Megafon-Symbol

GitHub Universe on the Road

GitHub Universe is going on the road. Find a stop near you and join the experience.

Load Balancing Azure OpenAI instances using APIM and Container

April 22, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Load Balancing Azure OpenAI instances using APIM and Container

April 22, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Zurück

Load Balancing Azure OpenAI instances using APIM and Container

April 22, 2024 | 5:30 - 7:00 PM (UTC) Koordinierte Weltzeit (UTC)

  • Format:
  • alt##LivestreamLivestream

Thema: Intelligente Apps (Web Dev- und KI-Dienste)

Sprache: Englisch

n this session we will show how to effectively load balance Azure OpenAI instances to mitigate throttling challenges (TPM & RPM limitations) using API Management custom policies. learn live #fasttrack-azure This event will be recorded and livestreamed on youtube, you can only ask questions via chat.

[Check out more FastTrack events](https://developer.microsoft.com/en-us/reactor/?search=fasttrack

We will also cover load balancing Azure OpenAI instances using a container deployed via Azure Container Apps

Referenten

Teile dieser Seite können maschinell oder durch KI übersetzt sein.