Części tej strony mogą być tłumaczone maszynowo lub przez AI.

ODNAJDOWANIE, ŁĄCZENIE, ROZWIJANIE

Microsoft Reactor

Dołącz do firmy Microsoft Reactor i angażuj się ze startupami i deweloperami na żywo

Chcesz rozpocząć pracę ze swoją siecią AI? Firma Microsoft Reactor udostępnia wydarzenia, szkolenia i zasoby społeczności, aby pomóc startupom, przedsiębiorcom i deweloperom w budowaniu kolejnej działalności na podstawie technologii AI. Dołącz do nas!

ODNAJDOWANIE, ŁĄCZENIE, ROZWIJANIE

Microsoft Reactor

Dołącz do firmy Microsoft Reactor i angażuj się ze startupami i deweloperami na żywo

Chcesz rozpocząć pracę ze swoją siecią AI? Firma Microsoft Reactor udostępnia wydarzenia, szkolenia i zasoby społeczności, aby pomóc startupom, przedsiębiorcom i deweloperom w budowaniu kolejnej działalności na podstawie technologii AI. Dołącz do nas!

Wstecz

AI Factory Platform: AI Infrastructure as a service

27 maja, 2025 | 8:00 PM - 9:00 PM (UTC) Uniwersalny czas koordynowany

  • Formacie:
  • alt##LivestreamLivestream

Temat: Korzystanie z produktów sztucznej inteligencji

Język: angielski

As organizations move from AI experimentation to AI Operationalization, they are hit with several realizations around optimum Token utilization of the Azure Open AI Instances, how to scale and how many AOAI instances to maintain, calculation of chargeback for Azure AI services utilization, rate limiting, observability and monitoring. Also, for large organizations, while experimenting with AI Usecases, there is an overhead cost for creating the required infrastructure and ensuring its compliance with the internal security policies etc.

The AI Factory Platform is a scalable and secure environment designed to support the development, deployment, and management of AI solutions across our client's organization. This platform enables application developers to request approved AI services, look at shared dashboards for utilization metrics, rate limits and application chargeback costs.

There are also routing mechanisms implemented to ensure graceful failover from PTU to PAYG instances, retry with backoff of certain limited Azure Open AI deployments, priority-based routing and weight-based routing with the APIM policies. We also demonstrate how to handle instances scaling, load and traffic management via APIM for busy workloads and how to prevent throttling of Azure OPEN AI instances by chatty applications.

We essentially build an AI control tower for organizations to easily and securely scale and manage their GEN AI workloads in different environments.

Głośniki

  • Priyanka Shah

    • Senior AI Architect

    Avanade Australia

Zdarzenia pokrewne

Poniższe wydarzenia mogą być również dla Ciebie interesujące. Koniecznie odwiedź nasze Strona główna reaktora , aby wyświetlić wszystkie dostępne zdarzenia.

W przypadku pytań skontaktuj się z nami pod adresem reactor@microsoft.com