Priyanka Shah
Avanade Australia
HỌC HỎI, KẾT NỐI, XÂY DỰNG
Microsoft Reactor
Tham gia Microsoft Reactor và tương tác trực tiếp với các nhà phát triển
Bạn đã sẵn sàng bắt đầu với AI và các công nghệ mới nhất chưa? Microsoft Reactor cung cấp các sự kiện, đào tạo và tài nguyên cộng đồng để giúp các nhà phát triển, doanh nhân và công ty khởi nghiệp xây dựng dựa trên công nghệ AI và hơn thế nữa. Tham gia với chúng tôi!
HỌC HỎI, KẾT NỐI, XÂY DỰNG
Microsoft Reactor
Tham gia Microsoft Reactor và tương tác trực tiếp với các nhà phát triển
Bạn đã sẵn sàng bắt đầu với AI và các công nghệ mới nhất chưa? Microsoft Reactor cung cấp các sự kiện, đào tạo và tài nguyên cộng đồng để giúp các nhà phát triển, doanh nhân và công ty khởi nghiệp xây dựng dựa trên công nghệ AI và hơn thế nữa. Tham gia với chúng tôi!
Quay lại
AI Factory Platform: AI Infrastructure as a service
27 tháng 5, 2025 | 8:00 CH - 9:00 CH (UTC) Giờ phối hợp quốc tế
- Định dạng:
Phát trực tiếp
Chủ đề: Ứng dụng AI
Ngôn ngữ: Tiếng Anh
As organizations move from AI experimentation to AI Operationalization, they are hit with several realizations around optimum Token utilization of the Azure Open AI Instances, how to scale and how many AOAI instances to maintain, calculation of chargeback for Azure AI services utilization, rate limiting, observability and monitoring. Also, for large organizations, while experimenting with AI Usecases, there is an overhead cost for creating the required infrastructure and ensuring its compliance with the internal security policies etc.
The AI Factory Platform is a scalable and secure environment designed to support the development, deployment, and management of AI solutions across our client's organization. This platform enables application developers to request approved AI services, look at shared dashboards for utilization metrics, rate limits and application chargeback costs.
There are also routing mechanisms implemented to ensure graceful failover from PTU to PAYG instances, retry with backoff of certain limited Azure Open AI deployments, priority-based routing and weight-based routing with the APIM policies. We also demonstrate how to handle instances scaling, load and traffic management via APIM for busy workloads and how to prevent throttling of Azure OPEN AI instances by chatty applications.
We essentially build an AI control tower for organizations to easily and securely scale and manage their GEN AI workloads in different environments.
Người phát biểu
Sự kiện liên quan
Các sự kiện dưới đây cũng có thể được bạn quan tâm. Hãy chắc chắn ghé thăm Trang chủ lò phản ứng để xem tất cả các sự kiện có sẵn.
-
Getting Started with SQL + AI
Getting Started with SQL + AI
Định dạng:
Phát trực tiếp
Chủ đề: Ứng dụng AI
Ngôn ngữ: Tiếng Anh
-
Building RAG‑Powered Intelligent Apps with SQL
Building RAG‑Powered Intelligent Apps with SQL
Định dạng:
Phát trực tiếp
Chủ đề: Ứng dụng AI
Ngôn ngữ: Tiếng Anh
-
AI Dev Days Hackathon: Build the Future with AI Apps, Agents, and Secure DevOps
AI Dev Days Hackathon: Build the Future with AI Apps, Agents, and Secure DevOps
Định dạng:
Phát trực tiếp
Chủ đề: Ứng dụng AI
Ngôn ngữ: Tiếng Anh