學習、聯繫、建置

Microsoft Reactor

加入 Microsoft Reactor 並與開發人員即時互動

準備好開始使用 AI 和最新技術嗎？ Microsoft Reactor 提供活動、訓練和社群資源，協助開發人員、企業家和初創公司建置 AI 技術等等。加入我們！

學習、聯繫、建置

Microsoft Reactor

加入 Microsoft Reactor 並與開發人員即時互動

準備好開始使用 AI 和最新技術嗎？ Microsoft Reactor 提供活動、訓練和社群資源，協助開發人員、企業家和初創公司建置 AI 技術等等。加入我們！

Build a multi-LLM chat application with Azure Container Apps

11 4月, 2024 | 3:30 下午 - 3:45 下午 (UTC) 國際標準時間

格式:
線上直播

主題: 程式設計、語言與架構

語言: 英文

In this demo, explore how to leverage GPU workload profiles in ACA to run your own model backend, and easily switch, compare, and speed up your inference times. You will also explore how to leverage LlamaIndex (https://github.com/run-llama/llama_index) to ingest data on-demand, and host models using Ollama (https://github.com/ollama/ollama). Then finally, decompose the application as a set of microservices written in Python, deployed on ACA.