跳到主要內容

Build a multi-LLM chat application with Azure Container Apps

4月 11, 2024 | 3:30 - 3:45 下午 (UTC) 國際標準時間

準備好開始使用 AI 和最新技術嗎? Microsoft Reactor 提供活動、訓練和社群資源,協助開發人員、企業家和初創公司建置 AI 技術等等。 加入我們!

Build a multi-LLM chat application with Azure Container Apps

4月 11, 2024 | 3:30 - 3:45 下午 (UTC) 國際標準時間

準備好開始使用 AI 和最新技術嗎? Microsoft Reactor 提供活動、訓練和社群資源,協助開發人員、企業家和初創公司建置 AI 技術等等。 加入我們!

返回

Build a multi-LLM chat application with Azure Container Apps

4月 11, 2024 | 3:30 - 3:45 下午 (UTC) 國際標準時間

  • 格式:
  • alt##Livestream線上直播

主題: 程式設計、語言與架構

語言: 英文

In this demo, explore how to leverage GPU workload profiles in ACA to run your own model backend, and easily switch, compare, and speed up your inference times. You will also explore how to leverage LlamaIndex (https://github.com/run-llama/llama_index) to ingest data on-demand, and host models using Ollama (https://github.com/ollama/ollama). Then finally, decompose the application as a set of microservices written in Python, deployed on ACA.

  • Azure

演講者

本頁面的一部分可能是機器翻譯或人工智能翻譯的.