Zu Hauptinhalt wechseln

Build a multi-LLM chat application with Azure Container Apps

April 11, 2024 | 3:30 - 3:45 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Build a multi-LLM chat application with Azure Container Apps

April 11, 2024 | 3:30 - 3:45 PM (UTC) Koordinierte Weltzeit (UTC)

Sind Sie bereit für die ersten Schritte mit KI und den neuesten Technologien? Microsoft Reactor bietet Veranstaltungen, Schulungen und Communityressourcen, die Entwicklern, Unternehmern und Startups helfen, auf KI-Technologie und mehr aufzubauen. Seien Sie dabei!

Zurück

Build a multi-LLM chat application with Azure Container Apps

April 11, 2024 | 3:30 - 3:45 PM (UTC) Koordinierte Weltzeit (UTC)

  • Format:
  • alt##LivestreamLivestream

Thema: Programmierung, Sprachen und Frameworks

Sprache: Englisch

In this demo, explore how to leverage GPU workload profiles in ACA to run your own model backend, and easily switch, compare, and speed up your inference times. You will also explore how to leverage LlamaIndex (https://github.com/run-llama/llama_index) to ingest data on-demand, and host models using Ollama (https://github.com/ollama/ollama). Then finally, decompose the application as a set of microservices written in Python, deployed on ACA.

  • Azure

Referenten

Teile dieser Seite können maschinell oder durch KI übersetzt sein.