Přeskočit na hlavní obsah

Build a multi-LLM chat application with Azure Container Apps

dubna 11, 2024 | 3:30 - 3:45 odp. (UTC) Koordinovaný univerzální čas

Jste připravení začít s AI a nejnovějšími technologiemi? Microsoft Reactor poskytuje události, školení a komunitní zdroje, které vývojářům, podnikatelům a startupům pomáhají rozvíjet technologie AI a další. Připojte se k nám!

Build a multi-LLM chat application with Azure Container Apps

dubna 11, 2024 | 3:30 - 3:45 odp. (UTC) Koordinovaný univerzální čas

Jste připravení začít s AI a nejnovějšími technologiemi? Microsoft Reactor poskytuje události, školení a komunitní zdroje, které vývojářům, podnikatelům a startupům pomáhají rozvíjet technologie AI a další. Připojte se k nám!

Přejít zpět

Build a multi-LLM chat application with Azure Container Apps

dubna 11, 2024 | 3:30 - 3:45 odp. (UTC) Koordinovaný univerzální čas

  • Formát:
  • alt##LivestreamŽivý přenos

Téma: Programování, jazyky a frameworky

Jazyk: Angličtina

In this demo, explore how to leverage GPU workload profiles in ACA to run your own model backend, and easily switch, compare, and speed up your inference times. You will also explore how to leverage LlamaIndex (https://github.com/run-llama/llama_index) to ingest data on-demand, and host models using Ollama (https://github.com/ollama/ollama). Then finally, decompose the application as a set of microservices written in Python, deployed on ACA.

  • Azure

Přednášející

Části této stránky mohou být přeloženy strojově nebo AI.