Roy Kim
Microsoft
Exploring Kaito to streamline AI inference model deployment in Azure Kubernetes
julho 16, 2024 | 9:00 - 10:00 PM (UTC) Tempo Universal Coordenado UTC
Pronto para começar a usar a IA e as tecnologias mais recentes? O Microsoft Reactor fornece eventos, treinamento e recursos da comunidade para ajudar desenvolvedores, empreendedores e startups a desenvolver a tecnologia de IA e muito mais. Junte-se a nós!
Exploring Kaito to streamline AI inference model deployment in Azure Kubernetes
julho 16, 2024 | 9:00 - 10:00 PM (UTC) Tempo Universal Coordenado UTC
Pronto para começar a usar a IA e as tecnologias mais recentes? O Microsoft Reactor fornece eventos, treinamento e recursos da comunidade para ajudar desenvolvedores, empreendedores e startups a desenvolver a tecnologia de IA e muito mais. Junte-se a nós!
Voltar
Exploring Kaito to streamline AI inference model deployment in Azure Kubernetes
julho 16, 2024 | 9:00 - 10:00 PM (UTC) Tempo Universal Coordenado UTC
- Formato:
Transmissão ao vivo
Tópico: Infraestrutura para IA
Linguagem: Inglês
About this session:
Roy Kim will be presenting Kaito, an operator streamlining AI/ML inference model deployment in Kubernetes. Discover how Kaito simplifies deployment of large open-source inference models like Falcon and LLAMA2. Learn its unique features: managing large model files with container images, preset GPU configurations, auto-provisioning GPU nodes, and hosting on Microsoft Container Registry (MCR). See how Kaito simplifies the workflow of onboarding large AI inference models in Kubernetes.
Learn more and develop your skills in Azure Kubernetes Service with this Microsoft Learn training module:
https://aka.ms/IntroToAKSLearn1
Palestrantes