Compilación con IA local en Windows

Cree experiencias de inteligencia artificial con capacidad de respuesta que puedan mantener los datos en el dispositivo, permanecer disponibles sin una conexión de red y reducir la dependencia de la inferencia en la nube por solicitud. Use las API de IA de Windows, Microsoft Foundry en Windows o Windows ML para hacer coincidir la ruta de acceso de IA local con la aplicación.

Explorar la Galería de desarrollo de IAVisualización de la documentación de IA local
Por qué la inteligencia artificial local

Acercar la inferencia a la aplicación y sus datos

La inferencia local puede complementar la inteligencia artificial en la nube cuando una experiencia se beneficia de los datos del dispositivo, la interacción inmediata o el funcionamiento continuado sin una conexión confiable.
Privacidad y localidad de los datos Mantener las cargas de trabajo admitidas en el dispositivo Procese los datos de la aplicación localmente cuando el escenario y la funcionalidad seleccionada admitan la inferencia en el dispositivo. Más información sobre la inteligencia artificial local Capacidad de respuesta Responder sin un recorrido de ida y vuelta de red Use la inferencia local para las interacciones que se benefician de la baja latencia y los comentarios inmediatos. Comparación de IA local y en la nube Disponibilidad sin conexión Mantener las experiencias clave disponibles Diseñe características de inteligencia artificial locales compatibles para seguir funcionando cuando la conectividad sea limitada o no esté disponible. Comenzar con Foundry Local Arquitectura flexible Elegir dónde se ejecuta cada solicitud Use la inferencia local donde quepa y conéctese a los servicios en la nube cuando una carga de trabajo necesite capacidades o escala en la nube. Elegir una solución de IA de Windows
Comience a crear soluciones

Elegir la ruta de acceso de IA local que se adapte a la aplicación

Comience con la Galería de desarrollo de IA para explorar ejemplos de trabajo. A continuación, elija una API administrada por Windows, un modelo local a través de Microsoft Foundry en Windows o Windows ML para su propio modelo.
Funcionalidades listas para usar API de IA de Windows Agregue funcionalidades de inteligencia artificial proporcionadas por Windows cuando la aplicación necesite una API compatible sin administrar directamente el ciclo de vida del modelo. Documentación de las API de IA de Windows IA generativa local Microsoft Foundry en Windows Usa Foundry local para buscar, descargar e integrar modelos de código abierto compatibles para la inferencia local en tu aplicación de Windows. Documentación de Microsoft Foundry en Windows Traiga su propio modelo Windows ML Ejecute modelos personalizados o de código abierto a través del entorno de ejecución de Windows ML en el hardware de Windows compatible. Documentación de Windows ML Ejemplos de trabajo AI Dev Gallery Explore ejemplos de inteligencia artificial locales interactivos, pruebe funcionalidades en su hardware e inspeccione el código fuente. Explorar la Galería de desarrollo de IA
IA local para agentes

Agentes de energía con un modelo local en Windows

Ejecute un LLM local listo para usar con Foundry local o traiga su propio modelo ONNX con Windows ML y, a continuación, conecte esa ruta de acceso de inferencia local a la experiencia del agente.
LLM locales listos para usar Empezar con Foundry local Use el SDK local de Foundry y la CLI para evaluar e integrar un modelo de lenguaje compatible para la inferencia local.
  • Comenzar con Foundry Local
  • Exploración de LLM locales listos para usar
    •  Traiga su propio modelo Usar Windows ML para la inferencia personalizada Busque, convierta, optimice y acelere un modelo ONNX en las NPU, GPU y CPU compatibles con Windows ML.
  • Comenzar con Windows ML
  • Buscar o entrenar modelos
  • Aceleración de la inferencia local

    • ¿Está listo para crear agentes que tomen medidas?

    Continúe con la guía independiente del agente de Windows para los controles de identidad, aislamiento, contención, gobernanza y directiva.

    Exploración del desarrollo seguro de agentes
    Seguir aprendiendo

    Pasar de la información general a la implementación

    Use la documentación mantenida para elegir una ruta de acceso de inferencia, evaluar ejemplos de trabajo, preparar modelos e implementar inteligencia artificial local en el hardware de Windows.
    Elegir una ruta de acceso de inferencia Comparar las API de IA de Windows, Foundry Local y Windows ML y, a continuación, decide dónde encajan la inferencia local y en la nube en su aplicación.
  • Microsoft Foundry en Windows
  • API de IA de Windows
  • Foundry Local
  • Windows ML
  • Elegir la solución de IA de Windows
    •  Herramientas, ejemplos y escenarios Evalúe la inteligencia artificial local en el hardware e inspeccione el código de trabajo.
  • AI Dev Gallery
  • Ejemplos y tutoriales de código de IA
  • Kit de herramientas de Foundry para VS Code
    •  Modelos, aceleración y distribución Prepare modelos ONNX para Windows ML, agilice su uso en el hardware disponible y elija cómo llegan los archivos de modelo a los usuarios.
  • Buscar o entrenar modelos
  • Aceleración de los modelos de IA
  • Distribuir modelos
  • CLI de Windows ML