Mit lokaler KI unter Windows entwickeln

Erstellen Sie reaktionsschnelle KI-Erlebnisse, die Daten auf dem Gerät halten können, ohne Netzwerkverbindung verfügbar bleiben und die Abhängigkeit von Cloudrückschlüssen pro Anfrage verringern. Verwenden Sie Windows AI APIs, Microsoft Foundry unter Windows oder Windows ML, um den lokalen KI-Pfad an Ihre App anzupassen.

KI-Entwicklergalerie erkundenDokumentation zur lokalen KI anzeigen
Warum lokale KI?

Rückschluss näher an Ihre App und deren Daten bringen

Lokaler Rückschluss kann Cloud-KI ergänzen, wenn Gerätedaten, unmittelbare Interaktion oder der Betrieb ohne zuverlässige Verbindung von Vorteil sind.
Datenschutz und Datenlokalität Unterstützte Workloads auf dem Gerät behalten Verarbeiten Sie App-Daten lokal, wenn Ihr Szenario und die ausgewählte Funktion das Rückschließen auf dem Gerät unterstützen. Weitere Informationen zu lokaler KI Reaktionsbereitschaft Antworten ohne Hin- und Rückübertragung über das Netzwerk Verwenden Sie lokalen Rückschluss für Interaktionen, die von niedriger Latenz und sofortigem Feedback profitieren. Lokale und Cloud-KI vergleichen Offlineverfügbarkeit Wichtige Funktionen verfügbar halten Entwickeln Sie unterstützte lokale KI-Funktionen, die auch bei eingeschränkter oder fehlender Verbindung weiterarbeiten. Erste Schritte mit Foundry Local Flexible Architektur Auswählen, wo die einzelnen Anforderungen ausgeführt werden Nutzen Sie lokales Rückschließen, wenn dies sinnvoll ist, und stellen Sie eine Verbindung zu Clouddiensten her, wenn eine Workload die Skalierung oder Funktionen der Cloud benötigt. Eine Windows-KI-Lösung auswählen
Jetzt loslegen

Wählen Sie den lokalen KI-Weg, der zu Ihrer App passt

Starten Sie mit der KI-Entwicklergalerie und erkunden Sie funktionierende Beispiele. Wählen Sie anschließend eine von Windows verwaltete API, ein lokales Modell über Microsoft Foundry unter Windows oder Windows ML für Ihr eigenes Modell aus.
Einsatzbereite Funktionen Windows AI APIs Fügen Sie von Windows bereitgestellte KI-Funktionen hinzu, wenn Ihre App eine unterstützte API benötigt, ohne den Modelllebenszyklus direkt verwalten zu müssen. Windows AI APIs-Dokumentation Lokale generative KI Microsoft Foundry unter Windows Verwenden Sie Foundry Local, um unterstützte Open-Source-Modelle für den lokalen Rückschluss in Ihrer Windows-App zu finden, herunterzuladen und zu integrieren. Dokumentation zu Microsoft Foundry unter Windows Bring Your Own Model Windows ML Führen Sie benutzerdefinierte oder Open-Source-Modelle über die Windows ML-Laufzeit auf unterstützter Windows-Hardware aus. Dokumentation zu Windows ML Praxisbeispiele KI-Entwicklergalerie Entdecken Sie interaktive Beispiele für lokale KI, testen Sie die Funktionen auf Ihrer Hardware, und sehen Sie sich den Quellcode an. KI-Entwicklergalerie erkunden
Lokale KI für Agents

Leistungsfähige Agents mit einem lokalen Modell unter Windows

Führen Sie ein sofort einsatzbereites lokales LLM mit Foundry Local aus, oder verwenden Sie Ihr eigenes ONNX-Modell mit Windows ML. Verbinden Sie diesen lokalen Rückschlusspfad anschließend mit Ihrer Agentenumgebung.
Einsatzbereite lokale LLMs Mit Foundry Local starten Verwenden Sie das Foundry Local SDK und die CLI, um ein unterstütztes Sprachmodell für das lokale Rückschließen zu bewerten und zu integrieren.
  • Erste Schritte mit Foundry Local
  • Einsatzbereite lokale LLMs erkunden
    •  Bring Your Own Model Windows ML für benutzerdefiniertes Rückschließen verwenden Suchen, konvertieren, optimieren und beschleunigen Sie ein ONNX-Modell für unterstützte NPUs, GPUs und CPUs mit Windows ML.
  • Erste Schritte mit Windows ML
  • Modelle finden oder trainieren
  • Lokales Rückschließen beschleunigen

    • Bereit, Agents zu erstellen, die handeln?

    Weiter geht es mit der separaten Anleitung zu Windows-Agents sowie den Steuerelementen für Identität, Isolation, Eindämmung, Governance und Richtlinien.

    Sichere Agent-Entwicklung erkunden
    Weiter lernen

    Von der Übersicht zur Implementierung

    Nutzen Sie die gepflegte Dokumentation, um einen Rückschlusspfad auszuwählen, funktionierende Beispiele zu bewerten, Modelle vorzubereiten und lokale KI auf Windows-Hardware bereitzustellen.
    Einen Rückschlusspfad auswählen Vergleichen Sie Windows AI APIs, Foundry Local und Windows ML, und entscheiden Sie anschließend, ob lokales oder cloudbasiertes Rückschließen für Ihre App geeignet ist.
  • Microsoft Foundry unter Windows
  • Windows AI APIs
  • Foundry Local
  • Windows ML
  • Wählen Sie Ihre Windows-KI-Lösung
    •  Tools, Beispiele und Szenarien Bewerten Sie lokale KI auf Ihrer Hardware, und überprüfen Sie den funktionierenden Code.
  • KI-Entwicklergalerie
  • KI-Codebeispiele und Tutorials
  • Foundry Toolkit für VS Code
    •  Modelle, Beschleunigung und Verteilung Bereiten Sie ONNX-Modelle für Windows ML vor, beschleunigen Sie sie auf der verfügbaren Hardware und wählen Sie aus, wie die Modelldateien zu den Nutzenden gelangen.
  • Modelle finden oder trainieren
  • KI-Modelle beschleunigen
  • Modelle verteilen
  • Windows ML-CLI