Windows でローカル AI を使用して構築する

データをデバイス上に保持し、ネットワーク接続が無くても利用でき、リクエストごとのクラウド推論への依存度を低減する、応答性の高い AI エクスペリエンスを作成します。Windows AI API、Microsoft Foundry on Windows、または Windows ML を使用して、アプリにローカル AI パスを適合させます。

AI 開発ギャラリーの詳細ローカル AI のドキュメントを表示する
ローカル AI を選ぶ理由

推論をアプリとデータの近くで実行

デバイス データ、迅速な操作、信頼できる接続がない場合の継続的な動作が求められる環境では、ローカル推論でクラウド AI を補完できます。
プライバシーとデータのローカリティ デバイスでサポートされているワークロードを保持する シナリオと選択した機能がデバイス上の推論をサポートしている場合は、アプリ データをローカルで処理します。 ローカル AI について 対応 ネットワーク ラウンド トリップなしで応答する 低待ち時間と迅速なフィードバックが求められる操作には、ローカル推論を使用します。 ローカル AI とクラウド AI を比較 オフラインでの利用 主要なエクスペリエンスを引き続き利用できるようにする 接続が制限されている場合や利用できない場合でも動作を継続できるように、サポートされているローカル AI 機能を設計します。 Foundry Local の使用を開始する 柔軟なアーキテクチャ 各要求の実行場所を選択する ワークロードにクラウド スケールまたは機能が必要な場合は、ローカル推論を使用してクラウド サービスに適合し、接続します。 Windows AI ソリューションを選択する
構築を開始する

アプリに適したローカル AI パスを選択

まず AI 開発ギャラリーで動作するサンプルを確認します。次に、Windows マネージド API、Microsoft Foundry on Windows を介したローカル モデル、または独自のモデル用の Windows ML を選択します。
すぐに使用できる機能 Windows AI API モデルのライフサイクルを直接管理することなく、アプリでサポートされている API が必要な場合は、Windows が提供する AI 機能を追加します。 Windows AI API ドキュメント ローカル生成 AI Microsoft Foundry on Windows Foundry Local を使って、Windows アプリでのローカル推論に対応したオープンソース モデルを検索、ダウンロード、統合します。 Windows 上の Microsoft Foundry のドキュメント 自分のモデルを持ち込む Windows ML サポートされている Windows ハードウェア全体で Windows ML ランタイムを介してカスタムまたはオープンソース モデルを実行します。 Windows ML のドキュメント 動作例 AI 開発ギャラリー 対話型のローカル AI サンプルを探索し、ハードウェア上で機能をテストして、ソース コードを確認します。 AI 開発ギャラリーの詳細
エージェント用のローカル AI

Windows のローカル モデルでエージェントを強化

Foundry Local ですぐに使用できるローカル LLM を実行するか、Windows ML で独自の ONNX モデルを持ち込み、そのローカル推論パスをエージェント エクスペリエンスに接続します。
すぐに使用できるローカル LLM Foundry Local から開始 Foundry Local SDK と CLI を使用して、ローカル推論でサポートされている言語モデルを評価して統合します。
  • Foundry Local の使用を開始する
  • すぐに使用できるローカル LLM を確認する
    •  自分のモデルを持ち込む カスタム推論に Windows ML を使用する Windows ML を使用して、サポートされている NPU、GPU、CPU 全体で ONNX モデルを検索、変換、最適化、高速化します。
  • Windows ML の使用を開始する
  • モデルの検索またはトレーニング
  • ローカル推論を高速化する

    • アクションを実行するエージェントを構築する準備はできましたか?

    ID、分離、包含、ガバナンス、ポリシー制御に関する個別の Windows エージェント ガイダンスに進みます。

    セキュリティで保護されたエージェント開発を確認する
    学び続ける

    概要から実装への移行

    メンテナンスされたドキュメントを使用して、推論パスの選択、作業サンプルの評価、モデルの準備、Windows ハードウェア間でのローカル AI のデプロイを行います。
    推論パスを選択する Windows AI API、Foundry Local、Windows ML を比較し、ローカルとクラウドの推論がアプリに適合する場所を決定します。
  • Microsoft Foundry on Windows
  • Windows AI API
  • Foundry Local
  • Windows ML
  • Windows AI ソリューションを選択
    •  ツール、サンプル、シナリオ ハードウェア上のローカル AI を評価し、作業コードを検査します。
  • AI 開発ギャラリー
  • AI コード サンプルとチュートリアル
  • Foundry Toolkit for VS Code
    •  モデル、高速化、分布 Windows ML 用に ONNX モデルを準備し、利用可能なハードウェアで高速化して、モデル ファイルをユーザーに届ける方法を選択します。
  • モデルの検索またはトレーニング
  • AI モデルの開発を加速
  • モデルの配布
  • Windows ML CLI