Windows에서 로컬 AI를 사용하여 빌드

디바이스에 데이터를 유지하고, 네트워크 연결 없이 사용 가능한 상태를 유지하고, 요청당 클라우드 유추에 대한 종속성을 줄일 수 있는 반응형 AI 환경을 만드세요. Windows AI API, Windows용 Microsoft Foundry 또는 Windows ML을 사용하여 앱에 맞는 로컬 AI 경로를 선택하세요.

AI 개발자 갤러리 살펴보기로컬 AI 설명서 보기
로컬 AI를 사용하는 이유

유추를 앱 및 해당 데이터에 더 가깝게 가져오기

로컬 유추는 신뢰할 수 있는 연결 없이 디바이스 데이터, 즉각적인 상호 작용 또는 지속적인 작업의 이점을 누릴 때 클라우드 AI를 보완할 수 있습니다.
개인 정보 보호 및 데이터 지역성 디바이스에서 지원되는 워크로드 유지 시나리오와 선택한 기능이 디바이스 내 추론을 지원하는 경우 앱 데이터를 로컬에서 처리하세요. 로컬 AI에 대한 자세한 정보 대응 능력 네트워크 왕복 없이 응답 짧은 대기 시간과 즉각적인 피드백을 활용하는 상호 작용에 로컬 유추를 사용합니다. 로컬 및 클라우드 AI 비교 오프라인 사용 가능 주요 환경 가용성 상태 유지 연결이 제한되거나 사용할 수 없는 경우 계속 작동하도록 지원되는 로컬 AI 기능을 설계합니다. Foundry Local 시작하기 유연한 아키텍처 각 요청을 실행할 위치 선택 적합한 경우에는 로컬 추론을 사용하고, 클라우드 규모나 기능이 필요한 워크로드에는 클라우드 서비스에 연결하세요. Windows AI 솔루션 선택
빌드 시작

앱에 맞는 로컬 AI 경로 선택

AI 개발자 갤러리부터 시작하여 작동 샘플을 살펴보세요. 그런 다음 Windows 관리 API, Windows용 Microsoft Foundry를 통한 로컬 모델 또는 사용자 고유의 모델용 Windows ML 중 선택합니다.
즉시 사용할 수 있는 기능 Windows AI API 모델 수명 주기를 직접 관리하지 않고 앱에 지원되는 API가 필요한 경우 Windows 제공 AI 기능을 추가합니다. Windows AI API 설명서 로컬 생성형 AI Windows용 Microsoft Foundry Foundry Local을 사용하여 Windows 앱에서 로컬 유추를 위해 지원되는 오픈 소스 모델을 찾고, 다운로드하고, 통합합니다. Windows용 Microsoft Foundry 설명서 Bring Your Own Model Windows ML 지원되는 Windows 하드웨어에서 Windows ML 런타임을 통해 사용자 지정 또는 오픈 소스 모델을 실행합니다. Windows ML 설명서 작동 예제 AI 개발자 갤러리 대화형 로컬 AI 샘플을 살펴보고, 하드웨어에서 기능을 테스트하고, 소스 코드를 검사합니다. AI 개발자 갤러리 살펴보기
에이전트용 로컬 AI

Windows에서 로컬 모델로 에이전트 구동

Foundry Local로 바로 사용할 수 있는 로컬 LLM을 실행하거나 Windows ML을 사용하여 자체 ONNX 모델을 가져온 다음 로컬 추론 경로를 에이전트 환경에 연결합니다.
바로 사용할 수 있는 로컬 LLM Foundry Local로 시작 Foundry Local SDK 및 CLI를 사용해 지원되는 언어 모델을 평가하고 로컬 추론에 통합하세요.
  • Foundry Local 시작하기
  • 바로 사용할 수 있는 로컬 LLM 살펴보기
    •  Bring Your Own Model 사용자 지정 추론에 Windows ML 사용 Windows ML을 사용해 지원되는 NPU, GPU 및 CPU에서 ONNX 모델을 찾고, 변환하고, 최적화하고, 모델의 실행 속도를 높이세요.
  • Windows ML 시작
  • 모델 찾기 또는 학습
  • 로컬 추론 가속화

    • 스스로 조치하는 에이전트를 구축할 준비가 되셨나요?

    ID, 격리, 포함, 거버넌스 및 정책 제어에 관한 별도의 Windows 에이전트 지침을 계속 확인하세요.

    보안 에이전트 개발 살펴보기
    학습 계속하기

    개요에서 구현으로 이동

    관리되는 문서를 활용해 추론 경로를 선택하고, 작동하는 샘플을 평가하고, 모델을 준비하고, Windows 하드웨어 전반에 로컬 AI를 배포하세요.
    추론 경로 선택 Windows AI API, Foundry Local 및 Windows ML을 비교한 후 앱에서 로컬 추론과 클라우드 추론을 어떻게 활용할지 결정하세요.
  • Windows용 Microsoft Foundry
  • Windows AI API
  • Foundry Local
  • Windows ML
  • Windows AI 솔루션 선택
    •  도구, 샘플 및 시나리오 하드웨어에서 로컬 AI를 평가하고 현재 작동하는 코드를 검사하세요.
  • AI 개발자 갤러리
  • AI 코드 샘플 및 자습서
  • VS Code용 Foundry 도구 키트
    •  모델, 가속 및 배포 Windows ML용 ONNX 모델을 준비하고, 사용 가능한 하드웨어에서 모델을 가속화하고, 모델 파일이 사용자에게 도달하는 방법을 선택합니다.
  • 모델 찾기 또는 학습
  • AI 모델 가속화
  • 모델 배포
  • Windows ML CLI