Microsoft Reactor

En esta serie de tres partes, te mostramos cómo hospedar tus propios agentes en Microsoft Foundry.

En la tercera sesión, nos aseguramos de que nuestros agentes de IA produzcan outputs de alta calidad y operen de forma segura y responsable.

Primero vamos a explorar qué significa que los outputs de un agente sean de alta calidad, usando evaluadores integrados para verificar la adherencia general a las tareas y construyendo evaluadores personalizados para verificaciones específicas del dominio.

Con los agentes hosteados en Foundry, podemos correr evaluaciones masivas a demanda, programar evaluaciones periódicas e incluso habilitar la evaluación continua sobre un subconjunto de trazas en vivo.

Después vamos a hablar sobre los sistemas de seguridad que podés agregar encima de los agentes y cómo auditarlos ante posibles riesgos. Para mejorar el cumplimiento de los objetivos de una organización, podemos configurar políticas y guardrails personalizados que se compartan entre agentes.

Por último, podemos asegurarnos de que los inputs adversariales no generen outputs inseguros corriendo escaneos de red-teaming automatizado sobre los agentes, e incluso programar esos escaneos para que se ejecuten regularmente.

Con todas estas funcionalidades de evaluación y cumplimiento disponibles en Foundry, podés tener más confianza al hospedar tus agentes en producción.

Todos los ejemplos de código van a ser open-source y estarán listos para desplegar en tu propio Microsoft Foundry usando el Azure Developer CLI.

Después del stream, unite a las office hours en el Discord de Microsoft Foundry para hacer tus preguntas.

Recursos recomendados:
Si recién estás empezando con IA generativa en Python, comenzá con nuestra serie de 9 partes de Python + IA, donde cubrimos LLMs, modelos de embeddings, RAG, llamadas a herramientas, MCP y más.

Si no conocés Microsoft Agent Framework, mirá nuestra serie de 6 partes de Python + Agentes, donde nos metemos de lleno en agentes y flujos de trabajo.