En nuestra sesión final de la serie Python + IA, culminamos con un tema crucial: cómo usar la IA de manera segura y cómo evaluar la calidad de las salidas de IA.
Hay múltiples capas de mitigación cuando se trabaja con LLMs: el modelo en sí, un sistema de seguridad superpuesto, el prompt y contexto, y la experiencia de usuario de la aplicación. Nuestro enfoque será en las herramientas de Azure que facilitan poner sistemas de IA seguros en producción.
Mostraremos cómo configurar el sistema Azure AI Content Safety cuando se trabaja con modelos de Azure AI, y cómo manejar esos errores en código Python. Luego usaremos el SDK de Evaluación de Azure AI para evaluar la seguridad y calidad de la salida de Nuestro LLM.