Lewati ke konten utama

PELAJARI, SAMBUNGKAN, BANGUN

Microsoft Reactor

Bergabung dengan Microsoft Reactor dan terlibat dengan pengembang secara langsung

Siap untuk mulai menggunakan AI dan teknologi terbaru? Microsoft Reactor menyediakan acara, pelatihan, dan sumber daya komunitas untuk membantu pengembang, pengusaha, dan startup dibangun berdasarkan teknologi AI dan banyak lagi. Gabung dengan kami!

PELAJARI, SAMBUNGKAN, BANGUN

Microsoft Reactor

Bergabung dengan Microsoft Reactor dan terlibat dengan pengembang secara langsung

Siap untuk mulai menggunakan AI dan teknologi terbaru? Microsoft Reactor menyediakan acara, pelatihan, dan sumber daya komunitas untuk membantu pengembang, pengusaha, dan startup dibangun berdasarkan teknologi AI dan banyak lagi. Gabung dengan kami!

Kembali

Deploying and Monitoring LLM Inference Endpoints

16 Juli, 2024 | 6.00 PM - 7.00 PM (UTC) Waktu Universal Terkoordinasi

  • Format:
  • alt##LivestreamStreaming Langsung

Topik: Ilmu Data &Pembelajaran Mesin

Bahasa: Inggris

In this session we will dive into deploying LLMs to Production Inference Endpoints and then putting in place automated monitoring metrics and alerts to help track model performance and suppress potential output issues such as toxicity.

We will also cover the process of optimizing LLMs using RAG, for relevant, accurate, and useful outputs.

You will leave this session with a comprehensive understanding about deploying LLMs to production and monitoring the models for issues such as Toxicity, relevance, and accuracy.

Try this other common AI use cases using the Wallaroo.AI Azure Inference Server Freemium Offer on Azure Marketplace and also try the Free Wallaroo.AI Community Edition

  • LLM

Pembicara

Peristiwa Terkait

Peristiwa di bawah ini mungkin menarik bagi Anda juga. Pastikan untuk mengunjungi kami Beranda reaktor untuk melihat semua peristiwa yang tersedia.

Bagian dari halaman ini mungkin diterjemahkan oleh mesin atau AI.