Aravind Putrevu
Devrel
APPRENDRE, SE CONNECTER, CRÉER
Microsoft Reactor
Rejoignez Microsoft Reactor et collaborez avec les développeurs en direct
Prêt à bien démarrer avec l’IA et les dernières technologies ? Microsoft Reactor fournit des événements, des formations et des ressources communautaires pour aider les développeurs, les entrepreneurs et les start-ups à se baser sur la technologie IA et bien plus encore. Rejoignez-nous !
APPRENDRE, SE CONNECTER, CRÉER
Microsoft Reactor
Rejoignez Microsoft Reactor et collaborez avec les développeurs en direct
Prêt à bien démarrer avec l’IA et les dernières technologies ? Microsoft Reactor fournit des événements, des formations et des ressources communautaires pour aider les développeurs, les entrepreneurs et les start-ups à se baser sur la technologie IA et bien plus encore. Rejoignez-nous !
Retourner
Improving Large Language Model by Systematically Improving its Data
26 février, 2024 | 12:00 PM - 1:00 PM (UTC) Temps universel coordonné
- Format:
Stream en direct
Thème: Science des données et Machine Learning
Langage: À l’aide de la langue anglaise
Labeled data powers AI/ML in the enterprise, but real-world datasets have been found to contain between 7-50% annotation errors. Imperfectly labelled text data hampers ML models' training (and evaluation) across tasks like intent recognition, entity recognition, and sequence generation. Although pretrained LLMs are equipped with a lot of world knowledge, their performance is adversely affected by noisy training data (as noted by OpenAI).
In this talk, we illustrate data-centric techniques to mitigate the effect of label noise without changing any code related to model architecture, hyperparameters, or training. These data quality improvement techniques should thus remain applicable even for future advanced LLMs like GPT-10.
Intervenants