Aravind Putrevu
Devrel
DÉCOUVRIR, ÉTABLIR DES RELATION ET GRANDIR
Microsoft Reactor
Rejoignez Microsoft Reactor et collaborez avec les start-ups et les développeurs en direct
Êtes-vous prêt à démarrer avec l’IA ? Microsoft Reactor propose des événements, des formations et des ressources communautaires pour aider les start-ups, les entrepreneurs et les développeurs à fonder leurs futures activités sur la technologie de l’IA. Rejoignez-nous !
DÉCOUVRIR, ÉTABLIR DES RELATION ET GRANDIR
Microsoft Reactor
Rejoignez Microsoft Reactor et collaborez avec les start-ups et les développeurs en direct
Êtes-vous prêt à démarrer avec l’IA ? Microsoft Reactor propose des événements, des formations et des ressources communautaires pour aider les start-ups, les entrepreneurs et les développeurs à fonder leurs futures activités sur la technologie de l’IA. Rejoignez-nous !
Retourner
Improving Large Language Model by Systematically Improving its Data
26 février, 2024 | 12:00 PM - 1:00 PM (UTC) Temps universel coordonné
- Format:
Stream en direct
Thème: Science des données et Machine Learning
Langage: À l’aide de la langue anglaise
Labeled data powers AI/ML in the enterprise, but real-world datasets have been found to contain between 7-50% annotation errors. Imperfectly labelled text data hampers ML models' training (and evaluation) across tasks like intent recognition, entity recognition, and sequence generation. Although pretrained LLMs are equipped with a lot of world knowledge, their performance is adversely affected by noisy training data (as noted by OpenAI).
In this talk, we illustrate data-centric techniques to mitigate the effect of label noise without changing any code related to model architecture, hyperparameters, or training. These data quality improvement techniques should thus remain applicable even for future advanced LLMs like GPT-10.
Intervenants