Aravind Putrevu
Devrel
学ぶ、つながる、構築する
Microsoft Reactor
Microsoft Reactor に参加し、開発者とライブで交流する
AI と最新のテクノロジを使い始める準備はできましたか? Microsoft Reactor は、開発者、起業家、スタートアップ企業が AI テクノロジなどを構築するのに役立つイベント、トレーニング、コミュニティ リソースを提供します。 ご参加ください。
学ぶ、つながる、構築する
Microsoft Reactor
Microsoft Reactor に参加し、開発者とライブで交流する
AI と最新のテクノロジを使い始める準備はできましたか? Microsoft Reactor は、開発者、起業家、スタートアップ企業が AI テクノロジなどを構築するのに役立つイベント、トレーニング、コミュニティ リソースを提供します。 ご参加ください。
Zurück
Improving Large Language Model by Systematically Improving its Data
26 Februar, 2024 | 12:00 PM - 1:00 PM (UTC) 協定世界時
- Format:
ライブストリーム
Thema: データ サイエンスと機械学習
Sprache: 英語
Labeled data powers AI/ML in the enterprise, but real-world datasets have been found to contain between 7-50% annotation errors. Imperfectly labelled text data hampers ML models' training (and evaluation) across tasks like intent recognition, entity recognition, and sequence generation. Although pretrained LLMs are equipped with a lot of world knowledge, their performance is adversely affected by noisy training data (as noted by OpenAI).
In this talk, we illustrate data-centric techniques to mitigate the effect of label noise without changing any code related to model architecture, hyperparameters, or training. These data quality improvement techniques should thus remain applicable even for future advanced LLMs like GPT-10.
Referenten