学ぶ、つながる、構築する

Microsoft Reactor

Microsoft Reactor に参加し、開発者とライブで交流する

AI と最新のテクノロジを使い始める準備はできましたか? Microsoft Reactor は、開発者、起業家、スタートアップ企業が AI テクノロジなどを構築するのに役立つイベント、トレーニング、コミュニティリソースを提供します。ご参加ください。

学ぶ、つながる、構築する

Microsoft Reactor

Microsoft Reactor に参加し、開発者とライブで交流する

戻る

Improving Large Language Model by Systematically Improving its Data

26 2月, 2024 | 12:00 午後 - 1:00 午後 (UTC) 協定世界時

形式:
ライブストリーム

トピック: データサイエンスと機械学習

言語: 英語

Labeled data powers AI/ML in the enterprise, but real-world datasets have been found to contain between 7-50% annotation errors. Imperfectly labelled text data hampers ML models' training (and evaluation) across tasks like intent recognition, entity recognition, and sequence generation. Although pretrained LLMs are equipped with a lot of world knowledge, their performance is adversely affected by noisy training data (as noted by OpenAI).

In this talk, we illustrate data-centric techniques to mitigate the effect of label noise without changing any code related to model architecture, hyperparameters, or training. These data quality improvement techniques should thus remain applicable even for future advanced LLMs like GPT-10.

講演者