Training AI Without Writing A Reward Function, with Reward Modelling
Robert Miles AI Safety · 3 件のHN推薦
動画への質問
現在の場面の解説や、動画全体の要約を AI に頼めます。回答にタイムスタンプがある場合は、選択するとその場面に移動します。
質問例：ここで話し手は何を説明していますか？
Google でのログインが必要です。確定前に消費クレジットの上限を確認できます。
Robert Miles explains reward modelling, in which an AI learns what humans want from their preference comparisons instead of a hand-written reward function. He walks through the 2017 paper on deep reinforcement learning from human preferences.
HNで推薦される理由： Seen as the clearest introduction to the idea behind RLHF, and also borrowed by commenters as a metaphor for human motivation.
“I find this video by Rob Miles still the best presentation of the ingenious original 2017(!) paper” HNのコメントを読む ↗