Training AI Without Writing A Reward Function, with Reward Modelling
Robert Miles AI Safety · 3 recomendações no HN
Perguntas sobre o vídeo
Peça à IA para explicar esta cena ou resumir o vídeo inteiro. Se a resposta tiver marcações de tempo, selecione uma para ir ao trecho.
Experimente perguntar: O que a pessoa está explicando aqui?
Entre com o Google. Confira o custo máximo em créditos antes de confirmar.
Robert Miles explains reward modelling, in which an AI learns what humans want from their preference comparisons instead of a hand-written reward function. He walks through the 2017 paper on deep reinforcement learning from human preferences.
Por que o HN recomenda: Seen as the clearest introduction to the idea behind RLHF, and also borrowed by commenters as a metaphor for human motivation.
“I find this video by Rob Miles still the best presentation of the ingenious original 2017(!) paper” Ler no HN ↗