Training AI Without Writing A Reward Function, with Reward Modelling
Robert Miles AI Safety · 3 recomendaciones en HN
Preguntas sobre el video
Pide a la IA que explique esta escena o resuma el video completo. Si la respuesta incluye marcas de tiempo, selecciona una para ir al fragmento.
Prueba a preguntar: ¿Qué está explicando aquí la persona que habla?
Inicia sesión con Google. Consulta el costo máximo en créditos antes de confirmar.
Robert Miles explains reward modelling, in which an AI learns what humans want from their preference comparisons instead of a hand-written reward function. He walks through the 2017 paper on deep reinforcement learning from human preferences.
Por qué lo recomienda HN: Seen as the clearest introduction to the idea behind RLHF, and also borrowed by commenters as a metaphor for human motivation.
“I find this video by Rob Miles still the best presentation of the ingenious original 2017(!) paper” Leer en HN ↗