Buscar noticias

OpenAI News🇺🇸 Estados Unidos4 sept 2020, 4:00 a. m.

OpenAI entrena modelos de lenguaje para resumir textos con retroalimentación humana

OpenAI publicó un trabajo en el que aplicó aprendizaje por refuerzo a partir de retroalimentación humana para entrenar modelos de lenguaje especializados en resumir textos. Su modelo de 1.300 millones de parámetros superó a uno de 12.000 millones entrenado solo con aprendizaje supervisado, y los resúmenes generados fueron preferidos por evaluadores humanos frente a los escritos por personas en el conjunto Reddit TL;DR. La técnica también se transfirió sin ajuste adicional a artículos de noticias de CNN/DailyMail, aunque los autores advierten limitaciones como sesgos, alto costo computacional y que el método no define por sí mismo qué comportamiento es deseable.

Periodista: Nisan Stiennon, Paul Christiano, Daniel Ziegler, Ryan Lowe, Jeffrey Wu, Chelsea Voss, Long Ouyang