rlhf

Los gráficos cuentan por fecha de publicación y respetan los filtros. El archivo incluye todo el histórico.

Noticias de rlhf

Buscar noticias dentro de este tag

Buscar

2 noticias · De más nuevas a más antiguas.

arXiv Computer Science AI🇺🇸 Estados Unidos3 nov 2026, 2:00 a. m.

La ilusión de alineación: Cómo BadReward corrompe la generación de texto a imagen

Se explora la posibilidad de envenenar el proceso RLHF en modelos de texto a imagen mediante un ataque llamado BadReward. Este ataque manipula las señales de recompensa para incrustar comportamientos maliciosos en el contenido generado. Los experimentos demuestran que esta manipulación corrompe la señal de recompensa y es efectiva en arquitecturas modernas de texto a imagen.

inteligencia artificialseguridad informáticaaprendizaje automáticogeneración de imágenesRLHF

Noticia original

Hugging Face Blog🇺🇸 Estados Unidos8 dic 2022, 9:00 p. m.

Cómo funciona el aprendizaje por refuerzo con retroalimentación humana (RLHF) en los modelos de lenguaje

El artículo explica el Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF), técnica que permite alinear modelos de lenguaje con valores humanos mediante tres etapas: preentrenamiento del modelo, entrenamiento de un modelo de recompensa con preferencias humanas y ajuste fino con aprendizaje por refuerzo (PPO). Detalla cómo OpenAI, Anthropic y DeepMind aplicaron el método en modelos como InstructGPT, Gopher y ChatGPT, y describe herramientas de código abierto como TRL, TRLX y RL4LMs. Señala limitaciones como el alto costo de la anotación humana, el desacuerdo entre anotadores y el riesgo de que los modelos generen texto dañino o inexacto.

inteligencia artificialtecnologíaaprendizaje por refuerzomodelos de lenguajeRLHF

Noticia original