Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
2 resultados para «Steve Dowling»
Más recientes primero · Hasta 30 noticias por página
Técnicas para entrenar grandes redes neuronales
OpenAI publicó un artículo técnico que describe las principales técnicas para paralelizar el entrenamiento de grandes redes neuronales sobre clústeres de GPUs. Se explican el paralelismo de datos, de pipeline, de tensores y la mezcla de expertos, junto con estrategias de ahorro de memoria como el checkpointing, la precisión mixta y el offloading. El texto destaca que estas técnicas permiten escalar modelos a cientos de miles de millones o billones de parámetros.
OpenAI presenta InstructGPT, modelos de lenguaje alineados para seguir instrucciones
OpenAI presentó InstructGPT, modelos de lenguaje entrenados con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) que siguen mejor las instrucciones del usuario que GPT-3, con mayor veracidad y menor toxicidad. Los etiquetadores prefirieron las salidas del modelo de 1.3B parámetros sobre las de GPT-3 de 175B, y estos modelos pasaron a ser los predeterminados en la API. La empresa reconoce limitaciones: aún generan contenido tóxico o sesgado, inventan hechos y están sesgados hacia valores culturales angloparlantes.
- Ryan Lowe
- Jan Leike
- Long Ouyang
- Jeff Wu
- Roger Jiang
- Diogo Almeida
- Carroll Wainwright
- Pamela Mishkin
- Chong Zhang
- Sandhini Agarwal
- Katarina Slama
- Alex Ray
- John Schulman
- Jacob Hilton
- Fraser Kelton
- Luke Miller
- Maddie Simens
- Amanda Askell
- Peter Welinder
- Paul Christiano
- Steve Dowling
- Hannah Wong
- Elie Georges
- Alper Ercetin
- Jared Salzano
- Allan Diego
- Justin Jay Wang