Buscar noticias

Buscá por texto y descubrí noticias relacionadas con tu consulta.

Noticias relevantes

Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.

No encontramos noticias relacionadas por su significado.

Noticias encontradas

Coincidencias en título, descripción, resumen, tags, personas o periodista.

2 resultados para «Steve Dowling»

Más recientes primero · Hasta 30 noticias por página

Técnicas para entrenar grandes redes neuronales

OpenAI publicó un artículo técnico que describe las principales técnicas para paralelizar el entrenamiento de grandes redes neuronales sobre clústeres de GPUs. Se explican el paralelismo de datos, de pipeline, de tensores y la mezcla de expertos, junto con estrategias de ahorro de memoria como el checkpointing, la precisión mixta y el offloading. El texto destaca que estas técnicas permiten escalar modelos a cientos de miles de millones o billones de parámetros.

Periodista: Lilian Weng, Greg Brockman

OpenAI presenta InstructGPT, modelos de lenguaje alineados para seguir instrucciones

OpenAI presentó InstructGPT, modelos de lenguaje entrenados con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) que siguen mejor las instrucciones del usuario que GPT-3, con mayor veracidad y menor toxicidad. Los etiquetadores prefirieron las salidas del modelo de 1.3B parámetros sobre las de GPT-3 de 175B, y estos modelos pasaron a ser los predeterminados en la API. La empresa reconoce limitaciones: aún generan contenido tóxico o sesgado, inventan hechos y están sesgados hacia valores culturales angloparlantes.

Periodista: Ryan Lowe, Jan Leike