Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Sam Boal»
Más recientes primero · Hasta 30 noticias por página
Técnicas para entrenar grandes redes neuronales
OpenAI publicó un artículo técnico que describe las principales técnicas para paralelizar el entrenamiento de grandes redes neuronales sobre clústeres de GPUs. Se explican el paralelismo de datos, de pipeline, de tensores y la mezcla de expertos, junto con estrategias de ahorro de memoria como el checkpointing, la precisión mixta y el offloading. El texto destaca que estas técnicas permiten escalar modelos a cientos de miles de millones o billones de parámetros.
Lecciones aprendidas sobre seguridad y uso indebido de modelos de lenguaje
OpenAI publicó un análisis sobre las lecciones aprendidas en el despliegue de modelos de lenguaje como GPT-3 y Codex a través de su API desde junio de 2020. La empresa detectó y detuvo a cientos de actores que intentaban usos indebidos, desde desinformación hasta spam de productos médicos dudosos, y reconoce limitaciones en los benchmarks académicos existentes. Sostiene que la investigación en seguridad también aporta utilidad comercial, aunque admite dificultades para medir el impacto económico y social de sus modelos.
OpenAI: la eficiencia algorítmica en IA se duplica cada 16 meses desde 2012
OpenAI publicó un análisis según el cual, desde 2012, el cómputo necesario para entrenar una red neuronal hasta el mismo rendimiento en la clasificación de ImageNet se reduce a la mitad cada 16 meses. Entrenar al nivel de AlexNet requiere hoy 44 veces menos cómputo que en 2012, frente a la mejora de 11x que habría producido la Ley de Moore. El texto sostiene que, en tareas de IA con alta inversión, el progreso algorítmico superó las ganancias de eficiencia del hardware, y anuncia el seguimiento público de los estados de vanguardia en eficiencia.
OpenAI presenta GPT-2 y decide no publicar el modelo completo por riesgos de uso malicioso
OpenAI anunció GPT-2, un modelo de lenguaje de 1.500 millones de parámetros entrenado para predecir la siguiente palabra en 40 GB de texto de Internet, con capacidades de generación de texto, traducción y resumen sin entrenamiento específico. Por temor a usos maliciosos como desinformación y suplantación, la empresa no publicó el modelo completo ni sus datos, y liberó solo una versión reducida junto con un artículo técnico. En mayo de 2019 aplicó una estrategia de publicación por etapas, liberando la versión de 345 millones de parámetros y compartiendo las mayores con socios de seguridad.
- Alec Radford
- Jeffrey Wu
- Dario Amodei
- Daniella Amodei
- Jack Clark
- Miles Brundage
- Ilya Sutskever
- Amanda Askell
- David Lansky
- Danny Hernandez
- David Luan
- Ben Barry
- Greg Brockman
- Kai-Fu Lee
- Tasha McCauley
- Jeffrey Ding
- Brian Tse
- Allan Dafoe
- Rebecca Crootof
- Sam Bowman
- Ryan Calo
- Nick Cammarata
- John Schulman
- Ashley Pilipiszyn
- Justin Jay Wang
- Rewon Child