Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
6 resultados para «Nathan Lambert»
Más recientes primero · Hasta 30 noticias por página
The DecoderNuevo índice de análisis artificial amplía la brecha entre modelos abiertos y cerrados
Un nuevo índice de análisis artificial ha ampliado la diferencia entre modelos de IA abiertos y cerrados, con el modelo Kimi K3.1 Pro cayendo cinco puestos en la clasificación. Este cambio se debe a que el 60% del índice ahora se basa en conjuntos de pruebas privados para evitar el 'benchmaxxing'. El investigador Nathan Lambert sugiere que los avances en entrenamiento se dan en entornos de aprendizaje por refuerzo, y que los conjuntos de pruebas cerrados tienen limitaciones para detectar errores en los prompts.
Hugging Face BlogEl cambiante panorama global de la computación: cómo China impulsa su ecosistema de chips e IA
El artículo analiza cómo los controles de exportación de chips de IA de EE. UU. desde 2022, lejos de frenar a China, catalizaron el desarrollo de chips domésticos como Ascend de Huawei, Cambricon y Kunlun de Baidu. Modelos chinos de pesos abiertos como DeepSeek, Qwen, GLM y Kimi, con innovaciones en eficiencia computacional (MLA, GRPO), ya se entrenan e infieren en silicio local y ganan adopción global. El texto sostiene que el ecosistema de software de NVIDIA (CUDA) es desafiado en cada capa y que el centro de gravedad de la IA podría desplazarse hacia China.
Crear un asistente de programación con StarCoder
El artículo describe cómo el modelo de código abierto StarCoder, de 16B parámetros y entrenado con un billón de tokens de más de 80 lenguajes de programación, puede ajustarse para funcionar como asistente conversacional de programación, dando lugar a StarChat. Explica el uso de prompts de diálogo, el formato ChatML, el enmascaramiento de etiquetas de usuario y el ajuste fino con DeepSpeed ZeRO-3 sobre el dataset OpenAssistant. También aborda la evaluación de asistentes de código mediante benchmarks y juicio de modelos como GPT-4, y advierte sobre limitaciones y sesgos del modelo alfa.
Qué hace útil a un agente de diálogo: las técnicas detrás de ChatGPT
El artículo de Hugging Face repasa las técnicas que hacen útil a un agente de diálogo conversacional como ChatGPT: ajuste fino con instrucciones (IFT), ajuste fino supervisado (SFT), aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) y cadena de pensamiento (CoT). Compara chatbots previos como LaMDA, BlenderBot 3, Sparrow y el Assistant de Anthropic en acceso, datos, arquitectura y evaluación. Concluye que se necesitan pocos datos para IFT, que SFT mejora seguridad y utilidad, y que CoT favorece el razonamiento paso a paso y reduce respuestas evasivas.
Sesgos en el aprendizaje automático: riesgos, contexto y herramientas para abordarlos
La entrada del blog de Ética y Sociedad de Hugging Face aborda el sesgo en el aprendizaje automático como un problema omnipresente y complejo que ninguna intervención técnica aislada puede resolver. Los modelos, como sistemas sociotécnicos, amplifican tendencias sociales y pueden exacerbar inequidades según su contexto de despliegue, por lo que se requiere vigilancia y retroalimentación continua. El texto propone abordar el sesgo en cada etapa del ciclo de desarrollo (definición de tarea, curación de datos y entrenamiento de modelos) y presenta herramientas como Dataset Cards, Disaggregator, Model Cards, SEAL y benchmarks como BOLD, HONEST y WinoBias.
Cómo funciona el aprendizaje por refuerzo con retroalimentación humana (RLHF) en los modelos de lenguaje
El artículo explica el Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF), técnica que permite alinear modelos de lenguaje con valores humanos mediante tres etapas: preentrenamiento del modelo, entrenamiento de un modelo de recompensa con preferencias humanas y ajuste fino con aprendizaje por refuerzo (PPO). Detalla cómo OpenAI, Anthropic y DeepMind aplicaron el método en modelos como InstructGPT, Gopher y ChatGPT, y describe herramientas de código abierto como TRL, TRLX y RL4LMs. Señala limitaciones como el alto costo de la anotación humana, el desacuerdo entre anotadores y el riesgo de que los modelos generen texto dañino o inexacto.