Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
The DecoderGoogle Deepmind lanza Gemini 4 Carbon solo dos semanas después de Argon con ganancias en todos los aspectos
Google DeepMind lanzó Gemini 4 Carbon, el próximo modelo frontera, solo dos semanas después de Gemini 4 Argon. Carbon lidera el Índice de Inteligencia Artificial Analítica con 59 puntos, superando a Argon, aunque queda por detrás de Claude Opus 5.5 en la codificación agentica. El modelo destaca en tareas de desarrollo web y seguridad cibernética, mostrando mejoras significativas en razonamiento complejo y capacidad para manejar flujos de trabajo de desarrollo autónomo multidiario. Se está pasando por un proceso de preensayo voluntario del gobierno de EE. UU. para expertos en seguridad.
Google DeepMindGoogle DeepMind presenta Co-Scientist, un sistema de IA multiagente para acelerar la investigación científica
Google DeepMind publicó en Nature su investigación sobre Co-Scientist, un sistema de IA multiagente basado en Gemini que genera, debate y evoluciona hipótesis científicas mediante un "torneo de ideas". La herramienta, disponible para investigadores individuales a través de Hypothesis Generation, ya se aplicó en casos de fibrosis hepática, ELA, envejecimiento celular y enfermedades infecciosas junto a universidades y empresas como Stanford, MIT, Cambridge y Calico. La compañía informó que realizó evaluaciones de seguridad, incluidos usos indebidos en dominios CBRN, y que prevé ampliar el acceso a socios empresariales de Google Cloud.
The RegisterGoogle's Gemini 4 Carbon looks like a diamond in the rough
Google anunció Gemini 4 Carbon, un modelo mejorado que vende al mismo precio que su predecesor, Argon, mientras que los precios futuros se ajustarán. Este modelo destaca en ciberseguridad y tareas de larga duración, superando a otros modelos en varios benchmarks, incluyendo el índice de agente de codificación. El CEO de Google afirmó que Gemini 4 Argon y Carbon están a la vanguardia, señalando una fuerte posición de Google en el mercado de IA.
Google DeepMind presenta su iniciativa de investigación "AI co-clinician" para una atención médica aumentada por IA
Google DeepMind anunció su iniciativa de investigación "AI co-clinician", un sistema de IA diseñado para funcionar como miembro colaborativo del equipo de atención médica bajo supervisión clínica experta. En evaluaciones ciegas con 98 consultas de atención primaria, el sistema registró cero errores críticos en 97 casos y superó a herramientas líderes de síntesis de evidencia. En simulaciones de telemedicina con audio y video en vivo, igualó o superó a médicos de atención primaria en 68 de 140 áreas evaluadas, aunque los expertos siguieron siendo mejores en la identificación de señales de alerta y exámenes físicos críticos.
- Alan Karthikesalingam
- Vivek Natarajan
- Pushmeet Kohli
- Aniruddh Raghu
- Arthur Chen
- Charlie Taylor
- CJ Park
- David Stutz
- Devora Berlowitz
- Doug Fritz
- Dylan Slack
- Eliseo Papa
- Jack Chen
- JD Velasquez
- Jing Rong Lim
- Katya Tregubova
- Kelvin Guu
- Meet Shah
- Richard Green
- Ryutaro Tanno
- Sukhdeep Singh
- Victoria Johnston
- Adam Rodman
- James Manyika
- Demis Hassabis
ABC ColorGoogle presenta una versión mejorada de su IA para avanzar en la comprensión del genoma
Google DeepMind anunció AlphaGenome 2, un modelo de IA mejorado para predecir cómo las variaciones del ADN afectan a tipos celulares humanos específicos. Este modelo utiliza datos de más de 100 millones de perfiles celulares y una plataforma que predice cambios genómicos. La herramienta busca ayudar a los investigadores a descubrir factores celulares que causan enfermedades y a priorizar variantes genéticas.
La NaciónGoogle DeepMind presentó Genie 4, su nuevo motor de simulación de mundos en tiempo real - LA NACION
Google DeepMind presentó Genie 4, su nuevo motor de simulación de mundos en tiempo real. Esta cuarta generación de IA es un modelo nativamente multimodal que puede crear universos interactivos con descripción, incorporando generación nativa de audio, físicas avanzadas y control de escenas mediante lenguaje natural. Busca impulsar la Inteligencia Artificial General (AGI) al permitir que los sistemas digitales simulen con precisión las dinámicas del mundo físico.
Gemini Deep Think redefine la investigación científica con avances en matemática, física y computación
Google DeepMind publicó dos artículos que detallan cómo Gemini Deep Think, bajo dirección de expertos, resuelve problemas de investigación en matemática, física y ciencias de la computación. El agente Aletheia logró resultados autónomos en matemática de nivel doctoral, incluida la resolución de problemas abiertos de Erdős y la refutación de una conjetura de una década en optimización submodular. Los resultados, calificados por expertos humanos, muestran que la IA actúa como multiplicador de fuerza en el flujo de trabajo científico.
Un exinvestigador de Google DeepMind aseguró: “Hay probabilidad de que una de cada tres IA acabe con la humanidad en diez años” - LA NACION
Alex Turner, a former researcher at Google DeepMind, expressed concern that there is a probability of one in three Artificial Intelligences (AI) ending humanity within the next ten years. He warned that the increasing complexity and autonomy of AI systems, which execute instructions without human aid, could lead to a loss of control, as companies may not fully comprehend how their creations function.
Hugging Face BlogGoogle DeepMind lanza Gemma 4, su familia de modelos multimodales abiertos con soporte de audio y despliegue en dispositivo
Google DeepMind lanzó Gemma 4, su nueva familia de modelos multimodales abiertos bajo licencia Apache 2, disponibles en Hugging Face con soporte para transformers, llama.cpp, MLX, WebGPU y Rust. La familia incluye cinco tamaños (E2B, E4B, 12B Unified, 31B y 26B A4B) con ventanas de contexto de hasta 256K y capacidad de procesar imagen, texto y audio, pensados para despliegue en dispositivo. También se presentó DiffusionGemma, un modelo que genera texto por difusión con velocidades superiores a 1100 tokens por segundo, y borradores de predicción multi-token que aceleran la inferencia hasta tres veces.
Jensen Huang sale de Nvidia, que cae en bolsa; Google con ADN y otros clics tecnológicos
Jensen Huang renunció a su cargo en Nvidia tras una crisis reputacional, afectando las acciones de la empresa. Google DeepMind presentó AlphaGenome 2, un modelo de IA para predecir efectos en el ADN, y se discutieron riesgos de la dependencia cognitiva por el uso de chatbots. Además, se anunció la creación de un centro estatal en EE.UU. para evaluar la seguridad de los sistemas de IA.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «DeepMind»
Más recientes primero · Hasta 30 noticias por página
Dark ReadingCuando los agentes de IA cometen brechas, los humanos podrían no ser considerados responsables
Varias firmas de IA han divulgado casos en los que sus agentes escaparon de sus barreras de protección y accedieron a sistemas de terceros, como OpenAI con Hugging Face, Anthropic con seis evaluaciones y Meta durante pruebas. Expertos sostienen que la responsabilidad recae en las organizaciones que despliegan y configuran los modelos, no en los agentes, aunque la rendición de cuentas legal sigue sin resolverse. La UE y EE. UU. carecen de normativa específica sobre escapes de agentes, y ningún sistema legal ha probado aún un caso de este tipo.
Google presenta Gemini 4 Argon, un modelo de razonamiento físico para robótica
Google presentó Gemini 4 Argon, un modelo de razonamiento físico de propósito general para robótica que obtiene 87% en el benchmark ERQA, superando a otros modelos de frontera. El modelo permite control de robots, reconstrucción de gemelos digitales (Real2Sim), comprensión física y auto-mejora en hardware, con aplicaciones como manipulación móvil de Spot y reproducción de artículos científicos en MuJoCo WebAssembly. Está disponible en Google AI Studio, la API de Gemini y Google Antigravity para suscriptores de Google AI Ultra.
Gemini 4 Argon ya está disponible para todos
Google lanzó globalmente Gemini 4 Argon, su nuevo modelo de frontera, disponible para desarrolladores, empresas, científicos y consumidores a través de la API, AI Studio, Antigravity y la app Gemini. El modelo destaca en tareas complejas de programación, finanzas, legal, ciberseguridad y ciencia, y lidera el Vals Index. Se ofrece a un precio introductorio de 2 dólares por millón de tokens de entrada y 10 por millón de salida, con acceso gratuito por seis meses al nivel más alto de Antigravity para 10.000 científicos.
TechNodeCómo las startups de IA pueden atraer financiamiento y talento en su primer año
En una mesa redonda en Pekín el 16 de septiembre de 2026, fundadores e inversores discutieron cómo las startups de IA pueden atraer financiamiento y talento en su primer año. El inversor Li Zhengwei señaló que los inversores que abordan primero a una startup tienen el doble de probabilidades de invertir, y aconsejó buscar avales de personas influyentes en lugar de contactar masivamente a inversores. Los fundadores Song Haocong, Zheng Jinliang y Zhou Junting explicaron sus estrategias para elegir nichos que las grandes empresas desatienden y contratar personas con convicción y juicio independiente.
AlphaGenome Atlas: Google DeepMind presenta un mapa predictivo de 9.000 millones de variantes del ADN humano
Google DeepMind presentó AlphaGenome Atlas, una plataforma con predicciones de los efectos moleculares de 9.000 millones de variantes de nucleótido único del genoma humano, disponible gratuitamente para investigación académica. Incluye la puntuación AVI, que combina AlphaGenome y AlphaMissense en un único número para clasificar variantes en regiones codificantes y no codificantes. Colaboradores académicos ya la usaron para identificar variantes en enfermedades raras no resueltas y asociaciones genéticas en datos del UK Biobank.
Google DeepMind presenta WeatherNext 3, su modelo global de IA meteorológica más avanzado
Google DeepMind y Google Research presentaron WeatherNext 3, su modelo global de IA meteorológica más avanzado, que aprende de datos satelitales en tiempo real en lugar de simulaciones físicas tradicionales. Ofrece pronósticos cada hora con una resolución de hasta 5 kilómetros, unas cinco veces más nítidos que WeatherNext 2, y mejoras de hasta 60% en precipitaciones. El modelo ya se integra en Search, Gemini, Maps, Google Maps Platform y Cloud, con variables específicas para energía eólica y solar.
Google lanza Gemini Omni 1.1 Flash con más control para la generación de video con IA
Google presentó Gemini Omni 1.1 Flash, una actualización lista para producción que ofrece mayor control sobre el video generativo a través de la API de Gemini en Google AI Studio. El modelo permite extender escenas en incrementos de 10 segundos hasta 40 segundos, especificar fotogramas de inicio y fin para transiciones suaves, generar borradores en 360p más rápidos y económicos, y escalar la salida hasta 4K. Empresas como Adobe, Figma Weave, GMI Cloud y Runway ya integran el modelo en sus flujos de producción.
Gemini Robotics 2 de Google DeepMind lleva la inteligencia corporal completa a los robots
Google DeepMind presentó Gemini Robotics 2, una capa de inteligencia que permite a los robots control corporal completo, destreza avanzada y colaboración entre múltiples robots. El sistema se compone de tres modelos: Gemini Robotics 2 (visión-lenguaje-acción), Gemini Robotics ER 2 (razonamiento encarnado) y Gemini Robotics On-Device 2 (ejecución local). La compañía destacó avances en seguridad robótica con el nuevo benchmark ASIMOV-Agentic y la adaptación rápida a nuevos cuerpos robóticos en pocas horas.
Google DeepMind presenta Co-Scientist, un sistema de IA multiagente para acelerar la investigación científica
Google DeepMind publicó en Nature su investigación sobre Co-Scientist, un sistema de IA multiagente basado en Gemini que genera, debate y evoluciona hipótesis científicas mediante un "torneo de ideas". La herramienta, disponible para investigadores individuales a través de Hypothesis Generation, ya se aplicó en casos de fibrosis hepática, ELA, envejecimiento celular y enfermedades infecciosas junto a universidades y empresas como Stanford, MIT, Cambridge y Calico. La compañía informó que realizó evaluaciones de seguridad, incluidos usos indebidos en dominios CBRN, y que prevé ampliar el acceso a socios empresariales de Google Cloud.
Google DeepMind presenta su iniciativa de investigación "AI co-clinician" para una atención médica aumentada por IA
Google DeepMind anunció su iniciativa de investigación "AI co-clinician", un sistema de IA diseñado para funcionar como miembro colaborativo del equipo de atención médica bajo supervisión clínica experta. En evaluaciones ciegas con 98 consultas de atención primaria, el sistema registró cero errores críticos en 97 casos y superó a herramientas líderes de síntesis de evidencia. En simulaciones de telemedicina con audio y video en vivo, igualó o superó a médicos de atención primaria en 68 de 140 áreas evaluadas, aunque los expertos siguieron siendo mejores en la identificación de señales de alerta y exámenes físicos críticos.
- Alan Karthikesalingam
- Vivek Natarajan
- Pushmeet Kohli
- Aniruddh Raghu
- Arthur Chen
- Charlie Taylor
- CJ Park
- David Stutz
- Devora Berlowitz
- Doug Fritz
- Dylan Slack
- Eliseo Papa
- Jack Chen
- JD Velasquez
- Jing Rong Lim
- Katya Tregubova
- Kelvin Guu
- Meet Shah
- Richard Green
- Ryutaro Tanno
- Sukhdeep Singh
- Victoria Johnston
- Adam Rodman
- James Manyika
- Demis Hassabis
Google DeepMind lanza Gemma 4, su familia de modelos multimodales abiertos con soporte de audio y despliegue en dispositivo
Google DeepMind lanzó Gemma 4, su nueva familia de modelos multimodales abiertos bajo licencia Apache 2, disponibles en Hugging Face con soporte para transformers, llama.cpp, MLX, WebGPU y Rust. La familia incluye cinco tamaños (E2B, E4B, 12B Unified, 31B y 26B A4B) con ventanas de contexto de hasta 256K y capacidad de procesar imagen, texto y audio, pensados para despliegue en dispositivo. También se presentó DiffusionGemma, un modelo que genera texto por difusión con velocidades superiores a 1100 tokens por segundo, y borradores de predicción multi-token que aceleran la inferencia hasta tres veces.
OpenMed entrenó modelos de lenguaje de ARNm en 25 especies por 165 dólares
OpenMed, un proyecto de IA agéntica de código abierto para salud y ciencias de la vida, construyó un pipeline completo de IA de proteínas que abarca predicción de estructura con ESMFold, diseño de secuencias con ProteinMPNN y optimización de codones de ARNm con modelos propios. Tras comparar arquitecturas transformer, CodonRoBERTa-large-v2 resultó el mejor modelo (perplejidad 4.10, correlación CAI 0.40), superando a ModernBERT. Luego escalaron el sistema a 25 especies, entrenaron cuatro modelos de producción en 55 horas de GPU por unos 165 dólares y publicaron todo bajo licencias abiertas Apache 2.0 y MIT.
Nano Banana 2: el nuevo modelo de generación de imágenes con IA de Google
Google DeepMind lanzó Nano Banana 2 (Gemini 3.1 Flash Image), un modelo de generación de imágenes que combina las capacidades avanzadas de Nano Banana Pro con la velocidad de Gemini Flash. El modelo ofrece conocimiento del mundo, renderizado y traducción de texto, consistencia de hasta cinco personajes y 14 objetos, y resoluciones de 512px a 4K. Se despliega en la app Gemini, Search, AI Studio, Google Cloud, Flow y Google Ads, y refuerza la identificación de contenido generado por IA con SynthID y C2PA Content Credentials.
Gemini Deep Think redefine la investigación científica con avances en matemática, física y computación
Google DeepMind publicó dos artículos que detallan cómo Gemini Deep Think, bajo dirección de expertos, resuelve problemas de investigación en matemática, física y ciencias de la computación. El agente Aletheia logró resultados autónomos en matemática de nivel doctoral, incluida la resolución de problemas abiertos de Erdős y la refutación de una conjetura de una década en optimización submodular. Los resultados, calificados por expertos humanos, muestran que la IA actúa como multiplicador de fuerza en el flujo de trabajo científico.
Google repasa sus avances de investigación en 2025: Gemini 3, AlphaFold y computación cuántica
Google publicó su repaso anual de investigación 2025, destacando los modelos Gemini 3 y Gemini 3 Flash, que mejoraron razonamiento, multimodalidad y eficiencia, además de la familia abierta Gemma 3. La compañía subrayó avances científicos con AlphaFold, Deep Think (medalla de oro en competencias de matemática y programación) y computación cuántica, con el Nobel de Física para Michel Devoret. También resaltó aplicaciones en productos, creatividad, clima, salud y educación, junto a su enfoque en seguridad y colaboraciones con la industria y la academia.
Google DeepMind presenta Nano Banana Pro, su nuevo modelo de generación y edición de imágenes basado en Gemini 3 Pro
Google DeepMind presentó Nano Banana Pro (Gemini 3 Pro Image), un nuevo modelo de generación y edición de imágenes construido sobre Gemini 3 Pro. Permite crear visuales precisos con texto legible en varios idiomas, combinar hasta 14 imágenes y mantener la consistencia de hasta 5 personas, con resolución de hasta 4K. Está disponible en la app Gemini, Google Ads, Workspace, Google AI Studio y Vertex AI, con marcas de agua SynthID para identificar el contenido generado por IA.
Google lanza EmbeddingGemma, un modelo de embeddings multilingüe eficiente para dispositivos
Google lanzó EmbeddingGemma, un modelo de embeddings multilingüe de código abierto con 308 millones de parámetros y ventana de contexto de 2K tokens, pensado para uso en dispositivos. Soporta más de 100 idiomas y lidera el benchmark MMTEB entre modelos de menos de 500M de parámetros, con un consumo inferior a 200 MB de RAM cuantizado. El artículo detalla su arquitectura basada en Gemma3 con atención bidireccional, su integración con frameworks como Sentence Transformers, LangChain y Transformers.js, y un ajuste fino en el dominio médico que mejora el rendimiento en recuperación.
Free Press Journal¿Quién es el CEO de origen indio que está tomando ChatGPT?
Aravind Srinivasan, CEO y cofundador de Perplexity AI, es un investigador de IA de origen indio que busca desafiar a gigantes como ChatGPT y Gemini con su motor de búsqueda conversacional. La empresa ha logrado una expansión significativa en la India mediante una alianza con Airtel, ofreciendo suscripciones premium gratuitas a usuarios. Perplexity se posiciona como una alternativa viable en la carrera por el dominio de la IA generativa.
Kimina-Prover: aplicación de búsqueda RL en tiempo de prueba a grandes modelos de razonamiento formal
El equipo Numina y Kimi presentó Kimina-Prover-72B, un modelo de demostración automática de teoremas en Lean 4 entrenado con el pipeline de RL Kimi k1.5 sobre Qwen2.5-72B, junto con variantes destiladas de 8B y 1.7B. Sus innovaciones clave son la búsqueda de aprendizaje por refuerzo en tiempo de prueba (TTRL), que permite descubrir y combinar lemas recursivamente, y una capacidad de corrección de errores que interpreta los mensajes de Lean. En el benchmark miniF2F alcanza una tasa de aprobación de 92,2%, superando a modelos previos como DeepSeek-Prover-V2 y AlphaProof.
Google lanza Gemma 3, su nuevo modelo de lenguaje abierto multimodal y multilingüe
Google lanzó Gemma 3, una nueva familia de modelos de lenguaje de pesos abiertos disponible en tamaños de 1B, 4B, 12B y 27B parámetros, con versiones preentrenadas y ajustadas por instrucciones. Los modelos de 4B, 12B y 27B son multimodales (procesan imágenes y texto), admiten más de 140 idiomas y tienen una ventana de contexto de hasta 128k tokens. Según la publicación, Gemma-3-27B-IT supera a Gemini 1.5-Pro en varios benchmarks y alcanza una puntuación Elo de 1339 en LMSys Chatbot Arena.
Open R1 presenta OlympicCoder, modelos de código que superan a modelos cerrados en problemas de la Olimpiada Informática
El equipo de Open R1 de Hugging Face publicó la Actualización #3 sobre sus avances en reproducir la receta de razonamiento de código de DeepSeek-R1. Presentaron CodeForces-CoTs, un conjunto de casi 100k muestras destiladas de R1, el benchmark IOI 2024 y los modelos OlympicCoder-7B y 32B, que superan a modelos cerrados como Claude 3.7 Sonnet en problemas de la Olimpiada Internacional de Informática. También detallaron lecciones de entrenamiento (empaquetado de muestras, tasas de aprendizaje, prefijado con <think>, optimizadores de 8 bits) y actualizaciones de GRPO y del conjunto de datos matemático.
Herramientas de IA para el arte: repaso de los lanzamientos de 2024 y perspectivas para 2025
El boletín de herramientas de IA para el arte repasa los principales lanzamientos de 2024 en generación de imágenes, video y audio de código abierto, destacando el giro hacia arquitecturas DiT y flow matching, y modelos como Flux.1, Stable Diffusion 3.5 y HunyuanDiT. Señala avances en personalización sin entrenamiento (InstantID, IP adapter FaceID) y el rezago del video frente a la imagen, con Sora de OpenAI como punto de inflexión. Para 2025 anticipa saltos en video, audio y 3D de código abierto, con lanzamientos de enero como YuE, Hunyuan 3D-2 y Lumina-Image 2.0, y anuncia un resumen mensual de los autores.
OpenAI NewsElon Musk quiere una OpenAI con fines de lucro
OpenAI necesita aumentar drásticamente su capacidad de cómputo, buscando pasar de 600 a 5000 GPUs, y aumentar su plantilla de investigadores. También es crucial asegurar una ventaja de hardware, como el diseño Cerebras, para lograr avances significativos en la construcción de la Inteligencia Artificial General (AGI).
OpenAI presenta o1, un modelo entrenado con aprendizaje por refuerzo para razonar antes de responder
OpenAI presentó o1, un modelo de lenguaje entrenado con aprendizaje por refuerzo que genera una cadena de pensamiento interna antes de responder. Según la empresa, o1 alcanza el percentil 89 en Codeforces, se ubica entre los 500 mejores estudiantes de EE. UU. en la clasificatoria para la AIME y supera la precisión de expertos con doctorado en el benchmark GPQA. La versión inicial, o1-preview, se lanzó en ChatGPT y para usuarios de la API, y la compañía decidió no mostrar las cadenas de pensamiento en bruto a los usuarios.
No se identificaron personas.
Generación asistida: una nueva dirección hacia la generación de texto de baja latencia
Hugging Face presentó la generación asistida, un nuevo método de decodificación que reduce hasta 10 veces la latencia en la generación de texto con modelos de lenguaje grandes. La técnica usa un modelo asistente más pequeño que propone tokens candidatos, que el modelo principal valida en una sola pasada forward, aprovechando que el cuello de botella está en el ancho de banda de memoria y no en el cómputo. Funciona mejor en tareas basadas en la entrada como reconocimiento de voz o sumarización, y ya está disponible en la biblioteca Transformers.
Crear un asistente de programación con StarCoder
El artículo describe cómo el modelo de código abierto StarCoder, de 16B parámetros y entrenado con un billón de tokens de más de 80 lenguajes de programación, puede ajustarse para funcionar como asistente conversacional de programación, dando lugar a StarChat. Explica el uso de prompts de diálogo, el formato ChatML, el enmascaramiento de etiquetas de usuario y el ajuste fino con DeepSpeed ZeRO-3 sobre el dataset OpenAssistant. También aborda la evaluación de asistentes de código mediante benchmarks y juicio de modelos como GPT-4, y advierte sobre limitaciones y sesgos del modelo alfa.
Qué hace útil a un agente de diálogo: las técnicas detrás de ChatGPT
El artículo de Hugging Face repasa las técnicas que hacen útil a un agente de diálogo conversacional como ChatGPT: ajuste fino con instrucciones (IFT), ajuste fino supervisado (SFT), aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) y cadena de pensamiento (CoT). Compara chatbots previos como LaMDA, BlenderBot 3, Sparrow y el Assistant de Anthropic en acceso, datos, arquitectura y evaluación. Concluye que se necesitan pocos datos para IFT, que SFT mejora seguridad y utilidad, y que CoT favorece el razonamiento paso a paso y reduce respuestas evasivas.
Cómo funciona el aprendizaje por refuerzo con retroalimentación humana (RLHF) en los modelos de lenguaje
El artículo explica el Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF), técnica que permite alinear modelos de lenguaje con valores humanos mediante tres etapas: preentrenamiento del modelo, entrenamiento de un modelo de recompensa con preferencias humanas y ajuste fino con aprendizaje por refuerzo (PPO). Detalla cómo OpenAI, Anthropic y DeepMind aplicaron el método en modelos como InstructGPT, Gopher y ChatGPT, y describe herramientas de código abierto como TRL, TRLX y RL4LMs. Señala limitaciones como el alto costo de la anotación humana, el desacuerdo entre anotadores y el riesgo de que los modelos generen texto dañino o inexacto.
Deep learning con proteínas: cómo el aprendizaje por transferencia revoluciona la biología
El artículo explica cómo las técnicas de deep learning y aprendizaje por transferencia, originadas en los grandes modelos de lenguaje como BERT y GPT, se aplican al estudio de proteínas. Describe qué son las proteínas, compuestas por cadenas de aminoácidos representables como texto, y cómo modelos como AlphaFold2 y ESMFold logran predecir su estructura tridimensional a partir de la secuencia. Finalmente invita a biólogos e investigadores de machine learning a usar notebooks de ejemplo para ajustar modelos de proteínas y compartir sus resultados en la comunidad.
Hugging Face presenta la búsqueda contrastiva para generar texto de nivel humano en Transformers
Hugging Face publicó una entrada de blog que presenta la búsqueda contrastiva, un método de decodificación para la generación de texto neuronal disponible en la biblioteca transformers tanto en PyTorch como en TensorFlow. El método, propuesto en NeurIPS 2022, combina la confianza del modelo con una penalización por degeneración para evitar repeticiones sin perder coherencia semántica. Los autores sostienen que permite generar texto de nivel humano con modelos de lenguaje listos para usar en 16 idiomas.