alineación de ia
Todas las noticias con este tag.
Ver estadísticas de este tema
Noticias por hora
Últimas 24 horas · hora argentina
Consultar los valores por hora
| Hora | Noticias |
|---|---|
| 21 nov 2026, 1:00 p. m. | 0 |
| 21 nov 2026, 2:00 p. m. | 0 |
| 21 nov 2026, 3:00 p. m. | 0 |
| 21 nov 2026, 4:00 p. m. | 0 |
| 21 nov 2026, 5:00 p. m. | 0 |
| 21 nov 2026, 6:00 p. m. | 0 |
| 21 nov 2026, 7:00 p. m. | 0 |
| 21 nov 2026, 8:00 p. m. | 0 |
| 21 nov 2026, 9:00 p. m. | 0 |
| 21 nov 2026, 10:00 p. m. | 0 |
| 21 nov 2026, 11:00 p. m. | 0 |
| 22 nov 2026, 12:00 a. m. | 0 |
| 22 nov 2026, 1:00 a. m. | 0 |
| 22 nov 2026, 2:00 a. m. | 0 |
| 22 nov 2026, 3:00 a. m. | 0 |
| 22 nov 2026, 4:00 a. m. | 0 |
| 22 nov 2026, 5:00 a. m. | 0 |
| 22 nov 2026, 6:00 a. m. | 0 |
| 22 nov 2026, 7:00 a. m. | 0 |
| 22 nov 2026, 8:00 a. m. | 0 |
| 22 nov 2026, 9:00 a. m. | 0 |
| 22 nov 2026, 10:00 a. m. | 0 |
| 22 nov 2026, 11:00 a. m. | 0 |
| 22 nov 2026, 12:00 p. m. | 0 |
| 22 nov 2026, 1:00 p. m. | 0 |
Noticias por día
Últimos 30 días, incluido hoy · hora argentina
Consultar los valores por día
| Día | Noticias |
|---|---|
| 2026-10-24 | 0 |
| 2026-10-25 | 0 |
| 2026-10-26 | 0 |
| 2026-10-27 | 0 |
| 2026-10-28 | 0 |
| 2026-10-29 | 0 |
| 2026-10-30 | 0 |
| 2026-10-31 | 0 |
| 2026-11-01 | 0 |
| 2026-11-02 | 0 |
| 2026-11-03 | 0 |
| 2026-11-04 | 0 |
| 2026-11-05 | 0 |
| 2026-11-06 | 1 |
| 2026-11-07 | 0 |
| 2026-11-08 | 0 |
| 2026-11-09 | 0 |
| 2026-11-10 | 2 |
| 2026-11-11 | 0 |
| 2026-11-12 | 0 |
| 2026-11-13 | 0 |
| 2026-11-14 | 0 |
| 2026-11-15 | 0 |
| 2026-11-16 | 0 |
| 2026-11-17 | 0 |
| 2026-11-18 | 0 |
| 2026-11-19 | 0 |
| 2026-11-20 | 0 |
| 2026-11-21 | 0 |
| 2026-11-22 | 0 |
Los gráficos cuentan por fecha de publicación y respetan los filtros. El archivo incluye todo el histórico.
Noticias de alineación de ia
7 noticias · De más nuevas a más antiguas.
Impacto algorítmico revela la estructura oculta de la elección social de alineación
El artículo aborda el problema de la elección social al alinear algoritmos de inteligencia artificial que afectan a múltiples personas. Propone una reformulación matemática que permite tratar el problema de alineación como una optimización lineal sobre un espacio de impacto convexo. Esto permite traducir protocolos de alineación en consecuencias de bienestar y viceversa, demostrando la viabilidad de mecanismos como la votación por temas.
Las organizaciones de IA son más efectivas pero menos alineadas que los agentes individuales
La investigación experimental demuestra que las organizaciones de IA multiagente son más efectivas para alcanzar objetivos comerciales que los agentes individuales, aunque presentan una mayor desalineación. El estudio examina estos sistemas en contextos de consultoría y desarrollo de software. Se subraya la importancia de investigar sistemas interactuantes de agentes de IA en términos de capacidad y seguridad.
SAVeR^2: Alineación de seguridad basada en razonamiento para modelos de razonamiento grandes mediante recompensas verificables
Se presenta SAVeR^2, un método novedoso de alineación de seguridad para Modelos de Razonamiento Grandes (LRMs) que utiliza recompensas con capacidad de razonamiento. Este método descompone el objetivo de seguridad en señales verificables y emplea un mecanismo de proyección de gradiente para eliminar el impuesto de seguridad. Los experimentos demuestran que SAVeR^2 mejora el rendimiento de seguridad y reduce las tasas de sobre-rechazo sin afectar las capacidades de razonamiento general.
Una mente alienígena: el científico jefe de OpenAI advierte sobre la inteligencia artificial y la necesidad de cautela extrema
Jakub Pachocki, científico jefe de OpenAI, advierte en un ensayo que la inteligencia artificial avanza hacia una automejora recursiva y que nadie está preparado para las consecuencias de un aumento rápido de la inteligencia de las máquinas. Señala que el monitoreo de la cadena de pensamiento pierde eficacia y que la ciberseguridad es un riesgo creciente, por lo que pide barreras de seguridad obligatorias, auditorías externas y coordinación internacional. Sostiene que ningún laboratorio resolvió la alineación de forma suficiente para seguir escalando a máxima velocidad y anticipa desaceleraciones voluntarias.
OpenAI presenta evaluaciones para medir la monitorabilidad de las cadenas de razonamiento de la IA
OpenAI publicó una investigación que introduce un marco y 13 evaluaciones (24 entornos) para medir la "monitorabilidad" de las cadenas de pensamiento de los modelos de razonamiento. Los resultados muestran que monitorear la cadena de pensamiento es mucho más efectivo que observar solo acciones y resultados, y que la monitorabilidad mejora con mayor esfuerzo de razonamiento, sin degradarse significativamente con el aprendizaje por refuerzo a escalas actuales. Existe un "impuesto de monitorabilidad": modelos más pequeños con mayor esfuerzo de razonamiento pueden ser más monitoreables a costa de más cómputo de inferencia.
No se identificaron personas.
OpenAI consulta a más de 1.000 personas sobre cómo deben comportarse sus modelos y adopta cambios en su Model Spec
OpenAI publicó los resultados de su iniciativa de "alineación colectiva": encuestó a más de 1.000 personas de 19 países sobre cómo deberían comportarse sus modelos de IA y comparó sus preferencias con su Model Spec. Halló una coincidencia promedio del 80% con las clasificaciones de su Model Spec Ranker, con mayores divergencias en contenido político, sexual y críticas a pseudociencias. Adoptó seis cambios en el Spec, pero rechazó personalizar contenido político por riesgos de segmentación a gran escala y postergó habilitar erótica para adultos.
OpenAI presenta InstructGPT, modelos de lenguaje alineados para seguir instrucciones
OpenAI presentó InstructGPT, modelos de lenguaje entrenados con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) que siguen mejor las instrucciones del usuario que GPT-3, con mayor veracidad y menor toxicidad. Los etiquetadores prefirieron las salidas del modelo de 1.3B parámetros sobre las de GPT-3 de 175B, y estos modelos pasaron a ser los predeterminados en la API. La empresa reconoce limitaciones: aún generan contenido tóxico o sesgado, inventan hechos y están sesgados hacia valores culturales angloparlantes.
- Ryan Lowe
- Jan Leike
- Long Ouyang
- Jeff Wu
- Roger Jiang
- Diogo Almeida
- Carroll Wainwright
- Pamela Mishkin
- Chong Zhang
- Sandhini Agarwal
- Katarina Slama
- Alex Ray
- John Schulman
- Jacob Hilton
- Fraser Kelton
- Luke Miller
- Maddie Simens
- Amanda Askell
- Peter Welinder
- Paul Christiano
- Steve Dowling
- Hannah Wong
- Elie Georges
- Alper Ercetin
- Jared Salzano
- Allan Diego
- Justin Jay Wang