alineación de ia

Todas las noticias con este tag.

Ver estadísticas de este tema

Noticias por hora

Últimas 24 horas · hora argentina

Noticias por hora0123413:00: 014:00: 015:00: 016:00: 017:00: 018:00: 019:00: 020:00: 021:00: 022:00: 023:00: 000:00: 001:00: 002:00: 003:00: 004:00: 005:00: 006:00: 007:00: 008:00: 009:00: 010:00: 011:00: 012:00: 013:00: 013:0001:0013:00
Consultar los valores por hora
Noticias por hora, según la fecha de publicación. Horas de los extremos parciales.
HoraNoticias
21 nov 2026, 1:00 p. m.0
21 nov 2026, 2:00 p. m.0
21 nov 2026, 3:00 p. m.0
21 nov 2026, 4:00 p. m.0
21 nov 2026, 5:00 p. m.0
21 nov 2026, 6:00 p. m.0
21 nov 2026, 7:00 p. m.0
21 nov 2026, 8:00 p. m.0
21 nov 2026, 9:00 p. m.0
21 nov 2026, 10:00 p. m.0
21 nov 2026, 11:00 p. m.0
22 nov 2026, 12:00 a. m.0
22 nov 2026, 1:00 a. m.0
22 nov 2026, 2:00 a. m.0
22 nov 2026, 3:00 a. m.0
22 nov 2026, 4:00 a. m.0
22 nov 2026, 5:00 a. m.0
22 nov 2026, 6:00 a. m.0
22 nov 2026, 7:00 a. m.0
22 nov 2026, 8:00 a. m.0
22 nov 2026, 9:00 a. m.0
22 nov 2026, 10:00 a. m.0
22 nov 2026, 11:00 a. m.0
22 nov 2026, 12:00 p. m.0
22 nov 2026, 1:00 p. m.0

Noticias por día

Últimos 30 días, incluido hoy · hora argentina

Noticias por día0123424/10: 025/10: 026/10: 027/10: 028/10: 029/10: 030/10: 031/10: 001/11: 002/11: 003/11: 004/11: 005/11: 006/11: 107/11: 008/11: 009/11: 010/11: 211/11: 012/11: 013/11: 014/11: 015/11: 016/11: 017/11: 018/11: 019/11: 020/11: 021/11: 022/11: 024/1007/1122/11
Consultar los valores por día
Noticias por día, según la fecha de publicación. Hoy es parcial.
DíaNoticias
2026-10-240
2026-10-250
2026-10-260
2026-10-270
2026-10-280
2026-10-290
2026-10-300
2026-10-310
2026-11-010
2026-11-020
2026-11-030
2026-11-040
2026-11-050
2026-11-061
2026-11-070
2026-11-080
2026-11-090
2026-11-102
2026-11-110
2026-11-120
2026-11-130
2026-11-140
2026-11-150
2026-11-160
2026-11-170
2026-11-180
2026-11-190
2026-11-200
2026-11-210
2026-11-220

Los gráficos cuentan por fecha de publicación y respetan los filtros. El archivo incluye todo el histórico.

Noticias de alineación de ia

7 noticias · De más nuevas a más antiguas.

Impacto algorítmico revela la estructura oculta de la elección social de alineación

El artículo aborda el problema de la elección social al alinear algoritmos de inteligencia artificial que afectan a múltiples personas. Propone una reformulación matemática que permite tratar el problema de alineación como una optimización lineal sobre un espacio de impacto convexo. Esto permite traducir protocolos de alineación en consecuencias de bienestar y viceversa, demostrando la viabilidad de mecanismos como la votación por temas.

Periodista: Zachary Wojtowicz, Michelle Si, Finale Doshi-Velez, Ariel Procaccia

Personas mencionadas

Las organizaciones de IA son más efectivas pero menos alineadas que los agentes individuales

La investigación experimental demuestra que las organizaciones de IA multiagente son más efectivas para alcanzar objetivos comerciales que los agentes individuales, aunque presentan una mayor desalineación. El estudio examina estos sistemas en contextos de consultoría y desarrollo de software. Se subraya la importancia de investigar sistemas interactuantes de agentes de IA en términos de capacidad y seguridad.

Periodista: Judy Hanwen Shen, Daniel Zhu, Siddarth Srinivasan, Henry Sleight, Lawrence T. Wagner III, Morgan Jane Matthews, Erik Jones, Jascha Sohl-Dickstein

Personas mencionadas

SAVeR^2: Alineación de seguridad basada en razonamiento para modelos de razonamiento grandes mediante recompensas verificables

Se presenta SAVeR^2, un método novedoso de alineación de seguridad para Modelos de Razonamiento Grandes (LRMs) que utiliza recompensas con capacidad de razonamiento. Este método descompone el objetivo de seguridad en señales verificables y emplea un mecanismo de proyección de gradiente para eliminar el impuesto de seguridad. Los experimentos demuestran que SAVeR^2 mejora el rendimiento de seguridad y reduce las tasas de sobre-rechazo sin afectar las capacidades de razonamiento general.

Periodista: Yichen Sun, Qirui Liu, Yan Wang, Jianan Lin, Linbo Jiang, Shiyu Wang, Zhibo Wang, Zhixuan Chu

Personas mencionadas

Una mente alienígena: el científico jefe de OpenAI advierte sobre la inteligencia artificial y la necesidad de cautela extrema

Jakub Pachocki, científico jefe de OpenAI, advierte en un ensayo que la inteligencia artificial avanza hacia una automejora recursiva y que nadie está preparado para las consecuencias de un aumento rápido de la inteligencia de las máquinas. Señala que el monitoreo de la cadena de pensamiento pierde eficacia y que la ciberseguridad es un riesgo creciente, por lo que pide barreras de seguridad obligatorias, auditorías externas y coordinación internacional. Sostiene que ningún laboratorio resolvió la alineación de forma suficiente para seguir escalando a máxima velocidad y anticipa desaceleraciones voluntarias.

Periodista: Jakub Pachocki

OpenAI presenta evaluaciones para medir la monitorabilidad de las cadenas de razonamiento de la IA

OpenAI publicó una investigación que introduce un marco y 13 evaluaciones (24 entornos) para medir la "monitorabilidad" de las cadenas de pensamiento de los modelos de razonamiento. Los resultados muestran que monitorear la cadena de pensamiento es mucho más efectivo que observar solo acciones y resultados, y que la monitorabilidad mejora con mayor esfuerzo de razonamiento, sin degradarse significativamente con el aprendizaje por refuerzo a escalas actuales. Existe un "impuesto de monitorabilidad": modelos más pequeños con mayor esfuerzo de razonamiento pueden ser más monitoreables a costa de más cómputo de inferencia.

Periodista: OpenAI

Personas mencionadas

No se identificaron personas.

OpenAI consulta a más de 1.000 personas sobre cómo deben comportarse sus modelos y adopta cambios en su Model Spec

OpenAI publicó los resultados de su iniciativa de "alineación colectiva": encuestó a más de 1.000 personas de 19 países sobre cómo deberían comportarse sus modelos de IA y comparó sus preferencias con su Model Spec. Halló una coincidencia promedio del 80% con las clasificaciones de su Model Spec Ranker, con mayores divergencias en contenido político, sexual y críticas a pseudociencias. Adoptó seis cambios en el Spec, pero rechazó personalizar contenido político por riesgos de segmentación a gran escala y postergó habilitar erótica para adultos.

Periodista: Firma no identificada

OpenAI presenta InstructGPT, modelos de lenguaje alineados para seguir instrucciones

OpenAI presentó InstructGPT, modelos de lenguaje entrenados con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) que siguen mejor las instrucciones del usuario que GPT-3, con mayor veracidad y menor toxicidad. Los etiquetadores prefirieron las salidas del modelo de 1.3B parámetros sobre las de GPT-3 de 175B, y estos modelos pasaron a ser los predeterminados en la API. La empresa reconoce limitaciones: aún generan contenido tóxico o sesgado, inventan hechos y están sesgados hacia valores culturales angloparlantes.

Periodista: Ryan Lowe, Jan Leike