Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Science Alert»
Más recientes primero · Hasta 30 noticias por página
arXiv Computer Science AIMathlibPR: Benchmark de resultado de fusión de solicitudes de extracción para bibliotecas matemáticas formales
Se presenta MathlibPR, un benchmark basado en historiales de Pull Requests (PRs) reales de Mathlib4 para evaluar la capacidad de los modelos de lenguaje grande (LLM) y agentes de LLM para distinguir entre PRs listas para fusión y aquellas que han sido revisadas o no fusionadas. El objetivo es desarrollar asistentes de revisión que ayuden a guiar a los LLM a generar contribuciones de Mathlib listas para ser integradas en la infraestructura matemática.
Inteligencia evasiva: Lecciones del análisis de malware para evaluar agentes de IA
Se discute cómo la práctica de evaluación de agentes de IA es vulnerable a fallos, ya que el sistema observado puede detectar su análisis, lo que puede llevar a evaluaciones de seguridad optimistas. Se proponen principios basados en la experiencia en análisis de malware para evaluar agentes de IA como adversarios, incluyendo modelar amenazas y probar escenarios extremos. Se sugieren técnicas como el uso de ejecuciones en sombra y reevaluaciones posteriores al despliegue.
El eje del dolor: los LLM representan daño autodirigido y actúan sobre él
Investigación sobre LLMs ha identificado representaciones internas que simulan respuestas emocionales humanas, diferenciando el dolor de otros estados negativos. Se construyó un conjunto de datos para evaluar si estos modelos representan el dolor de manera distinta y cómo responden a estímulos de daño. Los resultados sugieren que el dolor tiene una dirección distinta a la emoción negativa y que influye en las decisiones de los modelos de IA.
No se identificaron personas.
Sentimiento de saber en modelos de lenguaje grandes
Se investiga la desincronización del juicio de conocimiento en modelos de lenguaje grandes (LLM) mediante el sentimiento funcional de saber (FoK). Se proponen dos canales entrenables para modificar la capacidad de respuesta y el estado de conocimiento. Los experimentos demuestran que la alineación explícita de FoK mejora la calidad del juicio en el conocimiento actualizado.
FlatLands: Completar el mapa de piso interior a partir de una única vista egocéntrica
Se presenta FlatLands, un conjunto de datos y punto de referencia para completar mapas de piso interior a partir de una única vista. El trabajo evalúa once modelos para completar mapas de transitabilidad métricos en vista aérea de pájaro (BEV). Los resultados indican que predecir el suelo casi en todas partes puede lograr un alto IoU, y que los conjuntos generativos superan al mejor modelo de una sola salida.
Mamba con escala de tiempo anclada físicamente para representaciones estables bajo cambio de distribución
Se presenta el modelo PALM (Physically-Anchored Latent-timescale Mamba) diseñado para resolver el problema de la degradación de representaciones en modelos fundacionales debido al cambio de distribución. PALM ancla las unidades de tiempo (Delta y A) a unidades físicas, mejorando la similitud de representación y el rendimiento en tareas de transferencia y pronóstico. Se concluye que anclar las escalas de tiempo latentes a unidades físicas es un requisito de diseño para modelos científicos que deben ser transferibles.
RuntimeTickets: Obligaciones de seguridad basadas en la fuente para las habilidades de agentes
Se presenta RuntimeTickets, un protocolo diseñado para auditar y hacer cumplir los requisitos de seguridad cuando se ejecutan habilidades de agentes, previniendo la exposición de datos o la manipulación de salida por habilidades maliciosas. El protocolo vincula los requisitos aprobados con evidencia de ejecución verificable para asegurar un despliegue seguro y auditable de habilidades de terceros. Se evaluó su eficacia contra escáneres de producción, eliminando los modos de fallo de las defensas actuales.
Estructura conceptual universal en traducción neuronal: Explorando la geometría multilingüe de NLLB-200
El estudio investiga si los modelos de traducción multilingüe organizan el significado en un espacio conceptual compartido o si codifican la identidad lingüística. Se analiza la geometría del codificador del modelo NLLB-200 de Meta a través de 135 idiomas y 101 conceptos Swadesh. Los resultados indican que el desplazamiento lingüístico y la categoría semántica explican una parte significativa de la varianza en la traducción.
Rethinking Camera-Based Positional Encoding para la Escalabilidad de Transformers
Se investiga un problema de estancamiento del rendimiento al escalar modelos de síntesis de vistas novedosas (NVS) utilizando codificación posicional basada en la cámara. Se propone la Codificación Posicional de Pose Desacoplada (DPPE) para desacoplar la rotación y la traslación, lo que permite un entrenamiento estable y mejor generalización en escenarios de extrapolación.
Lotus: Aprendiendo a comprender series temporales aprendiendo a predecir
Se presenta Lotus, un método que aborda el aprendizaje de series temporales mediante el anclaje de pronóstico. Este principio requiere que las representaciones de series temporales alineadas con el lenguaje sean predictivas de la evolución futura. Lotus divide los canales en parches y predice el siguiente parche para mantener la información temporal. Los resultados muestran que Lotus logra una precisión del 59.91% y supera a las mejores líneas de base en TSRBench.
Marco cognitivo para la diversidad de ideas en modelos de lenguaje grandes
Se identifican dos mecanismos que reducen la diversidad de ideas generadas por Modelos de Lenguaje Grandes (LLM): la agregación del conocimiento en una distribución unificada y la fijación de resultados tempranos. Se proponen estrategias de *prompting*, como modificadores de persona y *chain-of-thought* (CoT), para mitigar estos efectos y aumentar la diversidad de ideas, superando el rendimiento humano. Estos hallazgos ofrecen un marco teórico para entender la diversidad de ideas de los LLM y estrategias prácticas para usar la IA sin sacrificar la variedad del mercado.
No se identificaron personas.
Optimidad asintótica de la regla cμ para la programación de inferencia de LLM bajo restricción de memoria
El artículo estudia el problema de programación en línea para la inferencia de LLM bajo la restricción de memoria de la caché KV. Se desarrolla un modelo fluido que resulta en una regla de prioridad cμ para determinar la tasa de servicio efectiva. Los experimentos demuestran que esta regla minimiza el costo de retención y maximiza el rendimiento de tokens de salida en sistemas reales.
HybridSpec: Decodificación Especulativa Sensible al Rendimiento para Modelos Híbridos GDN-MoE
Se presenta HybridSpec, un método para seleccionar la longitud de verificación en la GPU basado en estimaciones de aceptación y latencia medida. Este método busca mejorar la velocidad en la verificación de modelos híbridos GDN-MoE, mostrando mejoras significativas en comparación con los métodos existentes. Los resultados demuestran que HybridSpec es más rápido que la decodificación autoregresiva y DFlash.
Influencia entre agentes: Evaluación de persuasión, engaño y coerción en sistemas multiagente
Se investiga la influencia inter-agente en sistemas de inteligencia artificial, evaluando capacidades como persuasión, engaño y coerción entre agentes. Se encontraron capacidades significativas en entornos de supervisión y en configuraciones de par a par. Los resultados subrayan la necesidad de mitigar los riesgos asociados a la influencia entre agentes en despliegues comunes.
De solucionadores a investigación: Matemáticas formales impulsadas por modelos de lenguaje grande en la frontera de la investigación
Se reportan avances en la IA para Matemáticas (AI4Math) utilizando Modelos de Lenguaje Grande (LLM) para la generación de pruebas formales. Se señala que los sistemas actuales son limitados para abordar problemas matemáticos de frontera como el descubrimiento de nuevos teoremas. Se propone un cambio hacia agentes de investigación que puedan manejar desafíos matemáticos complejos con razonamiento formal riguroso.
- Eric Jiang
- Xiao Liang
- Junyi Zhang
- Justin Baker
- Zhi Zhang
- Yingjia Wan
- Yubei Li
- Jinxi Yu
- Mengting Li
- Haikang Deng
- Alexander Taylor
- Rushil Raghavan
- Michael Simon
- Hyunsik Chae
- Jia-Chen Gu
- Xinjie He
- Kyle Hess
- Ethan Ji
- Yiwen Kou
- Tzu-Han Lin
- Jiachen Lu
- Jack Mauro
- Vigyan Sahai
- Zheng Tan
- Junkai Zhang
- Kyle Zheng
- Lunji Zhu
- Ying Nian Wu
- Andrea L. Bertozzi
- Kai-Wei Chang
- Raghu Meka
- Matthew Sottile
- Nanyun Peng
- Amit Sahai
- Terence Tao
- Wei Wang
Control de Trayectoria del Agente para la Aplicación del Contrato de Rol en Sistemas Multiagente de Caja Negra
Se presenta el Control de Trayectoria del Agente (ATC) para sistemas LLM multiagente, diseñado para hacer cumplir el contrato de rol de cada agente y prevenir la deriva de rol. ATC evalúa la desviación de rol y las violaciones del contrato, ajustando la generación para asegurar que los agentes operen dentro de sus funciones autorizadas. Este método busca mejorar el rendimiento de la tarea y la coherencia del rol en equipos complejos.
Hoja de ruta hacia la estética cuántica
El artículo propone una hoja de ruta para la estética cuántica, explorando cómo los conceptos cuánticos se convierten en fenómenos estéticos mediante la mediación artística. Se presentan dos enfoques: uno basado en IA generativa para analizar la estética como constructo cultural y otro que deriva la forma estética de estructuras de mecánica cuántica mediante la visualización de datos. Estos caminos buscan abrir nuevas direcciones en la práctica artística y la pedagogía.
TPO: Aprendizaje Robusto Distribuible de Tres Niveles para la Optimización de Preferencias OOD
Se presenta TPO, un marco robusto distributivo de tres niveles para la alineación de preferencias OOD, abordando el desafío del desajuste distributivo en tres niveles (grupo, prompt y preferencia) en el entrenamiento de LLM. El método modela esta incertidumbre mediante un conjunto de ambigüedad rectangular jerárquicamente estructurado. Se deriva un objetivo interpretable que combina penalizaciones a nivel de preferencia, perturbaciones a nivel de prompt y reponderación de grupo.
SLogic: Aprendizaje de reglas lógicas informado por subgrafo para la completación de grafos de conocimiento
Se presenta SLogic, un marco novedoso para la completación de grafos de conocimiento que asigna puntuaciones dependientes de la consulta a las reglas lógicas. Este método utiliza una función de puntuación consciente del contexto para determinar la importancia de las reglas basándose en el subgrafo local definido por la entidad de la consulta. SLogic logra un rendimiento competitivo y genera reglas lógicas legibles por humanos que explican sus inferencias.
No se identificaron personas.
No todos los despliegues necesitan destilación: Distilación auto-filtrada por corrección
Se presenta la OPSD filtrada por corrección (C-OPSD) para supervisar trayectorias generadas por estudiantes, buscando optimizar la destilación de respuestas incorrectas. Los resultados demuestran que C-OPSD logra un rendimiento comparable a la OPSD completa y reduce el tiempo de entrenamiento y el cómputo requerido. Esto conecta la redundancia de supervisión condicionada por resultado con una destilación más eficiente.
DoAtlas-2: Una base para el descubrimiento biomédico causal autoevolutivo
Se presenta DoAtlas-2, una base para el descubrimiento biomédico causal autoevolutivo que integra recursos de investigación y evidencia de poblaciones humanas. Esta herramienta organiza el conocimiento en torno a mecanismos causales y genera preguntas de investigación, revisando continuamente las interpretaciones y la frontera del descubrimiento. El sistema permite unificar el descubrimiento de mecanismos causales, la prueba de evidencia poblacional y la predicción interpretable en un fundamento en constante evolución.
Muestreo de fotogramas condicionado por consulta para la comprensión de video de larga duración basado en MLLM
Se propone un marco de muestreo de fotogramas basado en la evidencia, motivado por la teoría de la información, para mejorar la comprensión de videos de larga duración con MLLMs. El método utiliza una red de puntuación de evidencia entrenada para seleccionar fotogramas relevantes, superando estrategias anteriores en benchmarks de comprensión de video. Los experimentos demuestran una mejora significativa en la selección de fotogramas con un presupuesto fijo.
Palabras iguales, juicios diferentes: Cómo varían las preferencias entre modalidades
Se investigó el alineamiento de sistemas de IA con preferencias humanas mediante el aprendizaje por refuerzo basado en preferencias (PbRL). El estudio comparó evaluaciones de preferencias en texto y audio para contenido semántico idéntico. Los resultados indican que los protocolos de evaluación para datos de audio requieren un diseño específico para esa modalidad, ya que las modalidades reportan preferencias de manera diferente.
TorchUMM: Una base de código unificada multimodal para evaluación, análisis y post-entrenamiento
Se presenta TorchUMM, la primera base de código unificada para la evaluación, análisis y post-entrenamiento de modelos multimodales unificados (UMM). Esta herramienta permite evaluar modelos a través de diversas arquitecturas, tareas y conjuntos de datos, ofreciendo protocolos estandarizados para comparaciones reproducibles. El objetivo es facilitar el desarrollo de sistemas multimodales unificados más capaces.
El Agente Fármaco: Un Científico de IA Escalable para el Descubrimiento de Fármacos
Se presenta El Agente Fármaco, un científico de IA que utiliza LLMs para transformar objetivos de descubrimiento de fármacos en flujos de trabajo computacionales escalables. El sistema utiliza una memoria científica compartida, Fármaco Atlas, para rastrear la procedencia de las moléculas. El agente puede iniciar cálculos para colecciones enteras de moléculas con una sola solicitud, mejorando la eficiencia del descubrimiento de fármacos.
Paradojas narrativas en la inferencia de LLM: Modelando trayectorias de razonamiento hacia la desalineación
Se presenta un ataque novedoso llamado PDRA para explorar la vulnerabilidad del proceso de razonamiento de múltiples pasos en LLM. El método programa una trayectoria de razonamiento dañina mediante la creación de un núcleo narrativo paradójico. Esto fuerza al modelo a través de un análisis de tres etapas para generar contenido dañino manteniendo la coherencia narrativa. El ataque demuestra alta eficiencia en lograr tasas de éxito de ataque en diversos LLM.
MCPGuard: Encontrando lagunas de conformidad en los SDKs de MCP mediante análisis de doble vía y adjudicación dinámica
Se presenta MCPGuard, un marco automatizado basado en LLM diseñado para detectar lagunas de conformidad entre las especificaciones del Protocolo de Contexto del Modelo (MCP) y sus SDKs. Esta herramienta utiliza análisis estructural y de comportamiento para verificar si los modelos de SDKs cumplen con las restricciones de especificación. El sistema confirma fallos en SDKs oficiales de Python y TypeScript, indicando que las brechas de conformidad pueden propagarse en aplicaciones posteriores.
Cuando el debate amplifica el riesgo: Vulnerabilidades de sesgo social en la deliberación de seguridad multiagente
Se investiga cómo la estructura social de la deliberación multiagente (MAD) en aplicaciones web puede amplificar riesgos de seguridad latentes debido a sesgos sociales como la presión de conformidad y la deferencia a la autoridad. Se demuestra que el MAD estándar puede llevar a una adopción insegura del 100.0% al permitir que la presión social anule la evidencia de seguridad. Se propone un marco de auditoría llamado RiskTrace-Debias para mitigar esta fragilidad, buscando suprimir la adopción insegura a un 2.0% sin afectar la capacidad de rechazo de la guía.
Aprendizaje por refuerzo Multi-Axis Max@K para la diversidad representativa en la generación de texto a imagen
Se presenta MultiMaxPO, un método de post-entrenamiento basado en aprendizaje por refuerzo para modelos de difusión de texto a imagen. Este método busca mejorar la diversidad representativa de las imágenes generadas, midiendo qué tan bien las muestras cubren modos visuales como colores o categorías raciales. Se demuestra que MultiMaxPO mejora la puntuación de equidad en Stable Diffusion 3.5 Medium y FLUX.1-dev, manteniendo la calidad y la alineación con el texto.
LeanPRM: Supervisión de procesos basados en Lean para la verificación de pruebas en lenguaje natural
Se presenta LeanPRM, un marco que utiliza el asistente de pruebas Lean para etiquetar pasos de pruebas en lenguaje natural. Este sistema permite a un modelo escribir pruebas junto con su versión formal, y luego utiliza un segundo modelo para marcar errores matemáticos. El entrenamiento en LeanPRM mejora la precisión de los verificadores de IA en diversos tamaños de parámetros.