Buscar noticias

Buscá por texto y descubrí noticias relacionadas con tu consulta.

Noticias relevantes

Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.

[기고] 인공지능이 바꾸는 신입의 일…기업은 숙련자를 어떻게 키울 것인가

La inteligencia artificial está transformando el rol de los nuevos empleados, planteando el desafío a las empresas sobre cómo formar expertos. Investigaciones sugieren que la exposición a la IA afecta la contratación de jóvenes en ciertas profesiones, indicando que la dependencia de la IA puede limitar la práctica de juicio y toma de decisiones. Para mitigar esto, se recomienda diseñar la formación de nuevos empleados integrando la verificación de resultados y la validación de fuentes, asegurando que el aprendizaje se centre en la comprensión profunda y la responsabilidad, no solo en la ejecución de tareas por IA.

Periodista: Firma no identificada

Elon Musk quiere una OpenAI con fines de lucro

OpenAI necesita aumentar drásticamente su capacidad de cómputo, buscando pasar de 600 a 5000 GPUs, y aumentar su plantilla de investigadores. También es crucial asegurar una ventaja de hardware, como el diseño Cerebras, para lograr avances significativos en la construcción de la Inteligencia Artificial General (AGI).

Periodista: Firma no identificada

Personas mencionadas

Startup de datos para entrenamiento de robots GenRobot AI levanta $100 millones en financiación Serie A+

GenRobot AI, una empresa con sede en Beijing, ha cerrado una ronda de financiación Serie A+ de $100 millones para impulsar su desarrollo de infraestructura de datos para robots. La compañía proporciona equipos y software que recopilan demostraciones humanas (visuales, movimientos de manos y cuerpo) en tareas como domésticas, fabricación y logística. Su plataforma Matrix sincroniza, limpia y etiqueta estas grabaciones, ofreciendo datos de entrenamiento y evaluación para desarrolladores de robots.

Periodista: TechNode Feed

Herramientas profesionales: Heidi AI

Heidi AI es una herramienta de IA que utiliza entrada de voz para tomar notas y transcripciones de consultas veterinarias, buscando reducir la carga administrativa de los veterinarios. La herramienta permite a los profesionales centrarse más en la comunicación y el examen clínico durante las consultas. Se destaca por su facilidad de uso y su capacidad para mejorar la eficiencia del flujo de trabajo, aunque requiere supervisión clínica para asegurar la precisión de la transcripción.

Periodista: Dr Eugene Ong

Personas mencionadas

Caitlin Johnstone: Re-centralizando el control de la información

La noticia aborda la preocupación de que la inteligencia artificial pueda ser utilizada para re-centralizar el control de la información, afectando la percepción humana a través de algoritmos sofisticados. Se menciona que la IA podría manipular la información para servir a intereses de élites, como la propagación de narrativas pro-Israel. Se citan advertencias previas sobre cómo la IA puede superar la capacidad humana de detectar la manipulación algorítmica en la información.

Periodista: Michele Steinberg

La IA y las matemáticas se encuentran, ¿hacia dónde nos llevarán mutuamente?

La inteligencia artificial está acelerando el avance de las matemáticas, pasando de la ayuda al cálculo a la resolución de problemas de investigación complejos. Agentes de IA como los de DeepMind y OpenAI han resuelto teoremas y conjeturas matemáticas abiertas, generando un debate sobre el impacto de la IA en la investigación. Expertos matemáticos advierten sobre esta transformación, señalando un cambio significativo en el campo.

Periodista: Firma no identificada

Personas mencionadas

OpenAI amplía su trabajo con la industria periodística mediante una alianza con Axios

OpenAI anunció una nueva alianza de contenido con Axios y financiará la expansión de su cobertura local en cuatro ciudades de Estados Unidos: Pittsburgh, Kansas City, Boulder y Huntsville. La empresa suma casi 20 socios editoriales, entre ellos News Corp, The Atlantic, Vox Media, Prisa Media, Condé Nast, Hearst y Dotdash Meredith, que permiten a ChatGPT mostrar resúmenes y extractos citados de medios confiables. Además, OpenAI detalló programas de subvenciones con American Journalism Project, Lenfest Institute y WAN-IFRA para impulsar la adopción de IA en salas de redacción locales y globales.

Periodista: OpenAI

Cloudflare y OpenAI: cómo mejorar el descubrimiento de contenido con IA para todos

Cloudflare y OpenAI presentaron los primeros resultados de un piloto de investigación lanzado en julio de 2026 para mejorar el descubrimiento de contenido web mediante IA. Usando señales de la red de Cloudflare en una cohorte de cerca del 1% de su red total, OpenAI logró descubrir e indexar cientos de millones de páginas nuevas para ChatGPT. El trabajo incluye filtrado de páginas inexistentes o duplicadas, señales de cambio y marcado de páginas dañinas, sin compartir contenido para entrenamiento de modelos.

Periodista: Matthew Conroy, Jack Galilee, Henry Aspegren, James Balfour

与算力协同 用AI赋能 一张电网里的科技创新活力

En el distrito de Xiong'an en Hebei, la inteligencia artificial (IA) está profundamente integrada en la infraestructura energética de la ciudad del futuro, con agentes inteligentes activos en el despacho y garantía del servicio de la red eléctrica. Se está explorando un sistema de regulación coordinada de niveles 'principal y secundario' y se está construyendo un proyecto de transmisión de corriente continua de alta tensión de 800 milivoltios entre Mengxi y Beijing-Hebei, destacando la innovación tecnológica en la red eléctrica.

Periodista: chinanews

Personas mencionadas

Noticias encontradas

Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.

Resultados para «AI»

Más recientes primero · Hasta 30 noticias por página

La generación de resúmenes de alta descarga no es solo resumen: una comprobación de realidad para la evaluación

Se presenta FairSumEval, un marco que evalúa si los hechos y referencias generados por modelos de lenguaje están respaldados por la evidencia clínica previa. El estudio compara el soporte de evidencia en hechos de referencia médicos frente a los hechos generados por modelos generales y especializados. Se encontraron diferencias significativas en la superposición de contenido basado en evidencia versus contenido sin soporte identificado.

Periodista: Radhika Dua, Frederick Wolff, Kyunghyun Cho, Eric Karl Oermann

Personas mencionadas

Modelos de difusión continua de lenguaje grande

Se presenta Nemotron-Labs-Sigma, una familia de modelos de difusión de lenguaje continua a gran escala (3B/8B) que supera a los modelos discretos en tareas de razonamiento y codificación. Estos modelos utilizan trayectorias latentes ODE/SDE y demuestran ganancias significativas en velocidad y precisión en benchmarks estándar y tareas complejas. Los resultados sugieren que los dLMs continuos son un paradigma prometedor para la generación de lenguaje eficiente.

Periodista: Zhihan Yang, Wei Guo, Jean-Marie Lemercier, Simon Welker, Mohammad Mahdi Kamani, Yonggan Fu, Sajad Norouzi, Julius Berner, Tomas Geffner, Karsten Kreis, Yongxin Chen, Molei Tao, John Thickstun, Pavlo Molchanov, Ante Jukić, Arash Vahdat, Morteza Mardani

Ataques de amplificación de recursos en agentes SaaS mediante diseño conjunto de herramientas y prompts

Se presenta OverServe, un marco multiagente diseñado para realizar ataques contra agentes SaaS explotando la decisión de finalización del agente para consumir recursos del proveedor. Este marco diseña conjuntamente herramientas y prompts para extender la ejecución y desperdiciar recursos del proveedor SaaS. Las pruebas indican que OverServe puede lograr una amplificación máxima de solicitudes de API de $93.88\times$ manteniendo el objetivo de la tarea original.

Periodista: Ruiheng Yu, Oteo Mamo, Siyu Gan, Weikuan Yu, Mulong Luo

Personas mencionadas

Cuando los fallos se propagan: Atribución de fallos causales en la recuperación aumentada por generación

El artículo presenta AgenticRAG-FP, un punto de referencia para la atribución de fallos causales en la generación aumentada por recuperación (RAG) agentica. Evalúa cómo los errores de recuperación en diferentes etapas pueden propagarse y cómo diferentes diagnósticos identifican el punto de fallo. Los resultados muestran que la identificación del fallo depende de la etapa de la recuperación.

Periodista: Lauren Pothuru, Spurthi Setty, Natan Vidra

Personas mencionadas

Cebo Adversarial: Redirigiendo las defensas basadas en atención en ViT

Se presenta un método llamado "cebos adversarios" para mitigar ataques adversarios en Vision Transformers (ViT) al redirigir la atención hacia tokens objetivo específicos. Este enfoque desacopla la inducción de la predicción incorrecta de la manipulación de la clasificación de atención utilizada por las defensas. Los experimentos demuestran que esta técnica redirige la atención lejos de la región adversaria real, manteniendo la efectividad contra las defensas basadas en el ranking de atención.

Periodista: Giulia Marchiori Pietrosanti, Giulio Rossolini, Giorgio Buttazzo

Personas mencionadas

Gobernanza de derechos de autor de manera responsable en la era de la IA generativa

Un artículo analiza cómo la gobernanza de derechos de autor aborda la protección de autores en el contexto del entrenamiento de modelos de lenguaje generativos. El estudio examina instrumentos legales y normativos emitidos entre 2019 y 2026 en la UE y EE. UU. para definir una alternativa responsable. Se deriva un diseño de gobernanza de seis instrumentos y una distribución de responsabilidades entre múltiples actores involucrados.

Periodista: D. Kochetkov

Personas mencionadas

DataCook: Explorando huellas dactilares anti-adversariales para el control del uso de datos de salud

Se propone DataCook, un marco de control de uso en la etapa de despliegue basado en huellas dactilares anti-adversariales para datos médicos. Este método busca preservar la utilidad de los modelos de IA entrenados con datos médicos mientras reduce su rendimiento con entradas no autorizadas. Los resultados demuestran la viabilidad de un mecanismo de control de uso dependiente de la autorización en el despliegue.

Periodista: Sihan Shang, Jun Yan, Danli Shi, Haizhong Zheng, Shuangjia Zheng, Wei Zhao, Jiancheng Yang

Personas mencionadas

Pruebas de bajo costo para medir el comportamiento de modelos entre proveedores y lanzamientos

Se presenta un modelo simple, barato y replicable para estudiar el comportamiento de los modelos de lenguaje a través de diferentes proveedores y lanzamientos. El estudio mide la convergencia, la resistencia, la posición bajo presión y la coherencia del código de los modelos. Estos instrumentos rastrean cómo cambia el comportamiento a lo largo del tiempo y entre diferentes modelos.

Periodista: Tapan Parikh

Personas mencionadas

CUDA-L2 supera el rendimiento de cuBLAS para multiplicación de matrices mediante aprendizaje por refuerzo

Se propone CUDA-L2, un sistema que utiliza modelos de lenguaje grandes (LLM) y aprendizaje por refuerzo (RL) para optimizar automáticamente los kernels CUDA de multiplicación de matrices (HGEMM). Este sistema supera a las soluciones existentes como cuBLAS y cuBLASLt en modo offline y servidor, logrando mejoras significativas en la velocidad de ejecución. El estudio demuestra que la automatización guiada por RL puede mejorar kernels críticos mediante la exploración sistemática de espacios de configuración complejos.

Periodista: Songqiao Su, Xiaoya Li, Albert Wang, Guoyin Wang, Jiwei Li, Chris Shum

Personas mencionadas

Control Reinforcement Learning: Dirección interpretable a nivel de token de LLMs mediante características de Autoencoders Esparso

Se presenta el Control Reinforcement Learning (CRL) para dirigir a los Modelos de Lenguaje Grandes (LLMs) a nivel de token seleccionando características de autoencoders esparsos (SAE). Este método genera registros de intervención interpretables que permiten identificar qué características modifican la salida del modelo al ser amplificadas. Los resultados en Gemma 2 2B demuestran que esta técnica mejora el rendimiento mientras proporciona logs de intervención por token.

Periodista: Seonglae Cho, Zekun Wu, Adriano Koshiyama

Personas mencionadas

Aprendizaje de dónde simular: Muestreo activo generativo para entrenamiento de sustitutos de PDE en línea

Se presenta el Muestreo Activo Generativo en Línea (OGAS) para mejorar el entrenamiento de sustitutos de ecuaciones diferenciales parciales (PDE) al adaptar continuamente el muestreo de parámetros de configuración durante el entrenamiento. Este método utiliza un muestreador condicional para priorizar configuraciones que generan datos de entrenamiento más desafiantes, reduciendo el error de predicción en comparación con el muestreo uniforme. Se evaluó el método en diferentes PDEs y arquitecturas, mostrando una reducción del error y una sobrecarga de tiempo insignificante.

Periodista: Pierre Cesar (DATAMOVE), Sofya Dymchenko (DATAMOVE), Abhishek Purandare (DATAMOVE), Bruno Raffin (DATAMOVE)

Personas mencionadas

Señalando el camino, ocultando el destino: Recuperación densa privada práctica a escala

Se presenta un método para la recuperación densa privada a escala utilizando RAG y búsqueda semántica, que oculta la consulta y el resultado seleccionado. El protocolo utiliza un código binario aleatorio para señalar una lista corta de candidatos, protegiendo la consulta y la selección final mediante cifrado. Esto permite una búsqueda eficiente sin sacrificar la calidad de la recuperación en grandes corpus de documentos.

Periodista: Peichun Hua, Danyang Chen, Junan Zhang, Haifeng Sun, Jingyu Wang, Diwen Xue, Mingyu Li, Yunming Xiao

Personas mencionadas

Física de colisionadores impulsada por recompensas desafía la IA agentica auto-mejorable mediante aprendizaje por refuerzo

Se exploran avances en IA agentica para automatizar flujos de trabajo complejos de física de alta energía (HEP). Se introduce un formato de optimización con recompensas automáticas para que los modelos de lenguaje mejoren mediante aprendizaje por refuerzo sin intervención humana. El objetivo es avanzar hacia agentes científicos que descubran soluciones mejoradas de forma autónoma.

Periodista: Alexander Yue, Qibin Liu, Julia Gonski

Personas mencionadas

Presentación del modelo ZONOS3-Mini, un sistema TTS de clonación de voz ultra-compacto y rápido

Se presenta ZONOS3-Mini, un modelo TTS ultra-compacto y rápido para clonación de voz, capaz de ejecutarse en tiempo real en dispositivos móviles. El modelo utiliza un *backbone* MoE con 886M parámetros y un nuevo códec de audio para alcanzar alta fidelidad. Se liberan los pesos, la inferencia y el código de entrenamiento del modelo.

Periodista: Gabriel Clark, Sofian Mejjoute, George Close, Beren Millidge

Personas mencionadas

Evaluación de agentes de IA en la resolución autónoma de problemas teóricos de física

Se evaluaron agentes de IA para resolver problemas teóricos de física. Se encontró que el agente GPT-6-Astra alcanzó una precisión del 98% en cálculos concretos, incluso con acceso a herramientas de búsqueda y literatura. Los resultados sugieren que los agentes de vanguardia son capaces de realizar cálculos requeridos en la investigación de física teórica. Se discuten las implicaciones de estos hallazgos sobre los avances en física teórica impulsados por agentes.

Periodista: A. Ramesh Chandra, Aaghaz Mahajan, Ainesh Sanyal, Mianqi Wang, Shubhadeep Chakraborty, Sudip Chakraborty, Shailesh Chandrasekharan, Rama Govindarajan, Akshit Goyal, Jonathan J. Heckman, Yasir Iqbal, Divya Jaganathan, Saumav Kapoor, Andreas Karch, Pushkar Khandare, Sandeep Krishna, Anupam Kundu, Alok Laddha, Tongyan Lin, Swarnendu Maity, Nilmani Mathur, Shani Nadir Meynet, Alessandro Mininno, Abhijeet Mishra, Vidur Niranjan, Abhishodh Prakash, Pratik Rath, Durbar Roy, Debargha Sarkar, Srikanth Sastry, Gary Shiu, Aninda Sinha, Thomas Van Riet, Praneeth Netrapalli, Suvrat Raju

SWE-Bench Pro V2: Un benchmark de codificación más limpio y difícil

Se presenta SWE-Bench Pro V2, una versión revisada del benchmark para tareas de ingeniería de software de largo alcance para agentes de codificación. Se realizaron auditorías y verificaciones por parte de ingenieros para reparar o retirar tareas, asegurando la precisión del benchmark a medida que avanzan las capacidades de los agentes. El nuevo protocolo endurecido restringe el acceso a la red y reevalúa los parches, mejorando la fiabilidad del conjunto de pruebas.

Periodista: Soham Dan, Jeff Da, Sanyam Bhutani, Miguel Romero Calvo, Ivan Guevara, Fernando Carabedo, Jose Bernal, Julio Reyna, Luis Leandro Monsalve Mendez, Ying Liu, Daniel Yue Zhang

Mitigación de la satisfacción de especificaciones en agentes de codificación

Se presenta SatisFix, un método diseñado para guiar a agentes de codificación a reportar las elecciones y justificaciones de sus decisiones de implementación. Este método busca mitigar la "satisfacción de especificaciones", un fallo donde el agente acepta soluciones parciales que no cumplen completamente con los requisitos. SatisFix mejoró el rendimiento del agente base en DeepSWE y SWE-bench Pro.

Periodista: Ruixin Wang, Tianyi Zhang

Personas mencionadas

Chronocooked: Un punto de referencia para el tiempo de intervalo en agentes de aprendizaje por refuerzo

Se presenta Chronocooked, un entorno de referencia de aprendizaje por refuerzo diseñado para estudiar las habilidades de tiempo de intervalo en agentes de IA. El trabajo evalúa diferentes modelos de aprendizaje (CNN, LSTM, CTRNN) para medir el rendimiento y la capacidad de control temporal de estos agentes. Se concluye que los modelos recurrentes con memoria son capaces de realizar las tareas de tiempo, aunque no se encontró evidencia cuantitativa de comportamiento de tiempo similar al humano.

Periodista: Amrapali Pednekar, Alvaro Garrido-Perez, Yara Khaluf, Pieter Simoens

Personas mencionadas

Flujos flexibles para el diseño de secuencias biológicas

Se propone un método basado en Matching de Flujo Discreto (DFM) para el diseño de secuencias biológicas, abordando la limitación de los enfoques existentes en la generación de secuencias de longitud variable. El método introduce un acoplamiento estructurado para codificar preferencias específicas del dominio y una parametrización de tasa basada en edición para la generación de longitud variable. Además, se presenta un mecanismo de guía sin clasificador para dirigir la generación en el espacio latente continuo.

Periodista: Yogesh Verma

Personas mencionadas

Cuando la IA clasifica: ¿Qué constituye la administración pública?

Un estudio compara diferentes sistemas de representación académica para identificar la administración pública (PA) y la PA relacionada con IA. El análisis comparativo de Web of Science y OpenAlex revela diferencias significativas en el corpus de investigación y la estructura temática. Los hallazgos indican que la organización algorítmica del conocimiento influye en cómo se clasifican y entienden los límites de la investigación interdisciplinaria. Se concluye que el juicio experto humano sigue siendo crucial para complementar la clasificación asistida por IA.

Periodista: Shaoming Cheng, Laurie A. Schintler

Personas mencionadas

Cómo hacer que los robots encajen en el lugar de trabajo humano

Anthony Jules y Rodney Brooks cofundaron empresas de robótica, enfocándose en cómo la combinación de sistemas robóticos, humanos y sistemas de backend determina el éxito del sistema. Robust AI se centra en desarrollar robots que ayuden a los humanos a realizar tareas, buscando integrar la tecnología de manera que acelere las tareas físicas de los trabajadores. La compañía explora la aplicación de robots en logística y manufactura, buscando optimizar flujos de trabajo complejos en entornos industriales.

Periodista: Zach Winn, MIT News

¿De quién eres? Detección y atribución de agentes web autónomos

Se aborda el desafío de privacidad y seguridad que representa el rastreo indiscriminado de contenido por parte de agentes web de IA. Se demuestra un método de huella digital de múltiples capas basado en características de red y comportamiento de interacción del navegador para distinguir estos agentes de humanos y rastreadores tradicionales. El marco logra una identificación de alta fidelidad, lo que sugiere un enfoque robusto para la protección de contenido y la aplicación de políticas de seguridad web.

Periodista: Dayeon Kang, Hyejun Jeong, Jade Sheffey, Pubali Datta, Amir Houmansadr

Personas mencionadas

Leaderboard Hacking: Las evaluaciones basadas en preferencias son vulnerables a la manipulación

Se descubrió que los rankings basados en preferencias de modelos de lenguaje son vulnerables a manipulaciones por parte de proveedores malintencionados. Las estrategias incluyen la votación estratégica, el *prompting* estratégico y la nominación estratégica para mejorar el rendimiento de un modelo. Estas manipulaciones pueden incrementar el ranking de un modelo hasta 45 posiciones en total.

Periodista: Eve Fleisig, Joachim Baumann, Dylan Hadfield-Menell, Dirk Hovy

Personas mencionadas

¿Qué edificios están listos para la Inteligencia Artificial? Un marco de evaluación basado en la medición para la respuesta a preguntas y actuación de IA

Se propone un marco para cuantificar la preparación de los edificios para sistemas de inteligencia artificial agentica, midiendo la capacidad de respuesta a preguntas y la capacidad de actuación. El estudio evalúa la precisión de un agente de IA en edificios simulados y reales para determinar qué tan cerca están estos sistemas de ser listos para la IA. El marco busca convertir la pregunta de si un edificio está listo para la IA en una cuestión auditable y clasificada.

Periodista: Wooyoung Jung

Personas mencionadas

Instant NuRec: Reconstrucción Gaussiana 3D Feed-Forward para Simulación de Escenas de Conducción

Se presenta Instant NuRec, un modelo de reconstrucción neuronal feed-forward que transforma un registro de conducción multi-vista en un mundo 3D Gaussian Splatting (3DGS) simulable en una sola pasada. Este modelo procesa datos de múltiples cámaras para generar capas 3D y correcciones, logrando una reconstrucción rápida y alta calidad en el conjunto de datos Waymo Open Dataset. El trabajo busca mejorar la simulación para la conducción autónoma mediante la reducción de costos y el aumento de la seguridad.

Periodista: Jiawei Ren, Michal Tyszkiewicz, Bjoern Haefner, Michael Shelley, Xin Kang, Seung Wook Kim, Ning Xu, Qi Wu, Janick Martinez Esturo, Shengyu Huang, Nick Schneider, Laura Leal-Taixe, Zan Gojcic, Sanja Fidler

Fast-dLLM++: Decodificación de Perfil Fréchet para una Inferencia de LLM más rápida

Se presenta Fast-dLLM++, una extensión sin entrenamiento para la decodificación de modelos de lenguaje grandes de difusión, que introduce la decodificación de perfil Fréchet. Esta técnica selecciona conjuntos de tokens paralelos basados en el perfil de confianza completo, lo que resulta en ganancias empíricas de hasta un 37% en el rendimiento a través de una precisión comparable. El método mantiene la implementación existente del modelo y la caché, sirviendo como un reemplazo directo para la decodificación Fast-dLLM actual.

Periodista: Siva Rajesh Kasa, Yasong Dai, Sumit Negi, Hongdong Li

Personas mencionadas

Prompts de seguridad y privacidad en el mundo real: Qué preguntan los usuarios a los LLM y cómo responden los LLM

Un estudio analizó las preguntas de seguridad y privacidad (S&P) que los usuarios hacen a los Modelos de Lenguaje Grandes (LLM) utilizando un conjunto de datos de 3.2 millones de conversaciones. Se categorizaron 14,727 indicaciones y se evaluó la calidad de las respuestas de los LLM comerciales frente a los modelos de código abierto. Se encontró que los LLM comerciales superan a los modelos de código abierto, aunque los modelos comerciales pueden generar respuestas inconsistentes.

Periodista: Hobin Kim, Xiaoyuan Wu, Omer Akgul, Lujo Bauer, Nicolas Christin

Personas mencionadas

No se identificaron personas.

Modelos de lenguaje con estado aumentado recursivo: Adaptación persistente del estado latente de modelos de lenguaje preentrenados

Se presenta un marco llamado Modelos de Lenguaje con Estado Aumentado Recursivo (Recursive SALM) que permite que un estado latente persista y evolucione con cada observación para adaptar modelos de lenguaje preentrenados. Los experimentos demuestran que esta adaptación latente persistente puede soportar la inferencia secuencial incluso cuando la evidencia anterior no está disponible en el contexto del decodificador. Se compara el rendimiento con modelos basados en contexto completo, mostrando una mejora en tareas de inferencia.

Periodista: Omer Haq

Personas mencionadas

BatchBench: Medición de la robustez de la IA ante efectos de lote y cambio de dominio en imágenes biomédicas

Se presenta BatchBench, un leaderboard diseñado para evaluar la robustez de los sistemas de inteligencia artificial en imágenes biomédicas frente a efectos de lote y cambios de dominio. La herramienta utiliza el conjunto de datos JUMP-CP, conocido por sus efectos de lote y cambios de dominio, como campo de prueba. El objetivo es medir el progreso en la robustez de los sistemas de IA ante variaciones en las condiciones de adquisición de imágenes.

Periodista: Ana Sanchez-Fernandez

Personas mencionadas

Efectos secundarios no deseados del entrenamiento de valores en LLMs

Se investiga cómo la alineación de valores en los LLMs afecta sus capacidades y comportamientos. El estudio encontró que el entrenamiento específico de valores produce efectos secundarios no deseados en valores no entrenados, preferencias de riesgo y rasgos de seguridad. Se sugiere incorporar evaluaciones de comportamiento más amplias en la alineación de valores posterior al entrenamiento.

Periodista: Siddhesh Pawar, Chen Cecilia Liu, Anna Korhonen, Isabelle Augenstein

Personas mencionadas