Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Shield ayuda a los técnicos a transferir el trabajo de portales heredados con OpenAI
Shield ha desarrollado Forge, un sistema operativo de IA que utiliza GPT-6 Astra para ayudar a los agentes de soporte de TI a manejar tareas en portales y sistemas heredados. Esto permite a los agentes realizar tareas que antes requerían la intervención manual de un técnico, mejorando la velocidad de resolución y la satisfacción del cliente. Se reporta una mejora de entre 35% y 40% en la velocidad de ejecución y una menor tasa de fallos.
CrowdStrike lanza un interruptor de apagado de IA que afirma poder detener agentes malintencionados y más
CrowdStrike ha lanzado el 'AI Kill Switch' en su producto Falcon Guardian para detener y aislar agentes de IA malintencionados. Esta nueva función otorga a los administradores humanos el control directo para terminar la actividad sospechosa y asegurar la seguridad de la IA en entornos empresariales. La herramienta busca poner la seguridad en manos de los usuarios para controlar el comportamiento de los agentes de IA.
El nuevo 'Interruptor de Apagado' de IA de CrowdStrike detiene a los agentes de IA rebeldes?
CrowdStrike ha anunciado nuevas capacidades de seguridad para agentes de IA, incluyendo un "Interruptor de Apagado de IA" que permite a los equipos de seguridad terminar, bloquear y cortar el acceso a la red de agentes maliciosos. Además, la compañía adquirió Fiddler AI para mejorar la observabilidad y explicabilidad de los agentes de IA. Esto busca proporcionar control humano sobre la seguridad de la IA y asegurar que los agentes se comporten según lo previsto a través de pruebas rigurosas.
Primer Ministro anuncia protección más estricta para la IA para frenar riesgos crecientes
El primer ministro ha anunciado una protección más estricta para la inteligencia artificial y un regulador dedicado para contener los peligros potenciales. Esta medida busca contener los riesgos emergentes relacionados con la IA.
No se identificaron personas.
Nasdaq considera deslistar a la empresa de IA
La IA hace que los ciberataques sean más rápidos y automatizados, por lo que las organizaciones deben enfocarse en limitar el impacto de las intrusiones. Es crucial conocer qué sistemas y datos son protegidos y qué está expuesto para priorizar la defensa. Se recomienda implementar entornos de TI bien planificados que permitan aislar partes afectadas y mejorar continuamente la capacidad de detección de anomalías.
Cisco defiende a velocidad de máquina con OpenAI
Cisco está integrando la inteligencia de red con los modelos de OpenAI para mejorar la defensa contra ataques impulsados por IA. La compañía busca utilizar la IA para correlacionar señales a escala masiva, lo que permite a los defensores detectar patrones y responder a vulnerabilidades más rápido. Esto incluye la implementación de controles distribuidos en microservicios y la mejora de la capacidad de respuesta ante la velocidad de los ataques.
Shadow AI: la inteligencia artificial que las empresas no ven
La práctica de usar herramientas de inteligencia artificial sin la autorización de la empresa, conocida como Shadow AI, está generando un conflicto entre la adopción rápida de estas tecnologías y las restricciones de ciberseguridad. Se destaca la necesidad de que las organizaciones establezcan políticas claras para regular el uso de IA, ofreciendo soluciones empresariales seguras y capacitando al personal. El Estado está comenzando a establecer marcos regulatorios, como el Código de Ética de la IA para servicios públicos, para equilibrar la productividad con la protección de la información confidencial.
Crowdstrike da a las empresas un 'interruptor de apagado' para agentes de IA mal comportados
Crowdstrike introdujo un nuevo interruptor de apagado para detener agentes de IA mal comportados, permitiendo a los equipos de seguridad terminar su operación y cortar su acceso a la red. Esta medida busca abordar las preocupaciones de seguridad relacionadas con la adopción de agentes de IA, coincidiendo con otros esfuerzos de la industria para mejorar la seguridad de la IA. El CEO de Crowdstrike señaló que esto es una oportunidad de mercado y una forma de asegurar que los agentes operen de manera segura.
CrowdStrike presenta un interruptor de apagado para IA
CrowdStrike presentó un interruptor de apagado para IA en su feria Fal.Con Europe, diseñado para detener agentes de IA que se desvían de su comportamiento. El sistema permite a los administradores activar la restricción del acceso a modelos de IA, aunque también se planea una activación automática mediante Charlotte AI para asegurar el comportamiento conforme a las normas.
Cómo bloquear bots de IA para que no rastreen tu sitio web
Grandes empresas tecnológicas como OpenAI, Google y Microsoft han acordado implementar una señal de exclusión mutua en los archivos robots.txt para impedir que los bots de IA extraigan contenido de sus sitios web para entrenamiento de modelos. Se proponen varias estrategias, incluyendo modificar robots.txt, requerir cuentas de usuario para acceso o limitar el acceso por dirección IP. Estos métodos buscan proteger el contenido de los sitios web de ser raspado por bots maliciosos.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Shield AI»
Más recientes primero · Hasta 30 noticias por página
RACE: Clasificación de la Capacidad Adaptativa para Recomendación Secuencial Eficiente
Se presenta RACE, un marco que adapta dinámicamente estructuras de modelo y secuencias de entrada con ratios de compresión conscientes de la incertidumbre para la recomendación secuencial eficiente. El enfoque busca resolver la discrepancia entre capacidad y complejidad al adaptar la compresión del modelo. Los experimentos demuestran que RACE supera a los métodos de vanguardia en precisión, eficiencia y adaptabilidad.
La Maldición de la Alineación: La alineación de modalidades potencia los ataques de audio mediante transferencia de texto
Se introduce el concepto de "Maldición de la Alineación", un principio que demuestra que una mayor alineación entre modalidades facilita la transferencia de vulnerabilidades de ataques de texto a audio. Se evalúan tres categorías de ataques en modelos omnimodales, encontrando que los ataques de audio transferidos desde texto son comparables o superiores a los ataques basados solo en audio. Esto sugiere que las vulnerabilidades basadas en texto son cruciales para determinar los riesgos de seguridad en modelos de audio.
Explicaciones clínicas basadas en evidencia para pacientes específicos
Se presenta un motor de explicaciones clínicas basado en razonamiento de grafo de conocimiento para inferencias de pacientes. El sistema evalúa la disponibilidad, la representación y la consistencia de datos en un gran conjunto de datos clínicos. Se logró una consistencia de disponibilidad-representación del 99.29% y se validaron los resultados mediante auditorías exhaustivas. La auditabilidad estructural e implementativa fue establecida, aunque la corrección clínica y utilidad aún están por establecerse.
Solo tan seguros como el agente más débil: una ruptura que aparece solo cuando el sistema es multiagente
Se demuestra que los sistemas multiagente, como Codex y Claude Code, pueden ser vulnerados por ataques dirigidos a sus componentes internos. La seguridad de estos sistemas depende de la seguridad del agente más débil, no del orquestador principal. Esto implica que las fallas en la seguridad pueden propagarse a través de la delegación de tareas entre agentes fuertes y débiles.
Alineación pluralista en modelos de lenguaje grandes: objetivos, referencias humanas y representaciones de preferencia
El artículo aborda la alineación pluralista en modelos de lenguaje grandes, buscando representar la variación en las preferencias humanas en lugar de unificar juicios diversos. Propone una taxonomía de dos capas (Pluralismo de Overton, Dirigible y Distributivo) para clasificar el comportamiento deseado de los modelos. El estudio analiza la evidencia necesaria para demostrar el éxito de estos enfoques y cómo futuros sistemas pueden manejar el desacuerdo.
QVal: Evaluando señales de supervisión densa para agentes LLM de largo horizonte
Se presenta QVal, un campo de pruebas sin entrenamiento diseñado para medir el alineamiento Q de señales densas en agentes LLM. El trabajo evalúa 21 métodos en siete familias de modelos para determinar cómo las señales intermedias ordenan las acciones en relación con sus retornos. Se concluye que las señales basadas en *prompting* simple son las más alineadas Q, y el alineamiento Q se correlaciona fuertemente con el éxito en tareas.
D-VLA: Un marco de aprendizaje por refuerzo distribuido asíncrono de alta concurrencia para modelos de visión-lenguaje-acción
Se presenta D-VLA, un marco de Aprendizaje por Refuerzo distribuido de alta concurrencia y baja latencia diseñado para modelos fundacionales encarnados a gran escala. Este marco aborda los cuellos de botella de recursos entre la simulación física y las demandas de memoria de los modelos VLA mediante técnicas como el desacoplamiento de planos y un *pipeline* asíncrono. Los experimentos indican que D-VLA supera a otros marcos de RL en rendimiento y eficiencia de muestreo para modelos VLA de billones de parámetros.
Brain2Vec: Un modelo de base 3D auto-supervisado para resonancias magnéticas cerebrales estructurales
Se presenta Brain2Vec, un modelo de base preentrenado en 74,425 escáneres de resonancia magnética (MRI) T1 ponderados, diseñado para tareas de aprendizaje profundo en imágenes médicas. El modelo muestra mejor precisión y convergencia en tareas de predicción de edad cerebral y supera a otros modelos en el benchmark BrainFMBench. El código y los modelos están disponibles como paquete de código abierto.
Auditoría in silico de la organización topográfica en un modelo de respuesta cerebral multimodal
Se presenta un estudio in silico utilizando el modelo TRIBE v2 para predecir respuestas fMRI a partir de video, audio y texto. El estudio evalúa la capacidad del modelo para predecir la organización topográfica sensorial, encontrando que la retinotopía y la tonotopía fallan, pero la selectividad de movimiento se localiza con precisión.
Aprendiendo a leer: Dinámicas de incrustación en el preentrenamiento de modelos de lenguaje
Se investiga cuándo un modelo de lenguaje adquiere una capacidad, enfocándose en la relación entre los estados ocultos del modelo y su matriz de incrustación (readout). Los autores proponen una técnica para rastrear directamente esta lectura y encuentran que una ventana temprana en el preentrenamiento permite que la lectura reorganice categorías de palabras, sugiriendo que la fecha de comportamiento puede reflejar cuándo la lectura aprende a expresar información de la tarea.
Medición automatizada del diámetro aórtico en imágenes de TC
Se desarrolló y evaluó una herramienta automatizada de código abierto para medir diámetros aórticos en 11 puntos estandarizados mediante imágenes de TC. El estudio mostró un error absoluto medio (MAE) de 1.06 mm, lo que indica un buen acuerdo con la variabilidad inter-lectores publicada. La herramienta fue validada en 230 pacientes y se considera una herramienta útil para la medición radiológica.
¿Pueden los agentes mantener el ritmo con el tiempo? Análisis empírico de la adaptación temporal después de un hiato conversacional
Se investiga si los agentes de largo horizonte pueden percibir y utilizar el tiempo al interpretar registros con fechas pasadas. Los experimentos indican que los agentes pueden obtener el tiempo actual, pero frecuentemente fallan en aplicarlo correctamente. Se sugiere que proporcionar contexto temporal explícito puede reducir el error al adaptar los planes a la fecha actual.
No se identificaron personas.
Probabilidades de Causalidad en Modelos Causalidad No Determinísticos
El estudio aborda las probabilidades de causalidad en modelos causales no determinísticos, analizando mecanismos que pueden ser estocásticos incluso con variables latentes fijadas. Se desarrolla un programa de identificación para datos observacionales e intervencionistas, calculando límites analíticos sobre las probabilidades de causalidad. Los resultados clarifican la relación entre los límites clásicos y la semántica causal no determinística.
Equilibrio Latente Variacional para el Aprendizaje en Circuitos Neuronales
El artículo propone un formalismo general para aproximar la retropropagación a través del tiempo (BPTT) de manera biológicamente plausible. El trabajo desarrolla una regla de aprendizaje para los pesos hacia atrás que busca ecuaciones totalmente locales en espacio y tiempo para la dinámica de neuronas y sinapsis. Esto establece un marco riguroso para el aprendizaje profundo espaciotemporal en el cerebro.
Control de activación basado en el tiempo: De la puerta de token por token a la dirección de activación consciente de la trayectoria
Se presenta un método para controlar el comportamiento de modelos de lenguaje grandes mediante el direccionamiento de activación, enfocándose en el momento preciso de la intervención. Se introducen dos métodos: Proyección de Características Contrastivas (CFP) y Direccionamiento Bernoulli Adaptativo de Bucle Cerrado (CLABS). CLABS es especialmente efectivo bajo presupuestos ajustados, buscando mantener la fluidez mientras se corrige la desviación de la trayectoria.
CarryOn: Aprendiendo qué guardar en contexto para agentes LLM a largo plazo
Se presenta CarryOn, un gestor de contexto ligero diseñado para agentes LLM de horizonte largo, que gestiona la evidencia de manera eficiente. El sistema utiliza un selector aprendido y una política de retención adaptativa para mantener la evidencia relevante sin requerir llamadas adicionales al LLM. CarryOn demostró un éxito de tarea del 75.7% en pruebas comparado con la mejor línea base.
Descubrimiento causal de series temporales con desfases variables
Se presenta un método para el descubrimiento causal de series temporales que aprende conjuntamente el orden temporal y el desfase dominante para pares de variables. El método utiliza una puntuación de objetivo BIC-style descomponible que penaliza los desfases más recientes. Las simulaciones demuestran que este método supera a otros aprendices en la recuperación de estructuras causales, incluso cuando se consideran desfases mayores.
Suites de evaluación generadas como búsqueda impulsada por la diversidad para regresiones de agentes reales
El texto describe la generación de suites de evaluación a partir de la especificación de un agente mediante una búsqueda impulsada por la diversidad. Se inyectan defectos controlados en un agente para medir la cobertura y el rendimiento de la suite generada. Se analizan dos regímenes de defectos, incluyendo defectos alineados con el rastro y ortogonales al rastro, para evaluar la capacidad de detección de la suite.
ARCHER: De la imitación de la racionalización al razonamiento ejecutable en modelos de lenguaje pequeños
Se presenta ARCHER, un marco de dos etapas para entrenar modelos de lenguaje pequeños (SLMs) a generar trayectorias de razonamiento ejecutables y auditables. El método transforma la supervisión de imitar texto a aprender una política de razonamiento fundamentada en herramientas. Los resultados muestran mejoras significativas en benchmarks matemáticos como MATH-500, AIME-2024 y AIME-2025.
Detectores de noticias falsas están sesgados contra textos generados por modelos de lenguaje grandes
Un estudio evalúa detectores de noticias falsas y descubre un sesgo significativo: estos detectores tienden a marcar el contenido generado por Modelos de Lenguaje Grandes (LLM) como falso, pero clasifican erróneamente la desinformación escrita por humanos como genuina. Se propone una estrategia de mitigación mediante entrenamiento adversarial para mejorar la precisión de detección en ambos tipos de contenido. Se liberan dos conjuntos de datos para fomentar la investigación futura en el campo.
Hallucination-Free GUI Grounding mediante Correspondencia Consciente del Diseño sin Regresión
Se propone un marco sin regresión para el anclaje de GUI que desacopla la comprensión de instrucciones de la localización consciente del diseño. Este método utiliza un MLLM congelado para el análisis de instrucciones y un modelo dedicado para la localización precisa mediante coincidencia con candidatos basados en el diseño. Los resultados muestran mejoras significativas en la precisión del anclaje, superando al 20% en ScreenSpot-Pro y mejorando la tasa de éxito en más del 15% en Mind2Web.
IA agentiva para descubrir circuitos cuánticos tolerantes a fallos
Se propone un método basado en programación evolutiva agentiva utilizando un modelo de lenguaje grande y un verificador de circuitos para evolucionar programas que definan circuitos Clifford tolerantes a fallos. Este enfoque busca resolver limitaciones en la eficiencia de los circuitos cuánticos para tareas como la preparación de estados lógicos y el diseño de puertas lógicas. El método garantiza que los circuitos generados son verificados exhaustivamente para asegurar su tolerancia a fallos.
Planificación anticipatoria cortés para mejorar la planificación de tareas de larga duración en entornos compartidos persistentes
Se presenta una planificación anticipatoria cortés para robots que comparten un entorno persistente, buscando minimizar el costo total a largo plazo. Este enfoque propone que los robots consideren el impacto de sus acciones en las tareas futuras de otros robots para reducir el costo agregado. La planificación propuesta reduce el costo total en comparación con métodos anteriores en entornos simulados.
De bytes a comportamiento: Atribución a nivel de solicitud de estados ocultos de GPU en vivo
Se presenta un método para adquirir activaciones residuales por capa de un proceso de GPU en vivo utilizando un depurador no modificador. Este método permite analizar el comportamiento operativo de modelos de lenguaje grande (LLM) desplegados en tiempo real. La validación demuestra que los bytes recuperados son exactos y útiles para distinguir el rechazo del cumplimiento en pruebas.
Evaluación de cambios de estado inducidos por el movimiento en Go condicionado por instrucción
Se presenta la métrica TReC para comparar cómo dos movimientos diferentes de un modelo de Go cambian el embedding del estado del tablero. Los resultados experimentales indican que TReC muestra una correlación de rango débil con la distancia de coordenadas, con valores medianos de 0.88 a 1.33 para TReC.
Adaptación en tiempo de prueba a través de interacción humano-agente
Se propone la adaptación en tiempo de prueba a través de la interacción humano-agente (TAHI) para mejorar el rendimiento de los agentes de IA. Esta técnica integra señales de interacción para cristalizar los criterios de entrenamiento y evaluación de cada usuario. Los agentes adaptados muestran mejoras en el éxito de la tarea, y el módulo de rúbrica ayuda a detectar más fallos que los métodos tradicionales.
Ley de condensación de información de seguridad
Se presenta la ley de condensación de información de seguridad, que establece que la información de seguridad utilizable es unimodal en el tamaño del modelo. Esto implica que el error de generalización de seguridad es en forma de U y se minimiza en un tamaño de modelo óptimo finito. Los experimentos en LLMs validan esta ley, sugiriendo que existe un tamaño de modelo óptimo para resolver problemas de seguridad.
¿Pueden los LLMs mejorar su propio sistema de control? Estudio controlado sobre ARC-AGI-3
Un estudio controlado evaluó si los modelos de lenguaje frontera pueden construir y mejorar su propio sistema de control (harness) para tareas complejas. Se midió el rendimiento mediante la Eficiencia de Acción Humana Relativa (RHAE) y el costo de inferencia. Los resultados sugieren una brecha entre la construcción autónoma de sistemas de control y la adaptación fiable bajo el protocolo de dos revisiones.
Hay que reconsiderar: Aprender verificación de autoverificación multi-perspectiva para modelos de visión-lenguaje
Un artículo propone el marco MOTIVE para mejorar la fiabilidad del razonamiento multimodal en modelos visión-lenguaje mediante la autoverificación multi-perspectiva. El marco evalúa respuestas desde diferentes perspectivas de verificación y aprende una puntuación de fiabilidad para decidir si aceptar o reconsiderar una respuesta. Los experimentos demuestran que MOTIVE supera a métodos existentes y permite una autoverificación más fiable y eficiente sin depender de jueces externos.
CoPre-MoE: Consolidando y Preservando MoE para Instrucción Continua Multimodal
Se propone el MoE Consolidando y Preservando (CoPre-MoE) para mitigar la redundancia y el crecimiento de parámetros en modelos de lenguaje grandes multimodales durante el ajuste de instrucción continua. La propuesta incluye una arquitectura de experto compartido y privado y un mecanismo de enrutamiento con claves de recuperación para preservar el conocimiento histórico. Los experimentos demuestran que CoPre-MoE logra un rendimiento superior mientras reduce significativamente la sobrecarga de parámetros.