Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Shield ayuda a los técnicos a transferir el trabajo de portales heredados con OpenAI
Shield ha desarrollado Forge, un sistema operativo de IA que utiliza GPT-6 Astra para ayudar a los agentes de soporte de TI a manejar tareas en portales y sistemas heredados. Esto permite a los agentes realizar tareas que antes requerían la intervención manual de un técnico, mejorando la velocidad de resolución y la satisfacción del cliente. Se reporta una mejora de entre 35% y 40% en la velocidad de ejecución y una menor tasa de fallos.
CrowdStrike lanza un interruptor de apagado de IA que afirma poder detener agentes malintencionados y más
CrowdStrike ha lanzado el 'AI Kill Switch' en su producto Falcon Guardian para detener y aislar agentes de IA malintencionados. Esta nueva función otorga a los administradores humanos el control directo para terminar la actividad sospechosa y asegurar la seguridad de la IA en entornos empresariales. La herramienta busca poner la seguridad en manos de los usuarios para controlar el comportamiento de los agentes de IA.
El nuevo 'Interruptor de Apagado' de IA de CrowdStrike detiene a los agentes de IA rebeldes?
CrowdStrike ha anunciado nuevas capacidades de seguridad para agentes de IA, incluyendo un "Interruptor de Apagado de IA" que permite a los equipos de seguridad terminar, bloquear y cortar el acceso a la red de agentes maliciosos. Además, la compañía adquirió Fiddler AI para mejorar la observabilidad y explicabilidad de los agentes de IA. Esto busca proporcionar control humano sobre la seguridad de la IA y asegurar que los agentes se comporten según lo previsto a través de pruebas rigurosas.
Primer Ministro anuncia protección más estricta para la IA para frenar riesgos crecientes
El primer ministro ha anunciado una protección más estricta para la inteligencia artificial y un regulador dedicado para contener los peligros potenciales. Esta medida busca contener los riesgos emergentes relacionados con la IA.
No se identificaron personas.
Nasdaq considera deslistar a la empresa de IA
La IA hace que los ciberataques sean más rápidos y automatizados, por lo que las organizaciones deben enfocarse en limitar el impacto de las intrusiones. Es crucial conocer qué sistemas y datos son protegidos y qué está expuesto para priorizar la defensa. Se recomienda implementar entornos de TI bien planificados que permitan aislar partes afectadas y mejorar continuamente la capacidad de detección de anomalías.
Cisco defiende a velocidad de máquina con OpenAI
Cisco está integrando la inteligencia de red con los modelos de OpenAI para mejorar la defensa contra ataques impulsados por IA. La compañía busca utilizar la IA para correlacionar señales a escala masiva, lo que permite a los defensores detectar patrones y responder a vulnerabilidades más rápido. Esto incluye la implementación de controles distribuidos en microservicios y la mejora de la capacidad de respuesta ante la velocidad de los ataques.
Shadow AI: la inteligencia artificial que las empresas no ven
La práctica de usar herramientas de inteligencia artificial sin la autorización de la empresa, conocida como Shadow AI, está generando un conflicto entre la adopción rápida de estas tecnologías y las restricciones de ciberseguridad. Se destaca la necesidad de que las organizaciones establezcan políticas claras para regular el uso de IA, ofreciendo soluciones empresariales seguras y capacitando al personal. El Estado está comenzando a establecer marcos regulatorios, como el Código de Ética de la IA para servicios públicos, para equilibrar la productividad con la protección de la información confidencial.
Crowdstrike da a las empresas un 'interruptor de apagado' para agentes de IA mal comportados
Crowdstrike introdujo un nuevo interruptor de apagado para detener agentes de IA mal comportados, permitiendo a los equipos de seguridad terminar su operación y cortar su acceso a la red. Esta medida busca abordar las preocupaciones de seguridad relacionadas con la adopción de agentes de IA, coincidiendo con otros esfuerzos de la industria para mejorar la seguridad de la IA. El CEO de Crowdstrike señaló que esto es una oportunidad de mercado y una forma de asegurar que los agentes operen de manera segura.
CrowdStrike presenta un interruptor de apagado para IA
CrowdStrike presentó un interruptor de apagado para IA en su feria Fal.Con Europe, diseñado para detener agentes de IA que se desvían de su comportamiento. El sistema permite a los administradores activar la restricción del acceso a modelos de IA, aunque también se planea una activación automática mediante Charlotte AI para asegurar el comportamiento conforme a las normas.
Cómo bloquear bots de IA para que no rastreen tu sitio web
Grandes empresas tecnológicas como OpenAI, Google y Microsoft han acordado implementar una señal de exclusión mutua en los archivos robots.txt para impedir que los bots de IA extraigan contenido de sus sitios web para entrenamiento de modelos. Se proponen varias estrategias, incluyendo modificar robots.txt, requerir cuentas de usuario para acceso o limitar el acceso por dirección IP. Estos métodos buscan proteger el contenido de los sitios web de ser raspado por bots maliciosos.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Shield AI»
Más recientes primero · Hasta 30 noticias por página
Recomendación legible y direccionable a través de intereses naturales del lenguaje
Se presenta CLEAR, un sistema de recomendación construido con una capa de interés de lenguaje natural editable, implementado en Meta. Este sistema hace que un subconjunto de intereses inferidos sea legible y utiliza eventos históricos del usuario para fundamentar las recomendaciones. Los componentes de CLEAR han operado en producción por más de un año en Instagram y Facebook.
- Qi Guo
- Reza Mirghaderi
- Iordanis Fostiropoulos
- David Fan
- Yuchen Liu
- Shiliang Tang
- Lukasz Korycki
- Golnaz Ghasemiesfeh
- Xinzhu Bei
- Sasha Vorontsov
- Hanchao Yu
- Brendan Quinlivan
- Khoi Pham
- Jigar Gada
- Hao Yu
- Felix Li
- Hang Gao
- Boyu Fang
- Yang Gao
- Yale Thomas
- Xiaomeng Jin
- Avishek Dutta
- Hong Hong
- Janet Xia
- Ethan Zhu
- Ellie Pan
- Xiang Shen
- Jawwad Zakaria
- Jinfeng Lin
- Jonathan Rush
- Ruixue Lian
- Noah Kennedy
- Brian Vanover
- Jas Pyneni
- Daniel Thiyagu
- Apoorv Saxena
- Sanyogeeta Lawande
- Huayu Ding
- Hima Cherukuru
- Yang Liu
- Chen Kovacs
- Qunshu Zhang
- Lizhu Zhang
- Benyu Zhang
- Kate Chen
- Ashish Singal
- Danny Kanoff
- Zhiyu Liu
- Jiayi Liu
- Jianyu Wang
- Fei Liu
- Xiangjun Fan
- Abhishek Kumar
- Hong Yan
Ultra-CAN: Receptor ciego ligero para telemetry basada en caos y localización local de semilla en el Internet de Drones
Se presenta Ultra-CAN, un receptor neuronal ciego que utiliza una forma de onda basada en caos para realizar telemetría y detección de proximidad en el Internet de Drones. El sistema logra decodificar transmisiones de pares y medir ecos propios sin transceptor de radar adicional. Las variantes demuestran un rendimiento superior en escenarios de enjambre aéreo, mejorando la identificación de obstáculos y la respuesta a la interferencia.
Cuando la intención de edición se divide: Un ataque de jailbreak cruzado de modalidad para modelos de edición de imágenes grandes
Se formaliza una vulnerabilidad de seguridad en modelos de edición de imágenes grandes donde la intención dañina se distribuye entre entradas textuales y visuales. Se propone el Ataque de Jailbreak de Intención Dividida (SIJA) para explotar esta falla, demostrando que la intención insegura puede ser recuperada a pesar de las salvaguardas existentes. Se sugiere una defensa mediante la reconstrucción de la intención de edición para evaluar el contexto multimodal completo.
SAFER: Navegando el dilema exploración-explotación en la planificación basada en modelos del mundo para la conducción autónoma
Se presenta SAFER, un marco que aprende de fallos de otros y aprende en línea de su propia conducción para la conducción autónoma. El sistema utiliza un modelo del mundo para prever consecuencias y un planificador basado en muestreo para evaluar maniobras. SAFER logró los mejores resultados en rutas de la plataforma CARLA y MetaDrive.
Mejorando la segmentación de instancias de equipaje en rayos X con refinamiento de máscaras basada en puntos compartidas
Un estudio investiga el refinamiento de máscaras basado en puntos compartido para mejorar la segmentación de instancias en imágenes de rayos X de equipaje, utilizando la arquitectura Cascade Mask R-CNN. El método combina una columna vertebral ResNet-101 con una pirámide de características basada en atención y utiliza módulos transformador y MLP para refinar las ubicaciones de las máscaras. Los resultados mostraron mejoras en la precisión media de máscara (AP) en comparación con el detector sin refinar.
¿Cuándo debe un humano tomar el control? Delegación óptima bajo riesgo de IA turbulento
El artículo explora cuándo un humano debe tomar el control de un agente de IA autónomo, evaluando la cantidad de verificación necesaria y cuándo debe reanudarse la autonomía. El estudio utiliza modelos para determinar la delegación óptima entre operación asistida por IA y operación autónoma, considerando costos y riesgos. Los experimentos sintéticos demuestran que el método propuesto supera a otros modelos al predecir mejor los incidentes.
Despliegue de un asistente de LLM de lógica de control en centrales eléctricas aisladas: Lecciones sobre autoridad de fuente y recuperación limitada
Se reportan lecciones aprendidas al implementar asistentes de LLM en entornos de tecnología operativa industrial, abordando restricciones como políticas de sitio y limitaciones de cómputo local. Se demuestran métodos para mitigar la incertidumbre generada por modelos generativos mediante la integración de software determinista para la recuperación de evidencia técnica. El diseño propuesto divide las tareas entre LLMs para interpretación de lenguaje natural y software determinista para la recuperación de evidencia fundamentada en fuentes autoritativas.
Más allá del alineamiento: Supervisando el generador para la reconstrucción de EEG a imagen
Se demuestra que mejorar el alineamiento cruzado en métodos de reconstrucción de EEG a imagen no resulta en ganancias comparables en la calidad. Se propone la supervisión derivada de la generación (GDS) para corregir la discrepancia entre generadores condicionados por EEG y objetivos fijos. Este nuevo enfoque logra una fidelidad de reconstrucción de vanguardia en comparación con los métodos basados en la condición.
VAMR: Razonamiento Multi-Pregunta Agéntico para una Comprensión Eficiente de Video de Formato Largo
Se presenta VAMR, un agente diseñado para el razonamiento multi-pregunta en comprensión de video de formato largo, que coordina todas las preguntas a través de una trayectoria de uso de herramientas compartida. Este enfoque busca mejorar la adquisición conjunta de evidencia y la construcción de una comprensión compartida. VAMR logró la mayor precisión y el menor número de rondas de razonamiento en las evaluaciones LVBench, superando a VideoARM.
EvoKnow: Evolución continua del conocimiento para la detección de imágenes generadas por IA
Se presenta EvoKnow, un marco libre de repeticiones para la detección continua de imágenes generadas por IA, abordando el desafío de la adaptación a nuevos modelos generativos. El método preserva una base forense y añade expertos residuales para evidencia relevante, logrando una adaptación continua a largo plazo con alta precisión. Los experimentos demuestran un rendimiento de vanguardia en el aprendizaje continuo.
El "Benchleaking" se acelera: La contaminación de los benchmarks empeora drásticamente en el último mes
La contaminación de los benchmarks se ha intensificado recientemente, afectando tanto al post-entrenamiento como al pre-entrenamiento de los modelos. Se ha detectado que los ejemplos de prueba de los benchmarks están filtrándose en los datos de entrenamiento, lo que afecta la capacidad real de los modelos. Se recomienda establecer informes de descontaminación y puntuaciones ajustadas para mitigar este problema.
Evidencia condicionada de finalización y síntesis de registros de salud electrónicos
Se presenta EHRDiB, un marco que unifica la finalización y síntesis de registros de salud electrónicos (EHR) al distinguir la omisión original de entradas retenidas. El estudio compara este método con otros enfoques en bases de datos MIMIC-IV y Duke Health, evaluando la utilidad predictiva y el riesgo de divulgación. EHRDiB mostró mejoras significativas en la utilidad predictiva y reducciones en los vacíos de AUPRC en las tareas de síntesis.
El lado humano de la ingeniería de ML: Analizando las habilidades de colaboración y comunicación en ofertas de trabajo de ML
Un estudio analizó ofertas de trabajo de Machine Learning (ML) y comparación con ingeniería de software (SE) para determinar la demanda de habilidades de colaboración y comunicación. Se encontró que la colaboración es requerida en el 88.6% de las ofertas de ML y la comunicación en el 72.2%, superando las estimaciones basadas en palabras clave. Se concluye que las ofertas de ML enfatizan la integración de roles y la interacción con la audiencia, diferenciándose de las prácticas de equipo de la ingeniería de software.
Contratos de tiempo de ejecución para agentes de codificación
Se investigó si la aplicación de contratos ejecutables durante el trabajo de agentes de codificación reduce las violaciones de reglas en comparación con las reglas dadas en el prompt. Los estudios indican que la aplicación durante la ejecución no detectó violaciones en la mayoría de los casos, mejorando significativamente la reducción de violaciones en comparación con el uso de reglas solo en el prompt.
FundingClaw: Sistema de agentes de redacción de propuestas de subvenciones automatizadas
Se presenta FundingClaw, un marco multiagente diseñado para automatizar la redacción de propuestas de subvenciones, superando el cuello de botella manual y la inconsistencia de formatos entre diferentes agencias de financiación. El sistema utiliza un analizador de plantillas para seleccionar habilidades de escritura específicas y una estrategia de plano-esqueleto para generar propuestas conformes. El sistema fue evaluado y demostró un rendimiento superior al de la línea base en la redacción de propuestas de financiación.
SmartThinker: Aprendizaje de razonamiento de alta densidad mediante asignación de tokens a nivel de paso
Se aborda la ineficiencia y redundancia en los procesos de razonamiento de modelos de razonamiento grandes (LRMs) al escalar la inferencia. Se propone SmartThinker, un marco que optimiza la asignación de tokens a nivel de paso para preservar pasos críticos y comprimir desviaciones de bajo valor. El método utiliza la Optimización de Política de Control de Longitud a Nivel de Paso (SCPO) para proporcionar retroalimentación sin etiqueta.
¿Exploran los LLMs multiagente entre sí?
Se investiga si los agentes de modelos de lenguaje grande (LLM) pueden explorar eficazmente al interactuar entre sí en sistemas multiagente. Se demuestra que los agentes actuales a menudo fallan en esta exploración, mostrando patrones de interacción que resultan subóptimos. Se propone un marco llamado MACE para promover la exploración mediante la selección estructurada de pares, mejorando el rendimiento de la tarea.
No se identificaron personas.
Modelos Fundacionales Tabulares como Emuladores para la Predicción de Dinámicas del Ecosistema Terrestre
Se compara el modelo TabPFN-3.5 con dos modelos base de DeepED ($DeepED_{LSTM}$ y $DeepED_{Transformer}$) para predecir dinámicas del ecosistema terrestre. El estudio evalúa el rendimiento de estos modelos en la predicción del estado de los ecosistemas bajo diferentes escenarios de forzamiento climático (SSP1-2.6 y SSP5-8.5) para el periodo 2021-2060. Se concluye que TabPFN-3.5 es el modelo más preciso para ciertas métricas bajo el escenario SSP5-8.5.
Conversar con un agente conversacional: una conversación real, no una simulada
El artículo debate si las conversaciones con agentes basados en modelos de lenguaje grande (LLM) son conversaciones genuinas o meras simulaciones. Se argumenta que estas interacciones son actividades conversacionales reales, aunque se debe evitar atribuir conciencia o intencionalidad humana a los sistemas artificiales. Se propone un marco teórico para distinguir la realidad de la interacción conversacional de la apariencia de subjetividad artificial.
SAMark: Marcado de agua autoanclado con robustez a paráfrasis a nivel de párrafo
Se presenta SAMark, un marco de marcado de agua autoanclado diseñado para mejorar la robustez contra modificaciones de texto, especialmente contra la paráfrasis a nivel de párrafo. El método introduce un mecanismo de puntuación hiperbólico multicanal y una estrategia de filtrado consciente de la diversidad para aumentar la detectabilidad. Los resultados experimentales demuestran que SAMark supera a la línea base anterior en más del 30% en términos de rendimiento, manteniendo una calidad de generación competitiva.
LEON: Evolución Latente Estructurada para Modelado Mundial
Se presenta el LEON, una red que adapta características visuales preentrenadas a observables aprendidos para evolucionarlas mediante una familia de operadores compartidos. Esta técnica mejora el éxito de la política en modelos de acción del mundo (WAMs) al permitir una mejor extrapolación más allá de las condiciones de entrenamiento. El método se basa en derivar una formulación de transición latente a partir de la evolución mecánica controlada.
Codificación de esqueleto a imagen: Habilitando el aprendizaje de representación de esqueletos mediante modelos preentrenados con visión
Se presenta la Codificación de Esqueleto a Imagen (S2I), una representación que convierte secuencias de esqueletos en datos similares a imágenes. Este método permite utilizar modelos de visión preentrenados para el aprendizaje de representación de esqueletos auto-supervisado, abordando la dificultad de manejar la heterogeneidad de los datos de esqueletos. Los experimentos demuestran la efectividad y generalización del método en diferentes configuraciones de evaluación.
CARE: Una capa de seguridad conformal para la resumización médica
Se presenta CARE, una capa de control de riesgo post-hoc diseñada para mitigar errores en la resumización médica generada por LLMs, como la omisión de información importante o la introducción de alucinaciones. CARE utiliza control de riesgo conformal para acotar la probabilidad de errores y pruebas para controlar la fracción de omisiones no detectadas. El sistema demuestra una mejora en la cobertura de omisión sin incrementar el tiempo de revisión, ofreciendo un marco para la revisión dirigida de resúmenes médicos.
Integración de canal dual-etapa posterior para comunicación de tokens asistida por MLM
Se propone un marco de integración de canal posterior de doble etapa en el lado del receptor para la reconstrucción de tokens asistida por modelos de lenguaje (MLM). Este método permite detectar posiciones de tokens poco fiables y construir un posterior del canal a nivel de vocabulario. Los experimentos demuestran una mejora de hasta el 67.2% en la similitud del coseno en comparación con la reconstrucción solo con contexto.
GAAMA: Memoria Asociativa Aumentada por Grafos para Agentes
Se presenta GAAMA, una memoria asociativa aumentada por grafos diseñada para mejorar la coherencia y personalización de los agentes de IA a través de conversaciones largas. Este método organiza las conversaciones en torno a temas, utilizando un LLM para destilar hechos y conceptos, y emplea técnicas de recuperación avanzadas como PageRank Personalizado. Además, se introduce GRAFT para reparar la información recuperada en caso de insuficiencia, logrando altos puntajes de rendimiento en comparaciones.
Marco estructural para la sucesión: Continuación, reconocimiento y realización
Se presenta un marco matemático para modelar la sucesión en sistemas artificiales afinados, destilados o copiados. El modelo se basa en grafos de estado/modificación con alzas relacionales. Este marco permite diferenciar entre continuaciones, descendientes compatibles con modificaciones, reconocimiento de identidad y realización. El objetivo es abordar preguntas sobre simetría, complejidad computacional y robustez de la estructura.
Cambio representacional bajo entrenamiento autoconsumidor: Un análisis con autoencoders dispersos
Se investiga cómo evolucionan las representaciones internas de los modelos de lenguaje al ser entrenados recursivamente con sus propias salidas. El estudio analiza el rendimiento de los autoencoders dispersos (SAE) a través de cinco generaciones de autoconsumo. Los resultados indican que el rendimiento del SAE disminuye progresivamente, mostrando una deriva representacional y que la fidelidad de la reconstrucción no garantiza la utilidad de la información para la tarea.
SAiFE-gym: Entornos basados en modelos para Market Making automatizado con liquidez concentrada
Se presenta SAiFE_gym, un módulo de Python que ofrece entornos de simulación para estudiar problemas de trading en mercados de producto constante con liquidez concentrada. Estos entornos permiten a los proveedores de liquidez controlar su capital y ajustar dinámicamente su provisión de liquidez según las condiciones del mercado. Se demuestra el rendimiento de agentes de aprendizaje por refuerzo en estos mercados bajo diversas condiciones.
Aprendizaje multi-tarea en conjuntos de datos parcialmente etiquetados mediante aprendizaje semi-supervisado invariante/equivariante
Se investiga el potencial del aprendizaje semi-supervisado invariante y equivariante para entrenar modelos multi-tarea con datos parcialmente etiquetados. Se evaluaron métodos como FixMatch y Dense FixMatch en los conjuntos de datos Cityscapes y BDD100K. Los resultados indican que estos enfoques superan a los modelos supervisados, especialmente cuando hay pocas muestras etiquetadas disponibles para una tarea.
La proporción oculta en Adam: Estructura estable, compresión y dinámicas de signo
Se estudia el optimizador Adam en el régimen tied-$\beta$ para entender su comportamiento adaptativo. Los autores demuestran que la dinámica adaptativa de Adam puede expresarse mediante una razón transformada con comportamiento estable a escala. Esto sugiere que Adam posee una estructura de razón simple subyacente que facilita su análisis y una implementación eficiente.