Meta lanza Muse, un agente de IA privado, mientras Estados Unidos acusa a DeepSeek y Alibaba de copiar modelos de IA estadounidenses.

Estos dos acontecimientos ponen de relieve la creciente competencia en torno a los agentes de IA y la carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces. Meta está centrando la atención en la privacidad y la seguridad de Muse, mientras que funcionarios estadounidenses expresan su preocupación por el uso que hacen las empresas chinas de los resultados de los modelos de IA.

Meta Muse lleva los agentes de IA personales a las tareas cotidianas.

Meta presentó Muse el 8 de septiembre como un agente de IA personal capaz de ir más allá de responder preguntas y realizar acciones en nombre de los usuarios. Inicialmente disponible para adultos en Estados Unidos, el servicio se puede acceder a través de una aplicación dedicada, la web y WhatsApp. Meta también planea integrar Muse en sus gafas de IA.

Meta lanzó Muse, un agente de IA proactivo para citas, compras, planificación de viajes y gestión de objetivos. Fuente: @Muse vía X

A diferencia de los chatbots convencionales, Muse está diseñado para funcionar en diversas aplicaciones conectadas y completar tareas con menos instrucciones paso a paso. Meta afirma que los usuarios pueden pedirle que envíe correos electrónicos, organice planes, reserve viajes, cree listas de compras y realice compras.

El agente funciona con Muse Spark, que Meta describe como su modelo más potente para tareas automatizadas. La compañía afirma que el sistema está diseñado para que los usuarios simplemente describan lo que quieren que se haga, en lugar de tener que aprender un flujo de trabajo complejo.

Muse fue desarrollado por Meta Superintelligence Labs, la división de IA de la compañía, creada como parte de su estrategia para competir con empresas como OpenAI y Anthropic. El lanzamiento también refleja la estrategia del director ejecutivo, Mark Zuckerberg, de convertir a los agentes de IA personales en un elemento central del ecosistema de tecnología de consumo de Meta.

La empresa afirma que Muse puede recordar la información que los usuarios deciden compartir y usarla para hacer sugerencias. Por ejemplo, puede convertir una receta guardada en Instagram en una lista de la compra o ayudar a organizar una cena basándose en las preferencias proporcionadas previamente.

Meta también integra Muse con servicios de terceros. Sus funcionalidades se extienden a correo electrónico, calendarios, compras, pagos, fitness, sistemas de hogar inteligente y otras aplicaciones, según los permisos otorgados por el usuario.

En cuanto a los pagos, Meta afirma que Muse puede trabajar con la infraestructura Link de Stripe, diseñada para proporcionar al agente un número de tarjeta de un solo uso en lugar de exponer las credenciales de pago del usuario. Meta explica que este enfoque busca reducir los riesgos asociados con permitir que un sistema de IA realice compras.

Seguro por diseño, más o menos.

La seguridad es uno de los principales argumentos de venta de Meta para Muse, ya que el agente puede requerir acceso a información significativamente más sensible que un chatbot convencional.

Según Meta, Muse funciona dentro de una máquina virtual Muse Secure dedicada, una máquina virtual en la nube de la empresa que contiene los datos y las credenciales del usuario. El entorno incluye su propio navegador y está aislado de los agentes de otros usuarios.

Zuckerberg afirma que ningún agente de IA de la competencia iguala la configuración segura y autoconfigurable de la máquina virtual en la nube de Muse. Fuente: Rohan Paul vía X

Un sistema independiente llamado Sentinel actúa como autoridad de autorización entre Muse e internet. Según Meta, Muse puede proponer una acción, pero Sentinel determina si puede llevarse a cabo en función de las políticas establecidas por el usuario. Las acciones delicadas pueden requerir aprobación explícita.

“El agente propone acciones, pero solo Sentinel puede otorgar permiso para realizar una acción”, indica la documentación técnica de Meta.

Meta también afirma que Muse no tiene acceso directo a las contraseñas ni a la información de pago de los usuarios. Los usuarios pueden decidir a qué aplicaciones puede acceder el agente y qué permisos recibe. Posteriormente, pueden modificar esos permisos o desconectar los servicios.

La empresa afirma que Muse mantiene un registro de auditoría de sus acciones y no comparte las conversaciones ni los datos almacenados en la máquina virtual del usuario con los sistemas publicitarios de Meta. Los usuarios también pueden optar por no permitir que sus interacciones se utilicen para entrenar los modelos de IA de Meta.

No obstante, el modelo de seguridad plantea una cuestión importante sobre hasta qué punto los usuarios deben confiar en Meta. La empresa ha reconocido que su arquitectura inicial de máquina virtual segura no proporciona el mismo nivel de aislamiento criptográfico que un sistema en el que el usuario controla exclusivamente las claves de cifrado.

Meta afirma que planea lanzar Muse Confidential VM a finales de este año. Con este sistema, la máquina virtual y sus datos estarían cifrados con una clave controlada por el usuario, lo que significa que Meta no podría acceder al contenido del entorno.

Este problema cobra especial relevancia a medida que los agentes de IA se vuelven capaces de realizar acciones en el mundo real. Otorgar a un agente acceso al correo electrónico, servicios financieros, calendarios y otros sistemas personales plantea un desafío de seguridad diferente al de usar un chatbot simplemente para generar texto.

El lanzamiento de Meta se produce en medio de un mayor escrutinio de los sistemas de IA autónomos, incluyendo preocupaciones sobre la inyección instantánea de código, las acciones no autorizadas y la posibilidad de que los agentes interactúen con servicios externos de forma inesperada. Meta afirma haber desarrollado Muse teniendo en cuenta estos riesgos y haber incluido medidas de seguridad destinadas a restringir la actividad externa.

Muse es inicialmente gratuito para la mayoría de los usuarios, mientras que Meta también ofrece opciones de pago para quienes buscan un uso más avanzado. La compañía afirma que el servicio se está implementando en Estados Unidos para iOS, Android y la web, y que se prevé la compatibilidad con gafas con inteligencia artificial.

Estados Unidos acusa a empresas chinas de IA de copiar maliciosamente tecnología estadounidense.

El lanzamiento de Muse coincide con el día en que funcionarios estadounidenses acusaron a seis empresas de IA con sede en China de llevar a cabo lo que describieron como esfuerzos a escala industrial para extraer capacidades de los modelos de IA estadounidenses.

El gobierno estadounidense acusa a empresas chinas de IA de realizar una “destilación” a escala industrial utilizando los resultados de los principales sistemas de IA estadounidenses. Fuente: Reuters vía X

Entre las empresas señaladas por las autoridades estadounidenses se encuentran DeepSeek , Moonshot AI y Alibaba. Las acusaciones se centran en una técnica conocida como destilación de modelos de IA, en la que los resultados de un modelo más grande se utilizan para entrenar otro modelo.

La destilación es una técnica legítima utilizada en la investigación de la IA. Sin embargo, el gobierno estadounidense alega que las empresas se apropiaron de capacidades patentadas de los principales sistemas de IA estadounidenses para reducir el costo y el tiempo necesarios para desarrollar modelos de la competencia.

En un comunicado conjunto sobre ciberseguridad, la NSA, el FBI y la CISA afirmaron que empresas con sede en China estaban llevando a cabo "actividades agresivas de destilación a escala industrial" contra los modelos de IA de vanguardia estadounidenses. Las agencias señalaron que esta actividad podría permitir a los desarrolladores chinos reducir la brecha tecnológica sin incurrir en los mismos costos de investigación, computación e infraestructura que implica el desarrollo independiente de modelos de vanguardia.

Funcionarios estadounidenses afirmaron que las empresas habían atacado modelos desarrollados por compañías estadounidenses de IA, como Anthropic, OpenAI y las operaciones de IA de Google. El informe de Reuters también indicó que los funcionarios alegaron que la actividad probablemente se llevó a cabo con el conocimiento del gobierno chino.

Las acusaciones van más allá de la competencia comercial. Funcionarios estadounidenses argumentaron que el acceso a capacidades avanzadas de IA podría tener implicaciones para las capacidades militares y cibernéticas de China.

Según Reuters, "esta tecnología podría utilizarse para mejorar las capacidades militares y de ciberataque de China", afirmaron los funcionarios en su comunicado.

Según informó Reuters, la embajada china en Washington no respondió de inmediato a las solicitudes de comentarios sobre las acusaciones.

La disputa surge en un momento delicado de las relaciones entre Estados Unidos y China. Washington y Pekín se preparan para dialogar sobre la seguridad de la IA, y se espera que el presidente Donald Trump y el presidente chino Xi Jinping se reúnan a finales de septiembre, según Reuters.

Las acusaciones no son del todo nuevas. Funcionarios estadounidenses hicieron afirmaciones similares a principios de este año, mientras que Reuters informó en julio que investigadores militares chinos habían utilizado resultados de los principales sistemas de IA estadounidenses para ayudar a entrenar modelos de IA nacionales.

Sin embargo, las últimas acusaciones ponen de manifiesto la rapidez con la que la carrera por la IA ha trascendido el mero rendimiento de los modelos. El acceso a modelos avanzados, recursos informáticos, datos propios y la capacidad de desplegar agentes de IA se están convirtiendo cada vez más en cuestiones estratégicas tanto para las empresas tecnológicas como para los gobiernos.

Para Meta, Muse representa un paso más hacia un modelo de IA capaz de interactuar activamente con el mundo digital, en lugar de limitarse a responder a comandos. Para los responsables políticos estadounidenses, las acusaciones contra las empresas chinas de IA demuestran la creciente preocupación de que el acceso a capacidades avanzadas de IA pueda influir tanto en la competitividad comercial como en la seguridad nacional.

Ambos avances apuntan a un mismo cambio general: la IA está pasando cada vez más de generar información a ser capaz de tomar medidas. A medida que esta transición se acelera, la seguridad, el control de datos y la procedencia de la tecnología de IA se vuelven tan importantes como los propios modelos subyacentes.