Navegadores Agentic: sin garantía de seguridad

Hace dos días, Anthropic lanzó una extensión de Chrome que permite usar a Claude como agente de IA . Actualmente, solo está disponible para 1000 suscriptores del plan Max, ya que se trata de una tecnología experimental. Según el investigador Simon Willison (quien acuñó el término "inyección de avisos" en 2022), los navegadores basados ​​en agentes nunca serán completamente seguros.

Nunca habrá un navegador de IA seguro

Claude para Chrome (escritorio) es una extensión que permite al chatbot leer, hacer clic y navegar por sitios web en nombre del usuario. Anthropic es consciente de los riesgos asociados. El anuncio indica que deben abordarse varias vulnerabilidades antes de que la extensión esté disponible para todos. En particular, los navegadores basados ​​en agentes son susceptibles a ataques de inyección de aviso .

Como demostraron los expertos de Guardio y Brave con Perplexity Comet, los ciberdelincuentes pueden ocultar avisos en correos electrónicos, mensajes, páginas web, publicaciones en redes sociales y comentarios que el agente de IA ejecuta sin la intervención del usuario. Esto les permite robar datos personales, iniciar sesión en cuentas o realizar compras.

Anthropic ha publicado una lista de otros riesgos, como la mala interpretación de instrucciones y las respuestas incorrectas. La empresa californiana realizó 123 pruebas que representan 29 tipos de ataques. Sin mitigaciones, los ataques tuvieron éxito en el 23,6 % de los casos. Tras aplicar mitigaciones, el porcentaje se redujo al 11,2 %.

Según el investigador Simon Willison , el 11,2 % sigue siendo un porcentaje catastrófico. Anthropic enfatiza que la extensión de Chrome estará disponible para todos una vez que el porcentaje se acerque a cero. Sin embargo, Willison cree que los navegadores basados ​​en agentes nunca podrán garantizar una seguridad del 100 % .