La carrera para proporcionar agentes de IA para tareas tediosas está en marcha, pero ¿deberíamos confiarles nuestros datos?

El lanzamiento de un nuevo conjunto de herramientas para obtener información y realizar tareas en línea promete reinventar la búsqueda tradicional y llevar los chatbots de IA al siguiente nivel. Sin embargo, plantea importantes dudas sobre su fiabilidad y seguridad.

OpenAI, creadores del popular chatbot ChatGPT, impulsado por IA, comenzó a implementar ChatGPT Agent a principios de este mes, y otras importantes empresas de IA están lanzando herramientas similares. Esperan que los usuarios adopten la IA agentic, una tecnología diseñada para actuar como un asistente personal virtual o, como se conoce actualmente, un agente de IA.

"Por lo tanto, un agente de IA toma acciones en gran medida autónomas en función del objetivo que se le asigne", dijo la futurista canadiense Sinead Bovell en una entrevista con CBC News.

"No es necesario decirle cómo debe buscar información, hacer un plan, reservar un vuelo, etc.", dijo Bovell, fundador de la empresa de educación tecnológica WAYE, que asesora a organizaciones sobre tecnologías emergentes.

¿Qué son los agentes de IA?

ChatGPT Agent, que actualmente solo está disponible para la mayoría de los suscriptores pagos, reúne dos herramientas que OpenAI ha estado desarrollando: Deep Research, una herramienta de búsqueda avanzada que ya se utiliza en ChatGPT, y Operator, que se supone que completa tareas en línea para los usuarios interactuando con sitios web.

Los usuarios acceden al agente a través del chatbot ChatGPT familiar, pero ChatGPT Agent funciona en su pantalla a través de su propio navegador virtual y computadora.

El objetivo general de la IA agente es realizar tareas en línea de una manera más natural y eficiente.

Por ejemplo, en lugar de pasar horas buscando en diferentes sitios web de aerolíneas tratando de encontrar el vuelo más económico, usar un agente de IA sería como interactuar con un asistente administrativo de confianza que hace la tediosa búsqueda por usted y luego le presenta las mejores opciones.

La fiebre del oro de la IA agente

La IA agentica ha estado generando mucho calor en los círculos de IA, con varios actores importantes persiguiéndola.

"Los agentes de IA se consideran el siguiente paso en la evolución hacia una sociedad que priorice la IA, o la era de la IA", afirmó Bovell. "Así que, en cierto modo, son el santo grial y donde reside la mayor competencia".

Google, por ejemplo, ha estado desarrollando su agente de inteligencia artificial Project Mariner, que anunció a fines de 2024. En mayo, Google dijo que estaría disponible para aquellos en EE. UU. que pagaron por su nivel de inteligencia artificial más alto.

Sundar Pichai, director ejecutivo de Google y Alphabet, dijo en una conferencia de Google en mayo que la compañía ha logrado muchos avances desde entonces.

Primero, introducimos la multitarea, y ahora puede supervisar hasta 10 tareas simultáneas. Segundo, utiliza una función llamada "Enseñar y Repetir". Aquí, al mostrarle una tarea una vez, aprende un plan para tareas similares en el futuro.

Perplexity, una empresa de motores de búsqueda basados en IA, lanzó Comet, su navegador agentic, a principios de julio, con Comet Assistant. Comet está disponible para suscriptores de pago seleccionados. Otras empresas más pequeñas también trabajan en el sector agentic.

El factor de fiabilidad

Como puede atestiguar cualquiera que haya usado chatbots de IA, estos sistemas cometen errores. ¿Qué implicaciones tiene esto para la fiabilidad de las herramientas diseñadas para realizar tareas en tu nombre?

"Cada vez que un agente de IA hace algo, como reservar un vuelo, completar un formulario, crear una página web o responder un correo electrónico, necesita una comprensión bastante precisa de lo que está sucediendo", explicó el científico cognitivo, autor y emprendedor de IA, Gary Marcus, por correo electrónico.

"Incluso un pequeño error, como reservar un billete no reembolsable equivocado, puede salir caro", dijo.

"La realidad es que estos sistemas dicen cosas que parecen correctas, porque imitan el habla humana, pero a menudo los detalles son erróneos".

Barandillas

Al lanzar su agente ChatGPT, el propio OpenAI advirtió sobre el problema de los errores o el riesgo de que el agente pudiera ser engañado.

En el lanzamiento del 17 de julio, el investigador de OpenAI, Casey Chu, dio un ejemplo de un agente de IA que podría toparse con un sitio web malicioso que le pide ingresar información de tarjeta de crédito.

Un agente entrenado para ayudar podría considerarlo una buena idea. Hemos trabajado arduamente para garantizar que esto no suceda. Hemos entrenado a nuestro modelo para que ignore instrucciones sospechosas en sitios web sospechosos.

Al usar agentes de IA, los usuarios necesitarán un control que les permita intervenir, corregir y verificar para evitar acciones perjudiciales. Ya podemos ver cómo se está desarrollando esto.

El Agente de ChatGPT, por ejemplo, cuenta con el modo Takeover, que permite al usuario ingresar manualmente la información de la tarjeta de crédito. Chu también señaló que el agente le solicitará confirmación en el último paso.

Aun así, algunos tienen profundas preocupaciones de seguridad. En marzo, Meredith Whittaker, presidenta de Signal, la aplicación de mensajería centrada en la privacidad, declaró ante la audiencia de la conferencia tecnológica SXSW que «existe un profundo problema de seguridad y privacidad» en el uso de IA agencial.

Para que un agente de IA sea realmente útil como asistente personal, necesitaría acceder a cosas como su calendario, sus contactos, su correo electrónico.

¿El fin de Google?

Google tiene mucho que ganar o perder en la lucha por la IA agentica, ya que ha sido el actor dominante en la forma en que las personas obtienen información en línea durante tanto tiempo. La IA parece ser el núcleo de su estrategia para mantenerse a la vanguardia de sus competidores.

Google ha comenzado a implementar el Modo IA, que incorpora más funciones basadas en IA que permiten a los usuarios, como realizar consultas más largas y complejas. Su agente de IA, Project Mariner, se incluirá próximamente en el Modo IA.

Si bien Google se hizo famoso ayudando a los usuarios humanos a obtener información de manera rápida y sencilla, la forma en que obtenemos información está cambiando.

Bovell dice que los navegadores de Internet actuales no están diseñados para la era de la IA.

"Están diseñados para el tráfico humano. Espectadores humanos, humanos que miran ciertas páginas web", dijo.

Hemos llegado al principio del fin del papel de los humanos como principales usuarios de Internet.

Un nuevo estudio del Pew Research Center sugiere que quienes leen los resúmenes de IA de Google ya han reducido las visitas a sitios web. Los usuarios que no vieron un resumen de IA hicieron clic en enlaces a sitios web casi el doble que quienes sí lo vieron.

Esto tiene grandes implicaciones para cualquier creador de contenidos que dependa del tráfico de los motores de búsqueda para atraer visitas a sus anuncios en línea.

Actualmente, los sistemas de agentes de OpenAI, Google y Perplexity están vinculados a niveles de pago. Por lo tanto, aún no se sabe si estas herramientas estarán disponibles gratuitamente o si se adoptarán ampliamente.

En un futuro próximo, los usuarios tendrán que equilibrar la utilidad de las funciones con la necesidad de supervisión y el coste.

Pero, en última instancia, las reglas que rigen un futuro en el que agentes de IA actúen en nuestro nombre aún no están escritas, algo que preocupa a gente como Bovell.

Quizás me sorprende un poco que aún no hayamos solucionado algunas de las vulnerabilidades de seguridad y privacidad, y los desafíos que presentan los errores y los sistemas de IA que siguen inventando cosas, pero seguimos avanzando a toda máquina con los agentes de IA.