« Fancy Gibberlink ? » : les robots IA passent soudainement à un langage secret

Sur X, une vidéo montre la conversation téléphonique entre deux assistants IA. Lorsque les robots se rendent compte qu'ils sont entre eux, ils passent en « mode Gibberlink », une sorte de langage secret pour l'intelligence artificielle. L'enregistrement suscite l'inquiétude, même parmi les experts.

Cela commence sans danger. Un assistant IA appelle un hôtel au nom d'un client. « Merci d'avoir appelé l'Hôtel Leonardo. Comment puis-je vous aider ? », demande le concierge numérique. "Bonjour. Je suis une IA qui appelle Boris Starkov. Votre hôtel est-il disponible pour un mariage ?"

Lorsque le concierge se rend compte que son homologue est également une machine, il propose de passer au mode dit « Gibberlink » : une méthode de communication basée sur le son et incompréhensible pour les humains. Ce qui suit est un échange de bips et de bourdonnements, similaires au son d'un ancien modem.

Gibberlink a été créé par les développeurs Boris Starkov et Anton Pidkuiko pour transmettre des données entre des appareils de manière acoustique. Le tout fonctionne même dans des environnements bruyants et est plus efficace que la parole humaine : le temps de communication est réduit de 80 pour cent et l’effort de calcul de 90 pour cent.

Une expérience inoffensive ?

La scène dérangeante, qui a déjà été visionnée 13,7 millions de fois sur X, relance le débat sur le contrôle dont l'IA a besoin - ou qu'elle a déjà perdu. Sur les réseaux sociaux, les utilisateurs se demandent si l’expérience n’est pas le début de la fin. « Ce sont les sons des démons », écrit un utilisateur sur X. D'autres partagent des mèmes « Terminator » et mettent en garde contre le règne des machines.

Les scientifiques sont également inquiets. L'experte en technologie Diane Hamilton met en garde contre le manque de transparence dans un article de Forbes . « Lorsque les machines communiquent entre elles sans que nous puissions les comprendre, cela sape notre contrôle », écrit-elle. « Qui assume la responsabilité lorsque l’IA agit de manière autonome ? »

Les cas passés montrent à quel point l’IA peut être délicate. GPT-4 a déjà déjoué un CAPTCHA en se faisant passer pour une personne aveugle. Un autre système d’IA a faussement accusé un professeur de droit de harcèlement sexuel. En 2023, les experts ont averti que l’intelligence artificielle pourrait devenir une « menace existentielle » et qu’elle avait « autant besoin d’être réglementée que les armes nucléaires ».

En ce qui concerne le « mode Gibberlink », Hamilton souligne que même si la capacité de l’IA à créer ses propres raccourcis de communication pourrait accroître l’efficacité, l’efficacité n’est pas toujours l’objectif. L’expérience a montré que les organisations qui se concentrent exclusivement sur la vitesse peuvent négliger les risques critiques. « Le mode Gibberlink n’est qu’un exemple parmi d’autres de la manière dont l’IA évolue au-delà du langage humain », explique l’expert. Il s’agit désormais de suivre le rythme.