WhatsApp marche sur une corde raide entre fonctionnalités d'IA et confidentialité

L'application de communication cryptée de bout en bout WhatsApp , utilisée par environ 3 milliards de personnes dans le monde, déploiera dans les semaines à venir des capacités d'IA basées sur le cloud, conçues pour préserver les garanties de sécurité et de confidentialité qui définissent WhatsApp tout en offrant aux utilisateurs l'accès à des outils de résumé et de composition de messages.

Meta intègre des fonctionnalités d'IA générative à ses services, basées sur son modèle de langage étendu open source, Llama . WhatsApp intègre déjà un cercle bleu clair permettant aux utilisateurs d'accéder à l'assistant IA Meta. Cependant, de nombreux utilisateurs ont rechigné à cet ajout , car les interactions avec l'assistant IA ne sont pas protégées de Meta comme le sont les conversations WhatsApp cryptées de bout en bout. La nouvelle fonctionnalité, baptisée Private Processing, vise à répondre à ces préoccupations grâce à ce que l'entreprise présente comme une plateforme soigneusement conçue et spécialement conçue pour traiter les données pour les tâches d'IA, sans que les informations ne soient accessibles à Meta, WhatsApp ou toute autre partie. Si les premiers avis des chercheurs sur l'intégrité du système sont positifs, certains soulignent que l'évolution vers des fonctionnalités d'IA pourrait, à terme, mettre WhatsApp sur une pente glissante.

« WhatsApp est ciblé et étudié par de nombreux chercheurs et acteurs malveillants. Cela signifie qu'en interne, le modèle de menace est bien compris », explique Chris Rohlf, directeur de l'ingénierie de la sécurité chez Meta. « Il existe également un ensemble d'attentes des utilisateurs en matière de confidentialité. Il ne s'agissait donc pas seulement de gérer l'expansion de ce modèle de menace et de garantir que les attentes en matière de confidentialité et de sécurité soient satisfaites ; il s'agissait également de prendre en compte attentivement l'expérience utilisateur et de garantir cette option d'adhésion. »

Les communications chiffrées de bout en bout ne sont accessibles qu'à l'expéditeur et au destinataire, ou aux membres d'une discussion de groupe. Le fournisseur de services, en l'occurrence WhatsApp et sa société mère Meta, est intrinsèquement isolé et ne peut accéder ni aux messages ni aux appels des utilisateurs. Cette configuration est incompatible avec les plateformes d'IA générative classiques qui exécutent de vastes modèles linguistiques sur des serveurs cloud et nécessitent l'accès aux requêtes et aux données des utilisateurs pour leur traitement. L'objectif du traitement privé est de créer un cadre alternatif permettant de garantir la confidentialité et la sécurité des communications chiffrées de bout en bout tout en intégrant l'IA.

Les utilisateurs choisissent d'utiliser les fonctionnalités d'IA de WhatsApp et peuvent également empêcher les personnes avec lesquelles ils discutent d'utiliser les fonctionnalités d'IA dans les communications partagées en activant un nouveau contrôle WhatsApp appelé « Confidentialité avancée des discussions ».

« Lorsque ce paramètre est activé, vous pouvez empêcher les autres d'exporter des conversations, de télécharger automatiquement des fichiers multimédias sur leur téléphone et d'utiliser les messages pour les fonctionnalités d'IA », a écrit WhatsApp dans un article de blog la semaine dernière. Tout comme les messages éphémères, chaque participant à une conversation peut activer ou désactiver la confidentialité avancée des conversations (qui est enregistrée et visible par tous). Les participants n'ont donc qu'à être attentifs à chaque réglage.

Private Processing est conçu avec un matériel spécifique qui isole les données sensibles dans un « environnement d'exécution sécurisé », une zone cloisonnée et verrouillée d'un processeur. Le système est conçu pour traiter et conserver les données le moins longtemps possible et est conçu pour s'arrêter et envoyer des alertes en cas de détection d'altération ou de modification. WhatsApp invite déjà des audits tiers sur différents composants du système et l'intégrera au programme de bug bounty de Meta afin d'encourager la communauté de la sécurité à soumettre des informations sur les failles et les vulnérabilités potentielles. Meta annonce également son intention de rendre les composants de Private Processing open source, à la fois pour une vérification plus poussée de ses garanties de sécurité et de confidentialité et pour faciliter le développement de services similaires.

L'année dernière, Apple a lancé un système similaire , baptisé Private Cloud Compute, pour sa plateforme d'intelligence artificielle Apple Intelligence. Les utilisateurs peuvent activer ce service dans Messages, l'application de communication chiffrée de bout en bout d'Apple, pour générer des résumés de messages et rédiger des messages « Réponse intelligente » sur iPhone et Mac .

Comparer le Cloud Compute privé et le Traitement privé revient à comparer des pommes et des oranges. Le Cloud Compute privé d'Apple sous-tend toute l'intelligence d'Apple, partout où elle peut être appliquée. Le Traitement privé, en revanche, a été spécialement conçu pour WhatsApp et ne sous-tend pas les fonctionnalités d'IA de Meta de manière plus générale. Apple Intelligence est également conçu pour effectuer un maximum de traitement d'IA sur l'appareil et n'envoyer des requêtes à l'infrastructure du Cloud Compute privé que lorsque cela est nécessaire. Comme ce traitement « sur l'appareil » ou « local » nécessite un matériel puissant, Apple a conçu Apple Intelligence uniquement pour fonctionner sur ses dernières générations de matériel mobile. Les anciens iPhone et iPad ne prendront jamais en charge Apple Intelligence.

Apple est un fabricant de smartphones et d'autres équipements haut de gamme, tandis que Meta est un éditeur de logiciels qui compte environ 3 milliards d'utilisateurs possédant tous types de smartphones, y compris des appareils anciens et bas de gamme. Rohlf et Colin Clemmons, l'un des ingénieurs en chef du traitement privé, affirment qu'il était impossible de concevoir des fonctionnalités d'IA pour WhatsApp fonctionnant localement sur l'ensemble des appareils utilisés par WhatsApp. WhatsApp s'est donc attaché à concevoir le traitement privé de manière à le rendre le moins vulnérable possible aux attaquants en cas de piratage.

« La conception vise à minimiser les risques », explique Clemmons. « Nous voulons minimiser les risques liés à la compromission du système. »

Cet effort soulève cependant une question plus fondamentale : pourquoi une plateforme de communication sécurisée comme WhatsApp doit-elle proposer des fonctionnalités d’IA ? Meta insiste cependant sur le fait que les utilisateurs attendent ces fonctionnalités dès maintenant et qu’ils n’hésiteront pas à aller jusqu’au bout pour les obtenir.

« De nombreuses personnes souhaitent utiliser des outils d'IA pour les aider dans leurs échanges de messages », a déclaré Will Cathcart, directeur de WhatsApp, à WIRED dans un courriel. « Nous pensons qu'il est important de créer une solution privée pour cela, car les utilisateurs ne devraient pas avoir à passer à une plateforme moins privée pour bénéficier des fonctionnalités dont ils ont besoin. »

« Tout système chiffré de bout en bout utilisant l'inférence IA hors appareil sera plus risqué qu'un système de bout en bout pur. Vous envoyez des données à un ordinateur dans un centre de données, et cette machine voit vos messages privés », explique Matt Green, cryptographe à Johns Hopkins, qui a testé certaines des garanties de confidentialité du traitement privé, mais n'a pas audité l'intégralité du système. « Je crois WhatsApp lorsqu'ils affirment avoir conçu ce système pour qu'il soit aussi sécurisé que possible, et je les crois lorsqu'ils affirment qu'ils ne peuvent pas lire vos messages. Mais je pense aussi qu'il y a des risques. De plus en plus de données privées seront transférées hors appareil, et les machines qui les traitent seront la cible des pirates informatiques et des adversaires des États-nations. »

WhatsApp affirme également qu'au-delà des fonctionnalités d'IA de base telles que le résumé de texte et les suggestions d'écriture, le traitement privé créera, espérons-le, une base pour l'expansion vers des fonctionnalités d'IA plus complexes et plus impliquées à l'avenir qui impliquent le traitement et potentiellement le stockage de davantage de données.

Comme le dit Green, « étant donné toutes les choses folles pour lesquelles les gens utilisent les messageries sécurisées, tout cela fera des ordinateurs de traitement privé une cible de choix. »