L'IA de Musk a bloqué des sites l'accusant, lui et Trump, de diffuser de fausses nouvelles
Grok , le chatbot IA d' Elon Musk , a récemment bloqué des sites qui décrivaient l'entrepreneur et le président Donald Trump comme des « propagateurs de désinformation ».
La censure a été déclenchée après une modification non autorisée de l'invite système de Grok, une instruction par défaut qui guide le comportement du modèle lors des interactions avec les utilisateurs.
Cette invite est généralement invisible pour les utilisateurs, mais les développeurs de Grok ont décidé de l'afficher - si demandé - pour offrir plus de transparence.
La raison du blocage temporaireLe blocage a été activé par un ancien employé d'OpenAI , désormais membre de l'équipe xAI, qui aurait agi sans avoir reçu d'autorisation spécifique.
Cette modification a demandé au chatbot d' ignorer les sources affirmant que Musk ou Trump diffusaient de fausses informations. Pour élaborer ses réponses, Grok s'appuie sur des publications sur X et des sites Web pour fournir des informations en temps réel.
Déclarations de xAI, la société de MuskIgor Babuschkin , responsable de l'ingénierie de Grok, a précisé que le changement rapide avait été effectué sans autorisation et allait à l'encontre des principes de xAI. Babuschkin a souligné l'engagement de l'entreprise en matière de transparence, notant que les règles rapides de Grok sont accessibles au public.
L'ingénieur xAI a expliqué : « Un employé a effectué ce changement en pensant que cela pourrait être utile, mais cela ne correspond clairement pas à nos valeurs. »
Qu'est-ce que Grok ?Grok est un chatbot basé sur l'IA développé par xAI , la société d'IA d'Elon Musk. Né en tant que concurrent de ChatGpt et Gemini, d'OpenAI et des chatbots basés sur l'IA de Google , Grok a pour objectif déclaré de rechercher « la vérité absolue » tout en poursuivant sa mission de « comprendre l'univers ».
Qu'est-ce que xAI ?xAI est une société d'intelligence artificielle fondée par Elon Musk en 2023, indépendante mais étroitement intégrée à X (le réseau social anciennement connu sous le nom de Twitter, également détenu par Musk).
En mai 2024, la société avait levé 6 milliards de dollars . Par la suite, en novembre 2024, un tour de financement supplémentaire de 5 milliards de dollars a porté la valorisation de xAI à 50 milliards de dollars.
Parmi les investisseurs figurent de grands noms tels que Sequoia Capital, Andreessen Horowitz et les fonds souverains du Moyen-Orient. Ces fonds ont été utilisés pour acquérir 100 000 puces Nvidia afin d'augmenter les capacités de calcul de l'entreprise.
Le précédent : la correction sur la peine de mortAvant de censurer les sources qui présentaient Musk et Trump comme diffusant de fausses nouvelles, Grok avait déjà été critiqué pour avoir suggéré que tous deux méritaient la peine de mort en réponse à des questions spécifiques d'utilisateurs.
xAI est intervenu pour corriger le problème, Babuschkin qualifiant les réponses sur la peine de mort d’« échec véritablement terrible et inacceptable ». Après la correction, Grok évite de porter de tels jugements en invoquant des considérations éthiques et juridiques.
repubblica
