Données personnelles : l’Italie bloque ChatGPT

Dans un communiqué, l'Autorité italienne de protection des données personnelles prévient que sa décision a un "effet immédiat" et accuse le robot conversationnel de ne pas respecter la réglementation européenne et de ne pas vérifier l'âge des usagers mineurs. Cette décision aura pour conséquence "la limitation provisoire du traitement des données des utilisateurs italiens vis-à-vis d'OpenAI", l'entreprise à l'origine de l'application, selon le document. Financé par Microsoft, qui l'a ajouté à plusieurs de ses services, il est parfois présenté comme un potentiel concurrent au moteur de recherche Google. L'institution italienne souligne que ChatGPT "a subi le 20 mars une perte de données concernant les conversations des utilisateurs et les informations relatives au paiement des abonnés au service payant".

La CNIL échange avec les autorités italiennes

Après les premiers signalements, OpenAI avait brièvement interrompu le service, puis reconnu un bug dans un outil tiers, désormais résolu, qui avait affecté 1,2% de ses abonnés et un nombre indéfini des utilisateurs gratuits. L'autorité lui reproche aussi "l'absence d'une note d'information aux utilisateurs, dont les données sont récoltées par OpenAI, mais surtout l'absence d'une base juridique justifiant le recueil et la conservation en masse des données personnelles, dans le but « d'entraîner » les algorithmes faisant fonctionner la plateforme". En outre, alors que le robot est destiné aux personnes ayant plus de 13 ans, elle "met l'accent sur le fait que l'absence de tout filtre pour vérifier l'âge des utilisateurs expose les mineurs à des réponses absolument non conformes par rapport à leur niveau de développement". La Cnil, le gendarme français des données personnelles, "n'a pas reçu de plainte et n'a pas de procédure similaire en cours", a-t-elle indiqué dans une réaction à l'AFP. Elle s'est pourtant rapprochée de son homologue italienne "afin d'échanger sur les constats qui ont pu être faits" et a pour objectif de "clarifier le cadre légal dans les prochains mois".  

Une régulation « nécessaire » de l’IA

Interrogé par l'AFP, un porte-parole de l'entreprise a assuré que ChatGPT était "désactivé pour les utilisateurs en Italie" afin de se conformer à la décision de l'Autorité, assurant "être soucieux de la protection des données, nous pensons que nous respectons le RGPD et les lois en la matière".    "Nous travaillons activement à réduire les données personnelles dans l'entraînement de notre IA. Nous pensons qu'une régulation de l'IA est nécessaire et espérons travailler en ce sens avec l'Autorité", a ajouté le porte-parole. Mercredi, le milliardaire Elon Musk -- un des fondateurs d'OpenAI dont il a ensuite quitté le conseil d'administration -- et des centaines d'experts mondiaux ont réclamé une pause de six mois dans la recherche sur les IA plus puissantes que GPT-4, la dernière mouture du logiciel sur lequel repose ChatGPT lancée mi-mars, en évoquant "des risques majeurs pour l'humanité".