Algorithmes : le Défenseur des droits et la CNIL s’inquiètent pour les droits fondamentaux

algorithms

Le Défenseur des droits, en partenariat avec la Commission nationale de l’informatique et des libertés (CNIL), après avoir réuni chercheurs, juristes et développeurs en pleine crise du Covid-19, appelle les pouvoirs publics à prendre des mesures pour éviter que les discriminations soient amplifiées par les algorithmes. La Cnil et le Défenseur des droits "ont, chacun dans leur domaine de compétences, déjà fait part de leurs préoccupations quant à l'impact de certains systèmes algorithmiques sur les droits fondamentaux", rappelle le Défenseur des droits Jacques Toubon dans un état des lieux publié dimanche sur son site internet. "Le recours à des algorithmes comme support à la décision privée ou publique n'est pas nouveau" mais "dans la crise sanitaire inédite que le monde traverse, l'usage des outils numériques a connu une accélération sans précédent, reposant souvent sur des algorithmes sans que l'on en soit toujours conscient ou informé", écrit-il. Il souhaite ainsi "mettre en lumière les risques considérables de discrimination que peuvent faire peser sur chacun et chacune d'entre nous l'usage exponentiel des algorithmes dans toutes les sphères de notre vie", ajoutant que "ce sujet est longtemps resté un angle mort du débat public. Il ne doit plus l'être".

Le Défenseur des droits fait ainsi une liste de recommandations. "Les biais algorithmiques doivent pouvoir être identifiés puis corrigés et les auteurs de décisions discriminatoires doivent pouvoir être sanctionnés". Il propose aussi de "former davantage les professionnels ou encore de renforcer les obligations sur la transparence des algorithmes". "Sans une réflexion approfondie et une mobilisation des pouvoirs publics, le risque est grand en France que le droit de la non-discrimination ne parvienne pas à remplir son office et à protéger la population", prévient-il. Dans le cadre de sa mission de lutte contre les discriminations et de promotion de l'égalité, le Défenseur des droits "souhaite donc, en partenariat avec la Cnil, alerter sur la nécessité pour les pouvoirs publics de se mobiliser dès maintenant pour prévenir et corriger ces discriminations". Dans un entretien au Journal du dimanche (JDD), Jacques Toubon explique que les algorithmes "doivent répondre à un objectif de transparence et d'égalité". Selon lui, "les créateurs de ces outils ne sont pas seulement des génies des maths, ils ont une responsabilité sociale, tout comme les grandes entreprises mondiales qui en sont à l'origine".

À lire aussi

Recevez gratuitement les newsletters de CB News !
Filtrer par