"Les algorithmes sont partout, il faut les contrôler !"
Ils nous suggèrent des amis sur Facebook, répondent à nos questions sur Google, nous amènent à bon port sur un GPS ou choisissent l'école où ira un bachelier... Mais peut-on mieux contrôler les algorithmes ? Oui, répond le gouvernement qui a un plan pour contourner le secret dont ils sont entourés.
Qu'est ce qu'un algorithme ? C'est un programme informatique qui applique une série d'instructions : activer son réveil pour qu'il sonne le matin, c'est un algorithme, demander à son GPS de trouver le chemin le plus rapide, c'est un algorithme... Le plus souvent, ils sont bien pratiques et nous rendent bien des services au quotidien : "nous sommes entrés dans l'ère de l'algorithme", lance parfois la secrétaire d'Etat au numérique, Axelle Lemaire, "ère du big data aussi", pourrait-on ajouter car les deux vont de pair pour expliquer la place qu'ont pris les algorithmes dans nos vies, et ça n'est qu'un début.
A lire aussi :"Les algorithmes régissent-ils nos vies ?", les Matins de France Culture, 27 septembre 2016."La segmentation du monde que provoque Internet est dévastatrice pour la démocratie" : interview de Lawrence Lessig, l'un des principaux penseurs d'internet.
Mais quel est le problème ? Le problème de la transparence et de l'assurance d'avoir un service impartial. Pour fonctionner, certains algorithmes doivent accumuler un maximum de données personnelles : "les plateformes [Facebook, Google, etc.] savent énormément de choses sur nous et si on en savait davantage sur elles, on ferait des choix différents et elles aussi feraient des choix différents", résume le président du Conseil national du numérique, Mounir Mahjoubi. "Moi je rêve que ces plateformes continuent de délivrer leurs services, en majorité extraordinaires, mais avec plus de transparence et un plus grand respect des utilisateurs".
Saisine du @CNNum par @AxelleLemaire pour expérimenter un dispositif de notation des plateformes #Loyauté >>
Diagnostic partagé par Axelle Lemaire, qui a confié au Conseil national du numérique le soin d'expérimenter une agence de notation pour évaluer et contrôler les plateformes qui utilisent des algorithmes (Tweet ci-dessus) : "même si on n'a pas accès à l'algorithme de Google, on peut très bien - avec les bons outils - tester l'utilisation de cet algorithme pour comprendre dans quel sens il va, et obliger, le cas échéant la société à le modifier".
Ne plus être démuni face aux géants du web
L'idée est d'agir sur la réputation des grandes plateformes. Si elles ont de mauvaises pratiques, elles prendraient le risque d'être mal évaluées et de perdre du public. Façon d'institutionnaliser un rapport de force qui existe déjà : après l'élection de Donald Trump, Facebook a ainsi modifié son algorithme et avertit désormais les internautes si une publication relaie des informations non vérifiées ou fausses (voir vidéo ci-dessous sur la nouvelle méthode de "fact-checking"). Plus récemment, Google a aussi changé sa formule car des contenus négationnistes apparaissaient en premier dans le cas d'une recherche sur l'holocauste. Les plate-formes tiennent compte de l'avis des internautes, encore faut-il que cet avis soit organisé.
Autres cas de dérive d'un algorithme : lorsqu'une plateforme de réservation touristique met en avant tel restaurant ou tel hôtel et pas un autre ou lorsqu'une publicité est mise en avant sur Internet et pas une autre... Les conséquences commerciales et sur le chiffre d'affaires d'une société peuvent être considérables. C'est la raison pour laquelle Axelle Lemaire a associé la DGCCRF à son objectif de régulation : la Direction générale de la concurrence, de la consommation et de la répression des fraudes doit s'adapter et pouvoir contrôler les algorithmes désormais. Dans le rapport remis le 12 octobre par le Conseil général de l'économie à ce sujet, il est aussi préconisé de se donner les moyens de percer les secrets des plateformes : Google, Facebook, Amazon, etc.
Axelle Lemaire a donc aussi missionné des scientifiques pour décortiquer les algorithmes et comprendre les principes qui les fondent. Antoine Petit est le PDG de l'Inria, un laboratoire de mathématiques appliquées qui va s'en occuper : "ce qu'on souhaite, c'est avoir des algorithmes qui soient transparents et qui soient loyaux, qui correspondent à l'éthique que nous avons."
Et le problème des algorithmes ne se pose pas seulement dans le privé. Dans le public aussi, l'algorithme derrière le site APB (admission post bac) avait été accusé de tous les maux car il utilisait le tirage au sortpour sélectionner les étudiants. Depuis la promulgation de la loi pour une république numérique, une administration a l'obligation de publier les règles qui régissent un algorithme.
