img

Éthique et Algorithmes : « Du meilleur des mondes à un monde un peu meilleur ? »

img

Technologie et démocratie

C’est certainement un poncif que de l’écrire, mais peut-être n’est-il pas inutile de temps à autre de rappeler que technologies et démocraties ont un avenir désormais inexorablement lié et ce lien concerne le destin des hommes que nous sommes, de ceux qui nous suivront demain. Il s’agit ni plus ni moins, dans de nombreux pays (qui n’ont pas vocation a être, ni à devenir des régimes autoritaires ou dictatoriaux, dévoyant la technologie au service de la censure et une surveillance outrancière à vocation répressive ) d’inventer une souveraineté numérique démocratique qui n’altère pas les valeurs fondamentales qui les définissent… vie privée, liberté d’expression, droits de l’homme… Oui, c’est certainement un poncif que de le rappeler, mais admettez que les enjeux sont de tailles.

Certes l’homme peut défaire ce qu’il fait, dès lors qu’il constate une erreur d’orientation ou quelques fâcheux oublis qui le placent, pour ne pas les avoir anticipés, face à des conséquences aussi désastreuses qu’imprévues. Pour autant, à l’instar des marchés financiers, l’histoire est là pour nous rappeler que plus d’une fois, l’homme s’est rendu coupable de formes étranges d’aveuglement face au désastre. Les réveils qui s’en sont suivi ont été d’autant plus douloureux qu’ils ont été bien tardifs. Comme l’aurait dit Rabelais « algorithmes sans conscience n’est que ruine annoncée de la démocratie ».

L’obscurantisme technologique, à qui profite ce crime ?

Chaque jour, la technologie nous amène son lot gargantuesque de nouveautés, d’outils, d’innovations technologiques (plus ou moins innovantes). Dans cette effervescence l’intelligence artificielle, les algorithmes qui la serve, investissent notre quotidien. Cela se déroule, dans ce qui m’apparaît être une forme de technofascination humaine aussi hébétée que collective. C’est un peu comme si le temps, dès lors qu’il s’agit de technologie, n’avait plus le temps de la réflexion, ni des interrogations les plus légitimes, les plus essentielles, les plus évidentes. Quant à critiquer la technologie, n’y songez même pas ! C’est tabou ! À moins bien sûr que vous ne souhaitiez passer pour un(e) arriéré(e) rétrograde, un(e) vil rabajoie du progrès, un(e) irresponsable technophobe. En la matière (comme dans bien d’autres) seuls des experts (e)s (dès lors qu’ils prennent de leur temps de vulgariser les choses ) sont en mesure (en devoir) d’expliciter la chose technologique et ses implications au plus grand nombre quitte à encaisser les coups qui ne manqueront pas d’être portés. Puisqu’il s’agit d’alarmer, c’est une véritable lutte contre un obscurantisme technologique qui est désormais engagé. Un obscurantisme qui, s’il devait triompher, faciliterait alors grandement la tâche de ceux qui auraient la fâcheuse idée de poursuivre l’objectif d’en abuser ! Cette lutte qu’on entreprit des hommes et des femmes, se fait au risque bien sûr (comme cela fut le cas, lors de la loi sur le renseignement), d’être moqué, disqualifié,d’être traité d’exégètes amateurs, de gens de mauvaise foi par les plus hautes autorités, tandis que d’autres brandissent le sempiternel drapeau de « théoriciens du complot… » de « pseudo-intellectuels », insultes supposées suprêmes, deux « arguments » censés couper court à tout débat constructif et objectif, les insultes la plus drôle.

Ce sont des « arguments » récurrents , de plus en plus usités par ceux et celles qui ayant une forme de pouvoir (politique ou financier, voire les deux ) n’apprécient pas vraiment les questions susceptibles de déranger leurs petits arrangements au service de leurs sévices. Les uns ne souhaitant pas vraiment avoir à faire à des ConsommActeurs, des Consommateurs dociles leur apparaissant nécessaires et suffisants. Quant aux autres, les hommes politiques (de façon assez générale) n’étant pas friands de devoirs s’expliquer sur des décisions et des lois concernant les technologies, qu’ils comprennent parfois plus ou moins, et qui concernent pourtant directement l’ensemble de la population.

La vérité étant, pour le politique, l’opinion publique, il n’aura échappé à personne que des citoyen(ne)s ignorants sont depuis toujours plus faciles à manipuler. Des citoyens éclairés constitueraient, et à cela nul doute, des gens bien contrariants, des citoyens bien retords.

Algorithmes et des Hommes

Autant des Hommes en dépit du comportement douteux de certains d’entre eux, nous situons à peu près tous et toutes de quoi il retourne. Autant un algorithme peut-être est-il nécessaire de redéfinir plus clairement ce qu’il en est. En quoi ce nouveau compagnon de l’humanité peut-il être notre meilleur ami technologique commun ? En quoi peut-il tout aussi bien devenir demain l’ennemi du plus grand nombre, s’il est hors de contrôle, opaque, et au service de quelques-uns ?

Algorithme késako ?

"Un algorithme est une méthode générale pour résoudre un ensemble de problèmes. Il est dit correct lorsque, pour chaque instance du problème, il se termine en produisant la bonne sortie, c’est-à-dire qu’il résout le problème posé."

Les algorithmes sont souvent classés par finalité, même s’il est d’autres façons de les classer. Pour rendre la chose plus digeste, le sociologue Dominique Cardon résume la bête ainsi : « c’est en quelque sorte une recette de cuisine : on prend certains ingrédients qu’il s’agit de mettre dans le bon ordre pour réaliser le plat souhaité ». La question qui demeure est la suivante dès lors que l’on prétend en concevoir : Ce « plat » est souhaité par qui, comment, pourquoi, au service de quoi et de qui ?

L’exemple préoccupant des systèmes algorithmiques de la Loi sur le Renseignement.

Imaginons une gouvernance qui pour des raisons de sécurité nationale souhaiterait mettre l’ensemble de ses concitoyens sous surveillance algorithmique de ses usages et comportements sur internet. Imaginons une gouvernance qui souhaiterait concevoir des algorithmes dont la finalité (hors faire blêmir de rage Georges Orwell, de ne pas y avoir songé) serait de faire le distinguo entre ce qui définirait un « bon citoyen » et le distinguerait du « mauvais citoyen ». Imaginons un système à même de trier le bon grain de l’ivraie, puis de prendre les mesures de rétorsion appropriées : garde à vue, assignation à résidence, incarcération, que sais-je encore ? J’utilise bien le terme « imaginons », puisqu’à ce jour, si ces « boîtes noires » ont bien été imaginées et actées en France dans le cadre de la loi sur le renseignement, ces fumeuses « boîtes noires » ne sont, à l’heure ou j’écris ces lignes, toujours, ni conçues, ni a fortiori mises en place …. Elles seront, si elles voient jamais le jour, placées alors entre les mains d’une autorité administrative. Si ce jour programmé devait advenir, dans l’opacité la plus absolue de conception et des critères retenus, alors quelques hommes et quelques des femmes, placeront le curseur permettant d’engager le grand tri des concitoyens. Ils cibleront qui bon leur semblera, sans l’avis du juge judiciaire (actuellement) exclu de ce process… Ainsi, à un temps T, quelques individus, engoncés dans des vêtements de parangons de vertu, offrent comme unique garantie démocratique de faire de ces « boîtes noires » un usage raisonnable et raisonné, respectueux des pratiques usuelles que le citoyen peut attendre dans un État de droit. Qu’adviendra-t-il d’un tel système algorithmique nébuleux en t+1 se demande le Candide que je suis. N’est-ce pas là, une porte technologique ouverte à une dérive de quelques hommes vers « la banalité du mal » tel que l’a définie Hannah Arendt ? Est-ce être alarmiste que de souligner que des hommes et des femmes ordinaires disposant d’un tel pouvoir peuvent déraper? Doté du pouvoir de définir pour la population ce qui constitue la norme, le bien, le mal, selon des critères qui leur seront propres. N’entendez-vous pas le bruissement de dérives qui pourraient s’avérer dramatiques?

De la télévision à internet… De la fenêtre à la porte-fenêtre : le danger de l’oeil de boeuf

Dans le même ordre d’idée, pour illustrer la légitimité de l’importance de la réflexion proposée. Si hier la télévision avait été définie comme une fenêtre ouverte sur le monde, que dire d’Internet ? Son avènement n’avait-il pas pour vocation à être une porte-fenêtre grande ouverte sur le Monde ? Que penser dès lors d’Entreprises-Nations qui développeraient (développent) des algorithmes dont la finalité, serait (à l’insu parfois de l’utilisateur, en s’appuyant sur ses requêtes sur les moteurs de recherché, sur ses postes, sur ses marques pages…) de proposer, un « toujours plus de la même chose », autour des mêmes sujets de prédilection de l’usager…. Lui offrant, in fine, un Internet paupérisé, avec en guise de porte-fenêtre ouverte sur de nouveaux horizons, au mieux du mieux… un monde ouvert sur… un oeil de boeuf.

La prise de conscience de l’impérieuse nécessité d’une éthique des algorithmes

Alarmiste n’exclu pas l’optimisme, Il apparaît pour le moins rassurant, d’apprendre en janvier 2017 que le débat sur l’éthique et sur la gouvernance de l’intelligence artificielle préoccupe un certain nombre d’acteurs majeurs, et ce, parmi les bâtisseurs de l’Internet. Une préoccupation qui s’élève (tout participant confondu) à pas moins de vingt-sept millions de dollars. Les fondateurs de Linked-in et d’E-bay, ont ainsi pour leur part contribué à hauteur de 20 millions de dollars pour protéger l’humanité de l’intelligence artificielle. Des millions de dollars qui vont servir à réfléchir sur la place de l’homme dans un monde qui s’annonce algorithmique. Si nous devons cohabiter avec nos amis Algorithmes, nous en sommes d’accord je le suppose, autant que ce soit pour le meilleur que pour le pire. Ce fonds est destiné à des laboratoires du MIT et de Harvard, pour financer la recherche sur l’éthique et la gouvernance de l’intelligence artificielle… qui se nourrit avec un appétit grandissant de datas et de nos fameux algorithmes.

Pour conclure

Ne serait-il pas souhaitable que des acteurs européens apportent leur pierre à l’édifice de cette réflexion ? Au service de l’édification de cette nouvelle cathédrale. Notons que la loi pour une République numérique du 7 octobre 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevées par l’évolution des technologies numériques. C’est dans le cadre de cette loi que des réflexions ont d’ores et déjà engagée par la CNIL. En 2017, cette réflexion porte essentiellement sur les algorithmes à l’heure de l’intelligence artificielle. Ainsi d’après un sondage mené par l’IFOP pour la CNIL en janvier 2017 sous l’angle de la perception citoyenne, il est apparu que l’opinion apparaît la plus tranchée en fonction de l’âge. Si 2/3 des Français (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité .Par ailleurs, dans le cadre de cette mission, qui veut est invité à réfléchir et à participer, pour cela la CNIL a mis en place un grand débat public décentralisé.

Quand on sait que certains algorithmes comme je vous l’ai souligné sont supposés à court terme et en France, faire le tri entre les bons et les mauvais comportements citoyens il était pour le moins grand temps, à moins qu’il ne soit déjà trop tard. De s’interroger par exemple sur la compatibilité du terme démocratie composée de citoyens sous le joug d’algorithme dédié à une surveillance comportementale… normée par quelques hommes et protégés dans leurs agissements par… la loi. Cette interrogation n’étant qu’une interrogation parmi mille autres dans de multiples domaines : Santé, Assurance, etc.

Avis des citoyens non coercitif ! La confiscation décomplexée et anti-démocratique du droit à la résistance locquienne

Quant à savoir si ce qui ressortira du travail engage par la CNIL, s’il est pris en compte par le pouvoir en place, l’histoire a démontré plus d’une fois que c’est là une tout autre affaire. Qu’un avis consultatif d’organismes qui implique les citoyens est une idée louable. Que ces mêmes instances consultatives puissent éclairer des décisionnaires avant qu’ils ne se prononcent est tout aussi remarquables, mais je note toutefois que l’avis de ces comités n’est malheureusement nullement coercitif, que sa prise en compte s’est encore récemment avérée pour le moins aléatoire. Nous avons plus le constater lors de la loi renseignement ! Dans ce genre de lois liberticides, c’est après leur promulgation que la bataille se livre. Comme se fut le cas pour « le délit de consultation des sites djihadiste », une loi imposée par le sénat dans le cadre de la loi de réforme pénale. Cette loi a été supprimée par le Conseil constitutionnel en réponse à une question prioritaire de constitutionnalité (QPC). Si cela constitue une victoire contre la censure, et l’aveu de l’inefficience de ce genre de méthodologie. Je confesse avoir hâte de voir, les suites des multiples recours lorsqu’il s’agira, pour le Conseil Constitutionnel d’aborder le système algorithmique de surveillance de masse que j’ai pu évoquer. Demain, si les choses devaient rester l’état, malgré toutes les alertes, nul besoin d’être grand clerc pour prédire qu’un tel système algorithmique placé entre des mains moins propres qu’elles ne le prétendront alors, auraient des conséquences extrêmement graves pour notre démocratie ! À quel instant, le curseur du bien et du mal sera-t-il déplacé selon son bon vouloir, par l’autorité admistrative qui en aura alors la charge ? Consulter des sites d’opposition au pouvoir en place sera-t-il considéré comme une atteinte grave à la sûreté nationale ? Critiquer la politique d’un homme, d’une femme une forme d’acte anti patriotique, constitutive d’un délit, voire d’un crime ?

Du meilleur des mondes à un monde un peu meilleur ?

Éthique et algorithmes concernent notre avenir d’êtres humains, de notre liberté de détermination tant individuelle que collective. Ils sont une opportunité, tout comme ils peuvent représenter une grande menace. C’est cette dernière sur laquelle il m’est apparu le plus urgent d’insister. Il est pour le moins grand temps de prendre tout ensemble le temps de réfléchir. Il m’apparaît urgent d’alimenter de façon citoyenne, dès qu’il en est possible, le débat et la réflexion sur l’usage par l’état et par les entreprises des algorithmes qui s’élaborent et d’exiger leur transparence, s’ils ont une raison d’être. Il s’agit également de réfléchir à la façon dont les instances gouvernementales devront demain, par delà leur élection, être contraints à prendre en compte l’avis citoyen lorsqu’il le sollicite, lorsqu’il s’est exprimé au travers d’organismes dédiés aujourd’hui réduits à une posture consultative ! Il s’agit d’en finir d’avec un « Circulez-il n’y a rien à voir » lorsque l’avis exprimé ne convient pas au pouvoir en place. C’est une réponse non conforme, non viable, une configuration obsolète, inapte pour réinventer la démocratie à l’ère du numérique. Une réponse qui légitimera alors le droit à la résistance Citoyenne cher à John Locque .