L’ingénieur au bout des droits ?

Sauf à se trouver au bout des droits comme on arrive au bout du chemin, juristes et ingénieurs ne vont  pas avoir d’autre choix que de collaborer et bien au-delà du droit dans la recherche d’une gouvernance équilibrée et vivable du tout numérique ! Cédric Villani, mathématicien et député en charge d’établir le rapport sur l’intelligence artificielle l’affirmait récemment avec force : ce sont les humains qui sont derrière l’intelligence artificielle qu’il faut craindre (C. Pétreault, interview de Cédric Villani, Le Point.fr, 4 janvier 2018)… au premier rang desquels ses créateurs, ses concepteurs, ses programmateurs, et ceux aussi qui, frauduleusement, viendraient détourner une intelligence artificielle de son objectif ou en confisquer les fonctions. En effet, de nouveaux pouvoirs sont conférés aux ingénieurs programmeurs qui par leur création et leur programmation, ont la possibilité d’étudier, d’influer et d’agir directement sur le consentement pour incliner les décisions individuelles et collectives.

C’est donc le cadre de ce très grand pouvoir qu’il va désormais falloir définir par une nécessaire collaboration renouvelée entre juristes et ingénieurs. Car l’acceptation de l’idée, collectivement admise, que ce pouvoir soit laissé ou dévolu non pas à une institution ou encore à une puissance publique qui aurait été désignée pour le recevoir, mais à des data scientists et des ingénieurs, programmeurs de logiciels dépendant ou obéissant seulement à d’intérêts privés, pose question et interpelle. Il faut désormais qu’ingénieurs et juristes travaillent ensemble à fixer en commun des principes de responsabilité qui soient corroborés à la mesure des nouveaux pouvoirs des ingénieurs, dans une recherche proportionnée d’équilibres propres à assurer innovation, développement et liberté. Il s’agit d’une question de confiance comme l’illustre la récente affaire Cambridge Analytics, et voici pourquoi !

Ingénieurs et juristes travaillant, main dans la main !! On rétorquera à l’auteur qu’on n’a pas attendu un post de La Loi des Parties pour se mettre au travail. Et il ne fait pas de doute que chacun, droit dans ses bottes ou campé en son droit, réfléchit aux problèmes posés dans son écosystème par le numérique et le digital, en interrogeant l’autre profession… à bonne distance. Bien que parfois croisée, au sein de rapports officiels en des sections bien séparées et différenciées (France Intelligence Artificielle, Rapport de Synthèse, 21 mars 2017), l’approche n’est que par trop segmentée. Elle est donc insatisfaisante. Et en tout cas, elle ne permet pas de répondre aux grandes questions qui sont posées à nos métiers par le digital, ses données et ses algorithmes, ni à leur réelle appréhension par un Droit protecteur suffisamment efficace pour les acteurs et les utilisateurs.

Ingénieur : la rupture au cœur ?

Poser la question de la responsabilité des créateurs et des concepteurs, dans un monde interconnecté en mouvement d’accélération permanente (S. Larrière Pratique du droit…le contre la montre, www.laloidesparties.fr) est un défi. Il est devenu primordial de le relever. A défaut, l’hyper-connexion déresponsabilisée du monde pourrait conduire à un systémique emballement par le numérique. Car la technique impulse, sur elle-même, sa propre transformation, emportant le monde et ses acteurs. « C’est la technique qui produit son propre changement » constate le Professeur Jacques Ellul (J. Ellul, Le système technicien, Le Cherche Midi, 2012, p. 91). S’intéressant aux avancées technologiques des produits, il ajoute : « la progression fait partie de l’objet même : elle lui est constitutive. […] La technique comporte comme donnée spécifique qu’elle se nécessite pour elle-même, sa propre transformation » (J. Ellul, ibidem, p. 91). Pour s’en convaincre, il suffit de regarder les nombres et les fréquences de mise à jour de nos « applis » sur nos smartphones ou la succession de nouvelles versions qui les corrigent, les modifient, les enrichissent (S. Larrière Pratique du droit…le contre la montre, www.laloidesparties.fr). Elles concentrent les efforts des ingénieurs, créateurs, concepteurs et autres codeurs ou programmeurs qui contribuent et collaborent à faire triompher la transformation et le changement.

« L’innovation permanente est désormais l’état normal de la technologie » énoncent Nicolas Colin et Henri Verdier (N. Colin, H. Verdier, L’âge de la multitude, A. Colin, 2015, p. 55). La transformation entretient donc la technique dans une sorte de tension à évoluer qui s’accommode mal de la chose juridique. Elle est inhérente à un état de la technique qui n’est jamais stable, mais bien dans une dynamique d’évolution permanente que le droit a du mal à appréhender. C’est cette dynamique qui donne l’impression aux acteurs qu’ils sont parfois contraints à une forme d’adaptation continue aux outils technologiques ou à leurs applis : elle les force à une réappropriation permanente des fonctionnalités nouvelles et à un effort de compétences, qui sitôt acquises déjà s’échappent et se périment au risque de « larguer » l’utilisateur et de le perdre, quoi qu’il soit parfois dit à grand bruit, de l’ « expérience utilisateur »… Forcé d’évoluer lui aussi avec la technique, l’utilisateur se retrouve donc d’une certaine manière à la merci de ces nouvelles versions qui s’imposent à lui et que seul maîtrise, en réalité son artisan… l’ingénieur !

Ingénieur: la technique sans limite ?

Le fait technologique et sa dynamique de mouvement peut donc désarmer les acteurs au point de les perdre dans la connaissance, ou la reconnaissance, de leurs devoirs, de leurs obligations, et de leurs droits. En réalité tout se passe comme si par le fait technologique, c’était la Loi qui, se trouvait selon  les termes d’Olivier Itéanu, ainsi « diminuée » (O. Itéanu, Quand le digital défie l’Etat de droit, Eyrolles, 2016, p. 142). Selon l’auteur, c’est le système hiérarchique sur lequel repose la domination de la loi (cf schéma) qui est aujourd’hui « contesté » (O. Itéanu, ibidem, p.144). Le digital bouleverse le rapport établi entre la Loi, les manières d’être, les lois économiques et l’état de la technique. Ceci explique qu’il devient parfois difficile de distinguer ce qui est juridiquement autorisé de ce qui est techniquement impossible ; difficile de distinguer ce qui est techniquement possible de ce qui est légalement interdit car la technique emmène un pan plus loin, là où, dans un faux semblant, les textes de droit et les règles qu’ils portent, ne semblent pas ou plus applicables. Le respect du droit des auteurs sur leurs œuvres constamment mis au défi de nouveaux usages poussés par les avancées technologiques toujours plus audacieuses des ingénieurs dans la diffusion des œuvres et leurs utilisations, est un bon exemple…

Dès lors, les limites de cette dynamique de progression, sont difficiles à appréhender. Et c’est d’un point de vue du droit, ce qui pose problème. Toujours selon Jacques Ellul, « la technique est dépourvue de régulation interne » et le professeur de préciser à l’appui des auteurs de « Survivre au Futur » : « elle est dans son principe même abolition des limites intérieures, si quelque chose est possible elle le fera… (J. Ellul, ibidem, p.127). C’est ce même esprit de dépassement des limites que Nicolas Colin et Henri Verdier constataient plus récemment : « Internet […] garde une forte empreinte de cet esprit hacker dans lequel il est né » (N. Colin, H. Verdier, ibidem, p.201). Ils concluent que « toutes ces innovations de ruptures sont nées dans des start-up […], dans des collectifs de hackers, chez des utilisateurs, dans des associations ou dans le cerveau fertile de « désobéissants » comme Tim Berners-Lee » (N. Colin, H. Verdier, ibidem, p. 216). En un mot et pour faire simple, la Technologie porte en elle-même le report de ses propres limites, son propre dépassement et la recherche permanente de ses propres brèches, dont les artisans et les acteurs sont ses ingénieurs et ses « data scientists » qui ont donc pour mission de « casser les codes » pour la porter un pas plus loin !! … Mais jusqu’où… ? De quel droit ? Et pour quelle limite… ?

Ingénieur : pouvoir total de création… et de programmation !

Apparemment aucune !! Aucune limite… Aucune limite, sauf celles qu’imposerait la créativité, puisque la technique semble poser à ses artisans, les ingénieurs, un défi qui consiste à transgresser les limites technologiques, les schémas conceptuels (logiques mais aussi juridiques…) en les poussant aux limites de la création, dans un flirt continue et toujours plus poussé avec la science-fiction. S’intéressant à leurs rôles en informatique, le philosophe Eric Sadin évoque à propos du centre de recherche californien, des  « lieux dédiés à une exploration a priori affranchie de tout bornage théorique et destinés à opérer des ruptures technologiques. Il ajoute : « leur principe cardinal se fonde sur l’idée d’une absolue liberté qui ne doit être refrénée ni par l’imagination, ni par l’état de la technique, ni par des cadres étatiques supposés « rigides » ou « inappropriés » » (E. Sadin, La vie algorithmique, L’échappée, 2015, p. 205), ni probablement non plus par des cadres juridiques ou des règles de droit embarrassants pour l’évolution technique… Liberté totale et pouvoir de création… voilà donc ce qui caractérise l’ingénieur digital ou le data scientist…

L’une et l’autre inscrivent l’ingénieur digital dans une agilité, qui le distingue de ses ancêtres savants et chercheurs. Pour conduire ses expériences, point n’est besoin d’institution académique ou de patronage, point n’est besoin de recours aux théories les plus scientifiques pour justifier de l’innovation, point n’est besoin non plus de coûteux laboratoires (la légende voudrait d’ailleurs, que tout ait commencé dans un basique garage en Californie…). L’ingénieur digital peut opérer sans être tributaire de lourds investissements ni de ressources, à partir de son simple Mac connecté, avec pour champs de fouille les données de l’open data et pour champs d’expérimentation les comportements de la multitude (voir sur ce point, N. Colin, H. Verdier, ibidem, p. 59). Mais ce qui le distingue le plus de ces prédécesseurs, c’est sa grande capacité à décider pour et par lui-même de ses expérimentations, de ses recherches et de ses innovations. Eric Sadin précise à ce propos : « ce qui caractérise l’industrie informatique de la deuxième génération », celle de l’ordinateur personnel, c’est une forme de légèreté logistique qui a autorisé des individus, généralement des ingénieurs programmeurs, non seulement à entreprendre des actions sans lourdes ressources initiales, mais également à décider d’eux-mêmes et souvent seuls de la nature de leur innovation » (E. Sadin, ibidem, p. 209).

Le philosophe va jusqu’à comparer la liberté de création et le statut des ingénieurs à ceux des artistes, « libres de mener leurs projets selon leurs propres désirs et desseins » (E. Sadin, ibidem). Cependant il existe une différence de taille : « à la différence de l’artiste, les productions de l’ingénieur n’engagent pas l’expérience dans le seul cadre provisoire de la fréquentation des œuvres mais accompagnent  de façon toujours plus continue le quotidien des personnes » et le philosophe d’avancer « raison pour laquelle c’est leur responsabilité à l’égard de la société qui est engagée » (E. Sadin, ibidem). Tout le débat vient du fait que les actes de ces ingénieurs qui programment, engagent bien au-delà de leurs seuls actes, bien au-delà des seules missions qui leur sont conférées.

A la différence de l’artiste, les créations des ingénieurs vont au-delà de l’expérience émotionnelle esthétique du j’aime/j’aime pas. Les créations des ingénieurs du numérique engagent, de manière massive et simultanée, les individus dans un rapport d’action qui impulse, suggère et influence les comportements et les goûts. Les ingénieurs du numérique sont donc titulaires d’un pouvoir agissant sur le monde, un pouvoir normatif sur les individus venant en concurrence de la Loi. C’est donc ici, au sein de ce pouvoir de création et de programmation, qui se traduit par un pouvoir d’étudier et d’influer sur le consentement puis d’incliner la décision individuelle ou collective que réside un nouveau très grand pouvoir, voire LE Pouvoir !

Je vois déjà le lecteur sceptique se raidir aux souvenirs des grands procès entrés dans l’inconscient collectif. Il évoquera qu’il en va des ingénieurs d’aujourd’hui comme il en a été autrefois des savants qui ont su, par leur science, défier les vérités établies, les croyances assénées et les limites des règles : « E pur si muove! » pourra cliquer ce lecteur qui ne veut pas voir, dans une ultime fuite des mauvais juges en claire obscure… Sauf que…

Le pouvoir d’encoder au-delà des codes et des lois…

Sauf que le rôle et le statut des ingénieurs est, cette fois, différent. Dans le digital et sur le réseau, l’ingénieur pose les règles. Il détermine les règles d’échanges et de coexistence du monde digital. Il fixe la norme. Il pose LA règle fixée par son encodage. Or cet encodage a la particularité de combiner à la fois caractère performatif et opératoire. De fait, le code de l’ingénieur est à la fois un langage et une opération. Le code est donc en lui-même opératoire ce qui signifie qu’il s’exécute, sans que l’utilisateur, puisse-t-il seulement le comprendre, ait le choix de le discuter ou d’y consentir que ce soit, de son propre chef ou par la voie de représentants qui en auraient délibéré. Paul Mathias note à ce sujet « les protocoles informatiques mis en œuvre sur les réseaux ne forment pas une espèce d’exposé applicatifs de quelconques lois de la nature, ni du reste un système d’énoncés déduits des lois fondamentales de la science mathématique. Le code dont ils sont faits dénote des processus opératoires qui résultent de décisions prises par des mathématiciens, des physiciens, des hommes qui discutent, préfèrent, tranchent et décident enfin » (P. Mathias, Des libertés numériques, PUF, 2008, p. 27 et 28).

Mais le corps de règles posées par l’encodage de l’ingénieur relève d’un arbitraire. Arbitraire, parce que, selon Paul Mathias, « un code est un langage et que aussi technique soit-il, un langage donne lieu à une parole, laquelle à son tour exprime des arbitraires » (P. Mathias, ibidem, p. 27). Arbitraire certes « et pourtant il régule ! » devrait-on s’étonner face à ce nouveau pouvoir des ingénieurs. Car il n’est pas sans danger. La data scientist et bloggeuse Cathy O’Neil nous alerte : “the math-powered applications powering the data economy were based on choices made by faillible human beings. Some of these choices were no doubt made with the best intentions. Nevertheless many of these models encoded human prejudice, misunderstanding, and bias into the software systems that increasingly managed our lives. Like gods, these mathematical models were opaque, their workings invisible to all but the highest priest in their domain: mathematicians and computer scientist. Their verdicts, even wrong or harmful, were beyond dispute or appeal” (C. O’Neil, Weapons of the math destruction, Crown, 2016, p. 3).

Dès lors, face à ce très grand pouvoir dont les prérogatives sont encore difficiles à mesurer se pose la question de savoir s’il ne faut pas définir une responsabilité spéciale pour les ingénieurs. A en croire Jacques Ellul encore, l’intervention est nécessaire parce que « la Technique n’a pas de régulations internes susceptibles d’organiser la vie intérieure. Elle n’a rien à voir avec la vie intérieure, si ce n’est pour l’abolir […] ; les phénomènes naturels sont capables d’autorégulation, ceux qui créent la technique doivent être réglés de l’extérieur » (J. Ellul, ibidem, p.127). Le droit peut-il, en matière digital, faire office de… ?

La question se pose avec acuité car sur la toile, le Droit et la technologie, en tant que systèmes normatifs, apparaissent en concurrence, là où du point de vue de l’utilisateur, ils devraient converger. L’affrontement à l’œuvre entre système juridique et système technique dans la production de normes, s’illustre par les difficultés d’éclairage du très juridique consentement. Le consentement est aujourd’hui exprimé par un corps social ultra connecté, consommateur de technologie, mais dont on ne sait plus, si les inclinations à cliquer sur le « ok » sont le fruit de son libre arbitre, des suggestions algorithmiques des GAFA ou finalement, le fruit d’un subtil et confortable mélange des deux… pour une liberté de choix toujours plus « optimisée » par de réconfortantes trajectoires numériques parfois inspirées par du « nudge »… Le très juridique consentement est désormais brouillé par la technologie : elle jette un doute non seulement sur l’expression de sa matérialité, mais aussi sur sa portée et ses motivations profondes, par trop suggérées ou mécanisées par la technique… et ses ingénieurs. Mais pour quelle confiance ? Une confiance à construire, une confiance à construire entre ingénieurs et juristes qui n’ont pas d’autre option que de « faire péter » les silos au sein desquels, chacun des métiers exerce sa science et déploie ses talents. Une confiance à construire…. et à instaurer… mais par quel Pouvoir ?

No Comments

Post a Comment