Des demandes de règles juridiques et non un appel à la loi du marché

Les lecteurs d’Asimov retrouveront dans ses différents nouvelles les lois qui classiquement sont situées en1942 dans Cercle vicieux : (la traduction est celle issue de « Trois lois de la robotique » de Wikipédia )

  1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
  2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
  3. un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Au-delà de la référence à la morale que ces règles sous-entendent, le premier de ces principes est particulièrement difficile à mettre en œuvre même pour un humain. Comment en effet, concilier avec les activités d’une société humaine, la contrainte de ne pas exposer autrui à un quelconque danger ? Chacun l’aura compris, le robot devenu intelligent et enfermé dans ces lois, n’aurait qu’une seule solution pour s’en sortir : nier l’humain.  Ne nous laissons pas manipuler par cette injonction paradoxale !

Deux mérites toutefois à ces œuvres de fiction. Elles sourcent ces lois à une époque où la plupart des auteurs de comics tentaient par leurs héros de sauver les démocraties. En évitant la soumission au seul marché, l’exigence de règles juridiques est posée comme un préalable à la conception de ces machines. L’avocat ne peut que s’en féliciter.

L’intelligence artificielle : de l’habileté augmentée en licence

L’intelligence artificielle, – l’association entre ces deux termes que tout oppose, remonte semble-t-il à 1955 – connaît aujourd’hui des variantes comme «  intelligence auxiliaire », « intelligence augmentée », « intelligence adaptée ». Toutes ces notions sont liées à l’apprentissage automatique, nom générique de différentes techniques qui n’ont plus rien à voir avec celles de l’enseignement d’une langue. L’apprentissage automatique nécessite de grandes puissances de calcul, – Moore avait déjà décrit cette accélération – ,  et des quantités considérables de données dont l’accès est facilité par Internet . Au lieu d’intelligence, le terme d’habileté serait plus significatif pour une activité fondée sur l’apprentissage. Autre caractéristique de l’IA, sa capacité à être transférée. Il ne s’agit pas seulement de l’échange d’informations qui grâce aux techniques employées, notamment Internet, et bientôt la 5 G, semble sans limite, mais de la capacité juridique à être désignée en tant qu’objet réservé dont l’accès et partant la monétisation reposent sur des licences. L’avocat praticien des droits de propriété industrielle connait déjà les contrats de licences.

Des techniques fondées sur la numérisation des données

Les applications de l’IA sont partout, la dictée et la reconnaissance vocales, la traduction instantanée, la voiture qui deviendra sous peu autonome, la médecine pour le diagnostic sont les plus fréquemment citées sans oublier la justice prédictive.  Le rebond du deeep learning date de 2007. En moins de 10 ans, les technologies de l’apprentissage automatique occupent toutes les chaînes de valeur. Du laboratoire de recherche au consommateur final, pas une activité industrielle ou de services ne semble y échapper.  Un monde de données dont la valeur est à exploiter.

 Malgré la captation exponentielle des données, numériser la ville ne suffit pas pour la rendre intelligente. Comme le rappelle le règlement sur la protection des données, le  RGPD, « Le traitement des données à caractère personnel devrait être conçu pour servir l’humanité ». La valeur économique de l’IA se mesure à sa finalité, mission que devra valider l’avocat. Auparavant l’avocat dira si la matière brute que la donnée représente, peut être collectée librement.

Capter les données à leur source ou organiser leur accès

Deux causes principales à la concentration des acteurs : la valeur des données naît de leur nombre, et la collecte massive des données par les outils d’Internet. C’est le triomphe des bases de données et de l’avocat qui les pratiques depuis la création du droit sui generis. Pas étonnant dès lors, que les plus grands collecteurs de données soient les géants du net. Toutefois, les Etats sont eux-mêmes collecteurs et producteurs de données, ils revendiquent également pour leur politiques industrielle un contrôle sur l’accès à ces données et entendent rééquilibrer les rapports de force. Si la gratuité apparente d’un service a pu un temps éviter la sanction du droit de la concurrence, la donnée monétisée ou même qualifiée modifie les règles à son accès, à sa conservation et à son exploitation. L’avocat distinguera leur régime.

Boîtes noires ou transparence

Qui dit apprentissage, dit restitution. Tous les biais des données et des algorithmes se retrouveront-ils dans les décisions prises au moyen d’IA ou au contraire, la mise en œuvre d’outils d’intelligence artificielle sera-t-elle soumise au respect des droits fondamentaux ? La normalisation des activités industrielles et des services issus de l’IA replace encore l’avocat au cœur de celle-ci.

Les entreprises nourries à la donnée.

Un ciblage optimal requiert la connaissance du client et le client laisse de plus en plus d’informations derrière lui. A de multiples occasions, le consommateur abandonne à la marque d’utiles indications. Ses lieux d’achats, les produits achetés et leur fréquence, ses hésitations entre différents produits, – ceux qu’il a regardés, écartés ou ignorés -, ses priorités d’achats, et surtout ses centres d’intérêts qu’il manifeste sur les réseaux sociaux, et ses interactions sociales . Le « mass media » a laissé la place à un ciblage optimal, la réalité de l’individu érigé en consommateur. Toutes ces informations multiplement collectées restent à traiter.  Face au gigantisme des informations collectées, la publicité nécessité aujourd’hui des technologies de traitement et d’organisation des données basées sur l’intelligence artificielle. Bien sûr les questions de données personnelles sont à traiter, l’avocat intervient surtout lors de la constitution des bases de données, fruits des informations collectées et de leurs exploitations marchandes sans cesse réactualisées. Nourries à la donnée, les entreprises doivent s’assurer que cette valeur ne leur échappe pas.

Des humains entre des robots

Sans reprendre tous les rêves de machines intelligentes que la littérature et le cinéma ont popularisé, les robots peuvent être définis comme des objets, des dispositifs ou des procédés autonomes, cette autonomie exprimant la capacité à agir indépendamment de tout contrôle ou de toute influence extérieurs. Autres caractéristiques du robot, son autonomie est de nature purement technique et le degré d’autonomie dépend de la complexité de ses interactions avec l’environnement dans lequel le robot évolue. L’autonomie du robot prise dans sa capacité à agir ou par ses interactions est établie par le programme du robot.

L’automatisation des taches par des machines était connue. Un marteau-pilon répétait des taches techniques fastidieuses. Le métier à tisser Jacquard permettait de manière autonome la production de tissus à motifs complexes par l’emploi de cartes perforées. La construction automobile dès les années soixante utilisait des robots.

L’intérêt renouvelé pour les robots tient à l’émergence de nouvelles techniques de programmation qui dotent les machines de capacités d’apprentissage non linéaires, l’apprentissage profond ou deep learning, et de prises de décisions indépendantes de l’opérateur humain. Cette habileté augmentée du dispositif technique qui combine l’Intelligence artificielle et l’indépendance décisionnelle, ne se limite plus à la production industrielle et au commerce, elle transforme les activités des secteurs traditionnellement non marchands, et modifie le statut du consommateur qui à son tour crée de la plus-value.

Face à l’ampleur des changements en cours, l’implantation du robot « est à mettre en regard d’un ensemble de tensions ou de risques et devrait être sérieusement évalué du point de vue de la sécurité, de la santé, et de la sûreté humaine, de la liberté, du respect de la vie privée, de l’intégrité, de la dignité, de l’auto-détermination, de la non-discrimination et de la protection des données à caractère personnel «  ( Principes éthiques point 10, de la Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)).

Autant de thématiques où intervient l’avocat.

Responsabilité des fabricants et des utilisateurs des robots

Les robots qu’il soient automates ou logiciels, – les robots désignent aujourd’hui des objets techniques très variés -, sont aujourd’hui perçus au premier abord comme des sources d’incertitudes juridiques.  

Pourtant. des régimes spécifiques existent par exemple dans le domaine médical.  L’arsenal des recours en responsabilité contractuelle et délictuelle s’applique déjà à de tels objets techniques. La situation du consommateur confronté à un appareil défectueux est amplement traitée en jurisprudence.

Pourquoi toutes ces interrogations ? Du fait de son autonomie obtenue par des nouveaux dispositifs d’apprentissage, le robot réaliserait des actions non prévues par son désigner. Pire encore, le robot échapperait à celui qui en a la garde.

Certains demandent l’application d’un régime spécifique de responsabilité. Les exemples ne manquent pas, le Code civil de 1804 prévoyait la responsabilité du propriétaire pour le dommage causé par l’animal « soit que l’animal fût sous sa garde, soit qu’il fût égaré ou échappé ». Le robot ne serait-il pour le juriste qu’un cheval qui a brisé ses rênes ?  Le robot même doté de capacités décisionnelles reste un objet d’industrie. Quand nos sociétés industrielles ont été confrontées à des événements involontaires et imprévisibles, leurs solutions juridiques ont pu être inéquitables, Hors le cas de faute avérée de l’employeur, l’ouvrier soumis à la théorie du contrat de louage du XIXème siècle et victime d’une machine, n’avait droit à aucune indemnité. Placer le robot sous une autonomie juridique, c’est soustraire d’autant à l’encontre des tiers la responsabilité de ceux qui ont participé à sa fabrication, et de ceux qui l’utilisent.

La complexité technique ne peut pas être un obstacle à la recherche d’un régime juridique. En effet, des objets encore plus complexes comme des avions sont soumis à des réglementations. Toutefois des différences notables sont à relever. Les robots seront bien plus nombreux, ils interagiront avec les humains bien plus souvent, et nous n’aurons pas toujours « conscience » de leurs actions.

La résolution du Parlement européen du 16 février 2017 a rappelé ces impératifs.

Quelle que soit la solution juridique choisie en matière de responsabilité des robots et de l’intelligence artificielle dans les cas autres que des dommages matériels, ledit instrument ne devrait en aucune manière limiter le type ou l’étendue des dommages qui peuvent faire l’objet d’un dédommagement, et ne devrait pas non plus limiter la nature de ce dédommagement, au seul motif que les dommages sont causés par un acteur non humain.

 Le futur instrument législatif devra reposer sur une évaluation approfondie effectuée par la Commission, qui devra préciser la stratégie à appliquer, celle fondée sur la responsabilité objective ou celle basée sur la gestion du risque.

 Il convient de créer un régime d’assurance robotique reposant éventuellement sur l’obligation faite au fabricant de contracter une police d’assurance pour les robots autonomes qu’il fabrique.

 Ce régime d’assurance devrait être complété par un fonds afin de garantir un dédommagement, y compris en l’absence de couverture.

 Toute décision politique concernant les règles de responsabilité civile applicables aux robots et à l’intelligence artificielle devrait être prise après la consultation en bonne et due forme d’un projet de recherche et de développement au niveau européen consacré à la robotique et aux neurosciences et mené avec des scientifiques et des experts capables d’évaluer tous les risques et les conséquences qu’impliquerait cette décision.

Le robot : un objet connecté

Autre caractéristique essentielle du robot, sa connexion en réseau.  Le robot dont la capacité décisionnelle a énormément besoin d’informations qui lui sont fournies par ses capteurs connectés en réseaux, en particulier à Internet. Corollaire de cette situation, l’action du robot est aussi en direction d’autres objets connectés.

L’Union Internationale des télécommunications dès 2005 avait perçu que les nouveaux développements transformeraient des objets statiques par une nouvelle dynamique intégrant l’intelligence de ces objets dans notre environnement pour stimuler la création et l’innovation de produits et de servies.

L’Internet des objets ne se limite plus à identifier chaque objet au sein d’une architecture normalisée et unifiée pour permettre leur connexion et leur communication en sécurité,  il s’agit de collecter des données brutes, de les échanger, de les traiter, jusqu’à l’action décisionnelle du robot, c’est-à-dire transformer des variations d’états en informations intelligentes,  et donc aussi de stocker en permanence des données issues de machines physiques ou virtuelles, toutes ces machines n’étant pas localisées au même lieu, le plus souvent dans un cloud.

Tous les secteurs industriels et plus encore les services sont transformés par ces objets connectés pour de multiples usages. S’agissant du consommateur, perçu comme une cible  marketing du e-commerce, son smartphone constitue « son capteur le plus fidèle ».   

A propos des objets connectés, l’avocat intervient sur de multiples chantiers. comme le rappelle le règlement 2018/1807 du 14 novembre 2018 établissant un cadre applicable au libre flux des données à caractère non personnel dans l’Union européenne, dès son premier considérant :

La transformation numérique de l’économie s’accélère. Les technologies de l’information et des communications ne constituent plus un secteur d’activité parmi d’autres, mais la base de tous les systèmes économiques innovants et des sociétés modernes. Les données électroniques sont au centre de ces systèmes et peuvent générer une grande valeur lorsqu’elles sont analysées ou combinées à des services et des produits. Dans le même temps, le développement rapide de l’économie des données et des technologies émergentes telles que l’intelligence artificielle, les produits et les services en lien avec l’internet des objets, les systèmes autonomes et la 5G soulèvent de nouvelles questions juridiques quant à l’accès aux données et à leur réutilisation, à la responsabilité, à l’éthique et à la solidarité. Des travaux devraient être envisagés sur la question de la responsabilité, notamment par la mise en œuvre de codes de conduite par autorégulation et d’autres bonnes pratiques, en tenant compte des recommandations, des décisions et des mesures prises sans  interaction humaine tout au long de la chaîne de  valeur du traitement des données. Ces travaux pourraient également porter sur des mécanismes appropriés visant à déterminer les responsabilités et à transférer les responsabilités entre services coopérant, les assurances et les audits.

Sans oublier bien entendu le RGPD sur les données personnelles, puisque des données à caractère non personnel peuvent avec l’essor des robots intelligents se voir transformer en données à caractère  personnel, pour lesquelles, ce règlement applique le RGPD . Si les évolutions technologiques permettent de transformer les données anonymisées en données à caractère pers nées doivent être traitées com et le règlement (UE) 2016/679 doit s’appliquer en conséquence ( considérant 9).