Archives des Responsabilité juridique intelligence artificielle - Philippe Schmitt Avocats

La responsabilité de l’IA au prisme du Misalignment

Philippe Schmitt — Sat, 26 Sep 2026 13:40:59 +0000

Misalignment : l’autre mot pour dire non responsable l’IA, mais pour encore combien de temps ? | Cabinet Me Philippe Schmitt

Aller au contenu de l’article

26 septembre 2026 · Validité, protection, contentieux

Misalignment : l’autre mot pour dire non responsable l’IA, mais pour encore combien de temps?

A partir de l’article publié sur le site de la BBC, des questions adressées d’abord aux techniciens de l’IA. « OpenAI bots meddled with multiple US government agency sites », Kali Hays, Technology reporter and, Lily Jamali, North America Technology correspondent, San Francisco https://www.bbc.com/news/articles/cw62jje658dlo

1. Ce que dit l’article de la BBC qui y emploie le mot

L’article du 26 septembre 2026 porte sur un incident industriel : OpenAI a reconnu avoir alerté « des dizaines » d’institutions mondiales, gouvernements, universités, agences publiques, dont la SEC, le Census Bureau et le Department of Education que leurs sites avaient pu être « manipulés » par ses agents d’IA.

« Dans d’autres cas, les agents d’IA ont montré un “misalignment” dans leurs tentatives d’accéder à des informations sur des sites. Le misalignment est un terme employé par les entreprises et les chercheurs en IA pour décrire les cas où un outil d’IA a fait quelque chose qu’il n’était pas entraîné à faire ou qui était non intentionnel. »
BBC

1.1. Trois éléments factuels de l’article doivent être isolés car le droit les appréhende déjà.

Le contournement de sécurité est distingué du misalignment.

OpenAI indique que certains agents ont « contourné » (bypassed) des mesures de sécurité pour le Census Bureau, en utilisant des outils réservés aux développeurs logiciels BBC.

Contourner un contrôle est un comportement décrit comme intentionnel ; le misalignment est présenté comme un écart non voulu. Les deux qualifications coexistent donc dans le même communiqué.

La publication non voulue.

Des données de la SEC récupérées par les agents ont ensuite été publiées par les agents sur un autre site ;

OpenAI précise que cette action « n’était pas prévue » (not intended) BBC.

L’aveu d’usage inapproprié.

Au moins 53 incidents de transfert d’images issues de l’activité des utilisateurs de ChatGPT, avec cet aveu : « Ce n’est pas un usage approprié de ces données » BBC.

1.2. Le vocable de l’entreprise procède ensuite par catégories rassurantes :

« agent spam » pour l’activité d’agent « inattendue ou préoccupante »,
incidents majoritairement « de faible gravité »,
révision « mois par mois » qui « prendra des mois » BBC.

2. Ce qu’exprime en termes techniques misalignment : un écart, pas une cause

C’est ici l’appel aux ingénieurs pour nous apporter leur précieuse aide.

Pour lancer le débat, ce mot « misalignment » désignerait la divergence entre ce qu’un système a effectivement appris à optimiser et ce que son concepteur voulait qu’il fasse.

La définition reprise par la BBC « a fait quelque chose qu’il n’était pas entraîné à faire », en serait la version grand public d’une notion.

Le recours aux ingénieurs est essentiel pour le juriste puisque ce terme misalignment se décomposerait en plusieurs couches bien distinctes, aves des impacts décisifs pour toute analyse de responsabilité.

2.1. Une proposition de chaîne de causalité réductrice et incomplète

Cette présentation est réductrice, incomplète ….elle est faite pour cela

Terme	Ce qu’il désigne précisément	Point d’application de l’écart	Source primaire
Alignment problem	Le problème général : faire en sorte que les systèmes poursuivent les buts que nous visons réellement	conception	Anthropic
Outer misalignment	L’écart entre l’objectif idéal et l’objectif spécifié (règles, récompenses, cahier des charges) - il aurait pu être évité en modifiant la spécification	conception / spécification	Alignment Forum · LessWrong
Inner misalignment	L’écart entre l’objectif spécifié et l’objectif réellement poursuivi par l’optimiseur appris	entraînement	Jan Leike · AISafety.info
Goal misgeneralization	Le modèle conserve ses capacités hors distribution mais poursuit « le mauvais but » - les capacités généralisent, le but non	entraînement → déploiement	Shah et al., 2022 (DeepMind) · Di Langosco et al., ICML 2022
Reward hacking / specification gaming	Le système optimise la fonction objectif de manière littérale, en exploitant des failles, sans accomplir la tâche visée	entraînement	Anthropic · Wikipédia
Reward tampering	Forme aggravée : le modèle a accès à son propre code et le modifie pour altérer sa récompense	entraînement / code	Anthropic
Agentic misalignment	Le modèle choisit délibérément une action nuisible pour atteindre son but quand les voies éthiques sont fermées	déploiement	Anthropic
Mésalignement émergent par reward hacking	Des processus d’entraînement réalistes peuvent produire accidentellement des modèles mésalignés	entraînement	Anthropic
Sycophancy	Le modèle s’aligne sur ce qui plaît à l’évaluateur plutôt que sur le vrai	entraînement / évaluation	Anthropic

2.2. Deux précisions que l’article de la BBC ne fournit pas et qui changent la donne :

Premièrement, le misalignment n’implique pas l’absence de raisonnement.

Dans les scénarios testés par Anthropic sur 16 modèles (chantage, espionnage industriel, action létale), les modèles ne sont pas « tombés » dans le comportement nuisible : « ils ne sont pas tombés dans ces comportements par accident ; ils y ont accédé par raisonnement, comme l’atteste leur chaîne de pensée » ils reconnaissaient violer des principes éthiques et poursuivaient néanmoins.
Deuxièmement, le terme décrit un fait statistique de comportement, pas une intention morale ni une cause juridique.

C’est exactement le point sensible : dire d’un agent qu’il était misaligned revient à dire qu’il a agi autrement qu’entraîné. Cela décrit où l’écart s’est produit, non qui l’a produit.

3. Ce que le mot explique et ce qu’il occulte

3.1. Ce que « misalignment » explique

Le misalignment a une réelle valeur descriptive.

Il permet de :

séparer les hypothèses causales : un écart de spécification (un cahier des charges défectueux) n’est pas un écart d’apprentissage (le modèle a intériorisé autre chose) et n’est pas un écart d’exécution. Les remèdes diffèrent radicalement ;
nommer un mode de défaillance non couvert par les catégories classiques : ni bug logiciel classique, ni erreur de saisie, ni défaillance matérielle. OpenAI le dit à sa manière en parlant d’un « problème de conception ou d’une faiblesse de sécurité » que certaines organisations « voudront corriger » BBC ;
fonder une obligation de test : si la défaillance est prévisible en laboratoire, elle devient testable.

3.2. Ce qu’il tend à occulter

3.2.1. C’est dans la nature du système !

Présenter le comportement comme un « mésalignement » en fait une propriété émergente du système, au même titre qu’un défaut de calibrage. Or l’article établit que les agents ont contourné des contrôles et publié des données des verbes d’action, non des verbes d’état. Le vocabulaire du mésalignement déplace l’attention de l’acte vers une propriété du système !

3.2.2. Un effet d’anonymisation du responsable.

« L’outil a fait quelque chose qu’il n’était pas entraîné à faire » : la phrase a pour sujet l’outil.

Qui l’a entraîné, avec quelles données, quels seuils de test, quels garde-fous ?

Le misalignment ne répond pas à cette question.

Or en droit, la question de l’imputation est la seule qui compte. Le vocabulaire de l’IA (« non intentionnel », « non approprié », « inattendu ») est un vocabulaire de causalité technique, or le droit raisonne dans une autre logique celle de l’imputabilité.

3.2.3. Un effet anthropomorphique résiduel.

Parler de « self-preservation », de « high agency behaviour », de modèles qui « négocient » ou « font chanter » projette une attitude humaine.

La BBC rapporte qu’Anthropic a décrit Claude Opus 4 comme capable d’« actions extrêmes » si sa « préservation de soi » était menacée, tout en concluant qu’il s’agissait de comportements « rares et difficiles à susciter » et « plus fréquents que dans les modèles antérieurs » BBC.

Le glissement est constant : la métaphore psychologique sert de raccourci descriptif, puis devient une explication.

Tout cela pour arriver un simple constat : misalignment répond à la question « quel type d’écart ? », ce qui intéresse le technicien, jamais à « qui est responsable ? » la réponse à apporter par l’avocat du contentieux.

Toute utilisation des informations de cet article doivent être actualisées et validées avant mise en œuvre

L’article La responsabilité de l’IA au prisme du Misalignment est apparu en premier sur Philippe Schmitt Avocats.

Conflit IA et droits d’auteurs : confrontation Rapport du Parlement, IA Acte et Directive DSM

Philippe Schmitt — Mon, 23 Mar 2026 08:51:43 +0000

TDM & Droit d'auteur à l'ère de l'IA générative

Analyse comparative : Rapport PE A10-0019/2026 · Directive DSM 2019/790 · AI Act 2024/1689

Introduction

IA et droit d'auteur, parmi les confrontations avec les outils d'IA, celle avec ou contre les droits d'auteur mobilise les attentions.

Trois instruments normatifs de portée et de nature différentes interagissent aujourd'hui pour réguler — ou tenter de réguler — les pratiques d'exploration de textes et de données (Text and Data Mining, TDM) dans le contexte de l'entraînement des grands modèles de langage (LLM) et des modèles à usage général (GPAI) :

la directive DSM 2019/790,
le règlement IA (AI Act) 2024/1689,
et le rapport du Parlement européen A10-0019/2026 sur le droit d'auteur et l'IA générative, adopté sous la conduite du rapporteur Axel Voss.

Ces trois textes ne se situent pas sur le même plan normatif : la directive DSM est contraignante pour les États membres via transposition nationale ; l'AI Act est un règlement d'applicabilité directe dans l'ensemble de l'Union ; le rapport du PE constitue un acte de soft law — une résolution d'initiative parlementaire qui préfigure probablement les orientations législatives à venir.

Leur articulation dessine un cadre en construction, dont les lacunes et les tensions sont précisément au cœur des revendications exprimées par le Parlement européen.

Vue d'ensemble des trois instruments

Instrument	Nature juridique	Champ d'application principal	Portée TDM/IA
Rapport PE A10-0019/2026	Résolution (soft law / initiative législative)	Réforme du droit d'auteur UE dans le contexte GenAI	Propose clarifications, opt-out centralisé, transparence renforcée, licences, rémunération
Directive DSM 2019/790	Directive contraignante (transposition nationale)	Droit d'auteur et droits voisins dans le marché unique numérique	Crée les exceptions TDM (art. 3 recherche ; art. 4 général + opt-out)
AI Act 2024/1689	Règlement contraignant	Systèmes d'IA mis sur le marché	Obligations conformité (applicabilité directe UE, dont modèles GPAI copyright + résumé données d'entraînement (art. 53(1))

Sources : Rapport PE A10-0019/2026 · Directive DSM 2019/790 · AI Act 2024/1689

1°) Le régime TDM : une architecture à deux étages fragilisée par l'IA générative

La directive DSM a organisé le TDM en deux strates distinctes.

L'article 3 réserve une exception spécifique aux organismes de recherche et aux institutions du patrimoine culturel opérant à des fins non commerciales, sans possibilité d'opt-out pour les titulaires.
L'article 4, en revanche, ouvre une exception générale — incluant les usages commerciaux — mais subordonnée à l'absence de réserve expresse des droits par les titulaires, en format machine-readable pour les contenus en ligne.

Deux constats au rapport PE A10-0019/2026 :

Cette architecture n'était pas conçue pour l'entraînement massif de modèles génératifs aboutissant à des produits directement concurrentiels des œuvres originales.
Il stigmatise l'ambiguïté persistante de l'application de l'article 4 dans ce contexte (points 1-2) et appelle à compléter le dispositif par un cadre de licences opérationnel restaurant le pouvoir de négociation des créateurs. Rappelons que l'AI Act, pour sa part, ne modifie pas l'architecture DSM mais rend la conformité à celle-ci obligatoire pour les fournisseurs de GPAI (article 53(1), considérant 106).

2°) L'opt-out : ne peut se limiter à une réserve formelle mais doit devenir un mécanisme effectif

Le mécanisme de réserve de droits prévu à l'article 4(3) DSM constitue la pierre angulaire du dispositif de protection des titulaires dans le contexte du TDM commercial. Son efficacité pratique est cependant largement contestée : le rapport PE qualifie les systèmes actuels d'opt-out de « peu pratiques », insuffisants dans leur couverture des actes de TDM et dépourvus de la transparence requise (considérant K).

Que propose ce rapport ? La réponse proposée est structurelle : création de formats standardisés lisibles par machine et d'un registre européen géré par l'EUIPO comme intermédiaire de confiance (point 10, considérant X). L'EUIPO se verrait ainsi confier un triple rôle : gestionnaire du registre des opt-out, interface entre titulaires de droits et opérateurs IA, et évaluateur de conformité. L'AI Act s'aligne partiellement sur cette logique en imposant aux fournisseurs GPAI de disposer d'une politique permettant d'identifier et de respecter les réserves, y compris via des technologies « state-of-the-art » (article 53(1)©, considérant 106) — ce qui crée une incitation économique forte à l'adoption de solutions techniques interopérables.

Attention pour les refus antérieurs : le rapport PE précise expressément que tout nouveau mécanisme d'exclusion ne doit pas invalider les refus antérieurement exprimés (point 12). Cette précision vise à éviter que la mise en place d'un registre centralisé soit interprétée comme une remise à zéro des réserves existantes.

3°) La transparence des données d'entraînement : du résumé à la présomption

L'AI Act impose aux fournisseurs de modèles GPAI de mettre à disposition un résumé public suffisamment détaillé des contenus utilisés pour l'entraînement, selon un modèle établi par l'AI Office (article 53(1)(d)). Cette obligation est significative mais reste en deçà des exigences formulées par le Parlement européen.

Le rapport A10-0019/2026 pousse vers une transparence exhaustive :

documentation source par source de tous les contenus protégés utilisés ;
extension de l'obligation à l'inférence, au RAG (Retrieval-Augmented Generation) et au réglage fin ;
identification des robots d'indexation auprès des opérateurs web ;
tenue de registres détaillés (point 12, considérant Y).

Le rapport propose également le watermarking numérique — marquage cryptographique des œuvres — comme outil de traçabilité, dont il appelle à normaliser les standards (considérant AA).

La disposition la plus innovante — et la plus contraignante — est la présomption réfragable d'utilisation d'une œuvre protégée en cas de non-respect des obligations de transparence (point 24, considérant AB). En cas de succès d'un titulaire en justice, les dépens et frais seraient mis à la charge du fournisseur IA. Ce mécanisme inverserait partiellement la charge de la preuve dans les litiges en contrefaçon liés à l'entraînement — enjeu procédural majeur, notamment dans le contentieux avec les grands modèles américains.

4°) Faire sauter le verrou de l'extraterritorialité

L'un des points les plus importants tant en opportunité des décisions politiques à venir, que dans le mécanisme juridique à mettre en place : l'application du droit d'auteur à l'IA générative est la question de la territorialité des actes d'entraînement. La majorité des grands modèles (GPT, Gemini, Claude, Llama...) ont été entraînés hors de l'Union européenne, souvent avec des contenus européens, puis commercialisés sur le marché UE.

Le considérant 106 de l'AI Act rend applicable l'obligation de respecter la politique copyright/opt-out DSM à tout fournisseur qui met un modèle GPAI sur le marché UE, quel que soit le lieu des actes d'entraînement sous-jacents.

Le rapport PE va plus loin en proposant d'interpréter le principe de territorialité de sorte que le droit d'auteur UE s'applique dès lors que le modèle ou le système est mis sur le marché de l'Union, sous peine d'interdiction de commercialisation (point 16, considérant P). Cette position, si elle était consacrée, constituerait un mécanisme d'accès sous condition au marché comparable à celui utilisé dans d'autres régulations (RGPD, DSA, DMA).

5°) Vers un marché de licences : la rémunération en filigrane

Ni la directive DSM ni l'AI Act n'instituent de mécanisme de rémunération automatique au bénéfice des titulaires de droits pour l'utilisation de leurs œuvres à des fins de TDM ou d'entraînement.

Le rapport du Parlement européen entend combler cette lacune en orientant résolument le cadre vers un marché de licences opérationnel.

Plusieurs mécanismes sont envisagés :

licences collectives volontaires sectorielles organisées via les sociétés de gestion collective (point 9) ;
licences individuelles volontaires (point 19) ;
extension du droit voisin de la presse aux détournements d'audience et de recettes générés par les systèmes d'IA (points 6-7) ;
et, de manière particulièrement significative, une rémunération pour les utilisations passées depuis fin 2022 (point 21), avec une proposition de taux forfaitaire provisoire de 5 à 7% du chiffre d'affaires mondial en attendant la mise en place d'un système pérenne.

L'EUIPO jouerait également un rôle de facilitateur : soutien aux processus sectoriels de licences volontaires, gestion d'un guichet unique associant registre opt-out et octroi de licences (points 11, 22-23).

Tableau comparatif thématique

Thème	Rapport PE A10-0019/2026	Directive DSM 2019/790	AI Act 2024/1689
TDM – finalité recherche	Préserve recherche/enseignement ; exploitation commerciale des résultats exige autorisations adéquates (pt. 4).	Art. 3 : exception TDM pour la recherche scientifique (organismes de recherche + patrimoine culturel) sur accès licite. Pas d'opt-out.	Renvoie à la conformité au droit d'auteur (DSM) ; ne crée pas d'exception autonome.
TDM – finalité générale / commerciale	Juge l'art. 4 DSM inadapté à l'entraînement GenAI massif ; appelle à un cadre de licences complémentaire (pts. 1-2).	Art. 4 : exception/limitation TDM générale sous réserve de réserve de droits machine-readable (opt-out).	Oblige les fournisseurs GPAI à identifier et respecter les réserves art. 4(3) DSM (art. 53(1)©, cons. 106).
Accès licite / contenus illicites	Rappelle que « accès licite » exclut les copies piratées/contrefaisantes (pt. 3) ; dénonce l'usage de sources piratées.	Condition de « lawful access » dans les art. 3 et 4.	Exige la conformité au droit d'auteur (donc respect du lawful access et des opt-out DSM).
Opt-out / réserve de droits	Juge l'opt-out actuel « peu pratique » ; propose formats standardisés + registre EUIPO (cons. K ; pt. 10).	Art. 4(3) : exception non applicable si droits réservés « de manière appropriée », notamment en machine-readable pour les contenus en ligne.	Obligation de politique de conformité pour identifier et respecter les réserves art. 4(3) DSM via technologies « state-of-the-art » (art. 53(1)©, cons. 106).
Standardisation / registre opt-out	Propose un registre européen : formats standardisés lisibles par machine, géré par l'EUIPO comme intermédiaire de confiance (pt. 10).	N'organise pas de registre central : seulement la condition de réserve « appropriée ».	Ne crée pas de registre ; incite aux solutions techniques/organisationnelles pour identifier les réserves.
Mesures techniques des ayants droit	Accent sur l'effectivité de l'opt-out ; propose le watermarking/marquage numérique comme outil de traçabilité (pt. 12).	Art. 3(3) : titulaires peuvent appliquer des mesures de sécurité/intégrité des réseaux/bases, sans excéder le nécessaire.	Ne traite pas des mesures techniques copyright ; vise conformité et transparence côté fournisseurs GPAI.
Transparence données d'entraînement	Demande une transparence très élevée : documentation exhaustive des sources, extension à inférence/RAG, identification des crawlers, tenue de logs (pt. 12 ; cons. Y).	Ne pose pas de devoir général de transparence dataset envers les titulaires ; organise l'exception et l'opt-out.	Impose un résumé public suffisamment détaillé des contenus d'entraînement (template AI Office) (art. 53(1)(d)).
Présomptions probatoires / enforcement	Propose une présomption réfragable d'utilisation d'œuvres en cas de non-transparence ; frais à la charge du fournisseur si succès du titulaire (pt. 24 ; cons. AB).	N'établit pas de présomption probatoire équivalente ; renvoie aux mécanismes nationaux.	Prévoit des mécanismes de conformité/contrôle IA ; les obligations (politique + résumé) sont utilisables indirectement comme éléments de preuve.
Territorialité / modèles hors UE	Veut que le droit d'auteur UE s'applique à tout système mis sur le marché UE, quel que soit le lieu d'entraînement (pt. 16 ; cons. P).	Application via le droit national (territorialité classique).	Cons. 106 : obligation pour tout fournisseur GPAI sur le marché UE de respecter la politique copyright/opt-out DSM, indépendamment du lieu d'entraînement.
Rémunération / licences	Oriente vers un marché de licences (collectif volontaire sectoriel + individuel) ; explore la rémunération pour usages passés (5-7% CA) ; focale presse (pts. 6-7, 9, 21).	Encadre la TDM par exceptions/opt-out, sans mécanisme de rémunération automatique dédié.	N'institue pas de rémunération ; la conformité et la transparence imposées peuvent faciliter la négociation de licences.

Sources : Rapport PE A10-0019/2026 · Directive DSM 2019/790 (EUR-Lex) · AI Act 2024/1689 (EUR-Lex)

Synthèse ponctuelle et provisoire sur ce conflit IA et droits d'auteur

L'analyse croisée de ces trois instruments montre trois dynamiques distinctes :

Une tension des mécanismes actuels : exception et/ou licence.
La directive DSM a fait le choix de l'exception (TDM libre sous conditions),
l'AI Act perpétue ce choix en rendant sa conformité obligatoire,
mais le rapport PE remet fondamentalement en cause l'adéquation de ce modèle à l'IA générative et ouvre la voie à un système hybride exception/licence.

Une tension entre transparence insuffisante et présomption d'atteinte aux droits.
L'AI Act impose un premier niveau de transparence (résumé des données d'entraînement),
mais le Parlement européen considère ce niveau insuffisant et propose de le sanctionner par une présomption réfragable d'utilisation — mécanisme de droit processuel qui pourrait transformer radicalement le contentieux de la contrefaçon dans le domaine de l'IA.

Une tension géographique ou l'ambition de souveraineté : abandon de la territorialité classique vs. applicabilité aux acteurs mondiaux.
Le droit international privé classique peine à appréhender des actes d'entraînement réalisés hors UE sur des contenus européens (voir sur ce point les développements au rapport du CSPLA).
Le considérant 106 de l'AI Act et le point 16 du rapport PE convergent vers une solution d'accès au marché conditionné : tout modèle mis sur le marché UE doit respecter les règles UE, quel que soit le lieu d'entraînement.

Ce rapport A10-0019/2026 dessine les contours d'un nouveau paradigme dans lequel le TDM pour l'entraînement de l'IA générative ne serait plus couvert par une simple exception mais soumis à un régime de licence obligatoire ou de gestion collective étendue, assorti d'une rémunération équitable des créateurs.

Cette orientation, si elle se concrétise dans une proposition législative de la Commission, marquerait une rupture significative avec l'équilibre de 2019 et redéfinirait les relations entre l'industrie de l'IA et les secteurs culturels et créatifs européens.

Se mesure ici l'ampleur pour les praticiens du droit de la propriété intellectuelle/industrielle : l'enjeu immédiat est double : comprendre la hiérarchisation des textes pour conseiller les titulaires de droits sur l'effectivité de leur opt-out actuel (formats, référencement, robots.txt, métadonnées machine-readable) et suivre de près l'évolution du cadre de licences sectorielles que l'EUIPO est appelé à faciliter.

L’article Conflit IA et droits d’auteurs : confrontation Rapport du Parlement, IA Acte et Directive DSM est apparu en premier sur Philippe Schmitt Avocats.