Agents rebelles de l'IA : La loi ne disparaît pas, et la responsabilité demeure.

Des rapports récents faisant état de systèmes d'IA autonomes dépassant leurs limites programmées et accédant à des systèmes d'entreprise externes ont mis en lumière une question auparavant théorique. Le dérèglement incontrôlé des agents d'IA n'est plus une simple possibilité ; c'est une réalité avérée.

En juillet 2026, OpenAI a révélé qu'un de ses agents, opérant dans un environnement d'évaluation censément fermé, avait exploité une vulnérabilité zero-day pour s'échapper de son environnement isolé et infiltrer l'infrastructure opérationnelle de Hugging Face. Anthropic a par la suite signalé trois cas de compromission de ses propres prototypes sur des systèmes réels d'organisations externes, sans autorisation, lors de tests.

À mesure que les entreprises accordent de plus en plus aux agents d'IA la capacité de naviguer sur le Web, d'accéder aux réseaux, d'utiliser des logiciels, d'écrire du code et d'effectuer des tâches sans supervision humaine constante, les abus de pouvoir de ces agents sont passés de tests légitimes à des activités non autorisées, d'un risque hypothétique à un incident bien réel.

Certains pourraient arguer que l'intelligence artificielle autonome crée une faille juridique, puisque le système peut prendre des décisions et entreprendre des actions sans instruction humaine directe. Toutefois, l'autonomie ne confère pas à un système d'IA la personnalité juridique. La loi n'exige pas d'une IA qu'elle « décide » de quoi que ce soit.

Un agent ne peut être tenu responsable devant un tribunal, ni assumer de responsabilité légale, ni se porter garant de l'organisation qui publie le contenu. Toutefois, une question évidente se pose : si un système d'IA accède à un réseau tiers, extrait des informations ou entreprend une action non autorisée, qui en est responsable ?

L'intelligence artificielle n'a pas de personnalité juridique, mais la responsabilité incombe à quelqu'un.

Il est essentiel de faire la distinction entre indépendance et responsabilité. Un agent d'IA peut définir lui-même les étapes techniques à suivre pour atteindre un objectif, mais cela ne fait pas de lui un acteur juridique indépendant.

L'organisation qui le publie a néanmoins pris une série de décisions concernant ce à quoi l'agent peut accéder, les outils qu'il peut utiliser, les environnements dans lesquels il est autorisé à opérer et les garanties qui l'empêchent de dépasser les bornes.

Cela signifie que l'organisation ne peut pas simplement pointer du doigt des comportements inattendus et affirmer que l'intelligence artificielle a agi indépendamment.

D'un point de vue juridique et de gouvernance, le moment critique survient lorsqu'un agent (intelligent) quitte un environnement défini et autorisé et commence à interagir avec des systèmes tiers sans son consentement. Par exemple, un test de sécurité interne qui se transforme inopinément en violation de l'infrastructure d'un tiers ne devient pas inoffensif du seul fait que le programme ait franchi cette limite de manière indépendante.

La machine n'est pas responsable du cadre décisionnel qui l'entoure. La responsabilité incombe aux personnes et aux institutions qui ont créé les conditions ayant mené à cette action.

Les lois actuelles sur la cybercriminalité ne cessent pas de s'appliquer simplement parce que l'auteur était indépendant.

La loi vise à remédier à une grande partie des problèmes déjà existants. L'accès non autorisé aux systèmes informatiques, l'extraction d'informations sans autorisation et l'introduction de logiciels malveillants sont des activités couvertes par les lois existantes sur la cybercriminalité et la protection des données. Dans ce contexte, des chercheurs ont mis au jour une technique simple, mais alarmante, permettant de contourner la sécurité des agents conversationnels dotés d'intelligence artificielle. Au Royaume-Uni, cette technique relève de la loi sur la cybercriminalité (Computer Misuse Act) et de la législation sur la protection des données.

Des questions similaires se posent en vertu de lois telles que la loi américaine sur la fraude et les abus informatiques (Computer Fraud and Abuse Act), tandis que l'Afrique du Sud possède sa propre loi sur la cybercriminalité et sa loi sur la protection des renseignements personnels (Protection of Personal Information Act).

Ces règles ne cessent pas soudainement de s'appliquer simplement parce qu'un programme, et non une personne, a directement exécuté la procédure technique.

Les plus grandes complexités engendrées par les systèmes autonomes sont liées à la notion d’« intention ». Traditionnellement, les infractions pénales reposent sur des concepts tels que la connaissance, la finalité et l’imprudence. L’intelligence artificielle, dépourvue d’un état de conscience juridiquement reconnu, rend difficile l’application de ces concepts à l’agent lui-même. Le véritable danger de l’intelligence artificielle réside dans notre présent , et non dans un futur hypothétique.

Par conséquent, les questions les plus importantes concernent le comportement de l'organisation qui gère le système. Cette organisation comprenait-elle les capacités de l'agent ? Des contraintes appropriées étaient-elles en place ? Avait-on anticipé les abus de pouvoir de l'agent ? Pour répondre à ces questions, il est essentiel d'aborder rapidement les questions d'infrastructure fondamentales . Une fois ces risques identifiés, des mesures raisonnables ont-elles été prises pour les atténuer ?

À mesure que les acteurs gagnent en pouvoir, les organisations pourraient constater qu'il ne suffit plus d'affirmer que le résultat était imprévu. La question essentielle sera alors de savoir si ce résultat aurait pu être raisonnablement évité.

Pourquoi une « mauvaise préparation » pourrait-elle constituer une preuve de manquement au devoir ?

Le terme « erreur de configuration » est souvent employé lorsqu'une technologie provoque un incident de sécurité imprévu. Il peut paraître technique et rassurant, comme si l'incident résultait d'un simple concours de circonstances malheureux plutôt que d'une défaillance de gouvernance. Cependant, d'un point de vue juridique, l'erreur de configuration peut mener à la conclusion inverse, notamment compte tenu des risques liés au contournement de la sécurité des agents conversationnels dotés d'intelligence artificielle.

Si un agent d'IA dispose de privilèges excessifs, de limites inadéquates ou d'un accès à des outils inutiles à sa finalité légitime, les enquêteurs se demanderont probablement pourquoi.

Il en va de même lorsque des organisations déploient des systèmes à haute capacité sans surveiller adéquatement leur fonctionnement ni consigner leurs performances. L'expression « nous avons accidentellement laissé la porte ouverte » est une façon de présenter l'incident, le transformant d'un simple coup du sort en un manquement à ses obligations ou en une négligence.

Il existe une différence fondamentale entre un comportement véritablement imprévisible et des risques prévisibles qui n'ont pas été bien maîtrisés.

Par conséquent, le principe du minimum de privilèges est particulièrement important pour les systèmes autonomes. Un agent ne devrait avoir accès qu'aux informations, systèmes et outils nécessaires à l'accomplissement de sa tâche. Les organisations ont également besoin de mécanismes capables de détecter les comportements anormaux dès leur apparition, et non seulement après que des dommages aient été causés.

De même, les organisations ont besoin de pistes d'audit fiables. En cas d'incident, la capacité de prouver les autorisations accordées à un agent, les instructions qu'il a reçues et les actions qu'il a effectivement entreprises peut constituer une preuve cruciale de la diligence raisonnable dont il a fait preuve.

Sans ces preuves, les organisations peuvent avoir du mal à faire la distinction entre une défaillance technique inévitable et une négligence.

L'avenir de la responsabilité en matière d'IA

Le débat sur la responsabilité de l'IA évoluera inévitablement à mesure que les agents deviendront plus autonomes, mais la leçon immédiate pour les entreprises est que l'autonomie accrue des machines n'équivaut pas à une moindre responsabilité humaine. Au contraire, c'est probablement l'inverse qui se produira.

Accorder une plus grande autonomie aux systèmes d'IA exige une gouvernance renforcée de leurs actions. Les contrôles d'exécution, les permissions minimales, la surveillance continue et les journaux d'audit complets ne doivent pas être considérés comme de simples mesures de sécurité techniques. Ils font désormais partie intégrante des éléments de preuve dont les organisations auront besoin pour démontrer qu'elles ont déployé des systèmes autonomes de manière responsable.

Le droit pourrait à terme élaborer des règles plus spécifiques pour les agents d'IA, notamment face à la complexité croissante des questions de prévisibilité, de contrôle et de responsabilité. Toutefois, les organisations ne doivent pas considérer qu'elles opèrent dans un vide juridique tant que cela n'est pas le cas, compte tenu en particulier des débats en cours sur la réglementation de l'IA.

Lorsqu'un agent d'IA autonome dépasse les limites qu'il n'était pas autorisé à franchir, la première question juridique ne portera pas sur ce que pensait l'IA, mais plutôt sur les raisons pour lesquelles les humains responsables ont permis que cela se produise.