Combler le déficit de responsabilité : une condition préalable à la mise en place d'agents d'IA au sein des entreprises

Lorsque des entreprises et des gouvernements délèguent des tâches opérationnelles à des agents d'IA , la discussion porte souvent sur leurs capacités. L'IA peut-elle accomplir des tâches réalisées par des humains, comme la comptabilité, la négociation avec des fournisseurs, la signature de documents ou la publication de déclarations publiques ? Et peut-elle le faire suffisamment rapidement et à moindre coût pour justifier son déploiement ?

Ces questions sont importantes, mais la performance ne représente qu'une partie du problème. Dès lors qu'un agent agit de manière indépendante, d'autres questions se posent : qui l'a autorisé, quels intérêts représente-t-il, où s'arrêtent ses pouvoirs et, surtout, qui est responsable en cas de problème ?

C’est là le problème de la responsabilité dans l’IA par procuration , et aucun modèle plus sophistiqué ne pourra le résoudre. Le système par procuration peut être extrêmement performant, mais il peut néanmoins adopter des comportements indésirables, voire illégaux.

Le seul moyen de combler cet écart est de mettre en place un système doté de contrôles clairs sur l'autorité et d'une piste d'audit reliant chaque action entreprise par l'agent à la personne qui l'a autorisé, et capable de faire la distinction entre un humain et une machine.

Une erreur normale d'une ampleur exceptionnelle

Lorsqu'on évoque les dangers de l'intelligence artificielle, on imagine souvent une machine affranchie de tout contrôle humain et poursuivant ses propres objectifs. Mais un risque plus immédiat et moins spectaculaire réside dans la possibilité qu'un système commette des erreurs répétées dans l'exécution d'une tâche routinière, sans qu'aucune responsabilité ne soit clairement établie.

Une personne peut envoyer une facture au mauvais client par erreur. Mais un agent connecté à une base de données clients complète peut envoyer la même facture à des milliers de personnes. Il peut modifier un champ incorrectement, puis reproduire cette modification sur l'ensemble du marché, non pas par malveillance, mais par mauvaise interprétation de certaines instructions, alors qu'il est autorisé à les appliquer.

La rapidité avec laquelle un agent devient précieux peut faire économiser des centaines d'heures aux entreprises, mais elle peut aussi transformer une petite erreur facilement corrigible en un grave problème opérationnel.

Lorsqu'un agent rédige un courriel destiné à être relu, cette ambiguïté peut ne pas avoir une grande importance, car cette personne reste le lien entre le programme et le monde extérieur.

Mais lorsqu'il s'agit d'envoyer un message, de soumettre un relevé ou de transférer des fonds, la situation est tout autre. Imaginez demander à un assistant de réserver un vol et, au lieu de lui donner une carte professionnelle avec un plafond de dépenses raisonnable, lui confier votre passeport, votre carte bancaire et les clés de votre bureau. Vous pourriez avoir une confiance absolue en cet assistant, mais les pouvoirs qui lui sont conférés ne sont pas adaptés à la tâche.

Délimiter les contours et résoudre le problème

Les agents d'IA ne peuvent avoir ni nationalité ni personnalité juridique, mais ils peuvent être rattachés à des personnes physiques de manière juridiquement valable. Par exemple, un identifiant fiable permet de retracer l'activité d'un agent jusqu'à la personne qui l'a mise en œuvre. Associé à des pouvoirs et autorisations clairement définis, dont les termes sont visibles et vérifiables, ce système permettra aux agents d'IA de réaliser diverses opérations et transactions de façon plus contrôlée et transparente.

Ces contrôles peuvent être très précis. Un agent peut être autorisé à consulter des informations financières sans les modifier, à effectuer un paiement sans approbation ou à passer commande auprès de fournisseurs spécifiques sans dépasser un montant maximal. Ses privilèges peuvent être valables pour une seule transaction, une seule journée ouvrable ou la durée d'un contrat spécifique, après quoi ils expirent automatiquement sans qu'il soit nécessaire de les désactiver.

Révoquer cet accès devrait être tout aussi simple. Si une entreprise met fin à sa collaboration avec un agent, change de fournisseur ou découvre une erreur, elle devrait pouvoir révoquer immédiatement son accès sans avoir à modifier les identifiants de la personne responsable.

L'autorisation légale de l'agent dans les différents domaines de ces contrôles a une durée de vie plus longue que n'importe quel modèle d'IA individuel, qui sera mis à jour, remplacé et fusionné au fil du temps, souvent sans que le client ne voie plus qu'un nouveau numéro de version.

Mise en œuvre de l'idée sur le terrain

L'Estonie a décidé de s'attaquer dès maintenant à ces problèmes. En juin, le gouvernement a lancé la mise en place d'un système d'enregistrement public pour les agents d'IA, accessible aux citoyens estoniens et à la communauté entrepreneuriale internationale du pays. L'objectif est d'étudier comment l'Estonie, État entièrement numérique où tous les services publics sont disponibles en ligne, peut s'ouvrir à la nouvelle vague d' entreprises s'appuyant sur l'IA.

Selon la proposition actuelle, chaque individu recevrait un identifiant numérique enregistré, pouvant être lié à un ou plusieurs mandataires agissant en son nom. Les actions effectuées par le mandataire IA seraient considérées comme des actions automatisées, et la personne physique, servant de référence d'identité, serait tenue responsable, notamment en cas d'erreurs dues à une dépendance excessive à l'IA. Le mandataire IA ne pourrait opérer que dans les limites des autorisations qui lui sont attribuées.

Pour garantir la transparence, les prestataires de services privés doivent également savoir si l'opération a été effectuée par une personne ou par un système automatisé agissant pour leur compte. Cela leur permet d'appliquer efficacement les contrôles, les restrictions et les modèles de risque appropriés.

Conçu pour la délégation

Cette approche s'appuie sur plus de vingt ans d'expérience en matière de gouvernement numérique. En Estonie, un système de numéros d'identification personnels et d'identités numériques permet déjà aux individus d'agir au nom d'autrui, avec des pouvoirs clairement définis.

Un comptable peut établir les déclarations fiscales d'un client, un adulte peut gérer la santé de ses parents âgés via un portail de santé, et plusieurs personnes peuvent utiliser un compte bancaire d'entreprise avec des autorisations et des restrictions individuelles. En principe, ce même cadre pourrait soutenir les capacités des agents d'intelligence artificielle.

Cela permettrait aux utilisateurs d'avoir davantage confiance dans les mesures de protection mises en place pour prémunir la partie responsable contre les erreurs potentielles d'un agent d'IA. Cela contribuerait également à combler le déficit de responsabilité à mesure que les activités de ces agents se développent.

Avant de pouvoir conférer des pouvoirs exécutifs aux agents d'IA, il leur faut un cadre technique et juridique contraignant qui définisse qui ils représentent, ce qu'ils peuvent faire et qui reste responsable de leurs actions.