Dario Amodi (Anthropic) : Les gens voient les gouvernements exploiter l'intelligence artificielle… une crise de confiance.

On a déjà beaucoup parlé du pessimisme et des craintes entourant l'intelligence artificielle ; certaines de ces craintes s'appuient sur les mises en garde des romans dystopiques classiques, mais la plupart sont fondées sur des faits réels. L'optimisme est palpable et les promesses nombreuses de la part de ceux qui maîtrisent cette technologie, mais peu d'entre elles se sont concrétisées en avantages tangibles.

Dario Amode, PDG et cofondateur d'Anthropic, a déclaré dans un article publié sur X : « Je pense que la critique la plus juste adressée aux entreprises d'IA , y compris Anthropic, est que nous n'avons pas encore tenu nos grandes promesses de bénéfice pour le monde. »

Amoudi affirme que la technologie souffre d’une « crise de confiance » due à la conviction que les entreprises et les gouvernements « inventent de nouveaux moyens de les exploiter ». Mais étant donné l’importance de l’intelligence artificielle dans l’armée, les forces de l’ordre et les services de renseignement américains, est-il erroné de penser cela ?

L'intelligence artificielle ne pourra pas sortir de cette crise grâce aux seules relations publiques.

Avec l'avènement de l'intelligence artificielle (IA), la plupart des avantages vantés de cette technologie visaient à convaincre les dirigeants et les cadres supérieurs que, malgré des preuves encore insuffisantes, il s'agissait d'un investissement judicieux. De ce fait, de nombreux acteurs majeurs du secteur de l'IA ont présenté cette technologie comme un moyen de réduire les coûts de main-d'œuvre des entreprises en remplaçant les employés humains par des IA.

Certains « experts » en IA continuent de tenir ces propos à huis clos. J'ai assisté cette année à un événement privé où l'un d'eux a prédit que la superintelligence éliminerait jusqu'à 50 % de la population active mondiale d'ici 10 ans, et que les entreprises les mieux préparées à tirer profit de cette catastrophe engrangeraient un pouvoir et une richesse inimaginables. Ces propos ont, bien entendu, été accueillis par les applaudissements des dirigeants des entreprises présentes.

Amoudi avait déclaré que l'intelligence artificielle pourrait supprimer 50 % des emplois de bureau. Il a depuis nuancé son propos, affirmant désormais que l'IA est un « multiplicateur de production », autrement dit, qu'elle « augmente la productivité sans augmenter les salaires », ce qui n'est rien d'autre qu'un argument marketing.

Comme je l'ai répété à maintes reprises, la preuve de l'efficacité de l'IA réside dans les résultats concrets. On a beaucoup entendu parler de ses capacités , mais on n'a constaté que peu de bénéfices réels . Et Amodi le reconnaît d'ailleurs.

Il souligne que si une publicité affirmait que l'intelligence artificielle pouvait guérir le cancer, elle serait totalement trompeuse. Il déclare : « Ce qui fonctionnera, c'est la guérison du cancer . »

Amoudi a laissé entendre qu'Anthropic s'engageait sur le plan éthique en la matière, expliquant que l'entreprise « intensifiait ses efforts » pour se concentrer sur l'utilisation de l'IA en biologie et en médecine. Mais, là encore, nous n'en avons pas vu les résultats.

L'article d'Amoudi abordait également la question de la concentration du pouvoir dans l'IA, reprenant certaines critiques récentes de Mark Zuckerberg quant à la meilleure façon d'utiliser l'IA au profit de tous. Le point de vue d'Amoudi différait légèrement de celui de Zuckerberg, plaidant pour un équilibre entre réglementation, supervision, tests et modèles à pondération ouverte.

Amoudi note qu'il est d'accord à certains égards avec le mouvement « Pacing the Frontier », expliquant que l'application de contrôles aux laboratoires de pointe permettrait d'« ajuster » le rythme du développement technologique, tout en permettant au reste de l'industrie de rattraper son retard.

Le défaut évident de ce plan est qu'aucun autre pays ne serait soumis à cette réglementation, ce qui pourrait délibérément entraver la domination américaine dans le secteur de l'intelligence artificielle, chose que l'administration Trump a toujours affirmé ne pas vouloir permettre.

L'intelligence artificielle offre-t-elle plus d'avantages aux infrastructures autoritaires qu'aux individus ?

Les systèmes d'intelligence artificielle sont largement déployés dans les infrastructures de surveillance. Avant sa rupture avec le Pentagone, Anthropic collaborait avec le département de la Défense pour la fourniture de systèmes d'IA. Anthropic a refusé de coopérer et d'autoriser l'utilisation de sa technologie pour la surveillance de masse et les armes entièrement autonomes, ce qui lui a fait perdre le contrat.

Heureusement pour le Département de la Défense (DoD), OpenAI a conclu un nouvel accord avec le Pentagone et a rapidement comblé le vide laissé par Anthropic, tout en interdisant l'utilisation de sa technologie pour espionner les Américains.

Mais cela ne signifie pas que les autres entreprises adhèrent aux mêmes normes éthiques. Flock, par exemple, a rencontré une forte opposition concernant ses caméras dotées d'intelligence artificielle conçues pour suivre les plaques d'immatriculation des véhicules aux États-Unis.

Ce système est censé identifier les véhicules des suspects lorsqu'ils franchissent les frontières et les zones d'autorité, mais il s'est plutôt avéré être un moyen pour les forces de l'ordre de poursuivre d'anciens associés , de surveiller leurs collègues et de suivre leurs relations amoureuses.

Les systèmes d'intelligence artificielle sont également déployés dans la surveillance du trafic et les radars de vitesse. Ce domaine, source de nombreuses interrogations pour les forces de l'ordre, est particulièrement sensible aux erreurs d'identification des plaques d'immatriculation et aux configurations incorrectes.

Aux États-Unis, en matière pénale, la charge de la preuve incombe à l'État qui doit démontrer la culpabilité d'un individu. Cependant, certains systèmes automatisés de contravention routière, ayant dressé des procès-verbaux à des véhicules erronés, ont été vivement critiqués car ils obligent les prévenus à prouver leur innocence devant un tribunal, inversant ainsi le principe de la charge de la preuve en matière pénale.

Et c'est là que réside le problème majeur que tout le monde ignore.

La technologie d'intelligence artificielle de Palantir est déployée au sein des forces armées et des forces de l'ordre américaines. Elle est notamment utilisée par l'Immigration and Customs Enforcement (ICE) pour traquer les personnes soupçonnées d'immigration clandestine. Mais la technologie de Palantir sert également à l'analyse d'images prises par drones, aux frappes de précision à longue portée, à l'analyse de données et à la planification militaire.

Il ne fait aucun doute qu'il s'agissait d'un outil essentiel pour atteindre le « record du monde » du plus grand nombre de guerres « gagnées » en une seule fois.

L’intelligence artificielle est une bonne nouvelle si vous n’avez rien à cacher et que vous aimez être du côté des « gentils », mais cette définition est en constante évolution.