Sam Altman défend l’acceptation de certains dommages au nom des progrès de l’IA

Le directeur général d’OpenAI, Sam Altman, défend une réglementation moins restrictive de l’intelligence artificielle et estime que la société devrait accepter que certains dommages surviennent en contrepartie de ses bénéfices. Lors d’un entretien avec le podcast Decoded de Politico, il a évoqué des risques tels que les piratages, les escroqueries et les usages malveillants, et soutenu que les usages bénéfiques de cette technologie seront beaucoup plus nombreux que les usages préjudiciables.

Cette position met au premier plan une question importante pour les entreprises qui développent ou intègrent l’IA : quel niveau de risque est acceptable, qui décide où se situe la limite et qui doit répondre lorsque quelque chose tourne mal. Les déclarations d’Altman expriment la position d’un dirigeant ; elles ne constituent pas en elles-mêmes une norme et ne déterminent pas les obligations légales des entreprises.

OpenAI et Anthropic divergent sur la portée de la réglementation

Altman a décrit une différence entre ceux qui, comme OpenAI, sont favorables à une supervision plus légère et ceux qui préconisent des contrôles plus stricts. Il a rejeté l’idée que le contrôle de la technologie soit concentré dans un seul laboratoire et soutenu que l’imposition de mesures capables d’éviter tout incident reviendrait à renoncer à une partie de ses bénéfices et à en limiter l’accès.

La comparaison avec Anthropic occupe une place centrale dans le débat, même si un porte-parole de l’entreprise a précisé à Politico que ses propositions réglementaires s’appliquent aux modèles de pointe. Le débat ne se réduit donc pas à une opposition entre réglementation et absence de réglementation : il porte aussi sur les systèmes soumis à des contrôles spécifiques et sur l’identité de ceux qui les supervisent.

Altman a affirmé qu’OpenAI n’acceptait pas les risques catastrophiques, notamment une grave perte de contrôle de l’IA. Cette réserve distingue les incidents qu’il considère possibles et acceptables des scénarios extrêmes qu’il dit vouloir éviter, sans pour autant définir à elle seule les critères permettant de tracer cette frontière.

Le débat sur les risques porte aussi sur la responsabilité

Ces déclarations ont suscité des critiques politiques et sociales. Le gouverneur de Floride, Ron DeSantis, a contesté l’idée qu’un petit groupe de dirigeants du secteur technologique puisse décider pour l’ensemble de la société des dommages acceptables. Le journaliste Chris Stokel-Walker, dans une tribune publiée par The Guardian, a formulé une autre critique : les entreprises ne devraient pas conserver les bénéfices tout en faisant supporter à des tiers les coûts des défaillances.

Ce sont des objections différentes, mais elles renvoient à une même tension. Un utilisateur qui choisit d’employer un outil peut connaître une partie de ses risques ; en revanche, une entreprise, un organisme public ou une personne touchée par un système déployé dans son environnement pourrait y être exposé sans l’avoir choisi. Pour les organisations, cette différence rend important le fait d’évaluer non seulement l’utilité d’une application, mais aussi les personnes susceptibles d’être touchées et les mécanismes disponibles pour détecter, contenir et gérer les incidents.

Altman a également reconnu la nécessité d’un cadre de responsabilité pour les entreprises qui proposent des modèles et indiqué qu’OpenAI devra assumer la responsabilité d’au moins certains problèmes liés à l’entraînement. Les sources disponibles ne précisent pas comment ce cadre se traduirait en obligations concrètes ni comment les responsabilités seraient réparties entre les développeurs, les fournisseurs et les organisations utilisatrices.

Une décision publique, pas seulement technologique

L’argument selon lequel les bénéfices dépasseront largement les dommages relève d’une prévision d’Altman, et non d’une garantie démontrée par ses déclarations. De même, reconnaître que des incidents surviendront ne détermine pas qui doit en assumer les conséquences. Le débat réglementaire consiste précisément à établir quels risques sont tolérés, quelles mesures de protection sont exigées et quelles responsabilités incombent à ceux qui développent et déploient ces systèmes.

Pour les entreprises, ce débat souligne l’importance de prendre en compte les risques dans les décisions d’adoption et de déploiement, en particulier lorsqu’un outil peut agir sur des systèmes ou des données appartenant à des tiers. Toutefois, la portée des obligations légales dépendra des règles applicables et des circonstances de chaque cas ; les déclarations des dirigeants ne remplacent pas cette analyse.