Exclusif : OpenAI se prépare à une poussée politique pour "Repenser le contrat social" | Vanity Fair

Le personnel d'OpenAI peut profiter de quelques jours de congé bien mérités pendant les vacances de printemps de l'entreprise cette semaine, mais comme l'a prouvé le nouvel annonce de financement de 122 milliards de dollars qui a été publiée juste avant cette colonne ait été imprimée, le monde de l'IA ne dort jamais. Le nouveau capital arrive à la suite du rapport de la semaine dernière selon lequel OpenAI se préparait à sortir un nouveau modèle d'IA avancé, nom de code Spud. Lors d'une réunion d'entreprise le mardi dernier, le PDG Sam Altman a informé le personnel assemblé, "Les choses avancent plus vite que beaucoup d'entre nous ne l'avaient prévu."

Ce genre de fuites inspire inévitablement une crédulité sans souffle d'un côté et des réflexions cyniques sur le cycle d'hype sans fin recherchant les investissements de l'autre. Comme d'habitude, la réalité de la situation est probablement quelque part entre les deux. Comme un chercheur d'OpenAI me l'a expliqué le week-end dernier, "Tous les nouveaux modèles sont meilleurs que les anciens - et les modèles ont approché ou dépassé l'intelligence humaine depuis assez longtemps."

La semaine prochaine, nous commencerons à avoir quelques indications supplémentaires sur ce que pense OpenAI. En conjonction avec la sortie imminente du modèle Spud, j'ai appris que le laboratoire prévoit de publier une série de nouveaux documents et propositions exposant de nouvelles idées politiques pour l'ère de la superintelligence. Un document initial, qui sera publié la semaine prochaine, fait partie d'une poussée de recherche plus large, menée par le PDG Altman, le futuriste en chef Joshua Achiam, et le vice-président des affaires mondiales Chris Lehane, qui se concentrera sur la politique industrielle et les solutions pour les perturbations économiques à l'ère de l'IA.

Une source familière avec le projet a expliqué que l'idée est de "voir plus grand d'un point de vue politique sur les questions sociétales à mesure que la technologie avance vers la superintelligence." Cette personne a mentionné quelques "lanceurs de conversation" potentiellement controversés destinés à engager un large éventail de la société dans le débat sur l'IA.

Ceux avec qui j'ai parlé n'ont pas voulu trop entrer dans les détails, mais ont discuté de la nécessité de "repenser le contrat social" et de construire "une superintelligence qui fonctionne pour tout le monde." Cela ressemble certainement beaucoup à une forme de redistribution de la richesse (une idée que les milliardaires adorent). Mais en réalité, une étude financée par Altman sur le revenu de base universel a conclu en 2024 avec des résultats quelque peu décevants. Les chercheurs ont découvert que les avantages des paiements mensuels sans condition avaient tendance à "s'atténuer au bout de la deuxième et troisième année du programme." Espérons que cette nouvelle initiative de recherche ait trouvé une meilleure et plus concrète solution au chômage à venir causé par l'IA.

La semaine dernière, une fuite a révélé qu'Anthropic travaillait sur sa propre grande sortie de modèle, nom de code Mythos.

Ces développements sont également intrigants dans le contexte des recentrages de l'entreprise au cours des dernières semaines. Le mardi dernier, OpenAI a annoncé la fermeture de son modèle de génération vidéo, Sora, et la dissolution de son accord de licence d'un milliard de dollars avec Disney - ce qui a beaucoup surpris la société de divertissement. OpenAI a également abandonné ses plans controversés de sortir un compagnon érotique.

Entre-temps, l'entreprise a réorganisé ses efforts en matière de sécurité et de sûreté, et a annoncé que sa Fondation OpenAI prévoit de dépenser 1 milliard de dollars au cours de l'année prochaine pour la recherche médicale, la résilience de l'IA, et des programmes communautaires. Même son groupe de produits a été rebaptisé en Déploiement AGI.

Tous ces mouvements semblent indiquer qu'une entreprise est sur le point de... quelque chose. Une introduction en bourse, qui est prévue plus tard cette année ? Être irrémédiablement distancé par ses concurrents Anthropic et Google ? Une véritable percée technologique ?

Il y a aussi les élections de mi-mandat de 2026 qui approchent rapidement - probablement le premier cycle électoral dans lequel l'IA et ses répercussions seront vraiment au premier plan, pour les électeurs américains. Peut-être que l'entreprise a pris conscience du fait que la popularité désastreuse de l'IA est destinée à se retourner contre elle sous forme de réglementations sévères.

Les nouvelles propositions politiques d'OpenAI cibleront les "questions sociétales à mesure que la technologie avance vers la superintelligence."

En général, des phrases comme "sécurité de l'IA" et "risque de l'IA" sont devenues des gros mots depuis que Donald Trump est revenu au pouvoir une deuxième fois et que "l'accélération" est devenue le cri de ralliement de la Silicon Valley. Mais les choses pourraient changer à nouveau, avec une partie de l'euphorie autour de Trump et de son paradigme de déréglementation commençant à s'estomper. En février, OpenAI a débauché le chercheur en sécurité Dylan Scandinaro d'Anthropic pour diriger son équipe de préparation, qui semble maintenant recruter des rôles axés sur les risques biologiques et chimiques de frontière, les risques de cybersécurité, et le sinistrement nommé "perte de contrôle."

Intéressant, le leadership d'OpenAI ne marche pas exactement au pas en ce qui concerne la politique. Achiam a récemment tweeté sur la "tentative du lobby pro-AI de torpiller Alex Bores, qui sera plus tard largement perçue comme un but contre son camp inutile." Beaucoup ont vu cela comme une attaque indirecte contre le président d'OpenAI, Greg Brockman, qui a investi des millions de dollars dans un super PAC dédié à attaquer les candidats pro-régulation comme Bores. OpenAI n'est pas le seul laboratoire où l'on ressent ce changement de ton. Anthropic a connu un énorme regain d'opinion publique après sa croisade contre ce qu'il considérait être un excès du Département de la Défense. (Le "Woke" est de retour!) La semaine dernière, une fuite a révélé qu'Anthropic travaillait sur son propre grand nouveau modèle, nom de code Mythos. Dans une déclaration à Fortune, un porte-parole de l'entreprise a déclaré que le modèle représente un "changement radical" en termes de capacités, avec un projet de billet de blog divulgué mettant en garde contre des risques particuliers dans le domaine de la cybersécurité en raison de la sophistication du modèle. Sabina Nong, une enquêtrice sur la sécurité de l'IA à l'Institut pour l'avenir de la vie, a déclaré qu'elle est suspicieuse de cette "nouvelle forme de construction narrative" émergente dans les laboratoires de pointe autour des "risques catastrophiques et des forces perturbatrices." Pendant ce temps, elle observe une tendance inquiétante : "Alors que les gens en parlent beaucoup plus souvent, en réalité, nous voyons encore moins d'engagements contraignants de la part des entreprises." Il est difficile d'échapper au sentiment que même dans les discussions et mémos fuités, ces laboratoires jouent pour un public. Comme l'a écrit le compte anonyme préféré de l'industrie de l'IA la semaine dernière, "c'est une position difficile à tenir lorsque toutes vos communications privées sont de facto publiques... Les 'projets Manhattan' ne sont pas vraiment dans l'espace des options, il vous suffit de constamment accélérer par rapport à vos adversaires en public." Kiss Kiss Bang Bang : La saga de la succession sauvage de Glock Le joueur de haut vol, et justicier auto-proclamé, au cœur du drame juridique de Paramount Le scandale de Summer House, expliqué Comment Trump a transformé le pouvoir de la pensée positive en illusion Milly Alcock se prépare à prendre son envol La vraie personnalité de la Reine Elizabeth Exclusif : Lindsey Vonn sur la vie après son effroyable accident Les rêves hollywoodiens de Harry et Meghan rencontrent un obstacle Kylie Jenner entre dans son ère hollywoodienne Des archives : L'éthique du style de M. et Mme Calvin Klein