Tu préfères la peste accélérationniste ou le choléra longtermiste ?
28.11.2023
Cela fait déjà quelques jours que Sam Altman a retrouvé son fauteuil de patron d'OpenAI. Pourtant, cette histoire est encore présente dans les médias. Après une nouvelle tentative de marketing avec la rumeur du projet Q-* dont personne, en dehors d'OpenAi, n’a encore vu la couleur, on assiste maintenant à un défilé d'avis et d'opinions qui ont la particularité de mobiliser une opposition factice au niveau idéologique pour expliquer le conflit managérial et commercial de l'entreprise. À l'instar des paniques technologiques fournies par les acteurs de l'IA, cette création de nouvelles catégories est le produit direct de ces mêmes acteurs. Rappelons d'abord que dans les faits la majorité des employés ont soutenu Sam Altman, on ne peut donc pas vraiment parler d'une véritable division au sein de l'entreprise. Les tenants des deux positions sont des détenteurs de capital économique important alors que le pays vit dans un moment de pauvreté chronique. San Francisco, et la Californie, a également un énorme problème d'inégalité.
Commençons par le meilleur. Dans un long et riche article Molly White explique très clairement les subtiles nuances dans la pseudo-philosophie habitant entrepreneurs et technophiles de la Silicon Valley. Il s'agit avant tout de justifications pour des comportements égoïstes et cupides.
Cory Doctorow, quant à lui et dans la poursuite des propos de White, rappelle à juste titre que ces débats mélangeant mauvaise science-fiction et panique technologique détournent l'attention des risques immédiats posés par l'application de ces technologies. Il souligne au passage que ces mêmes technologies pourraient être utilisées à bon escient. C'est le propre de la technocritique ou du luddisme de ne pas rejeter en bloc la technologie, mais d'en souligner les fondements capitalistes et au service de formes d'exploitation et de domination. C'est un point important, car on ne parle pas ici d'universitaires ou de chercheur•se•s au sens classique du terme, mais d'individus jonglant entre science et entrepreneuriat tout en étant plongé dans le contexte très localisé de la Silicon Valley.
quelques exemples de dichotomies en carton
Passons donc maintenant à cette criti-hype mollassonne et inoffensive que nous inflige l'opportunisme éditorial de récupérer des miettes de capital culturel sans pour autant éffleurer les statuquo capitalistes et sexistes/racistes.
https://www.nytimes.com/2023/11/22/technology/openai-board-capitalists.html
In one vision, A.I. is a transformative new tool, the latest in a line of world-changing innovations that includes the steam engine, electricity and the personal computer, and that, if put to the right uses, could usher in a new era of prosperity and make gobs of money for the businesses that harness its potential.
In another vision, A.I. is something closer to an alien life form — a leviathan being summoned from the mathematical depths of neural networks — that must be restrained and deployed with extreme caution in order to prevent it from taking over and killing us all.
Le problème avec les idiots savants et utiles comme Ilya Sutskever, c'est qu'ils sont dans une dissonance cognitive totale entre leurs névroses littéraires et leur engagement quotidien. On retrouve là, le côté complètement opportuniste des pseudo-philosophies technophiles qui peuvent justifier tout et son contraire, mais servent surtout à avoir bonne conscience malgré l'enrichissement personnel. Notons que Sutskever comme Mira Murati, ex-CEO pendant 48h d'OpenAI, sont dans des formes de déterminismes technologiques, c'est-à-dire un discours dont une prémisse est l'inévitabilité du "progrès" technique.
Deux camps s’opposaient au sein d’OpenAI. Celui qui tentait de maintenir des garde-fous au développement d’une technologie appelée à bouleverser la marche du monde, quitte à rater des opportunités commerciales. En face, ceux qui pensent que la dimension éthique de la recherche n’a rien d’incompatible avec la poursuite du profit. Ils sont les grands vainqueurs de la séquence.
Ici, l'opposition d'Altman est presque qualifiée d'anti-capitaliste par effet de distinction, ce qui est tout bonnement risible. Rappelons aussi que le lancement initial d'OpenAI sous forme de non-profit était orchestré par Elon Musk, Peter Thiel et Amazon, parmi d'autres, des individus et une entreprise très connus pour leur altruisme et leur bienveillance. Il y a une sorte mise en égalité du statut de non-profit, philanthropie et bienfaisance qui n'est pas vraiment évident.
Passons sur la formulation "a dû" du titre qui annonce tout de suite l'indigence de l'article.
Ce techno-utopisme pragmatique s’accompagne de mouvements culturels exotiques, comme le libertarianisme, et s’appuie sur des personnalités marginales favorisées par le star-système de la région, il est soutenu par les acteurs du capital-risque.
Plus loin :
la recherche altruiste désintéressée dans le domaine de l’intelligence artificielle (IA) pour le bien et la protection de l’humanité, et la création d’une structure capable d’attirer les meilleurs talents et des moyens financiers importants
La recherche altruiste, c'est ici des salariés sur-payés dans des startups ou dans des entreprises qui exercent un monopole ou duopole sur les différents secteurs de la technologie.
pêle-mêle bibliographique pour poursuivre la réflexion
Barbrook, Richard, and Andy Cameron. “The Californian Ideology.” Mute, 1995.
Texte passionnant datant de 1995 qui revient sur l'émergence de la culture qui s'est développée en Californie avec la concentration de milieux alternatifs et d'explosion économique du secteur électronique/numérique. On y retrouve une description très instructive sur les imaginaires racistes qui irriguent à la fois la pensée entrepreneuriale individualiste, le mouvement libertarien, mais aussi l'écho dans la science-fiction dystopique. À mon avis, il serait également intéressant d'élargir l'analyse à la mythologie des États-Unis qui a mobilisé dès sa naissance une imagerie coloniale et impérialiste. Les différentes révolutions qui traversent le pays sont des grands moments de ré-écriture mythologique qui invisibilité les problèmes existants. Par exemple, si la Guerre de Sécession a l'abolition de l'esclavage comme thème majeur, il ne faut pas oublier que le racisme endémique du pays est encore d'actualité. La relation universalisante dominant/dominé est profondément ancré dans l'histoire et les tensions idéologiques du pays.
Turner, Fred. From Counterculture to Cyberculture: Stewart Brand, the Whole Earth Network, and the Rise of Digital Utopianism. Chicago, Ill: University of Chicago Press, 2008.
Plongée sociologique passionnante dans l'émergence de la culture technophile autour du boom économique et technique profitant de la guerre, mais aussi des milieux contestataires et libertaires. On y retrouve également le virage à droite du milieu sous l'influence d'une vision entrepreneuriale et individualisante matérialisée par une élite économique et intellectuelle maximisant l'exploitation de l'innovation et d'un futurisme productiviste.
Miller, Chris. Chip War: The Fight for the World’s Most Critical Technology. First Scribner hardcover edition. New York: Scribner, an imprint of Simon & Schuster, 2022.
La matérialité de l'intelligence artificielle est brièvement évoquée. Parfois pour souligner que le grand profiteur est NVIDIA et parfois aussi pour rappeler la consommation excessive de ressources naturelles que nécessite l'exploitation des algorithmes d'intelligence artificielle. Ce livre est un tour d'horizon assez complet sur la dynamique industrielle et d'innovation des microprocesseurs. De la genèse au conflit géopolitique d'aujourd'hui entre la Chine et les USA. L'accès a des grandes quantités de GPU est aujourd'hui un argument de recrutement des ingénieurs et chercheurs travaillant dans le domaine et une condition sine qua non pour prétendre au succès par l'innovation.
Chafkin, Max. The Contrarian: Peter Thiel and Silicon Valley’s Pursuit of Power. New York: Penguin Press, an imprint of Penguin Random House LLC, 2021.
Autre pas de côté, c'est une biographie de Peter Thiel qui est un personnage ambivalent qui apparaît épisodiquement dans les différents moments de la Silicon Valley contemporaine. Il est souvent mentionné comme mentor de Sam Altman. Si la trajectoire n'est pas la même, il y a une manière de faire qui est dans la filiation. C'est aussi une piste importante pour mesurer le décalage entre vision d'une culture californienne libertaire et la capacité qu'à cette région à produire de façon régulière des acteurs à l'idéologie d’extrême droite dans des positions de pouvoir politique et économique.
#analyse #openai
Merci d'avoir lu ce texte ! On peut en discuter sur mastodon. Pour être informé·e lors de la parution de nouveaux articles, abonnez-vous au fil rss.