Dissidence : Chez Kempner, Zuckerberg achète Harvard et détruit l’humanité | Opinion

The Harvard Crimson Logo

Découvrez l’Institut Kempner pour l’étude de l’intelligence naturelle et artificielle : l’initiative universitaire la plus récente et la plus excitante de Harvard, le résultat d’un don de 500 millions de dollars de Mark Zuckerberg et Priscilla Chan ’07, le rêve le plus fou de tout chercheur en IA – et, à notre avis , une erreur de notre institution.

Compte tenu du large soutien de notre conseil d’administration à l’Institut Kempner et à la dotation qui l’a créé, nous, les éditoriaux, nous retrouvons dans la position inhabituelle de ne pas être d’accord.

Faisons précéder cette dissidence en reconnaissant les immenses avantages sociaux potentiels de la technologie de l’intelligence artificielle, afin que notre position ne soit pas réduite à celle des luddites ou des redoutables. Nous ne sommes pas aveugles à l’écriture sur le mur. Peu d’autres domaines sont susceptibles d’avoir un impact aussi important sur nos vies ou de façonner nos réalités autant que l’IA dans les années à venir. Il y a de nombreuses raisons de croire que votre rôle sera souvent de caractère positif, facilitant IRM techniques, nous aidant mieux prévoir et préparer par les catastrophes naturelles, et massivement augmentation de la productivité. Nos seigneurs robotiques — algorithmes de conduite autonome? créateurs d’art étranges? – ça pourrait être utile.

Pourquoi alors s’opposer à un institut susceptible de contribuer à stimuler la recherche dans un domaine que nous reconnaissons comme extrêmement important ? pourquoi insulter Basilic de Roko d’une manière aussi bêtement publique ?

Notre opposition à l’Institut Kempner ne concerne pas exclusivement, ni même principalement, son objet d’étude. En fait, notre première objection au nouveau laboratoire d’IA de Harvard est bien plus banale et ennuyeuse que les mondes fantastiques ultra-futuristes évoqués par les passionnés d’IA. C’est l’économie, stupide—l’économie du financement des universités, c’est tout.

Notre institution – tout notre système d’enseignement supérieur d’élite, sans aucun doute – a un penchant pour la vente aux enchères des priorités académiques au plus offrant. Nous détestons qu’un seul individu, s’il est suffisamment doté d’un capital, puisse avoir autant d’influence sur le parcours de recherche de notre Université. Zuckerberg et Chan ne sont pas seuls. Penny S. Pritzker ’81 se réveille particulièrement généreuse et le département d’économie obtient un boom de 100 millions de dollars et une nouvelle installation départementale ; un couple de capital-investissement semble tellement contrarié par la montée des mers que l’Institut Salata de 200 millions de dollars pour le climat et la durabilité se matérialise de nulle part. Le caprice du philanthrope est le mandat de l’universitaire.

La dynamique problématique entourant ces subventions n’est pas que la recherche soit financée (nous l’apprécions vraiment) ou même que nous devons supporter les tendances pseudo-modestes des riches (Zuckerberg a choisi la voie des parents, suivant la voie des les frères Chan). ). C’est plutôt le fait qu’une variété de décisions de financement d’une influence colossale dépendent presque entièrement des caprices de quelques-uns, quels que soient les besoins du plus grand nombre.

D’autres départements universitaires – ou “groupes”, si vous voulez – pourraient utiliser la dotation Pritzker bien plus que le domaine le plus populaire et le plus important de Harvard. Certains domaines de recherche, tels que la résilience au changement climatique, ont été sous-financés pendant des décennies et restent sous-financés s’ils ne suscitent pas l’intérêt des donateurs. Si nos loyautés académiques vont à Veritas, notre allocation de ressources – le type de décision qui détermine si les étudiants obtiennent une nouvelle installation ou si les membres du corps professoral des départements moins prestigieux ont un chemin vers la stabilité – est souvent plus liée aux projets favoris de nos bailleurs de fonds.

L’Université, nous en sommes sûrs, protesterait bruyamment. Les administrateurs depuis le président Derek C. Bok ont ​​fait valoir que nous devons répondre aux désirs des donateurs d’attirer des dons et d’accroître la recherche intrinsèquement précieuse. Le « bien social » venant du milieu universitaire a été l’excuse préférée de l’Université pour le lien flagrant entre les préférences des donateurs et les flux de capitaux de couleur pourpre. Pourtant, nous avons du mal à croire que toute tentative de maximiser l’utilité de l’éducation au niveau social le plus large commencerait par acheminer cent millions supplémentaires vers l’université la plus riche du monde. Au contraire, le système creuse l’écart entre notre institution et celles – collèges communautaires, universités publiques, HBCU – moins susceptibles d’attirer autant d’accumulateurs de richesse caritatifs. Bien que nous comprenions la réticence à refuser des contributions de plusieurs millions, nous trouvons d’autres systèmes de financement – y compris ceux qui ont des politiques non liées plus strictes sur les dons colossaux, ainsi que ceux qui extraient et redistribuent dons involontaires chiffres à dix chiffres – infiniment plus acceptables.

Ce modèle de financement centré sur les donateurs, encouragé par Bok et ses successeurs, aura presque certainement des conséquences dans le cas de l’entreprise d’IA de Zuckerberg.

Le développement technologique basé sur les recherches menées à Kempner bénéficiera probablement à Zuckerberg, qui a décrit l’IA comme la “clé pour déverrouiller le métaverse” et a énormément investi dans les systèmes d’IA au cours des 10 dernières années. Et compte tenu des antécédents de Harvard en matière d’attribution d’une grande influence pédagogique à ses donateurs – prenez, par exemple, le titre de chercheur invité, le bureau du campus privé et le lien direct avec la faculté du programme de dynamique évolutive qui ont été fournis au délinquant sexuel milliardaire. Epstein – il semble probable que les recherches menées chez Kempner s’alignent, voire contribuent directement, aux objectifs de l’entreprise Meta.

Il ne faut pas un doctorat en éthique technologique (heureusement, étant donné les faibles chances qu’un millionnaire aide à le financer) pour comprendre pourquoi cette dernière idée devrait être préoccupante ; il suffit d’être vivant et éveillé pendant la dernière décennie. Malgré la mission déclarée du “Giv[ing] les gens le pouvoir de construire une communauté et de rapprocher le monde », l’héritage durable de l’idée de Zuckerberg au 21e siècle sera, au moins en partie, le destruction de la démocratie américaine – une transcription quasi littérale d’un commentaire fait par l’ancien directeur de la technologie des États-Unis – par le biais d’une désinformation rampante, non vérifiée et promue par algorithmes qui a enflammé les divisions partisanes à l’approche de l’élection présidentielle de 2016 et alimenté une insurrection électorale lors des élections présidentielles de 2016. US Capitol en janvier 2021 alors qu’il approvisionne les poches de Zuckerberg.

En plus de porter des coups potentiellement fatals à une institution laïque, le modèle de profit et l’insensibilité de l’entreprise intégrés dans les opérations du géant de la technologie – capturés dans la devise désormais tristement célèbre de Zuckerberg “avancer vite et casser les choses” – ont également prouvé le potentiel d’être littéralement mortel. L’exemple le plus frappant en est peut-être la plate-forme bien documenté rôle dans le génocide de 2016-2017 de la minorité ethnique Rohingya au Myanmar, pour lequel Meta (qui a commodément changé son nom Facebook en 2021, faisant face à de nouvelles réactions négatives pour avoir diffusé de la désinformation et des discours de haine pendant la crise) a été assigné à comparaître dans le procès en cours pour génocide contre le Myanmar devant la Cour internationale de justice, et fait l’objet d’un recours collectif intenté par un groupe de réfugiés rohingyas. Pire encore, une cache de documents internes découverte l’année dernière par la dénonciatrice de Facebook Frances Haugen suggère que les dirigeants de Facebook étaient au courant des effets désastreux de sa création – et fondamentalement rien fait.

Pour le dire simplement: nous avons des raisons d’être sceptiques quant à Zuckerberg en tant que bon intendant de la recherche éthique sur l’IA et du système de financement qui lui permet de se présenter sous la marque légitimatrice de Harvard. C’est encore plus préoccupant que sur les 500 millions de dollars donnés pour lancer Kempner, pas un seul centime ne semble avoir été donné à la recherche éthique sur l’IA, un domaine fortement sous-financé et peu susceptible de trouver des champions dans le domaine non académique de la maximisation des ressources. bénéfices. sociétés de technologie.

Le résultat global – un financement d’un million de dollars qui reflète les intérêts des donateurs, peu d’examen éthique dans un domaine de recherche pour un domaine notoirement dominé par des dilemmes éthiques et une réponse enthousiaste d’une communauté étudiante qui devrait vraiment mieux connaître les acteurs concernés maintenant – est à peine quelque chose à fêter. La réalisation d’une “Zuckerbergitas” dystopique, peut-être, au détriment des idéaux les plus élevés de Harvard.

Guillermo S. Hava ’23-’24, titulaire de la chaire de rédaction Crimson, se concentre conjointement sur le gouvernement et la philosophie à Winthrop House. Eleanor V. Wikstrom ’24, titulaire de la chaire de rédaction Crimson, est un centre d’études sociales à Adams House.

Opinions dissidentes : Parfois, le comité de rédaction de Crimson est divisé sur l’opinion que nous exprimons dans un éditorial du personnel. Dans de tels cas, les membres dissidents du conseil d’administration ont la possibilité d’exprimer leur opposition à l’opinion de l’équipe.

Vous avez une suggestion, une question ou une préoccupation pour le comité éditorial de Crimson ? Cliquez sur ici.