Résumé :
Article concernant les réactions négatives à la nomination de Paul Nakasone, ancien directeur de la NSA, au conseil d'administration d'OpenAI. Edward Snowden la qualifie de trahison des droits humains et d'autres experts en sécurité critiquent cette décision en raison des préoccupations concernant la surveillance de masse et le manque de transparence de la part d'OpenAI. Nakasone affirme quant à lui que sa nomination vise à assurer la sécurité et le bénéfice de l'intelligence artificielle générale pour l'humanité.
La semaine dernière, le créateur de ChatGPT, OpenAI, a annoncé qu'il avait nommé à son conseil d'administration Paul Nakasone, général de l'armée américaine à la retraite et ancien directeur de la National Security Administration (NSA), lequel a également dirigé l'unité Cyber Command de l'armée, axée sur la cybersécurité.
"L'expérience sans pareille du général Nakasone dans des domaines tels que la cybersécurité", a déclaré Bret Taylor, président du conseil d'administration de l'OpenAI, dans un communiqué, "aidera à guider l'OpenAI dans la réalisation de sa mission, qui est de veiller à ce que l'intelligence artificielle générale profite à l'ensemble de l'humanité".
Mais tout le monde n'est pas enchanté par le nouveau poste de Nakasone au sein de l'entreprise d'IA, qui verra également l'ancien général siéger au comité de sûreté et de sécurité de l'OpenAI. La NSA est depuis longtemps associée à la surveillance des citoyens américains, et les technologies intégrées à l'IA ravivent et exacerbent déjà les inquiétudes en matière de surveillance. Dans ce contexte, il n'est pas surprenant que le célèbre lanceur d'alerte Edward Snowden, ancien employé de la NSA, compte parmi les détracteurs déclarés de cette nomination au sein d'OpenAI.
"Ils ont fait tomber le masque : ne faites jamais confiance à OpenAI ou à ses produits", a écrit M. Snowden dans un message publié vendredi sur X, anciennement Twitter, ajoutant qu'"il n'y a qu'une seule raison de nommer" un directeur de la NSA "à votre conseil d'administration".
"Il s'agit d'une trahison délibérée et calculée des droits de chaque personne sur terre", a-t-il poursuivi. "Vous êtes prévenus.
Inquiétudes en matière de transparence
Snowden n'a pas été la seule personnalité de premier plan dans le domaine de la cybersécurité à froncer les sourcils à cette annonce d'OpenAI.
"Je pense que la plus grande utilisation de l'IA sera la surveillance de masse des populations", a tweeté Matthew Green, professeur de cryptographie à l'université Johns Hopkins, "donc faire entrer l'ancien chef de la NSA au sein d'OpenAI obéit à une logique claire".
La nomination de Nakasone intervient après une série de départs très médiatisés au sein d'OpenAI, parmi lesquels d'éminents chercheurs en sécurité, en plus de la dissolution totale de l'équipe de sécurité "Superalignment" d'OpenAI, aujourd'hui dissoute. Le comité de sûreté et de sécurité, qui remplace cette équipe, est désormais dirigé par le PDG de l'entreprise, Sam Altman, qui a été critiqué ces dernières semaines pour ses pratiques commerciales consistant à faire taire d'anciens employés. Il convient également de noter qu'OpenAI a régulièrement fait l'objet de critiques pour son manque de transparence concernant les données utilisées pour former ses nombreux modèles d'IA.
Mais en même temps, selon Axios, de nombreuses personnes au Capitole considèrent que la nomination par OpenAI de Nakasone est une victoire en matière de sécurité. Nakasone, pour sa part, a déclaré dans un communiqué que le "dévouement d'OpenAI à sa mission s'aligne étroitement sur mes propres valeurs et mon expérience dans le service public".
"J'ai hâte de contribuer aux efforts de l'OpenAI, a-t-il ajouté, pour que l'intelligence artificielle générale soit sûre et bénéfique pour les gens du monde entier.