/cloudfront-us-east-2.images.arcpublishing.com/reuters/4LKEWJSJBBKRBI353CNSQW4UFI.jpg "Le Japonais Kishida visite le site du massacre de Bucha en Ukraine")
Actuellement, les esprits conservateurs les plus brillants d’Internet se concentrent sur un objectif singulier : faire en sorte qu’un chatbot prononce le n-mot.
Plus précisément, ils construisent des scénarios élaborés pour essayer de tromper l’outil ChatGPT d’OpenAI – qui n’est pas sensible, ne comprend rien et n’est en fait qu’une version plus convaincante de SmarterChild – en disant l’insulte raciste. Une approche qui est devenu viral plus d’une fois est de construire un scénario où le chatbot doit utiliser le n-mot, ou permettre à quelqu’un d’autre de l’utiliser, afin d’éviter une apocalypse nucléaire. ChatGPT, qui est filtré à l’aide d’outils de modération pour atténuer les biais racistes et sexistes bien documentés du modèle, refuse.
Elon Musk a tweeté que c’est “concernant”. Ben Shapiro a tweeté en réponse au journaliste Matt Binder soulignant le commentaire de Musk, “Je suis désolé que vous soyez analphabète ou moralement analphabète, et donc ne pouvez pas comprendre pourquoi il serait mauvais de donner la priorité à éviter une insulte raciale plutôt que de sauver des millions de personnes dans une apocalypse nucléaire.”
Récapitulons ce qui se passe ici : les conservateurs sont scandalisés par un scénario imaginaire où un ordinateur doit dire le mot n pour sauver le monde entier, mais il ne le fera pas, car il est réveillé.
De toute évidence, les arguments torturés et absurdes expliquant pourquoi il devrait être acceptable d’utiliser une insulte raciale ne sont pas nouveaux. Comme de nombreux commentateurs l’ont souligné, tout cela ressemble à la renaissance d’un argument plus ancien, mais tout aussi insipide, selon lequel originaire de Tumblr: Et si le dernier souhait d’un enfant de Make-a-Wish était de dire une insulte ? L’inquiétude apparente reflète également la torsion des mains des conservateurs selon laquelle le domaine de la sécurité de l’IA – qui se concentre sur l’atténuation des dommages des modèles d’apprentissage automatique aux individus et à la société – rend l’IA “réveillée” et, quelque peu ironiquement, en fait biaisée contre les conservateurs parce que l’anodin d’OpenAI les outils d’entreprise ne refléteront pas leurs préjugés et leurs préférences.
La conversation sur le “réveil” de ChatGPT et, plus précisément, s’il dira ou non le mot n pour sauver le monde, obscurcit et ignore également le fait très important que les outils d’IA sont déjà largement utilisés dans le monde réel et causent des dommages.
Un ordinateur ne sera jamais, jamais, jamais en mesure d’arrêter une guerre nucléaire s’il prononce simplement le mot n. Alors que Ben Shapiro discute de ce scénario hypothétique franchement stupide, les outils de reconnaissance faciale utilisés par la police sont utilisés pour mettre des Noirs innocents derrière les barreaux. Que des experts populaires et des milliardaires influents soient préoccupés et indignés par le premier scénario, plutôt que par le second, devrait nous préoccuper tous.
De toute évidence, demander à un chatbot qui ne fait rien de plus que de prédire le mot suivant dans une phrase donnée pour dire une insulte, comme si cela signifiait quelque chose du tout, en dit plus sur le demandeur que sur le bot. Et même si certains essaient de présenter des préoccupations soi-disant plus sérieuses, comme ce que ferait une IA en cas de guerre nucléaire, comme étant la “vraie” version de la sécurité de l’IA – par opposition aux inquiétudes “réveillées” sur la race et la langue – cela aussi reflète une incompréhension grave et peut-être irréparable des choses.
