Des chercheurs d’une entreprise pharmaceutique ont voulu tester leur intelligence artificielle, entraînée pour découvrir des médicaments non toxiques, en inversant les paramètres. Les résultats cauchemardesques contenaient des neurotoxines plus mortelles que toutes celles connues.
L’actualité a été dominée par l’intelligence artificielle ces dernières semaines. Loin des prédictions dystopiques comme Skynet dans Terminator, ces IA maîtrisant l’écrit (des chatbots comme ChatGPT et Bard), l’image (Dall-E ou Midjourney) ou encore la vidéo (comme Gen-1) et sont présentées comme bienveillantes. Toutefois, l’IA peut aussi servir à créer des armes.
L’entreprise Collaborations Pharmaceuticals utilise l’intelligence artificielle pour tenter de trouver de nouveaux médicaments. Quatre de ses chercheurs ont participé à une conférence organisée par le Laboratoire de Spiez, l’institut fédéral suisse chargé de la protection contre les risques nucléaires, biologiques ou chimiques. Ils ont montré comment leur IA, baptisée MegaSyn, pouvait être détournée pour créer des neurotoxines. Ils ont publié leur découverte dans la revue Nature Machine Intelligence.
40 000 agents neurotoxiques découverts en six heures
Au lieu de chercher les molécules ayant la plus faible toxicité possible, ils ont demandé à MegaSyn de chercher la toxicité et la bioactivité les plus élevées. Elle a notamment été entraînée avec des pesticides, des toxines environnementales et des médicaments. En moins de six heures, l’IA a généré plus de 40 000 résultats, tous plus toxiques les uns que les autres. Elle a notamment découvert le VX, un des agents innervants les plus dangereux, inventé en 1952 et dix fois plus mortel que le sarin. Elle a également trouvé d’autres armes chimiques connues, ainsi que de nombreuses molécules encore inconnues et potentiellement plus toxiques que le VX.
Les chercheurs ont indiqué n’avoir jamais pensé auparavant à la manière dont leur outil pouvait être détourné, et ont été très surpris par ces résultats. Avec le développement des IA qui semble s’accélérer, la conception d’armes encore inimaginables aujourd’hui pourrait rapidement se trouver à la portée de tous…
Huawei Algérie poursuit son engagement en faveur du développement des jeunes talents, en participant à…
Les 78 guichets uniques de l’Office algérien interprofessionnel des céréales (OAIC), déployés à travers le…
Le secteur des mines s’engage à accélérer la valorisation des ressources naturelles nationales en 2027,…
Les crédits alloués au secteur de la solidarité nationale devraient connaître une nouvelle hausse en…
Une session de formation au profit de 50 jeunes a été lancée, dimanche à l’Institut…
Le président de la République, M. Abdelmadjid Tebboune, a reçu, dimanche, le ministre tunisien des…