Une lettre ouverte avec les signatures d’Elon Musk et du fondateur d’Apple, Steve Wozniak, entre autres, a fait sensation cette semaine. Le développement de nouvelles IA doit immédiatement être suspendu pendant six mois. Selon le rédacteur technique de la BNR, Daniël Mol, une pause n’est pas réaliste : « Ça va déjà vite. »
La pétition demande de ne pas créer de programmes plus puissants que GPT 4 pendant six mois. Le frein est principalement destiné à gagner du temps pour que les gouvernements et les entreprises puissent élaborer des règles de sécurité. La lettre mentionne une série de risques qui soulignent la dangerosité de cette technologie. Par exemple, le modèle linguistique pourrait contribuer à la propagation de la désinformation. Cette technologie pourrait également entraîner des pertes d’emplois.
Super intelligence
De plus, les risques existentiels sont mis en évidence. Par exemple, Chat-GPT 4 montrerait parfois des signes d’intelligence artificielle générale. Un nouveau modèle pourrait donc bouleverser considérablement la société, selon les signataires. « Les éminents techniciens ont peur que le système devienne » incontrôlable « , déclare à ce sujet le chroniqueur technique de Trouw Ilyaz Nasrullah. La question se pose de savoir si cette réaction de panique est justifiée. Selon le rédacteur technique Daniel Mol, faire une pause n’a pas beaucoup de sens. « Un frein au développement offre peu de consolation. Après tout, cette technologie existe déjà, donc ça passe la serpillère avec le robinet ouvert.
« C’est presque populiste de prétendre qu’AGI va conquérir le monde. »
Nasrullah ne voit pas non plus l’intérêt de faire une pause. Selon le chroniqueur tech, la peur de la super intelligence est donc infondée. « C’est presque populiste de dire qu’AGI va conquérir le monde. » Selon Nasrullah, il y a donc une réponse trop précoce à un scénario qui peut ne pas se produire du tout. Musk a également appelé à des taxis autonomes en 2019. Ses prédictions sont principalement basées sur son propre fantasme.
Écoutez aussi | Dans quelle mesure la peur de l’IA et la vision d’Apple sont-elles justifiées
