Plus d’un millier de dirigeants du secteur technologique sont très préoccupés par le développement rapide de l’intelligence artificielle. Dans une lettre ouverte, le patron de Tesla, Elon Musk, et le co-fondateur d’Apple, Steve Wozniak, entre autres, appellent à une pause temporaire dans le développement de l’IA.
Musk, Wozniak, l’historien israélien Yuval Noah Harari et d’autres auteurs de la lettre soulignent que de puissants systèmes d’IA peuvent prendre en charge le travail des humains. En conséquence, nous courons le risque que de nombreuses personnes perdent leur emploi. Cela a des conséquences sociales majeures, préviennent les signataires de la lettre.
De plus, il y a un risque que ces programmes « inondent nos canaux d’information de propagande et de contrevérités ».
Les signataires demandent donc aux développeurs de systèmes d’IA de ne pas construire de programmes plus puissants que GPT-4 pendant six mois. Il s’agit de la dernière version du modèle de langage de la société technologique OpenAI. Ce modèle peut, par exemple, écrire des textes complets et créer des images avec des commandes simples.
Les signataires de la lettre veulent plus de surveillance de l’IA
Pendant la pause de développement, les chercheurs en IA et les experts indépendants devraient conclure des accords sur la sécurité de l’IA, estiment les signataires. Celui-ci doit alors faire l’objet d’un contrôle indépendant. Dans le même temps, les gouvernements devraient mettre en place de nouvelles institutions pour superviser le développement de l’IA.
« Devrions-nous automatiser tous les emplois, y compris le travail épanouissant ? Devrions-nous développer des esprits non humains qui pourraient éventuellement nous surclasser et nous remplacer ? Devrions-nous risquer la perte de notre civilisation ? Ces décisions ne devraient pas être laissées à des responsables technologiques non élus », écrit la lettre. lit.
Selon les signataires, la pause du développement n’équivaut pas à une suspension du développement de l’IA : il devrait plutôt être freiné dans la « course dangereuse vers des modèles toujours plus grands, imprévisibles et dotés de nouvelles capacités ».
Le lettre ouverte a déjà été signé par plus de onze cents personnalités du secteur technologique mercredi après-midi.
« Fanatique des médias sociaux. Accro à la télévision. Évangéliste du Web. Fier érudit au bacon. Ninja du café. Organisateur professionnel. »
