L’homme, surnommé Hong, a utilisé le chatbot AI bien connu pour « fabriquer et diffuser de fausses informations via les réseaux sociaux ». signalé la police dans la province septentrionale du Gansu.

Selon la police, l’homme a publié un faux article sur un accident de train dans lequel neuf personnes seraient mortes. L’article a été vu plus de 15 000 fois avant d’être supprimé.

Faire de l’argent

Une enquête plus approfondie a révélé que Hong avait utilisé ChatGPT pour créer le faux article, bien que cet outil en ligne ne soit pas officiellement disponible en Chine. Les Chinois peuvent toujours accéder à ChatGPT via les services VPN. L’homme a déclaré à la police que des amis sur le service de chat WeChat lui avaient montré comment gagner de l’argent avec de fausses nouvelles.

C’est le première arrestation en vertu de nouvelles réglementations sur l’utilisation de l’intelligence artificielle que la Chine a introduites plus tôt cette année.

Peut-être des années de prison

Les autorités chinoises veulent inculper Hong du crime de « provoquer des bagarres et de causer des troubles ». En Chine, cela entraîne une peine de prison d’au moins cinq ans.

La popularité de ChatGPT, qui est fabriqué par la société américaine OpenAI, a conduit à un boom des chatbots IA similaires en Chine provenant de grandes entreprises technologiques telles que Baidu et Alibaba. Les autorités chinoises veulent imposer des règles strictes aux chatbots, similaires aux règles qui s’appliquent à l’internet du pays depuis des années.

Principales préoccupations

L’une des principales préoccupations concernant l’essor rapide de l’IA est la facilité avec laquelle des quantités massives de fausses nouvelles et de propagande peuvent être diffusées à la vitesse de l’éclair. L’intelligence artificielle peut produire des textes qui semblent avoir été écrits par des humains. La technologie génère également des photos, des vidéos et des extraits sonores de plus en plus crédibles.

L’un des fondateurs d’importantes techniques d’IA a mis en garde contre les dangers de l’IA la semaine dernière. Plus d’un millier d’experts ont également envoyé une lettre urgente appelant à suspendre le développement de l’IA afin qu’une législation appropriée puisse être adoptée. Cet appel a maintenant été reçu par près de 28 000 personnes dans le monde signé.

L’UE et les États-Unis, entre autres, travaillent actuellement sur des réglementations plus strictes concernant l’IA.