par Jyoti Narayan, Krystal Hu et Martin Coulter
(Reuters) - Un groupe d'experts dans le secteur de l'intelligence artificielle (IA) appelle dans une lettre ouverte à une pause de six mois dans le développement de systèmes d'IA générative plus puissants que GPT-4, récemment lancé par OpenAI, citant les risques potentiels pour la société et l'humanité.
La lettre, publiée par l'organisation à but non lucratif Future of Life Institute et signée par plus de 1.000 personnes, dont Elon Musk, plaide pour une pause jusqu'à ce que des protocoles de sécurité communs soient élaborés, appliqués et supervisés par des experts indépendants.
"Les systèmes d'IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables", indique le document.
Les experts estiment que ces systèmes pourraient provoquer des perturbations économiques et politiques et demandent aux développeurs de travailler avec les décideurs politiques et les autorités de régulation.
Parmi les cosignataires figurent Emad Mostaque, directeur général de Stability AI, des chercheurs de DeepMind , propriété d'Alphabet (NASDAQ:GOOGL), ainsi que les grands noms de l'IA Yoshua Bengio et Stuart Russell.
Ces inquiétudes surviennent alors qu'Europol, l'agence européenne de police, a publié lundi un rapport mettant en garde contre l'utilisation abusive de systèmes comme ChatGPT dans les tentatives d'hameçonnage, la désinformation et la cybercriminalité.
Sam Altman, directeur général d'OpenAI, n'a pas signé la lettre, a déclaré à Reuters un porte-parole de Future of Life. OpenAI n'a pas répondu immédiatement à une demande de commentaire.
"La lettre n'est pas parfaite, mais l'esprit est juste : nous devons ralentir jusqu'à ce que nous comprenions mieux les ramifications", a déclaré Gary Marcus, un professeur de l'Université de New York signataire de la lettre.
"Les grands acteurs sont de plus en plus discrets sur ce qu'ils font, ce qui rend difficile pour la société de se défendre contre les dommages qui pourraient survenir".
(Reportage Jyoti Narayan à Bangalore, Krystal Hu à New York et Martin Coulter à Londres, version française Nathan Vifflin, édité par Kate Entringer)