OpenAI a pris des mesures à l'encontre d'un groupe iranien, connu sous le nom de Storm-2035, qui utilisait abusivement son chatbot ChatGPT pour créer et diffuser du contenu visant à influencer l'élection présidentielle américaine et d'autres sujets.
La société d'IA, soutenue par Microsoft (NASDAQ:MSFT), a identifié l'opération qui générait du contenu sur divers sujets, notamment des commentaires sur les candidats aux élections américaines, le conflit à Gaza et la participation d'Israël aux Jeux olympiques, et le diffusait sur les médias sociaux et les sites web.
L'enquête a révélé que le groupe utilisait ChatGPT pour produire à la fois de longs articles et de brefs commentaires sur les médias sociaux. Malgré ses efforts, l'OpenAI a indiqué que l'opération n'avait pas réussi à attirer un public important.
La plupart des publications du groupe sur les médias sociaux n'ont reçu que peu ou pas d'interaction en termes de likes, de partages ou de commentaires, et il n'y a aucune preuve que leurs articles en ligne aient gagné en popularité sur les plateformes de médias sociaux.
OpenAI a interdit aux comptes associés à Storm-2035 d'utiliser ses services et reste vigilante face à toute nouvelle tentative de violation de ses politiques. Cette décision fait suite à un rapport de renseignement sur les menaces publié par Microsoft au début du mois d'août, qui identifiait Storm-2035 comme s'engageant activement auprès de groupes d'électeurs américains, en utilisant un contenu polarisant sur des questions telles que les droits des LGBTQ et le conflit entre Israël et le Hamas pour influencer le discours politique.
La course présidentielle américaine actuelle, qui oppose la candidate démocrate Kamala Harris au républicain Donald Trump, est très disputée jusqu'à l'élection du 5 novembre. En mai, OpenAI avait déjà interrompu cinq opérations secrètes visant à utiliser ses modèles pour des activités trompeuses en ligne.
Reuters a contribué à cet article.Cet article a été généré et traduit avec l'aide de l'IA et revu par un rédacteur. Pour plus d'informations, consultez nos T&C.