Bienvenu sur la Particule.com

Toute l'actualités des geeks

Projet et fonctionnement du site la Particule.com

Les infos Bloc-Note du site la Particule.com

Nos différents partenaires

Suivre nos sponsors
Logo la particule.com
  



  Article précédent Précédent   suivant Article suivant  

 Un AI générateur de texte trop performant

  Liste des news     

19

Fevrier

Quand la créature échappe à son créateur, c’est un peu l’histoire qu’aurait pu avoir GPT-2, ce générateur de faux articles de presse développé par le groupe de recherche OpenAI, fondé par Elon Musk. Défini comme “le nec plus ultra pour modéliser certains niveaux de langage”, GPT-2 est si performant qu’il restera dans l’ombre. En effet, ses créateurs ont peur qu’il ne serve à des fins malveillantes. Les très bons résultats du programme GPT-2 ont amené les chercheurs à le garder secret. En effet, selon l’équipe de recherche, ce générateur de texte pourrait bien être utilisé pour générer de faux articles de presse et ainsi répandre des fake news sur les réseaux sociaux. En effet, plusieurs tests ont pu effrayer l’équipe de OpenAI. En prenant un article du Guardian sur le Brexit, l’IA développée par OpenAI est parvenue à inventer des citations du député Jeremy Corbyn, l’opposant à Theresa May. Le problème, c’est que ces citations étaient tellement crédibles qu’on peut bien imaginer les dérives qu’elle pourrait générer, comme la création d’infox bien ficelées, et donc, de fait, indétectables. Et ce n’est pas tout, car l’outil est également capable de générer automatiquement des avis négatifs ou positifs, mais aussi des spams, des textes complotistes… Suite à ses expériences (trop) concluantes, OpenAI a tout simplement décidé de confiner son programme GPT-2 et de ne pas publier ses recherches, afin qu’il ne se retrouve pas dans de mauvaises mains. “Nous devons faire des expériences complémentaires pour découvrir ce que des utilisateurs pourraient en faire”, a conclu Jack Clark, directeur des politiques de OpenAI.



  Article précédent Précédent   suivant Article suivant  

Un AI générateur de texte trop performant

Quand la créature échappe à son créateur, c’est un peu l’histoire qu’aurait pu avoir GPT-2, ce générateur de faux articles de presse développé par le groupe de recherche OpenAI, fondé par Elon Musk. Défini comme “le nec plus ultra pour modéliser certains niveaux de langage”, GPT-2 est si performant qu’il restera dans l’ombre. En effet, ses créateurs ont peur qu’il ne serve à des fins malveillantes. Les très bons résultats du programme GPT-2 ont amené les chercheurs à le garder secret. En effet, selon l’équipe de recherche, ce générateur de texte pourrait bien être utilisé pour générer de faux articles de presse et ainsi répandre des fake news sur les réseaux sociaux. En effet, plusieurs tests ont pu effrayer l’équipe de OpenAI. En prenant un article du Guardian sur le Brexit, l’IA développée par OpenAI est parvenue à inventer des citations du député Jeremy Corbyn, l’opposant à Theresa May. Le problème, c’est que ces citations étaient tellement crédibles qu’on peut bien imaginer les dérives qu’elle pourrait générer, comme la création d’infox bien ficelées, et donc, de fait, indétectables. Et ce n’est pas tout, car l’outil est également capable de générer automatiquement des avis négatifs ou positifs, mais aussi des spams, des textes complotistes… Suite à ses expériences (trop) concluantes, OpenAI a tout simplement décidé de confiner son programme GPT-2 et de ne pas publier ses recherches, afin qu’il ne se retrouve pas dans de mauvaises mains. “Nous devons faire des expériences complémentaires pour découvrir ce que des utilisateurs pourraient en faire”, a conclu Jack Clark, directeur des politiques de OpenAI.
19-02-2019


  Article précédent Précédent   suivant Article suivant