OpenAI, l’organisation derrière des outils d’IA comme ChatGPT et Dall-E, envisage la possibilité de permettre aux utilisateurs de créer du contenu pornographique et de nombreux autres contenus explicites générés par IA. Cela inclut l’érotisme, les images extrêmement violentes, les insultes et les grossièretés non sollicitées, avec pour objectif d’explorer ces domaines dans des contextes adaptés à l’âge.
L’exploration de la création de contenu NSFW par l’entreprise a été révélée dans un document récent qui aborde des stratégies plus larges de développement de l’IA. Selon OpenAI, cette initiative vise à comprendre les attentes des utilisateurs et de la société concernant le contenu généré par IA, en particulier dans des domaines sensibles.
L’entreprise assure néanmoins maintenir son interdiction des deepfakes, outils utilisés dans de nombreux cas de cyber-harcèlement ces dernières années. Dans le document, OpenAI explique vouloir évaluer comment gérer de manière responsable la création de contenu NSFW (not safe for work). Un porte-parole d’OpenAI a déclaré jeudi dans un communiqué :
“Nous disposons de solides garanties dans nos produits pour empêcher les deepfakes, qui sont inacceptables, et nous accordons la priorité à la protection des enfants. Nous croyons également à l’importance d’explorer attentivement les conversations sur la sexualité dans des contextes adaptés à l’âge.”
De son côté, Joanne Jang, une employée d’OpenAI qui a travaillé sur le document initial, a déclaré à l’agence de presse américaine NPR qu’OpenAI souhaitait entamer une discussion pour savoir si la génération de textes érotiques et d’images de nus devait toujours être interdite. Elle a également souligné que les deepfakes ne seraient pas autorisés “hors de question, point final“, a-t-elle déclaré.
Publicité