Mercredi, OpenAI publié une ébauche de son Fiche technique du modèle qui détaille comment il entend que ses modèles d’IA se comportent. Il y a une section axée sur le contenu NSFW qui donne l’impression que le l’entreprise explore des moyens de faireporno IA, mais l’entreprise affirme que ce ne ne se produit pas.
“Nous n’avons pas l’intention de créer de la pornographie générée par l’IA”, a déclaré jeudi un porte-parole d’OpenAI dans un e-mail. des produits pour prévenir les deepfakes, qui sont inacceptables, et nous accordons la priorité à la protection des enfants. Nous croyons également à l’importance d’explorer attentivement les conversations sur la sexualité dans des contextes adaptés à l’âge.”
La section qui a mené certains commentateurs à croire que la porno est en élaboration chez OpenAI se concentre sur le contenu NSFW. La société écrit que ses modèles ne devrait pas répondre à des demandes de contenu inapproprié, notamment « de l’érotisme, du gore extrême, des insultes et des grossièretés non sollicitées. » Cependant, cela souligne que les développeurs sont « explorer si nous pouvons, de manière responsable, fournir la possibilité de générer du contenu NSFW dans des contextes adaptés à l’âge via l’API et ChatGPT. sur pour fournir un exemple de contenu NSFW approprié qui est autorisé , comme être demandé d’écrire les paroles d’une chanson qui contient une malédiction mot.
Le porno IA, en particulier les deepfakes, a créé de nombreuses controverses au cours de la dernière année. Taylor Swift a été soumis à une vague de non-conformité. -consensuel fausses images d’adultes IA en utilisant son image qui a été diffusée sur les réseaux sociaux en janvier. Le mois dernier, une femme de l’État de Washington a participé à une loterie d’État. site Web, qui a fini par créer un Photo d’elle nue générée par l’IA.
Gizmodo a contacté Aylo, la société mère de Pornhub, pour lui faire part de ses commentaires sur la perspective d’OpenAI ouvrant les vannes du porno généré par l’IA et un porte-parole a écrit que la société ne tolère aucun « contenu non consensuel sur nos plateformes, y compris les deepfakes ».
« Toute manipulation deepfake/IA de l’image d’une personne, que ce soit en image ou en vidéo, pour créer l’illusion que la personne parle ou agit. d’une autre manière est interdit », a déclaré le porte-parole dans un e-mail. « Dans tous les cas où nous identifions ou sommes informés du contenu qui enfreint cette politique, nos équipes de confiance, de sécurité et de modération travaillent rapidement pour : Examiner et supprimer le contenu en infraction ; question pour aider à bloquer les futurs téléchargements du même contenu sur nos sites ; et à suspendre ou à résilier définitivement le compte du téléchargeur associé, le cas échéant. »
