Tout le monde sait que la désinformation en ligne est un énorme problème, qui a sans doute été des communautés déchirées, a manipulé des élections et a provoqué certains segments de la population mondiale perdre la tête. Bien sûr, personne ne semble particulièrement soucieux de résoudre ce problème. En fait, les institutions le plus responsable la désinformation en ligne (et donc les mieux placées pour faire quelque chose à ce sujet), c’est-à-dire les entreprises technologiques, semblent avoir l’intention en faisant tout ce qu’ils peuvent pour aggraver le problème de manière exponentielle.
Exemple concret : OpenAI a lancé Sora, son nouveau générateur de texte en vidéo, jeudi. Le modèle est conçu pour permettre aux utilisateurs du Web de générer des vidéos IA de haute qualité. avec juste une invite de texte. L’application épate actuellement Internet avec sa variété étrange d’images visuelles, que ce que ce soit un défilé du Nouvel An chinois, un gars qui courait à recul sur un tapis roulant dans le noir, un chat dans un lit, ou deux navires pirates tourbillonnant dans une tasse de café.
the sora “weakness” demos are legitimately uncannily cool video art lol https://t.co/RYp5tABXSA pic.twitter.com/nNcvBcz57M
— benjamin (@ikeadrift) February 15, 2024
À ce stade, malgré sa mission de « changer le monde », on pourrait affirmer que la plus grande contribution d’OpenAI à l’Internet a été l’instantané. génération d’innombrables téraoctets de merde numérique. Tous les outils ouverts et publics de l’entreprise sont des générateurs de contenu, comme les experts ont prévenu, sont prêts à être utilisés dans des campagnes de fraude et de désinformation.
Dans son article de blog À propos de Sora, l’équipe d’OpenAI reconnaît ouvertement qu’il pourrait y avoir des inconvénients potentiels à leur nouvelle application. Pour résoudre ces inconvénients, la société dit qu’il travaille sur des technologies de filigrane qui signaleraient le contenu que son générateur a créé. Il s’interface également avec des personnes bien informées pour comprendre comment pour rendre moins toxique le déluge inévitable de conneries générées par l’IA que Sora va déclencher. Sora n’est pas encore ouvert au public et, En attendant, OpenAI affirme qu’il créera des systèmes qui refuseront aux utilisateurs qui souhaitent générer des images violentes ou sexuelles. La déclaration note :
Nous mobiliserons les décideurs politiques, les éducateurs et les artistes du monde entier pour comprendre leurs préoccupations et identifier des cas d’utilisation positifs de cette nouvelle technologie. . Malgré des recherches et des tests approfondis, nous ne pouvons pas prédire toutes les façons bénéfiques que les gens utiliseront notre technologie, ni toutes les façons que les personnes utiliseront j’en abuserai.
Cette formulation du problème, comme si OpenAI n’était pas vraiment sûr de la manière dont son application pourrait éventuellement être utilisée à mauvais escient, est plutôt hilarante, car elle est comment cela va se produire est déjà totalement évident. Une fois qu’il sera mis en ligne, Sora générera du faux contenu à une échelle gargantuesque, dont certains probablement utilisé à des fins de désinformation, dont certains seront, semble-t-il indéniable, utilisés pour contribuer à diverses fraudes et escroqueries, et dont certaines seront utilisées pour générer du contenu toxique d’une sorte ou d’une autre. Tous ces contenus inonderont les réseaux sociaux. canaux médiatiques, ce qui rend plus difficile pour les gens ordinaires de faire la distinction entre ce qui est réel et ce qui est faux, et fait d’Internet, en général, un c’est bien plus ennuyeux. Je ne pense pas qu’il soit nécessaire de recourir à un panel mondial d’experts pour comprendre cela.
OpenAI a déclaré qu’il souhaitait mettre des limites significatives aux contenus violents et sexuels produits par Sora, mais les internautes ont montré à quel point ils peuvent être au jailbreak des systèmes d’IA pour générer les types de contenu qui désobéissent aux politiques d’utilisation des entreprises. Il ne semble pas hors du domaine du possible que le même sera vrai ici.
Il y a un certain nombre d’autres inconvénients évidents à cette application. le plus grand impact environnemental. Des chercheurs ont montré que les générateurs de texte en image sont bien pires, du point de vue environnemental, que les générateurs de texte, et le simple fait de créer une image IA nécessite la même quantité d’énergie que pour charger complètement votre smartphone. Les nouvelles technologies de génération de texte en vidéo vont probablement nuire à l’économie des créateurs de vidéos, car pourquoi les entreprises devraient-elles payer des gens pour créer du contenu visuel alors que tout ce est nécessaire pour créer une vidéo c’est de cliquer sur un bouton ?
En tant que tel, Sora se sent comme un gros « va te faire foutre » par rapport à la réalité, mais il s’agit aussi d’un « va te faire foutre » par rapport à des tonnes d’autres choses aussi. En ce qui concerne la classe corporative dans ce pays, rien ne compte vraiment à part l’argent. J’emmerde l’environnement, j’emmerde les artistes, j’emmerde Internet. qui soit sans désinformation, merde la santé du discours politique, merde tout ce qui fait obstacle à la motivation du profit. peut être exploité pour gagner de l’argent devrait être exploité, même s’il s’agit d’un logiciel dont la seule utilité réelle est de pouvoir générer un vidéo d’un hamster cowboy chevauchant un dragon. un utilisateur X l’a mis: « C’est pour ce que les crétins sacrifient l’environnement. Stupide. Merde. Comme. Ça.”
https://t.co/WJQCMEH9QG pic.twitter.com/Qa51e18Vph
— Sam Altman (@sama) February 15, 2024
