Midjourney suspend son offre d’essai gratuite à cause des abus ⛔

Click here to read in English

Midjourney est victime de son succès. La plateforme de génération d’images grâce à l’IA a de plus en plus le vent en poupe, ce qui vient avec son lot de problèmes. Et c’est ce qui a poussé ses développeurs à mettre fin à l’offre d’essai gratuite.

Les abus se multiplient sur Midjourney ⛔

Midjourney est une IA de génération d’images à partir de texte. Nous l’avons d’ailleurs présenté dans un précédent article, que vous pouvez retrouvez en cliquant ici. Dans cet article, nous avions présenté quelques images générées par l’IA qui avaient créé un énorme buzz sur internet, un peu comme cette photo du pape, entièrement fausse.

Source : Reddit

Et bien, tout ce buzz a fait découvrir la plateforme à de nouveaux utilisateurs, qui s’y sont alors précipités pour à leur tour générer des images.

« En raison d’une combinaison de demandes extraordinaires et d’abus d’essais, nous désactivons temporairement les essais gratuits jusqu’à ce que nos prochaines améliorations du système soient déployées » a indiqué David Holz, le PDG de Midjourney, dans un message publié sur Discord.

Comme vous pouvez lire dans la déclaration du PDG de Midjourney, ce nouvel afflux d’utilisateurs n’a pas été sans conséquences. Il déplore notamment de nombreuses utilisations abusives, avec des représentations de vraies personnes. Et vu que « les images sont de plus en plus réalistes et que l’outil devient de plus en plus puissant », cela facilite la recrudescence des fakes news.

Dans un premier temps, Midjourney a été de nouveau disponible gratuitement avec de nouvelles mesures sécurité. Malheureusement, elles se sont avérées être insuffisantes, et l’abonnement mensuel est désormais requis. Malgré tout, les équipes Midjourney vont continuer d’améliorer leur système, comme l’a confirmé le PDG à The Verge.

« La modération est difficile et nous allons bientôt proposer des systèmes améliorés. Nous prenons beaucoup de commentaires et d’idées des experts et de la communauté et nous essayons d’être vraiment réfléchis », a déclaré Holz à The Verge.

Le Cas Xi Jinping soulève des questions 🧐

Parmi le florilège d’images générées mettant en scène des chefs d’Etat et autres personnalités politiques, rares sont celles impliquant « Xi Jinping » ou le « président chinois ». Et la raison est simple : Midjourney empêche tout simplement de créer des images du leader chinois. Pour se défendre, le PDG David Holz explique que c’est « Pour éviter les drames » car « la satire politique en Chine est plutôt mal vue ». Cette déclaration, qui est tout sauf anodine, soulève une question encore plus importante : Qui fixe le règle ? Si le président chinois peut être protégé des images détournées, pourquoi pas les autres.

Midjourney tient à jour une liste de mots interdits « liés à des sujets dans différents pays, sur la base de plaintes d’utilisateurs de ces pays », selon un message de David Holz datant d’octobre dernier. Mais il ne partage pas la version complète de cette liste afin de minimiser les « drames ». En l’absence de réglementation uniforme établie par les autorités de régulation, les entreprises, y compris Midjourney, ont la responsabilité de déterminer ce qui est autorisé ou non.

Midjourney, Stable Diffusion et Dall-E suivent tous des règles différentes. Par exemple, Dall-E interdit l’utilisation d’images de personnalités politiques ou de photos liées à des événements géopolitiques majeurs en cours, ce qui est assez large. Stable Diffusion a peu de règles en place. Midjourney se situe entre les deux, interdisant les images sanglantes et les messages textes considérés comme “intrinsèquement irrespectueux, agressifs ou autrement abusifs”.

Sources : The Verge, O1net