Après quantité d’abus, Midjourney met fin aux essais gratuits

Cela fait des années que les experts de tous les milieux mettent en garde contre le potentiel de l’intelligence artificielle (IA) à générer des images et des vidéos erronées. À ses débuts, l’hypertrucage était assez facile à distinguer, mais avec les récents progrès, et en raison des dangers de désinformation que cela représente, il fallait fermer le «bar ouvert» qu’étaient Midjourney et ses services d’hypertrucage (deepfakes) en ligne. 

On connaît les progrès rapides de l’IA, notamment avec ChatGPT-4. Mais la nouvelle version 5 du logiciel d’hypertrucage de Midjourney a considérablement amélioré la qualité des images illustrant des personnes.

Par exemple, les mains difformes, qui étaient auparavant une caractéristique des images générées par l’IA, posent désormais moins de problèmes. L’éclairage et les tissus sont également plus réalistes, et le système est capable de générer des images d’innombrables célébrités et personnalités publiques, peut-on lire sur TheVerge.

Ces améliorations ont permis à un certain nombre d’images de Midjourney de devenir virales au cours des dernières semaines. Il s’agit non seulement de fausses photos de l’arrestation de Trump et du pape à la mode, mais aussi d’autres du président français, Emmanuel Macron, marchant à travers les manifestations en cours à Paris et d’Elon Musk tenant la main d’Alexandria Ocasio-Cortez.

Application peu restrictive des politiques de modération

Les restrictions de contenu de Midjourney sont plus permissives que certains services rivaux (comme DALL-E d’OpenAI), mais plus restrictives que d’autres (par exemple, Stable Diffusion).

En outre, la réponse de Midjourney à l’escalade de la menace politiquement sensible des fausses images a jusqu’à présent été fragmentaire, sans révision significative de ses politiques de modération. 

Il y a bien une liste de mots interdits sur la base de plaintes d’utilisateurs de certains pays, mais presque personne n’y prête attention. Plus simple encore, il suffisait jusqu’à tout récemment d’utiliser d’autres termes pour parvenir aux résultats d’hypertrucage désirés.

Trop d’abus

À l’heure actuelle, les utilisateurs qui ne paient pas ne peuvent plus générer d’images, Midjourney prétextant une pénurie de processeurs graphiques. Puis la techno a laissé entendre que l’utilisation abusive du logiciel était le principal motif de l’arrêt des essais gratuits.

Le service demeure malgré tout ouvert pour les abonnés payants.