L'outil d'IA générative Midjourney a fait les gros titres il y a quelques mois lorsqu'il a été utilisé dans le monde entier pour générer des images. L'outil a également été utilisé par de nombreuses personnes pour créer de fausses images (deepfake), après quoi sa période d'essai gratuite a été interrompue. Le PDG et fondateur de Midjourney, David Holz, avait annoncé sur Discord « une demande extraordinaire et un abus de la période d'essai gratuite » comme raison de sa suspension. Aujourd'hui, l'outil d'IA fait à nouveau parler de lui, mais cette fois-ci pour avoir affirmé que ses données étaient collectées par les employés de Stability AI.
Midjourney a annoncé l'interdiction pour les employés de Stability AI d'utiliser son service, affirmant que les membres du personnel de la société rivale d'IA générative ont causé une panne de système en tentant de récupérer les données de Midjourney. L'incident a été reconnu dans une mise à jour sur le serveur Discord de Midjourney le 2 mars, citant une panne de serveur prolongée empêchant l'affichage des images générées dans les galeries des utilisateurs. La société a attribué la panne à une « activité de type botnet à partir de comptes payants », la reliant spécifiquement aux employés de Stability AI.
Selon Nick St. Pierre, utilisateur de Midjourney sur X, qui a écouté l'appel, Midjourney a déclaré que le service avait été interrompu parce que « quelqu'un de Stability AI essayait de récupérer toutes les paires de messages et d'images au milieu de la nuit de samedi à dimanche ». Pierre a déclaré que Midjourney avait lié plusieurs comptes payants à une personne de l'équipe de données de Stability AI.
Midjourney introduit une nouvelle politique contre « l'automatisation agressive »In MJ office hours they just said someone at Stability AI was trying to grab all the prompt and image pairs in the middle of a night on Saturday and brought down their service.
— Nick St. Pierre (@nickfloats) March 6, 2024
MJ is banning all of the stabilityAI employees from Midjourney immediately
This is breaking now
Dans son résumé de l'appel de mise à jour du 6 mars (que Midjourney appelle « heures de bureau »), la société dit qu'elle interdit à tous les employés de Stability AI d'utiliser son service « indéfiniment » en réponse à la panne. Midjourney introduit également une nouvelle politique qui interdira de la même manière les employés de toute entreprise qui exerce une « automatisation agressive » ou qui provoque des pannes du service.
Le PDG de Stability AI enquête sur les allégations et nie toute perturbation intentionnelle
Pierre a signalé les accusations au PDG de Stability AI, Emad Mostaque, qui a répondu sur X, disant qu'il enquêtait sur la situation et que Stability n'avait pas ordonné les actions en question. « Il est très difficile de comprendre comment deux comptes ont pu faire cela. L'équipe n'a pas fait de scraping, car nous avons utilisé des données synthétiques et autres, étant donné que SD3 surpasse tous les autres modèles », a déclaré Mostaque, faisant référence au modèle d'IA Stable Diffusion 3, actuellement en preview. Il a affirmé que si la panne avait été causée par un employé de Stability, elle n'était pas intentionnelle et « n'était manifestement pas une attaque DDoS ».
« Quoi qu'il en soit, je suis un grand fan de MJ & David, c'est pourquoi je les ai soutenus au début avec la subvention pour payer la bêta », a-t-il indiqué.
Le fondateur de Midjourney, David Holz, a répondu à Mostaque dans le même fil de discussion, affirmant lui avoir envoyé « quelques informations » pour l'aider dans son enquête interne.Very confusing how 2 accounts would do this team also hasn't been scraping as we have been using synthetic & other data given SD3 outperforms all other models
— Emad acc/acc (@EMostaque) March 6, 2024
Anyway I am a big MJ & David fan which is why I backed them at the start with the grant to pay for the beta, on e we go
Conclusion
Il semble étrange que l'activité de scraping de seulement deux comptes ait réussi à provoquer une panne de serveur aussi longue. L'ironie de cette situation n'a pas échappé aux créateurs en ligne, qui ont largement critiqué les deux entreprises (et les systèmes d'IA générative en général) pour avoir entraîné leurs modèles sur des masses de données en ligne extraites de leurs œuvres sans leur consentement. Stable Diffusion et Midjourney ont toutes deux fait l'objet de plusieurs poursuites en matière de droits d'auteur, la dernière ayant été accusée en décembre d'avoir créé une base de données d'artistes à des fins d'entraînement.
Source : résumé de l'appel de mise à jour des activités (Discord)
Et vous ?
Quelles mesures devraient être prises pour assurer une utilisation éthique des données dans l'industrie de l'IA ?
Comment les entreprises d'IA peuvent-elles maintenir un équilibre entre innovation et respect de la vie privée ?
L'interdiction imposée par Midjourney est-elle une réaction appropriée ou excessive face aux allégations de scrapping de données ?
Quel rôle les régulateurs devraient-ils jouer pour prévenir les abus potentiels dans l'utilisation des données d'IA ?
Comment les entreprises peuvent-elles renforcer la transparence et la confiance avec leurs utilisateurs concernant l'utilisation des données ?