C’était il y a quelques jours à peine. Mark Zuckerberg, le patron de Meta, annonce fièrement une grande nouveauté pour WhatsApp : la possibilité pour les utilisateurs de créer leurs propres stickers via une intelligence artificielle, en décrivant simplement l’image souhaitée par texte. Sensationnel, non ? Enfin un peu de fantaisie et de liberté créative sur nos messageries instantanées !
À peine quelques heures après cette annonce tonitruante, la désillusion s’est installée. Certains utilisateurs, pas forcément recommandables, se sont empressés de détourner cette innocente fonctionnalité à des fins nettement plus sombres. Images violentes, pornographiques, choquantes… L’IA de WhatsApp s’est retrouvée instrumentalisée à son insu pour générer des stickers totalement inappropriés.
Des dérives qui ne surprennent pas vraiment
Pour tout observateur un peu aguerri, ces détournements étaient prévisibles. Dès qu’une technologie offre un potentiel anonymat et une certaine liberté d’expression, des excités du bouton « Envoyer » se font un malin plaisir d’en exploiter les failles.
C’est exactement ce qu’il s’est passé ici. En quelques taps sur leur smartphone, ces utilisateurs ont réussi à générer des images violentes de Mario armé jusqu’aux dents ou carrément pornographiques avec des personnages de dessins animés.
Et bien sûr, impossible pour l’IA de WhatsApp de détecter le caractère choquant du sticker avant sa génération, puisqu’elle se base juste sur une description textuelle anodine de l’utilisateur. Les filtres a posteriori se sont également révélés facilement contournables. Bref, c’est un peu le far west sur WhatsApp depuis cette annonce.
Des risques majeurs pour WhatsApp et Meta
Ces détournements ne sont pas sans conséquence. Ils exposent WhatsApp et sa maison-mère Meta à des risques juridiques et d’image importants.
Les ayants-droit de personnages connus comme Mario ou Pikachu n’apprécieront probablement pas de les voir associés à des images violentes. Ils pourraient trainer Meta devant les tribunaux pour atteinte à l’image de marque.
Et même sans parler des poursuites judiciaires, cette affaire entache sérieusement la réputation de WhatsApp. Difficile pour la plateforme de se targuer d’offrir un environnement sain et sûr aux familles, si n’importe qui peut générer des images choquantes en deux clics.
Cet épisode pose plus largement la question de l’encadrement nécessaire des IA génératrices d’images. Car oui, permettre à n’importe qui de donner vie à ses fantasmes les plus malsains via une IA, ce n’est clairement pas souhaitable.
Certes, la liberté d’expression doit être préservée. Mais elle trouve naturellement ses limites quand il s’agit de contenus choquants, dangereux ou illégaux. L’intelligence artificielle ne saurait devenir une zone de non-droit. Espérons donc que Meta saura rapidement mettre en place les garde-fous nécessaires. L’innovation oui, mais avec éthique et responsabilité !
