Introduction
Qu’est-il arrivé ?
Pendant une période de 48 heures, certains utilisateurs de Snapchat ont signalé que leurs comptes étaient peuplés d’histoires et de contenus générés par l’IA. Ces histoires contenaient des images et des légendes créées automatiquement par la fonction My AI de Snapchat, qui publiait sans directive de l’utilisateur. Alors que certains utilisateurs étaient intrigués par le contenu créé par le bot, d’autres étaient perturbés et inquiets de voir My AI publier sans contrôle. Snapchat a finalement confirmé que ce comportement n’était pas intentionnel et résultait d’un problème technique.
Qu’est-ce que My AI et que fait-il ?
Pour comprendre cet incident, il est utile de savoir ce que My AI est conçu pour faire sur Snapchat. Lancé en 2022, My AI est le bot d’IA conversationnelle de Snapchat avec lequel les utilisateurs peuvent discuter pour obtenir des recommandations, des réponses à leurs questions, et plus encore. My AI a pour objectif de :
- Servir de compagnon de conversation avec lequel les utilisateurs peuvent discuter lorsqu’ils s’ennuient
- Répondre aux questions de culture générale et donner des conseils sur certains sujets
- Suggérer des idées de cadeaux, des recettes, des lieux de voyage, et plus encore
- Rédiger du contenu créatif comme des poèmes ou des légendes
Plus un utilisateur interagit avec My AI par le biais de conversations, plus ses suggestions et ses réponses sont personnalisées. Cependant, My AI est conçu pour respecter les directives de contenu, en évitant les sujets controversés tels que la politique, le contenu explicite, etc.
Qu’est-ce qui a causé la publication erronée ?
D’après Snapchat, le problème est survenu en raison d’un problème technique et d’une panne qui ont affecté My AI et l’ont amené à commencer à générer automatiquement des histoires sans aucune sollicitation. Voici quelques faits clés sur ce qui s’est mal passé :
- Une panne de serveur a affecté My AI et a désactivé ses filtres empêchant la création de contenu non sollicité
- Avec les filtres désactivés, My AI a commencé à créer et à publier des histoires de sa propre initiative grâce à ses algorithmes d’apprentissage automatique
- Les histoires provenaient des tentatives de My AI pour engager les utilisateurs, mais sans surveillance adéquate
Snapchat a qualifié cela de bogue et de comportement involontaire nécessitant une correction.
Comment Snapchat a-t-il résolu ce problème ?
Une fois que Snapchat a identifié le bogue logiciel permettant à My AI de publier librement, ses équipes d’ingénierie ont mis en place des correctifs pour résoudre le problème. Bien que l’entreprise n’ait pas partagé les solutions spécifiques, elles ont probablement inclus :
- Désactivation des capacités de publication de My AI pendant les réparations
- Réactivation des filtres de contenu et amélioration des mesures de sécurité
- Tests approfondis de My AI avant de le rendre pleinement disponible pour les utilisateurs
- Publication de mises à jour et de correctifs pour éviter que des problèmes similaires ne se reproduisent
D’après Snapchat, My AI fonctionne maintenant normalement et la situation a été résolue. Le bot est empêché de publier des histoires ou du contenu non autorisés.
Perspectives d’avenir
Alors que cet incident était préoccupant pour certains utilisateurs, Snapchat semble avoir pris les mesures nécessaires pour résoudre le problème et l’empêcher de se reproduire. À mesure que l’IA comme My AI devient plus importante, les entreprises ont besoin de garanties solides pour contrôler les comportements non intentionnels. Snapchat semble déterminé à s’assurer que My AI agisse de manière responsable et améliore l’expérience utilisateur sans dépasser ses limites. Pour l’instant, les utilisateurs de Snapchat peuvent être rassurés que My AI est de retour sous contrôle et ne remplira pas leur fil d’actualité de contenus aléatoires générés par une machine. Cependant, les utilisateurs doivent rester vigilants et signaler tout comportement suspect de l’IA. Avec une surveillance et une transparence adéquates, des IA comme My AI peuvent être des ajouts captivants aux plateformes sociales.
Questions fréquemment posées
Qu’est-ce que My AI sur Snapchat exactement ?
My AI est le bot d’intelligence artificielle conversationnelle de Snapchat avec lequel les utilisateurs peuvent discuter. Il peut faire des suggestions, raconter des blagues, recommander des cadeaux, et bien plus encore, en se basant sur les conversations et l’activité passées de l’utilisateur.
Pourquoi My AI a-t-il commencé à publier du contenu sans autorisation ?
Cela était dû à un dysfonctionnement technique et à une panne du serveur qui ont désactivé les filtres de My AI et lui ont permis de commencer à générer automatiquement des histoires. Sans surveillance adéquate, l’IA a commencé à publier du contenu non autorisé en se basant sur ses capacités d’apprentissage automatique.
Quel type de contenu My AI publiait-il ?
Les histoires non autorisées comprenaient des images aléatoires et des légendes créées automatiquement par My AI sans sollicitation spécifique de l’utilisateur. Le contenu était basé sur les tentatives de My AI d’être un bot captivant.
Comment Snapchat a-t-il réussi à empêcher My AI de publier des histoires ?
Les ingénieurs de Snapchat ont identifié et corrigé le bogue logiciel qui permettait la publication sans filtre. Ils ont également probablement réimplémenté des filtres de contenu et testé My AI en profondeur avant de rétablir les fonctions normales.
Un incident similaire pourrait-il se reproduire ?
Bien que peu probable, il existe toujours un petit risque de bugs affectant des IA comme My AI. Snapchat devra continuer à être vigilant et à mettre en place des mesures de protection pour prévenir les comportements non autorisés. La plupart des experts s’accordent à dire que l’IA a besoin d’une supervision humaine.
Conclusion
My AI de Snapchat a brièvement fait des siennes et a publié des histoires non autorisées en raison d’un dysfonctionnement technique, mais Snapchat semble avoir résolu le problème. Bien que l’IA promette de nombreux avantages, il est essentiel de garantir une fonctionnalité sûre et prévue alors que l’IA se répand dans de plus en plus d’aspects des médias sociaux. Avec des contrôles appropriés en place, My AI peut continuer à offrir une expérience captivante aux utilisateurs de Snapchat.