L’émission virale de type Seinfeld de Twitch générée par une IA a été interdite. Que s’est-il passé tout d’un coup ?
En utilisant l’IA, “Nothing, Forever” peut générer des scénarios mettant en vedette des personnages rappelant la sitcom Seinfeld des années 90, car les personnages principaux sont des parodies de leurs homologues réels.
L’émission a été un succès sur Twitch jusqu’à ce que “Larry” – la version de l’émission de Jerry Seinfeld – ait interprété des blagues jugées transphobes et homophobes, conduisant à une interdiction de la plateforme de streaming.
Une sitcom générée par l’IA interdite sur Twitch après des blagues problématiques
Tout a commencé avec le segment qui parodie l’ouverture du vrai Seinfeld, où Jerry fait une routine de stand-up dans un club. Larry s’est exprimé d’une manière considérée comme transphobe et homophobe.
#watchmeforever vient d’être banni après avoir produit “ce clip” d’ailleurs je n’aime rien, pour toujours pic.twitter.com/DqtUl1JX1G
– Mai (@watmay1) 6 février 2023
Pour Twitch, cela a suffi à annuler le spectacle. La chaîne est suspendue depuis deux semaines. Les développeurs de “Nothing, Forever” ont commenté l’incident, affirmant que cela ne reflétait pas leur point de vue et blâmant les problèmes liés à l’IA.
Sur leur Discord, ils ont expliqué que changer le modèle d’IA semble avoir eu des effets secondaires négatifs.
«Nous avons commencé à avoir une panne en utilisant le modèle GPT-3 Davinci d’OpenAI, ce qui a amené l’émission à afficher des comportements errants (vous avez peut-être vu des salles vides défiler). OpenAI a un modèle moins sophistiqué, Curie, qui était le prédécesseur de Davinci. Lorsque Davinci a commencé à échouer, nous sommes passés à Curie pour essayer de maintenir le spectacle sans aucun temps d’arrêt. Le passage à Curie a entraîné la génération du texte inapproprié »
L’apparition de l’IA avancée sur Twitch a suscité de nombreuses questions concernant la responsabilité des canaux AI Twitch et la manière de gérer les TOS entourant ce sujet.
Les créateurs de “Nothing, Forever” ont apparemment fait appel de l’interdiction de Twitch de deux semaines, mais nous devrons attendre et voir comment la plateforme prévoit de gérer les flux d’IA. Seront-ils indulgents, car il s’agit d’une erreur générée par ordinateur ? Ou seront-ils stricts, pour donner l’exemple aux futurs streamers IA pour qu’ils fassent mieux ?