Une patate chaude : Au cas où vous ne l’auriez pas remarqué, ChatGPT et l’IA d’apprentissage automatique, en général, ont été des sujets brûlants ces derniers temps, avec des opinions oscillant positivement et négativement. D’un côté, il y a des partisans qui pensent que les systèmes d’IA générative sont la meilleure chose depuis le pain tranché et devraient être utilisés pour tout, de la construction d’images « originales » à l’écriture de poésie. Les opposants soutiennent avec passion que ces applications foulent aux pieds les droits des créatifs qui consacrent des jours, des semaines et des mois de travail à leurs arts respectifs.
La dernière bombe à avoir frappé le spectre ChatGPT est un rapport selon lequel, à la mi-février, l’IA avait 200 livres ou plus sous sa ceinture virtuelle publiés dans la boutique Kindle d’Amazon. Reuters note que certains titres sont “co-écrits”, mais beaucoup sont publié tel quel sans intervention humaine autre que de soumettre le contenu et de collecter l’argent.
Autant que l’on sache, Amazon essaie d’être aussi transparent que possible avec les titres générés par l’IA en les étiquetant ChatGPT et en créant une toute nouvelle section intitulée “Livres sur l’utilisation de ChatGPT, entièrement écrits par ChatGPT”. Cependant, ce ne sont que des livres que les créateurs de contenu ont admis avoir utilisé l’IA pour terminer le travail. Il pourrait y en avoir des centaines d’autres produits par des “auteurs” moins scrupuleux.
Malgré la transparence, certains dans l’industrie craignent que les vrais auteurs ne soient blessés par un raz-de-marée de livres médiocres produits rapidement qui dilue le bassin de travail de qualité publié par des écrivains humains. Un écrivain avec qui Reuters s’est entretenu est passé du concept à l’œuvre publiée en quelques heures. C’était un livre pour enfants avec ChatGPT produisant le texte, et une autre IA pour générer des dessins “bruts”.
“C’est quelque chose dont nous devons vraiment nous inquiéter, ces livres vont inonder le marché et beaucoup d’auteurs vont être au chômage”, a déclaré Mary Rasenberger, directrice exécutive de la Authors Guild. “Il doit y avoir de la transparence de la part des auteurs et des plateformes sur la façon dont ces livres sont créés, sinon vous allez vous retrouver avec beaucoup de livres de mauvaise qualité.”
Un autre créateur de contenu a publié en moins d’une journée une nouvelle de science-fiction générée par l’IA intitulée “Galactic Pimp : Vol. 1” qui se vend 1 $ sur Kindle. Il prétend que lui, ou n’importe qui d’autre, pourrait facilement produire 300 œuvres similaires ou plus par an, et il existe déjà de plus en plus de preuves à l’appui de cette affirmation.
Le magazine de science-fiction Clarkesworld, qui a lancé la carrière de nombreux auteurs en herbe, a récemment institué un gel des soumissions en raison du volume considérable de contenu généré par l’IA qu’il a récemment reçu. Le rédacteur en chef Neil Clarke a écrit sur son blog qu’à la mi-février, le magazine avait banni près de 350 comptes grâce aux soumissions de contenu générées par l’IA. Ce nombre éclipse celui de janvier de près d’un facteur trois en seulement 15 jours. Cinq jours plus tard, les interdictions ont atteint plus de 500 (ci-dessus). Ces chiffres sont des interdictions de compte, et même pas le volume de soumissions que Clarkesworld reçoit.
Les soumissions sont actuellement fermées. Il ne devrait pas être difficile de deviner pourquoi.
— clarkesworld (@clarkesworld) 20 février 2023
Clarke dit qu’il a commencé à remarquer des histoires générées par des chatbots vers la fin de 2022. Il ne dirait pas comment il élimine ces entrées, mais pour la plupart, un vérificateur de plagiat et un peu de bon sens peuvent aller très loin.
“Je ne vais pas détailler comment je sais que ces histoires sont du spam” IA “ni décrire les données que j’ai recueillies à partir de ces soumissions”, a écrit Clarke. “Il existe des modèles très évidents, et je n’ai aucune intention d’aider ces personnes à devenir moins susceptibles d’être prises.”
Clarke a fourni un échantillon d’une soumission rejetée pour illustrer à quel point certaines de ces soumissions peuvent être “évidentes” tout en notant que toutes ne sont pas aussi mauvaises.
“S’appuyant sur ses trois années d’expérience, le Shell le plus apte avait à l’origine la taille de plus d’observations subliminales androïdes que tout autre sujet unique de la grand-mère. poste de stockage.”
C’était un passage mal plagié d’une histoire intitulée “Human Error” de Raymond F. Jones, publiée en 1956. La citation originale se lit comme suit :
“Au cours de ses trois années d’existence, la première roue a probablement fait l’objet de plus d’observations astronomiques amateurs que tout autre objet unique dans les cieux. Plus de trois cents rapports sont arrivés lorsqu’un appel a été lancé pour des témoins de l’accident qui a détruit la station spatiale. .”
Le problème est que passer au crible des centaines, voire des milliers d’horribles soumissions écrites par l’IA prend trop de temps, même lorsqu’il est aidé par des vérificateurs de plagiat automatisés (qui n’utilisent pas l’IA, soit dit en passant). Clarke a donc dû suspendre les soumissions indéfiniment jusqu’à ce qu’il puisse trouver une solution au problème, endommageant la capacité de certains écrivains légitimes à faire publier leur travail.
Est-ce que AI-aidé les écrivains publient de manière éthique ? Bien sûr, ils le peuvent, et certains le feront, mais malheureusement, la plupart ne le feront pas car Internet gâche tout.
Crédit image : Écrivain de robots par Phonlamai Photo, Tableau des interdictions par Neil Clarke
