-
Tristan Le Gall
Bonjour Thibaut Prévost, je pense que, une fois de plus, votre texte comporte des erreurs grossières qui nuisent à votre crédibilité
l'angoisse de Turing s'est réalisée
Quelle angoisse ? Qu'une machine réussisse à passer le "jeu de l'imitation" et qu'on n'arrive plus à distinguer l'homme d'une machine ? A ma connaissance, Alan Turing n'était pas angoissé par cette idée. Bien au contraire, il aurait souhaiter pouvoir réaliser une telle machine. Ses angoisses étaient d'un autre ordre. D'ailleurs, le fait que dans son texte, il donne comme exemple de son "jeu de l'imitation" un test pour distinguer un homme d'une femme est peut-être plus révélateur sur ses vraies angoisses (cela reste une hypothèse, pas une certitude).
Dans les yeux morts du logiciel, le créole, marginal dans les jeux de données, est suspect par essence.
Ce n'est pas ce que dit Alexandre Gefen. Il est probable que Pangram soit moins fiable sur un texte écrit en créole (justement à cause d'un plus faible nombre de données pour entraîner l'IA) mais rien n'indique qu'il considère le créole comme suspect. Une étude statistique est nécessaire pour pouvoir affirmer cela.
est possible "d'entraîner" - autrement dit, de hacker - Pangram sur un texte en modifiant certains mots, jusqu'à ce que le logiciel l'identifie comme 100% généré par IA.
Ce n'est pas propre à Pangram, tous les logiciels IA sont vulnérables à ce type d'attaque, et ça ne dit rien sur la fiabilité de Pangram. NB: Pangram est présenté comme "fiable, mais pas infaillible" (savoir si c'est vrai, c'est une bonne question). Mais en parlant de "ces logiciels prétendument infaillibles" vous faites un homme de paille.
la dynamique ayant récemment mené au suicide de Jason Arday, professeur de Cambridge de 41 ans : des accusations de plagiat menées par le chercheur raciste Nathan Cofnas
Heu, cet exemple est très mal choisi. Car les accusations portées contre Jason Arday (sur ses mensonges et ses plagiats) étaient vraies. Elles étaient portées par un authentique raciste (dont la motivation n'a probablement rien à voir avec la rigueur académique) et Jason Arday ne méritait pas la mort (tout au plus une démission de son poste universitaire et le retrait de ses diplômes), mais ça n'enlève rien à la véracité des accusation et au fait que Cambridge aurait dû faire les vérifications nécessaires (qui auraient alors révélé les problèmes) avant de donner un poste prestigieux à Jason Arday. Voir par exemple l'émission de la Tronche en Biais à ce sujet.
Enfin, si je suis d'accord pour dire qu'il y a du racisme dans le traitement de cette affaire, et que d'autres auteurs utilisent probablement l'IA sans aucune conséquence pour le moment, je ne partage pas du tout votre conclusion. La moindre des choses, quand on utilise de l'IA générative, c'est d'en déclarer son usage. Et qu'en l'absence d'une telle déclaration, les soupçons d'un usage non déclarés doivent être pris au sérieux.
-
kaukau
Malgré la haine viscérale (justifiée ou non) de l'auteur envers Pangram, les seuls arguments sur sa non fiabilité qu'il réussit à compiler sont en premier lieu un test réalisé avec un outil qui n'est pas Pangram, en deuxième lieu un test sur un texte court que Pangram lui-même flag comme étant non-fiable puisque trop court, puis un exemple de la possibilité de le tromper en modifiant le texte original. Avec une telle charge argumentative on aurait au contraire tendance à croire que Pangram est véritablement infaillible.
-
Hallucined
Dommage Thibault Prévost que votre chronique arrive alors que l''interressé est déjà retourné au Canada.
Tardivement tardif mais clairement expliqué.;
Étant né à Bruxelles et y ayant fait mes études, je parle un français un peu différent malgré les nombreuses années vécues à Paris.
J'emploie des mots obsolètes voire désuets et des expressions propres aux Bruxellois paraissant bizarres aux français.
Je comprends très bien la ""difficulté" d'un auteur haïtien passé par le français du Québec.
Comment une IA peut-elle analyser cet emmêlement linguistique ?
Entre Bruxelles et Paris, il n'y a que 330 Km ..;. Entre Haïti et Québec ?
PS Pour le test Voight-Kampf, il ne faut pas confondre le livre de P .K Dick "Les "Androides rêvent-ils de moutons électriques" et le film "Blade Runner" dont il est librement inspiré. Tous deux sont géniaux.
-
nuage.r
Je n'aime pas ceci : « Pangram utilise un mélange de textes humains et... de textes générés par IA. »
Les points de suspensions visent à produire un effet de surprise, voir d'indignation.
Mais il est évident que si l'on cherche à distinguer deux types de textes, statistiquement ou autrement, il faut étudier les deux types.
En gros je trouve l'article assez faible au niveau de l'argumentation.
Par ailleurs je me demande si le compte « balance ton claude » a fait passer à la même moulinette tous les autres candidats aux prix littéraires. Et si il a publié les conclusions.
-
IT
Pas d'opinion (et pas d'opinion à avoir) sur l'humanité du style de ce livre. En général, les racistes sont convaincus qu'il est "écrit" par une machine, les antiracistes par un humain, et les opinions seraient interchangées s'il s'agissait d'un auteur fasciste. Hashtag "hashtag".
Par contre, indépendemment de la réponse, on regarde crever la littérature, les notions mêmes d'écriture et de lecture. C'est fini, rangé, plié. Un truc du passé. Parce que même si pangram allait se faire foutre, il n'embarquerait pas avec lui son monde de soupçon. Ce l'est pas le sien. Il appartient aux LLM, qui elles, restent pour toujours.
Alors il y a les gens qui s'en félicitent. Les frustrés de la cervelles qui accueillent avec joie à la fois la béquille et le nivellement, la revanche. Et il y a les gens qui s'en fichent. Qui prétendent qu'un texte a sa valeur qu'il soit produit par le tuyau d'une usine ou par un esprit humain. Mais ce qui vient de disparaitre à jamais, dans cette polémique, dans cette technologie, c'est un contrat implicite. Celui d'un dialogue entre auteurice et lecteurice. Celui de la présence. Celui du livre, du texte, comme canal entre deux esprits. Le livre, le texte, comme récipient d'un regard, d'un ressenti, d'une "âme". D'une expérience humaine. C'est la fin d'une communication.
Il n'y a désormais plus de présence présumée ou présumable. Il y a le toc, l'artificiel et le mensonge. On pourrait se dire qu'il reste le passé, mais celui-ci même, dématérialisé, devient sujat à tous les révisionnismes. Plus encore que la fin des informations visuelles (encore analysables), c'est la fin de la communication écrite. Les robots parlent aux robots. De toute façon, la lecture elle-même...
Au final, ce sont peut-être les gens que je méprise (les indifférents à l'humanité des auteurices) qui, en triomphant, vont sauver ce qui m'est précieux. Quand plus aucune valeur ne sera attachée à cette humanité, quand les gens se seront habitués aux productions musicales, audiovisuelles, livresques, purement tricatel (tout comme ils se sont habitués à la normalité des coupures et affichages publicitaires, à la normalité des softwares en location sur le cloud, à la normalité des médiathèques altérables par leurs hébergeurs et véritables propriétaires, la normalité de leur infinie traçabilité et de leur constant profilage), quand il n'y aura plus aucune valeur ajoutée à présenter l'auterice comme un être vivant, il n'y aura plus de raison de mentir. Peut-être alors retrouvera-t-on une relative confiance, pour les rares qui souhaiteront encore une litérature de subjectivités humaines.
D'ici-là, que l'ouvrage de Thélyson Orélien soit "naturel" ou "artificiel", ça ne change rien. Le fait que la question se pose, et puisse être posée, est ce qui clôt le débat. On est devant un inconnaissable bien installé, devant lequel ne sont plus possibles que l'indifférence ou la démission.
-
Bonze Courroucé
"Dans un pays de racistes dégénérés, on doute encore instinctivement que les sauvages puissent écrire de la littérature tout seuls"
aka
Emmanuel Macron à propos de Christophe Dettinger : "Ça se voit ! Le type, il n’a pas les mots d’un gitan. Il n’a pas les mots d’un boxeur gitan."
-
Petit_tofu
Hugo était une machine selon Pangram ? "Sors d'ici, Victor Hugo !!" :D
La chasse aux sorcières se modernise, merci la Silicon Valley (pas de glacier en équilibre précaire au-dessus de cette vallée ?).
-
DéLecteurdeVraiThé
D'abord et avant tout merci à vous, Thibault Prévost, merci pour chacune de vos lignes
Je l'avais pressenti comme en d'autres temps d'autres avaient eu la conviction que la terre n'était pas plate
Je l'avais pressenti d'autant que j'étais encore ébranlé par la disparition de Jason Arday
Je ne sais pourquoi me revient cette vidéo de James Baldwin
-
Ervé
Un extrait relayé par DS sur Twitter, avec ce commentaire :
Rien que ce passage du début, au secours !
Je veux croire que j'aurais détecté un loup, sans forcément penser à l'IA, je suis encore naïf.Je suis entièrement de son avis, même si je pense, comme Thibault, que le choix du bouquin testé par Fitoussi n'est pas un hasard.
-
pompon
Ce qui m'étonne le plus dans cette histoire , c'est que personne n'évoque l'aspect financier ! Pour moi l'essentiel dans ces affaires de plagiat ou d'aides diverses plus ou moins intelligentes, c'est l'information honnête des "consommateurs" et de savoir qui encaisse ce que je paie .
Personne n'aborde ce sujet, à tel point que ça me paraît suspect ... tant d'intérêts en jeu .
L'argent n'a pas d'odeur mais ça n'empêche pas d'en parler .
-
GLDP
Merci !
-
jcharles
C"est énervant. Chaque fois que je décide de ne pas renouveler mon abonnement à ASI - suite à un article complètement creux ou à une chronique inutile de Schneidermann, je tombe sur un article de Thibault Prévost ou d'Elodie Safaris et je reste abonné.
-
Odyssée
Ah l'oracle Thibault Prévost... je l'attendais, sans oser l'espérer...
MERCI ASI --
J'avais bien vu les posts sur Pangram et la Bible 100% IA mais ne savais quoi en penser...
La guerre culturelle, politique, économique, etc. continue...