Podcast "Bonus" N°25 : Actualités de La Cellule et retour sur les IA !
(Durée 03 : 18 : 08)
Télécharger le podcast
La génération d'images et de textes par les "intelligences artificielles" semble aller beaucoup plus vite que la génération des podcasts de La Cellule. Cette semaine, Valentin T a laissé GPT3 lui rédiger l'intégralité des textes d'un jeu de rôle cyberpunk : Chimères Artificielles. Les innovations en la matière sont si nombreuses et si rapides qu'elles ne laissent guère le temps d'un débat serein et apaisé. Les IA sont là ! et les esprits s'échauffent autour de la dinde de Noël !
Cette
semaine, avec Darky et Flavie, nous discutons rapidement de la fermeture du Tipeee de La Cellule avant d'inviter Emrik, Valentin, Audrey et Gogots à réagir au podcast de la semaine dernière. Nos auditeurs et auditrices viennent ainsi alimenter notre débat sur les images et les textes générés par des intelligences artificielles. Que peut-on faire grâce à la génération de texte ? Comment les data-scientists en sont-ils venus à imiter le style d'un blogueur ou d'un auteur ? Quels préjugés racistes ou sexistes les IA véhiculent-elles ? Quelles conséquences peut-on craindre pour les métiers du graphisme et de l'illustration ? Les IA sont elles du vol ? Les questions que ces sujets mobilisent sont si complexes qu'elles nous obligent à déballer toutes nos croyances sur la réalité, sur l'être humain, sur la société... Faire société est-il encore possible, quand la vitesse de la génération dépasse celle de la réflexion ?
Un grand merci à tous nos intervenants et intervenantes, tous les commentaires du podcast précédent qui nous ont bien aidé à préparer cette émission. Nous n'avons pas eu le temps d'aborder tous les sujets que nous aurions voulu, ni accorder autant de place et de temps aux arguments que vous avez développés par téléphone ou sur le net. Le temps fil à toute vitesse dans ces émissions marathon. On a fait de notre mieux. Bonne écoute ! Merci de votre bienveillance et joyeux noël ! <3
RépondreSupprimerÉmission Arrêt sur Image citée dans l'émission : https://www.arretsurimages.net/emissions/arret-sur-images/la-rentabilite-des-fake-news-est-extreme
RépondreSupprimerMerci pour ce podcast de Noël, très animé !
RépondreSupprimerUn petit conseil de lecture d'un" vieil" article de wired sur Alpha Go.
https://www.wired.com/2016/05/google-alpha-go-ai/
Je pense qu'il pondère un peu l'idée, émise par Flavie, si je ne me trompe, qu'une IA ne peut rien inventer, rien nous apprendre. Dans le monde du Go, le deep learning a fait émerger de nouvelles stratégies et il me semble possible d'imaginer, que dans le domaine artistique cela puisse également se produire.
Sur un autre axe, dans ce podcast et le précédent, il a été beaucoup question de l'utilisation controversée des "miriages" dans un contexte d'édition professionnelle.
RépondreSupprimerDans le domaine du jeu de rôle, il y a cependant tout un contexte "amateur" où l'usage des IA peut être utile sans léser les artistes qui vivent de leur art : Par exemple, lors d'un de mes derniers scénarios maison, j'ai abondamment utilisé https://artflow.ai/ pour créer des portraits de mes PNJ.
Ne sachant pas dessiner correctement, et n'envisageant bien évidemment pas de faire appel à une star du dessin pour illustrer une partie qui ne sera jouée qu'une seule fois entre amis, l'utilisation de miriages me semble bien plus satisfaisante d'un point de vue créatif que d'aller écumer pinterest ou un autre banque d'images gratuites à la recherche de quelque chose qui se rapproche de ce que j'ai en tête.
Épilogue intéressant, mes joueurs ont touvé les portraits trop cohérents (cadrage et pause systématiquement identique), ce qui leur a donné des difficultés pour différencier la douzaine de PNJ de ce scénario orienté enquête.
Un format à renouveler.
RépondreSupprimerMais sur les IA, pour avoir travaillé non pas sur l’intérieur mais sur les conditions d’utilisation, leur usage se trouve limité à l’identification d’une personnalité juridique responsable des conséquences de son usage.
De plus, Darkie se trompe. Une idée exprimée appartient à son auteur et il a des droits notamment celui de refuser ou non sa reproduction. Ce n’est pas parce qu’il ne l’utilise pas qu’il n’existe pas.
Le droit d’auteur est inaliénable. Ce qui est aliènable, c’est son usage et sa rémunération.
Pourquoi un éditeur utiliserait il un IA avec un risque juridique permanent alors qu’il peut sous-payer un illustrateur qui lui cède ses droits d’usage?
L’autre point est la vision de Flavie sur la technologie : l’analogie avec les armes est intéressant mais trouve ses limites. En France, le port et la détention d’armes sont limités non pas parce qu’elles sont dangereuses pour l’individu mais parce que l’Etat y voit un risque pour assurer le maintien de l’ordre.
L’usage d’une technologie dépend d’un consensus social sur son utilité : le clonage est possible mais il a été décidé qu’il ne devait pas dépasser la recherche scientifique.
Car il ne faut pas confondre science et ingénierie. La science par nature ne peut être éthique dans son but mais doit l’être dans sa méthode .
L’ingénierie intervient une fois que la science a démontré qu’un effet était possible pour le rendre utilisable mais encore faut-il un intérêt économique ( au sens global: meilleur allocation des ressources )
Et une fois que la machine existe, il se pose le dilemme de la bascule de technologie et du retour sur investissement..
Les IA de recherche ont un coup d’entrée énorme et n’ont pas démontré leur gain économique.
En revanche, le traitement massif de données ( appelé IA par effet de mode) dans le domaine du marketing a déjà démontré son gain …car il AVAIT un risque juridique faible mais ce dernier augmente…
LOL , euh...Je me , euh,...réécoute je suis euuh, innodible.Mon propos part dans tout les sens.
RépondreSupprimerIl y a une dimension fondamentale qui passe à la trappe dans les discussions
RépondreSupprimersur les IA, c'est la dimension du travail nécessaire pour les créer mais
surtout pour enrichir les tera-octets de données qui leur servent de base.
Les IA ne travaillent pas toutes seules sur leurs données avec juste du code
informatique, de l'espace de stockage et de l'électricité. Les ingénieur·es
(et surtout les multinationales) qui les conçoivent s'appuient sur les
travailleuses et les travailleurs du clic pour qualifier les jeux de données.
Iels ont un rôle crucial et sont sous-payées et non considérées pour ces
apports.
Voir le travail nécessaire d'Antonio A. Casilli
(https://fr.wikipedia.org/wiki/Antonio_Casilli) sur le sujet, plus précisément
le microtravail
(https://fr.wikipedia.org/wiki/Intelligence_artificielle#IA_et_emploi) qui
permet au capitalisme numérique de vampiriser discrètement de nouvelles
classes laborieuses.
Je cite "tous les algorithmes d'intelligence artificielle (particulièrement
ceux utilisant la technologie du deep-learning) ont besoin d'une quantité
incroyable de données pour réaliser leur apprentissage et devenir
fonctionnels. Or il n'existe pas à ce jour d'autre solution que d'avoir
recours à la main d’œuvre humaine pour fournir ces quantités de données."
Aussi quand j'entend que les premiers bénéficiaires des IA génératrices
d'image seront les artistes, j'ai envie de rétorquer que non ! ce sont les
plateformes qui financent et créent les IA qui seront les premières
bénéficiaires de ce travail. En choisissant comment exploiter au mieux les
données récupérées en ligne, à l'insu des internautes (ex. des CGU des médias
sociaux type Facebook où vous accordez droits d'exploitation de vos données
sans en saisir les conséquences possibles https://edit.tosdr.org/services/182
), elles génèrent leurs profits immenses.
oups, désolé pour le formatage pourrav'
SupprimerSur le fait que les modèles d'IA puissent être open-source, un article rapporte que ça va être difficile de le mettre en œuvre par soi-même, ça demanderait des ressources systèmes assez folles. L'article parle d'un modèle opensource nommé PaLM qui comporte 540 milliards de paramètres et cite une étude de 2020 ou l'entraînement d'un modele avec 1,5 milliards seulement de paramètres coûtait déjà la bagatelle de 1,6 million de dollars.
RépondreSupprimeret une fois entraîné, il faut encore le faire tourner pour qu'il puisse répondre aux requêtes. Il indique que GPT-3 (OpenAI) tournerait sur AWS pour 87k $/an.
C'est intéressant de connaître un peu plus précisément des ordres de grandeur.
Source: https://techcrunch.com/2022/12/30/theres-now-an-open-source-alternative-to-chatgpt-but-good-luck-running-it/
https://affordance.framasoft.org/2023/01/gpt-3-cest-toi-le-chat/
RépondreSupprimerUne dissertation passionnante sur la question des IA. Avec une mise en perspective avec les sauts technologiques précédents comme les moteurs de recherche web et leur impact sur certains métiers. Longue lecture, cultivée et étayée.
Super long, mais super intéressant ! En lisant cet article je n'ai pu m'empêcher de penser à l'ordinateur Shadok et au risque qu'il fait courir au Shadok. On en est là : https://youtu.be/C-FqSmdjRyw
RépondreSupprimerRegardez, c'est visionnaire : https://youtu.be/tusmvj7mTqY
RépondreSupprimerEt encore je n'ai pas tout trouvé sur le net. Mais Chat GPT, c'est l’ordinateur Shadok.
RépondreSupprimerBonne année chers cellulis, santé, famille, midjouirney pour toutes et tous !!
RépondreSupprimerAlors, sujet vaste et merci pour les éclairages de la part de toutes(s) les intervenantes(s) sur les 2 précédents podcasts.
Chat GPT, Dall e....en gros les éditeurs de "miriages" et d' "aicrivains" seront de la partie dans les 5 ans à venir, ma main à couper. Sous quelle forme ? celle de notre modèle sociétal telle qu'elle est : libérale et capitaliste.
Livres, jeux, films, fakenews, articles, tout y passera tant qu'on aura de l'énergie pour le faire :)
c'est clairement une révolution industrielle qui va bouger les lignes professionnelles de nombreuses professions. et si ce n'est pas légiférer rapidement et correctement... ça sera la cata :/
en tout cas c'est hyper excitant ce nouvel outil !!!
On en reparlera IRL.
Pour conclure (private joke) :
Valer c'est l'IA ou l'IA c'est valer ? vous avez 3 h .
J'ajoute mon grain de sel sur les IAs :
RépondreSupprimerJe pense que c'est pas le débat en soi qui est si intéressant et profond que ça (là-dessus je suis d'accord avec Flavie, n'importe quel sujet on pourrait faire 20h de podcast dessus), au fond c'est un peu le même sujet que n'importe quelle nouvelle technologie. Mais ici on en parle plus dans notre milieu (enfin moi je vois ça dans le milieu du jeu de société) car c'est un milieu de CSP+ composé notamment de beaucoup d'artistes, de geeks ou de gens s'expriment plus sur les réseaux sociaux et qui aiment débattre en général.
Pour faire une petite punchline : les caissiers/ssières ça gueule moins quand elles se font remplacer par des machines. Mais je pense qu'ils/elles sont tout aussi dégoutées de perdre leur taf.
Je pense aussi (cette fois-ci comme Romaric) que tout ces débats sont un peu inutiles puisque de toute façon dans 10 ans on aura jamais de quoi alimenter toutes ces IAs en énergie.
Enfin, sur le côté "pillage" des oeuvres, ça me fait quand même penser à ces campagnes anti-piratages d'il y a 10/15 ans. D'un point de vue anarchiste, la droit d'auteur est une propriété privée et c'est donc eux les voleurs ;)
Car un auteur qui touche des royautées par rapport au nombre de ventes se rend complice avec l'éditeur de toucher une partie de la force de travail d'ouvriers sous-payés (souvent Chinois) pour fabriquer les produits qu'il vend.
Bon c'est clair que c'est pas toujours comme ça (les gens avec des Patreons par exemple), mais c'est le modèle dominant.
En somme, on pourrait donc dire que le droit d'auteur est une saloperie qui bloque l'accès aux oeuvres et qui censure certaines créations (comme quand on ne peut pas utiliser de musiques pour accompagner une vidéo Youtube par exemple).
Bon je dis ça mais je suis contre les IAs surtout pour le côté écologique. Mais il faut être techno-critique jusqu'au bout : s'il on est contre les IAs, il faut être contre la fuite en avant technologique en général. Pourquoi monopoliser la conversation sur les IAs ? On en revient au premier point : le milieu du jeu met se sujet en avant car les artistes sont une grande part du milieu et veulent donc imposer ce sujet. Bizarrement on les entend moins sur la production des jeux en Chine ou sur la surproduction de jeu ou encore sur le fait qu'ils nous vendent des boîtes pleine de vide pour des raisons de marketing pété (désolé je parle de jeux de société, c'est le domaine que je connais le mieux).