Discussion
Dans le registre "À quoi sert l'IA ? À rien !" : si mon Peertube fonctionne encore aujourd'hui (peertube.eu.org) c'est grâce à un LLM qui m'a aidé à démerder les gros soucis que j'avais avec nodejs lors d'une mise à jour récente sous FreeBSD ; mise à jour indispensable pour raisons de correction majeure de sécurité.
Objectivement, les LLM peuvent donc favoriser l'usage du libre et l'autohébergement.
@pb@mast.eu.org Et spoiler, tu aurais pu faire la même chose sans LLM tout court.
@aeris clairement pas à moins d'y passer plusieurs jours, temps que je n'avais pas (ça se serait soldé par : "j'arrête le Peertube en attendant qu'une mise à jour future s'installe sans souci"). Tu ne sais pas de quoi tu parles.
@pb@mast.eu.org Ben c’est juste… notre boulot en fait ? 🤷 Plutôt que de déléguer la connaissance de ce qui tourne sur nos infras ?
@pb@mast.eu.org @breizh@pleroma.breizh.pm Ben en attendant j’arrive même plus à m’acheter des disques durs et de la RAM à un tarif décent…
@pb@mast.eu.org @breizh@pleroma.breizh.pm La question est pas de savoir ce qui va être fait, mais celle de savoir ce qui aurait du être fait.
Le seul fait que tu te fardes de la merde de nodejs est un truc qui n’aurait jamais du exister sur terre.
Et le fait d’avoir tout le monde qui ne jure plus que par cette bouse devrait plutôt alerter les techos que continuer à inciter à utiliser une techno « supply chain attack by default ».
@pb@mast.eu.org @breizh@pleroma.breizh.pm Mastodon est en ruby essentiellement. (Et c’est pas pour rien que je suis aussi passé à un autre soft hein)
@pb@mast.eu.org @breizh@pleroma.breizh.pm Et c’est pas à moi que tu vas apprendre qu’il faut maintenir son système. Tout chez moi est auto-hébergé à 100%, jusqu’à l’infra physique réseau qui est dans une baie à la maison.
@pb@mast.eu.org @breizh@pleroma.breizh.pm Toute personne censée sur Terre qui fait un « npm ci » et voit « 17.000 dependencies » devrait aller cramer le dev qui a commis ça. Pas l’installer sur ses machines de prod.
@sebsauvage @aeris @breizh certains se seront cassé la gueule, c'est effectivement probable. Mais ça va être comme la bulle Internet : elle a explosé, mais Internet est encore là 26 ans après.
@pb
Oh mais il ne fait aucun doute que l'IA restera. Comme les NFT ou les casques VR.
Mais comme les investisseurs voudront un retour sur investissement, elle sera vendue à sa vraie valeur. Donc cher. (Je rappelle qu'OpenAI perd de l'argent même sur les abonnements à 200$/mois)
Tous ceux qui l'utilisaient "gratuitement" ou à pas cher vont le regretter.
(suite)
@sebsauvage @aeris @breizh ça m'a déjà permis de démerder un certain nombre de trucs où sinon j'aurais jeté l'éponge, donc déso mais le gain est déjà net pour moi, et même si ça s'arrête les modèles que j'ai restent (j'en ai une copie locale) et resteront utiles.
@pb
Toutes tes réponses c'est "Mais c'est pratique pour moi". On en doute pas.
Je regrette que tu ne veuille pas voir tout l'environnement et les conséquences de cette technologie.
Je ne suis pas du genre à jeter une techno avec l'eau du bain (coucou BitTorrent), mais concernant les LLM génératives, on a rarement vu une technologie aussi nuisible à tous les niveaux.
@sebsauvage @pb @aeris @breizh En ecoutant sur Radio France l'émission être d'accord avec Jacques Ellul, philosophe qui a fortement pensé la technique, il y a une phrase qui m'a marqué : le technique pousse aux réflexes et réduit voir supprime la réflexion. L'exemple cité est celui de la voiture qui demande à avoir des réflexes pour conduire sans quoi il y a accident. Je pense que cela vaut beaucoup de nouvelles tech et encore plus pour l'IA : l'outil ne pousse pas à la réflexion mais à avoir uniquement des réflexes. De fait, il me paraît évident que ce dispositif qu'est l'IA est dangereux dans l'épanouissement et le développement personnel.
@sebsauvage @pb @aeris @breizh et concernant l'IA je j'ajouterais cette citation concernant le livre Nexus d'Harari : "𝘏𝘢𝘳𝘢𝘳𝘪 𝘶𝘭𝘵𝘪𝘮𝘢𝘵𝘦𝘭𝘺 𝘢𝘳𝘨𝘶𝘦𝘴 𝘵𝘩𝘢𝘵 𝘮𝘰𝘳𝘦 𝘪𝘯𝘧𝘰𝘳𝘮𝘢𝘵𝘪𝘰𝘯 𝘪𝘴 𝘯𝘰𝘵 𝘵𝘩𝘦 𝘢𝘯𝘴𝘸𝘦𝘳, 𝘣𝘦𝘤𝘢𝘶𝘴𝘦 𝘪𝘯𝘧𝘰𝘳𝘮𝘢𝘵𝘪𝘰𝘯 𝘪𝘴 𝘯𝘰𝘵 𝘵𝘳𝘶𝘵𝘩 𝘢𝘯𝘥 𝘥𝘰𝘦𝘴 𝘯𝘰𝘵 𝘨𝘶𝘢𝘳𝘢𝘯𝘵𝘦𝘦 𝘨𝘰𝘰𝘥 𝘰𝘶𝘵𝘤𝘰𝘮𝘦𝘴. 𝘞𝘩𝘢𝘵 𝘮𝘢𝘵𝘵𝘦𝘳𝘴 𝘪𝘴 𝘩𝘰𝘸 𝘪𝘯𝘧𝘰𝘳𝘮𝘢𝘵𝘪𝘰𝘯 𝘯𝘦𝘵𝘸𝘰𝘳𝘬𝘴 𝘢𝘳𝘦 𝘥𝘦𝘴𝘪𝘨𝘯𝘦𝘥 — 𝘢𝘯𝘥 𝘸𝘩𝘦𝘵𝘩𝘦𝘳 𝘵𝘩𝘦𝘺 𝘪𝘯𝘤𝘭𝘶𝘥𝘦 𝘮𝘦𝘤𝘩𝘢𝘯𝘪𝘴𝘮𝘴 𝘤𝘢𝘱𝘢𝘣𝘭𝘦 𝘰𝘧 𝘤𝘰𝘳𝘳𝘦𝘤𝘵𝘪𝘯𝘨 𝘵𝘩𝘦𝘪𝘳 𝘰𝘸𝘯 𝘦𝘳𝘳𝘰𝘳𝘴."
@spoonmaniac @sebsauvage @aeris @breizh il est clair que la domestication du feu nous a enlevé plein de réflexes et a totalement changé la société pour le pire.
@spoonmaniac @sebsauvage @pb @aeris Mouais, après faut faire gaffe, toute technique est pas mauvaise, et réduire la charge mentale est pas toujours négatif.
Je pense pas qu’on finisse avec de l’Idiocracy ou du Wall-E.
L’automatisation a du bon, quand elle se fait pas au détriment d’une partie de la population, de l’environnement, ou pire encore…
@breizh Ce n'est pas ce que je dis, mais notre société est un peu solutionniste et nous pouvons oublier pourquoi nous faisons appel à la technique. Chaque dispositif (terme d'Agamben) comme les smartphones, internet, la TV, même les frigos, changent notre rapport au quotidien et influe sur nos personnalités. Ignorer ce fait concernant l'IA me parait naïf
@sebsauvage @aeris @breizh pardon mais ce n'est pas que mon expérience perso. Toute l'industrie est en train de s'y mettre, et une bonne partie du libre aussi quoi que tu en penses, parce que ça leur est utile. Les conséquences ? LOL, l'histoire des "50 cl par conversation" est du flan intégral, etc. Et j'aime beaucoup tous ces gens qui refusent d'y toucher mais sont sûrs d'avoir tout compris. De moins en moins nombreux, par la force des choses, vu l'évidence.
@pb @sebsauvage @aeris @breizh et beh. Bravo. Lé marqué où l'indicateur de la conso lié à l'entraînement de ton modèle local, open weight et corpus-safe (qui n'a bien sûr pas mis à genoux la moitié du net ouvert parce que son crawler est codé avec son propre caca) ?
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org J’y ai touché. Y’a pas un moment où je me suis pas dit « mais il me prend littéralement pour un mouton le truc ».
C’est de la merde en barre à tous les niveaux, et n’importe qui de techniquement censé voit bien que c’est de la merde.
@aeris @breizh @sebsauvage mais oui voyons... toi tu es un génie au dessus des autres, un peu d'empathie pour les simples mortels moins bien dotés en omniscience. En attendant, tu n'as ni une instance Mastodon, ni une instance Peertube.
@pb @aeris @breizh @sebsauvage Bah dans ce cas, je peux donner mon avis si c’est les prérequis. J’administre du Peertube et du Mastodon, et même l’un des plus gros serveur Matrix en Europe. Et je n’ai pas besoin des LLM et j’y touche même pas avec un baton. Et si, c’est une cata écologique parce que ça demande des ressources énormes rien que pour l’entrainement et ensuite pour l’utilisation. Ça rend les gens fénéants aussi et ça se paiera plus tard quand tout va se casser la gueule. Et que plein de gens l’utilisent, c’est pas un gage de qualité pour autant. Ne pas le voir, c’est être dans le déni.
@toniob @aeris @breizh @sebsauvage mais moi je ne suis pas monoculture Linux, donc j'ai parfois des difficultés de portage sous un autre OS libre (FreeBSD) qui nécessite de connaître au delà d'une simple image docker et au delà de la procédure d'installation standard. Et ça n'est une cata écologique que dans l'esprit des gens qui gobent n'importe quoi.
@sebsauvage @aeris @breizh il y a des modèles poids ouverts, les ignorer en bloc avec tous les LLM comme tu le prônes aboutit effectivement à ce que tu dis. C'est exactement pour ça que je préserve mes compétences avec de l'autohébergé.
@pb
Les modèles "libres" ne sortent pas par génération spontanée.
Qui entraîne ces "modèles ouverts" ? Avec quel moyens ?
Entraîner un modèle, ça a un coût. Assez conséquent. Ça ne va pas non plus rester gratuit.
(rappel: entraîner un ChatGPT, ce sont des *semaines* de calcul dans un datacenter.)
Il va bien falloir que quelqu'un paie pour cet entraînement.
@sebsauvage @aeris @breizh oui. Donc dis-moi, le PC que tu utilises, tu as les sources du BIOS ? De tous les firmwares de toutes les cartes ? Quant au coût d'entraînement, cf ici... moins cher que celui d'un bâtiment. Or je n'entends personne s'affoler sur le coût du BTP. https://epoch.ai/publications/how-much-does-it-cost-to-train-frontier-ai-models
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Je rappelle que l’entraînement des modèles est fondé sur une violation massive du droit d’auteur, et que ça implique aussi la violation des licences libres et pas que celles des gros éditeurs.
@aeris @breizh @sebsauvage violation massive des droits voisins, nuance. Ça c'est le narratif de ayants droit et de leurs potes, engeance toxique et de longue date, tu me permettras de ne pas y adhérer. Violation des licences libres ? Où ça, comment ça ?
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Non, pas juste des droits voisins. Tu utilises une IA. Est-ce qu’elle peut te sortir du code sous GPL ? Oui. Est-ce que tu en seras au courant ? Non. Est-ce que tu violeras la licence initiale ? Oui.
@aeris @breizh @sebsauvage vas-y, montre moi un exemple de code sous GPL sorti par une IA. Ça m'intéresse. Et s'il est sous GPL eh ben... il reste sous GPL, l'IA n'y changera rien.
@pb @aeris @breizh @sebsauvage Un exemple de code GPL pondu par une IA ? Fastoche : https://github.com/ocaml/ocaml/pull/14369
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org C’est justement tout le problème de l’IA : t’en sais strictement rien du code qu’il te sort mais il a été entraîné sur du code GPL et donc c’est possiblement du code GPL que tu utilises. C’est TOUT LE PROBLÈME.
@aeris @breizh @sebsauvage tu bottes en touches. Tu n'as aucunement prouvé que l'IA va me ressortir du code GPL.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org C’est prouvé que les LLM sont capables de recracher des pavés identiques à leur apprentissage. Et donc s’ils ont appris sur du GPL, ils te recrachent du LLM.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Je rappelle aussi que toute production dérivé d’un code GPL est sous GPL. Les LLM ayant appris sur du code GPL, tout code sorti par un LLM est de facto sous GPL.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Les modèles ont été entraîné sur mon code. Mon code est toujours en AGPL ou en CC-BY/NC/SA. Ce qui le rend IMPOSSIBLE à utiliser par une IA. Mais elles s’en foutent.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Donc GG à toi de promouvoir un truc qui littéralement s’asseoit sur les licences de nos softs de manière ultra-violente.
@aeris @breizh @sebsauvage azy explique-moi. 🍿 . En quoi l'utilisation des communs par de l'IA est un problème ? Ils sont *littéralement* faits pour ça dès l'origine.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Non. Mon blog est en CC-BY/ND/SA. La licence n’est PAS compatible avec l’usage d’un LLM. Parce qu’il fait des modifications (donc violation ND), ne repartage pas en CC-BY/ND/SA (violation SA) et ne me cite pas (violation BY).
@aeris @breizh @sebsauvage à nouveau tu confonds copie et lecture.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Non. C’est même tout le fondement de New York Times vs OpenAI. Où le NWT a démontré que les LLM sont capables de recracher des bouts de texte à l’identique de plusieurs milliers de caractères. Si c’est du code sous GPL, ça serait pareil et tu ne t’en rendrais pas compte.
@aeris @breizh @sebsauvage OpenAI a expliqué pourquoi : articles présents de nombreuses fois dans le corpus, donc "surentraînement" dessus. Erreur corrigeable et corrigée.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Et à ton avis, les milliards de dépôts git scrappés à l’arrache (ils indexent même les 960 clones du kernel sur kernel.org), ça va donner quoi en terme de surentraînement ?
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Et effectivement il y a déjà eu le cas express ici : https://github.com/ocaml/ocaml/pull/14369
Le LLM a juste recraché du code qui provenait d’un autre soft, sous une licence qu’il ne respecte donc pas.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org Les LLM ont scrappé mon git. Donc utilise du code sous licence AGPL. Ce qui le rend impossible à utiliser par un LLM. Sauf 1- à me citer 2- à ce que le soft final soit lui-même sous AGPL.
@pb@mast.eu.org @breizh@pleroma.breizh.pm @sebsauvage@framapiaf.org 30 ans de combat pour le libre pour finir par « oh ben yolo MIT/GPL/AGPL/CC-BY-NC-SA, violez ça tout bien comme ça je peux faire du nodejs dégeu sur mes infras sans allumer les neurones »
Install bonfire.cafe
Get the full app experience
