Un des principes intrinsèques de l'IA : Shit In > Shit out > Re-insert result > more shit > endless shit
Pour l'instant, les "IA" ne sont que des grosses machines à statistiques, incapables d'une vraie réflexion. Je rappelle ces chiffres : dans les IA génératives, la plus performante ne sort un résultat exact que dans 48% des cas. Dis autrement, les réponses des IA sont TRES MAJORITAIREMENT ET SYSTEMATIQUEMENT FAUSSES ! (Source)
En les utilisant, on appauvrit certaines de nos capacités (de la même manière qu'il a été montré que la mémoire humaine diminuait / changeait depuis l'usage d'internet : il est plus facile de demander à google où trouver telle info que retenir l'adresse du site où on sait que cette information se trouve)
Tout cela en soit ne serait pas trop grave si l'humain gardait une capacité critique. Or ce n'est pas le cas : on s'extasie devant un résultat qui "a l'air" de la vérité. On délègue nos capacités cognitives à des machines statistiques, on devient peu à peu incapables d'identifier certaines erreurs. J'ai eu l'occasion de relire 3 mémoires d'étudiants il y a quelques mois. Bah il en faut du courage et de l'abnégation ! Les passages rédigés grâce à l'IA étaient imbitables, pleines d'illogismes ou de généralités, d'une pauvreté d'analyse à faire pleurer les pierres (et je ne vous parle pas du pimpim tout fier de me dire que chat gpt lui a pondu TOUT son mémoire en 3 jours et qui l'a très mal pris quand je lui ai cité la phrase fétiche de Jean-Pierre Coffe). Le seul avantage de ce type de rédaction c'est que niveau orthographe (ce qu'on me demandait de vérifier) c'était assez clean (un peu coté grammaire, mais on ne peut pas tout avoir)
Les utilisateurs d'IA semblent (de plus en plus mais c'est peut être un biais cognitif lié à mes a-prioris**) considérer le résultat craché par ces bécanes comme une fin en soi et non comme un outil.
De plus en déléguant notre savoir à ses machines, on abouti aussi à :
- concentrer le savoir entre les mains de ceux qui possèdent lesdites machines
- permettre l'altération de ces savoirs sans que personne ne soit capables de détecter les modifications ou les erreurs
- l'apparition du T-1000 (edit : on y travaille... 2 liens à mettre en parallèle du taux de fiabilité cité plus ou pas ?
)- un appauvrissement général (il suffit de voir les sites générés par IA qui fleurissent désormais dans les résultats des moteurs de recherches)
Et d'un autre point de vue, mon petit coeur de papa soucieux de laisser un monde à peu prêt viable à mes gosses saigne quand on constate les consommations énergétique* et hydraulique utilisées pour la moindre requête. Je trouve qu'il y a un très gros cynisme à tous être d'accord pour dire que notre monde court à sa perte d'une part, mais d'autre part avoir un comportement qui concourt grandement à la dégradation de la situation (PS : penser que le solutionnisme technologique —proposé souvent non pour résoudre le problème mais pour permettre de ne rien changer à ce qu'on fait actuellement, tout en permettant à certains de se faire un peu d'argent— nous sauvera de la catastrophe annoncée depuis 40 ans est illusoire si on ne traite pas les causes en amont).
*pour faire tourner les centres IA, certaines entreprises du secteur (qui n'ont JAMAIS été rentables de toute leur existence) en sont arrivées à acheter et vouloir remettre en état des centrales à leur usage exclusif ! Question : qui aura la charge technique et financière de ces centrales en cas de faillite ? C'est pas juste une plaque d'amiante qu'il faut dépolluer !
** je pense que l'IA est une bulle, au moins sur son aspect génératif (un peu moins pour des modèles spécifiques et spécialisés). J'en veux pour preuve les politiques de financement de ces entreprises qui ont tout de pyramides de Ponzi (à la différence qu'on joue ici avec des MILLIARDS qui seraient, AMHA, bien mieux employés ailleurs, plutôt qu'avec quelques milliers/millions d'unités monétaires). Une autre preuve étant que les "grands" comme Microsoft, Alphabet, Meta, etc cherchent à nous fourguer de force leur service IA dans le moindre de leur outil (jusqu'au notepad parait-il...)
Edit :
Rien que pour la conclusion de cet article récent (transposable à tous les reseaux sociaux et une bonne partie des sites mis en ligne depuis 1 ou 2 ans) : https://intelligence-artificielle.devel ... e-ChatGPT/
A noter aussi dans le premier paragraphe :
(shit in > shit out > more and more shit)Face à la prolifération du contenu produit par l’IA, les géants du numérique comme Microsoft et Google auront moins de données authentiques pour perfectionner leurs modèles.
. C'est mon petit plaisir. Et brasser moi même, ça aussi 
... 
