Luc Julia est né à Toulouse mais réside depuis de nombreuses années aux États-Unis et a la double nationalité. Il a un DEUG en mathématique et un doctorat d’informatique. Ingénieur et informaticien, il s’est spécialisé dans l’ « Intelligence Artificielle ». En 1997, il dépose, avec son ami Adam Cheyer, le brevet de ce que deviendra plus tard , l’assistant vocal Siri. Il écrit L’intelligence artificielle n’existe pas en 2019 puis IA génératives pas créatives L’intelligence artificielle n’existe (toujours pas) en 2025.
Son livre a le mérite d’expliquer simplement et clairement ce que sont les IA, comment elles fonctionnent, quels sont leurs travers, quelles questions éthiques et écologiques elles soulèvent, les mythes et fantasmes qui les entourent, mais aussi, et surtout, la folie collective (hype) qui exacerbent les réactions d’engouement, de peur, d’utilisation et les mensonges.
Il explique dès le début de son ouvrage le quiproquo linguistique du terme « intelligence ». En anglais ce mot signifie intelligence comme en français mais également « information » comme dans CIA (Central Intelligence Agency). De là, découle le titre de son ouvrage IA génératives pas créatives. On pourrait donc traduire IA par information artificielle ce qui, vous en conviendrez, changerait absolument tout dans notre perception et notre acception.
L’IA est donc un outil qui, même s’il peut exécuter des tâches complexes bien plus rapidement qu’un humain, ne possède ni son intelligence, ni sa créativité, ni sa capacité d’analyse. Il donne plusieurs exemples qui permettent de mieux comprendre à quel point un cerveau humain est infiniment intelligent.
« Avec une base de données d’environ 100 000 images de chats, on pouvait concevoir un bon reconnaisseur qui allait reconnaître un chat dans 98% du temps. […] Combien de chats je dois montrer à ma fille de 2 ans pour qu’elle reconnaisse 100% de chats ? Les psychologues répondront qu’il en faut deux, pas plus. » (p. 18-19).
Par ailleurs, un cerveau humain consomme des dizaines de milliers de fois moins d’énergie qu’une machine !
Si nous fantasmons sur l’IA, ce n’est pas seulement par confusion sémantique mais également par une suggestion induite par les vendeurs qui ont tout intérêt à ce que vous en soyez consommateur, les promesses alléchantes de ces mêmes fabricants pour un futur proche, l’engouement de l’humain pour la nouveauté et par anthropomorphisme.
Ces outils, donc, ne réfléchissent absolument pas et cherchent une réponse à votre question sans avoir l’option de ne pas pouvoir vous la fournir ; vous aurez donc une réponse qui peut être totalement ou partiellement fausse. Luc Julia parle ici d’« hallucinations » ! Si l’IA vous répond qu’elle ne sait pas, c’est que le programmeur aura installé cette réponse !
« Facebook, Instagram, Twitter vont travailler leurs algorithmes de façon que leur solution vous « fasse plaisir » […] Vous donner la bonne réponse n’est pas leur priorité […] N’oubliez pas que ces outils ne sont pas vos amis et qu’ils sont développés par des équipes de psychologues qui connaissent bien les mécanismes du cerveau humain. » (p. 142).
Pire, l’IA ne réalise qu'une moyenne des données qu’elle trouve sur internet. Il est donc facile de comprendre qu’à partir du moment où la source contient des informations erronées, la moyenne de ces informations le sera aussi. Ce qui diffère de l’intelligence qui va comparer, analyser pour extraire le faux. Plus grave encore, le résultat généré, partiellement ou totalement faux se rajoute aux bases de données disponibles. Luc Julia parle ici de cercle vicieux. Plus le temps passe, moins les résultats sont pertinents !
Par ailleurs, plusieurs procès ont déjà eu lieu concernant le fait que ces IA vont puiser ces données sans que le propriétaires de ces dernières n’aient donné leur autorisation. Il s’agit donc purement et simplement de vol. Voilà pourquoi les fournisseurs d’IA renoncent à leur droits de propriété sur les données générées, elles deviennent la propriété de celui qui a généré un texte, une image ou une vidéo et c’est donc lui qui est juridiquement responsable si, parmi ces données, certaines ont été volées !
Enfin, cerise sur le gâteau, dès lors que vous utilisez l’IA, elle prend possession de vos requêtes et pourra les réutiliser. Si vous avez une idée géniale, ne la confiez donc pas à l’IA faute de quoi elle ne sera juridiquement plus la vôtre !
« La faille dans ce système est humaine, c’est vous, c’est nous. Le piratage se fait d’abord dans notre cerveau avant de se faire dans nos machines. C’est à nous de redoubler de prudence.» (p. 225).
Plus étonnant, l’IA ne comprend pas le langage mais associe des mots « les algorithmes prédisent le prochain mot d’une phrase en calculant celui qui a la plus grande probabilité de survenir. Celui qui « irait le mieux ». » (p. 55). Elle ne crée donc absolument pas une réponse mais la génère. Même si la machine maîtrise le langage naturel et « a l’air » de comprendre ce que l’on lui dit, elle ne comprend pas ni ce que vous lui dites ni même sa réponse. La compréhension humaine lors d’une conversation va bien plus loin que la seule compréhension des mots. Ce que l’on appelle le para-verbal et le non-verbal, comme le maniement de l’humour, l’échange des regards, l’analyse des expressions, le ton, le rythme, etc.
« Innover, c’est être capable de constater une situation et d’en conclure que le résultat peut avoir une certaine valeur. Cette démarche d’observation et de réflexion ne pourra jamais être conduite par l’IA. Tout simplement parce que l’IA est incapable de constater une situation inédite et d’analyser ce qu’elle a vu. » (p. 100).
L’anthropomorphisme, l’idéalisation ainsi que notre raisonnement nous induisent dans l’erreur.. Chez les humains, on associe l’expertise à l’intelligence et l’intelligence à l’exécution de tâches complexes mais ce n’est pas la cas pour une IA qui peut parler avec une voix humaine et résoudre des problèmes complexes très rapidement. Ceci n’est pas de l’intelligence mais l’exécution de programmes. Une calculatrice réalise ainsi des calculs très rapidement mais elle n'est pas intelligente ! Ses résultats ne sont pas biaisés contrairement à l’IA parce que les données sur lesquelles l’IA s’appuie le sont.
Un à un, Luc Julia démonte les mythes autour de l’IA comme celui des boîtes noires inexplicables. Pour résumer sa démonstration, ce n’est pas parce que vous ne comprenez pas quelque chose que cette chose est inexplicable, mais bien parce que vous n’avez pas les éléments nécessaires pour l’expliquer (voir p. 122).
L’IA doit être comprise comme un outil, qui bien utilisé, nous permet d’augmenter notre intelligence. L’être humain ne concurrence pas l’IA, il l’utilise. L’école devrait apprendre comment fonctionne cet outil, ses limites, ses biais et par conséquent comment le manier, l’utiliser pour que l’homme puisse apprendre et ainsi développer sa capacité de raisonnement, son discernement et donc exercer son irremplaçable intelligence.
Comme tout autre outil, les IA ne peuvent avoir de notion de l’éthique ; celle-ci doit être regardée chez les concepteurs mais également chez les utilisateurs et ce à plusieurs niveaux : écologique, psychologique, logique, etc.
Les IA sont gourmandes en données, en eau douce et propre pour refroidir les machines, en électricité et en puissance de calcul. (Page 85), une requête ChatGPT consomme entre 0,1 et 0,4 kWh tandis qu’une requête Google consomme entre 0,0003 et 0,001 kWh. ChatGPT demande trois bouteilles d’eau pour générer cent mots. Très étrangement l’impact sur l’environnement est totalement absent de la réglementation européenne (I.A. Act).
« À l’instar des réseaux sociaux et des algorithmes fondés sur nos préférences et nos goûts, les IA génératives sont conçues pour nous enfermer dans des cadres idéologiques, à la fois ceux que les concepteurs d’IA ont pu mettre, mais aussi ceux qu’on va leur chuchoter. C’est à nous de prendre de la hauteur. » (p. 231).
Selon Luc Julia l’homme ne sera pas replacé par des robots. L’IA prendra en charge des tâches ingrates pour laisser plus de place à l’expression de l’incomparable intelligence humaine. Il se pourrait même que cela permette le retour de plus d’humanité dans les entreprises.
Enfin, le développement d’IA spécialisées, c’est-à-dire alimentées avec des données précises et vérifiées dans un certain domaine permettra de les rendre fiables avec des résultats pertinents, tout comme chaque outil a son utilisation propre.
En conclusion, ces IA ne sont qu’une « évolution mathématique parmi tant d’autres » qu’il nous appartient de ranger dans notre boîte à outils, que nous devons démystifier en apprenant comment elles fonctionnent, quels sont leur biais, leurs limites de façon à les utiliser à bon escient et au service de notre intelligence.
La lecture de cet article ne remplace évidemment pas la lecture de l’ouvrage de Luc Julia que nous vous recommandons.
Cet article est
