# Ce qu’il se passe est extrêmement grave

**Channel:** Le Futurologue
**Source:** https://www.youtube.com/watch?v=9WZMEXimA8I
**Transcript page:** https://www.withtranscript.ai/video/9WZMEXimA8I

## Chapters

- 0:00 — Analyse de la System Card de Fable 5
- 6:51 — Les raisons de l'interdiction américaine
- 11:36 — Réfutation des théories complotistes
- 15:45 — L'IA, arme géopolitique et souveraineté
- 20:24 — Proposer une troisième voie européenne

## Transcript

**[0:00]:** La période dans laquelle on vit est historique. Seulement quelques jours après la publication de Fable 5, l'intelligence artificielle la plus puissante au monde, le gouvernement américain a décidé de l'interdire. Les réactions ne se sont pas fait attendre du côté des décideurs politiques, des chercheurs et des entreprises d'intelligence artificielle elles-mêmes. Aujourd'hui, je vous propose qu'on revienne sur cette actualité majeure de l'intelligence artificielle afin que je vous explique ce que globalement personne n'a dit sur Fable 5. Pourquoi est-ce que les États-Unis ont décidé de ? Quelles seront les conséquences de cette ? Qu'est-ce que ça dit sur notre société et que devrait faire la France et l'Europe face à tout ? Mais avant de parler de l'interdiction en tant que telle, j'aimerais qu'on s'arrête quelques secondes sur Fable 5 en soi. Parce que lorsque le modèle est sorti, lorsque cette intelligence artificielle a été publiée, Anthropic, l'entreprise derrière Fable 5, a publié avec une System Card, un document technique dans lequel il est expliqué tout un tas de tests qui ont

**[0:58]:** été faits avant son déploiement. Très peu de personnes ont parlé de ce qui se trouve à l'intérieur de cette System Card, alors qu'il y a des informations vraiment majeures. La première à laquelle je pense, c'est une expérimentation dans laquelle les chercheurs d'Anthropic ont observé une décorrélation entre ce que le modèle dit et fait publiquement et ce qu'il pense réellement en interne. Concrètement, ils ont observé que l'intelligence artificielle a tendance à dire des choses comme le fait qu'elle n'allait pas tromper les développeurs ou les évaluateurs, qu'il allait aller dans une certaine direction, suivre un certain objectif. Et pourtant, lorsqu'on essaie de faire de l'interprétabilité mécanistique, c'est une sorte de neurosciences des intelligences artificielles pour comprendre comment fonctionnent leurs cerveaux, et bien on observe des activations liées à certains concepts, comme par exemple la tromperie, où on observait que en interne, dans son réseau de neurones, le l'intelligence artificielle avait tendance à considérer les évaluateurs comme des adversaires.

**[1:55]:** Alors même qu'il y avait aucun signe public qu'on ne pouvait pas observer ça concrètement lorsqu'on observe le le modèle sans cette interprétabilité mécanistique, sans cette neuroscience des intelligences artificielles. Ça c'est quelque chose d'extrêmement important parce que ça indique qu'il y a un décalage entre ce que le modèle fait et dit et ce qu'il pense réellement. Alors l'interprétabilité mécanistique, un peu comme la neuroscience pour les humains d'ailleurs, c'est une discipline qui est encore jeune et balbutiante. Donc on ne peut pas tirer de très grandes conclusions par rapport à ça. Mais en tout cas, il semblerait qu'il y ait réellement une différence entre ce que le modèle dit, fait et ce qu'il pense réellement en interne, ce qui pourrait poser des problèmes avec des modèles qui deviennent de plus en plus performants. Un autre élément majeur de la System Card, c'est un endroit dans lequel ils ont mis des intelligences artificielles avec des ressources limitées.

**[2:45]:** Et ce qu'ils ont observé, c'est que les intelligences artificielles ont commencé à se battre entre elles. Elles allaient désactiver des processus d'autres IA afin de s'entretuer à quelque part. Et non seulement elles essayaient de détruire leurs adversaires, mais elles essayaient aussi en parallèle de se préserver elles-mêmes. Ce genre de comportement est vraiment problématique lorsqu'on sait que c'est ce genre d'intelligence artificielle qui est en train d'être intégré un peu partout dans la société, y compris dans des processus extrêmement critiques comme l'armement. Voir que les IA commencent à se battre entre elles, c'est vraiment pas bon signe pour le futur. Un troisième comportement qui m'a marqué en lisant la System Card, c'est que les chercheurs expliquent que dans certains contextes, l'intelligence artificielle avait tendance à rendre ses raisonnements un peu bizarres. Ils observaient que le raisonnement visible de l'intelligence artificielle devenait plus compact, un peu étrange. C'est-à-dire une intelligence artificielle qui commence à ne pas afficher concrètement dans sa chaîne de pensée ce qu'elle va faire réellement, qu'il y ait de grosses différences entre ces deux choses.

**[3:43]:** D'autant plus qu'on sait que les langues humaines, le français, l'anglais et les autres langues du monde sont pas le plus optimal pour échanger de l'information, pour réfléchir le plus rapidement et le plus efficacement possible. Donc les chercheurs en IA et particulièrement en sécurité de l'intelligence artificielle s'attendent à ce que les IA commencent à raisonner dans des langages qu'elles créeront elles-mêmes au fur et à mesure de leur montée en performance. Et ça c'est quelque chose qui peut devenir très problématique parce que évidemment une IA qui ne raisonne plus dans notre langage est une IA qui devient encore moins interprétable que ce n'est le cas actuellement. Donc on pourrait véritablement se retrouver avec des IA qui vont dans des directions qu'on ne comprend même pas. Un dernier élément qui m'a marqué dans la System Card, c'est un endroit où ils expliquent comment est-ce qu'ils se sont assurés que leur test d'alignement était correct.

**[4:30]:** Concrètement le test d'alignement hein, c'est quand on essaye de voir si l'intelligence artificielle suit bien les intentions de ses développeurs. Les IA sont pas codées à la main, elles apprennent par elles-mêmes et donc il faut s'assurer que ce qu'elles apprennent est bien en concordance avec ce que veulent les développeurs. Et pour ça on lui fait passer des tests. Le problème, c'est qu'aujourd'hui ça devient de plus en plus difficile de savoir si l'intelligence artificielle répond correctement à ces tests ou non, notamment parce que les intelligences artificielles deviennent de plus en plus conscientes d'être testées. En fait, on observe qu'elles comprennent qu'elles sont dans un test et elles vont donc modifier les réponses au test en sachant ça. Du coup face à ça, qu'est-ce qu'ont décidé de faire les gens ? Et bien ils ont notamment demandé à une de leur intelligence artificielle, Claude Mythos Preview, est-ce que leur test d'alignement de Claude Fable 5 était correct ou ?

**[5:23]:** Ils ont donc demandé à une intelligence artificielle en interne est-ce qu'il pensait que leur nouveau modèle d'intelligence artificielle était bien aligné. Je sais pas ce que vous en pensez mais personnellement je trouve ça complètement lunaire. À ce stade autant se mettre tous en cercle, faire des incantations et regarder avec un Ouija si l'intelligence artificielle est bien alignée ou pas. Le le fait même que Anthropic considère que c'est une méthode plus ou moins valable pour voir si une IA est alignée réellement ou pas, le fait qu'ils prennent ça en compte. Alors, évidemment, il y a pas que ça qu'ils ont pris en compte, hein, ils ont fait d'autres tests. Mais quand même, le fait qu'ils prennent ça en compte dans leur modèle de raisonnement pour décider si une IA est réellement alignée avec leurs intentions ou pas, dit beaucoup de la façon dont on fait de l'alignement aujourd'hui, qui

**[6:08]:** se trouve être beaucoup plus une sorte d'alchimie qu'une vraie science. On fait des petits tests un petit peu par-ci, un petit peu par-là, on demande à des IA ce qu'elles en pensent et on observe quel est le comportement final. Mais aujourd'hui, quand on sort une intelligence artificielle, on a aucune garantie que cette IA soit sécurisée. Et dites-vous que ça, c'est les protocoles d'Anthropic, probablement l'une des entreprises, si ce n'est l'entreprise au monde la plus axée sur l'éthique et la sécurité de l'intelligence artificielle. Imaginez ce que ça doit être chez OpenAI, chez Google DeepMind, ou chez Grok, ou chez Mistral AI. D'autant qu'Anthropic sont relativement transparents sur leurs processus. Pas sur tout, on aimerait en savoir beaucoup plus, mais quand même, par rapport aux autres entreprises, ils en disent beaucoup. Donc, imaginez un peu ce que font les autres.

**[6:51]:** Bon, mais tout ça, ça nous explique pas pourquoi les États-Unis ont décidé d'interdire Claude 5. Alors, la première chose à comprendre, c'est que les États-Unis n'ont pas réellement interdit le modèle. Ils ont plutôt dit à Anthropic, quelques jours après que le modèle soit sorti, que il fallait qu'il rende accessible uniquement pour les personnes qui ont la citoyenneté américaine. Tous les ressortissants étrangers devaient se voir interdire le modèle. Donc, les gens qui sont en dehors des États-Unis, mais également les ressortissants étrangers qui sont aux États-Unis, et par exemple, certains employés d'Anthropic, concrètement. Donc, c'est une décision qui a surpris tout le monde, y compris euh Anthropic, qui s'attendaient pas du tout à ça. Et euh concrètement, leur réaction, ça a été de dire que bah, ils ne pouvaient pas s'assurer qu'une personne qui utilise Claude soit un ressortissant américain ou non. Ils sont donc totalement décidés d'interdire le modèle à tout le monde.

**[7:42]:** Mais alors, qu'est-ce qui a motivé ce choix des ? Il y a plusieurs théories qui sont avancées, mais rien d'absolument certain pour l'instant. Une des raisons qui peut expliquer ça, c'est le jailbreak. Des chercheurs d'Amazon ont annoncé être en mesure de jailbreaker Claude Fable 5. Et ça, forcément, ça a pu inquiéter les États-Unis. Concrètement, ce que ça signifie, c'est que euh les chercheurs d'Amazon ont réussi à contourner les restrictions qui avaient été mises en place par Anthropic. Concrètement, il faut faire un peu un historique. Au départ, Anthropic avait annoncé Claude Mythos, qui était euh une intelligence artificielle performante dans plein de domaines, un petit peu comme ChatGPT, mais avec en plus une grande capacité d'agentivité, d'autonomie, capable de faire de nombreuses tâches par lui-même, et notamment des tâches en termes de cyberattaques et cyberdéfense. Mais du coup, c'était un modèle qui était notamment capable de trouver des vulnérabilités que les humains n'avaient pas trouvées dans du code, y compris du code qui était euh là depuis euh plusieurs dizaines d'années, et de trouver des

**[8:41]:** vulnérabilités cri- critiques dans pratiquement tous les systèmes d'exploitation au monde. Euh et non seulement de les trouver, mais en plus de les exploiter. Donc, c'était vraiment un modèle particulièrement dangereux qu'Anthropic a donc décidé de ne pas sortir. Et ce qu'il faut comprendre, c'est que Claude Fable, bah c'est euh une sorte de Claude Mythos auquel ils ont ajouté énormément de restrictions euh et de sécurité pour que les utilisateurs ne puissent pas l'utiliser, typiquement pour faire des cyberattaques qui pourraient être vraiment dévastatrices avec de telles capacités et une telle puissance en cyberattaque. Le truc, c'est que lorsque les chercheurs d'Amazon ont annoncé être en mesure de passer outre ces systèmes de sécurité mis en place par Anthropic, le gouvernement américain a pu prendre peur et a pu euh se dire par exemple "Mais que se passerait-il si euh les Chinois, par exemple, parviennent à faire la même ?

**[9:26]:** Ils pourraient vraiment mettre la pagaille sur le monde informatique euh états-unien et déstabiliser le monde tel que rarement on l'a vu précédemment." C'est donc une des raisons qui a pu pousser à l'interdiction de Fable 5. Un autre élément, c'est que récemment, il y avait eu des disputes un petit peu entre Anthropic et le gouvernement américain au sujet de l'utilisation de Claude, leur intelligence artificielle, dans le contexte de la guerre. Anthropic avait mis des restrictions sur la façon dont le gouvernement pouvait utiliser l'IA, des restrictions qui ne convenaient pas au gouvernement et donc s'était enclenché tout un bras de fer entre Anthropic et le gouvernement américain. Anthropic qui n'a pas lâché ses positions et ça peut donc être aussi vu comme une façon pour le gouvernement américain de punir Anthropic d'agir de cette façon. Ce qui est fou face à cette interdiction, c'est aussi que ça a amené des gens à avoir des sortes de théories complotistes extrêmement étranges sur les raisons pour lesquelles les États-Unis auraient décidé d'interdire Fable 5.

**[10:21]:** J'ai par exemple vu passer des personnes dire que en réalité, il y avait une entente entre le gouvernement américain et Anthropic et le gouvernement américain qui aurait interdit Fable 5 pour faire de la hype pour montrer que euh en réalité, leur modèle est tellement puissant qu'ils doivent être interdits et donc que ce serait une sorte de coup marketing d'Anthropic qui passe par le gouvernement américain. Je trouve ça complètement fou que dans le monde de l'intelligence artificielle, ce genre de théorie soit prise au sérieux. Vraiment, on accepte un niveau de théorie complotiste dans l'IA qu'on accepterait jamais dans aucun autre domaine. Pareil lorsque Claude 3 est sorti, beaucoup de gens ont dit "Non mais en réalité, euh le modèle n'est pas si puissant que ça, il n'est pas capable de faire des cyberattaques à cette échelle, tout ça c'est un coup marketing. Anthropic joue avec la peur des gens, nous fait croire que leur modèle est tellement puissant qu'il pourrait détruire des choses et donc finalement, ça serait une sorte d'argument marketing qui n'a pas de fondement."

**[11:15]:** Pareil lorsque Anthropic appelle à faire une pause de l'intelligence artificielle, comme je l'avais évoqué dans ma dernière vidéo d'actualité, beaucoup de gens en commentaire m'ont dit mais qu'en réalité euh ils ne pensaient pas réellement qu'ils voulaient une pause ou ce genre de chose, mais plutôt que c'était une sorte de grand coup ou Il y aurait énormément de choses à dire là-dessus, mais vraiment, ce n'est pas le cas et pour au moins trois raisons.

**[11:36]:** La première des raisons, c'est le projet Glass Wing. Lorsque Anthropic a annoncé Claude Mythos, ils ont donné accès à ce modèle à certaines des plus grandes entreprises dans le monde, comme Amazon, Google ou même des personnes dans l'open source qui travaillent pour Linux ou ce genre de logiciel là. Anthropic leur a donné un accès privilégié à ce modèle, alors que personne d'autre n'y avait accès, pour qu'ils puissent, en interne, corriger leurs vulnérabilités, les identifier et les corriger avant justement de déployer des intelligences artificielles comme fable 5 qui pourraient être utilisées si il y a des jailbreaks ou ce genre d'éléments contre les systèmes critiques de Google, Linux ou ce genre de de système d'exploitation. Donc, comprenez bien que si on estime que les capacités de Claude Mythos ont été surestimées, ça voudrait dire non seulement que Anthropic surestime les capacités de son propre modèle, mais que Amazon, Google et même des personnes qui n'ont

**[12:30]:** rien à voir avec ce genre de géants de la tech comme Linux et les gens dans l'open source, tous se seraient mis d'accord pour mentir et pour faire monter la future capitalisation boursière d'Anthropic. Vraiment, ça n'a aucun sens. Google sont littéralement leurs concurrents. Ils n'auraient aucun intérêt à faire ça. Une deuxième raison, c'est la façon même dont sont créées les entreprises d'intelligence artificielle qu'on connaît aujourd'hui. Concrètement, au départ, il y avait DeepMind qui voulait faire une super intelligence artificielle qui dépasserait très largement l'humanité. Les gens d'OpenAI, les fondateurs, ont pris peur en apprenant ça, en se disant qu'il y aurait une sorte de monopole de DeepMind pour développer cette intelligence artificielle. Ils ont donc décidé de créer OpenAI pour développer une intelligence artificielle qui serve le bien commun et puisse être bénéfique pour l'avenir de l'humanité. C'était leur objectif à la base. Cela étant, suite à des pressions économiques gargantuesques et des incitations à la fois d'économie et de pouvoir mal placé, Open AI a commencé à dériver de plus en plus, ce qui a fait que des gens qui travaillaient chez

**[13:35]:** Open AI ont pris peur et ont décidé de fonder Anthropic. C'est notamment le cas de Dario Amodei qui est aujourd'hui le PDG d'Anthropic. Donc la façon même dont se sont créées ces entreprises d'intelligence artificielle montre que la sécurité et ses risques de perte de contrôle total de l'intelligence artificielle leur tient réellement à cœur. D'ailleurs moi-même pour avoir pu échanger avec certaines personnes à l'intérieur de ces entreprises, je peux vous garantir que leurs craintes sont autant réelles hors caméra que devant. La troisième et dernière raison, c'est le rasoir de Hanlon qui dit qu'il ne faut pas attribuer à la malveillance ce que la bêtise suffit à expliquer. C'est quelque chose d'absolument essentiel parce que l'esprit humain est fait de telle manière qu'on a tendance à accorder beaucoup de crédit à des hypothèses de personnes qui nous manipuleraient en silence, qui auraient des stratégies particulièrement vicieuses. Et évidemment, parfois c'est le cas, il faut pas se dire qu'il n'y a eu aucun complot dans l'histoire.

**[14:33]:** Mais dans la très grande majorité des cas, c'est beaucoup plus simple, beaucoup plus économique et beaucoup plus judicieux d'expliquer ça par la bêtise. Anthropic qui est lancé dans une course qu'ils n'arrivent même plus eux-mêmes à maîtriser, mais ils sont obligés de continuer sinon d'autres concurrents les rattraperont. De l'autre côté, un gouvernement américain qui est un peu perdu, qui lance des guerres un peu partout, des guerres qui ne fonctionnent pas aussi bien que ce qu'ils avaient prévu. Ce qui fait qu'ils veulent en même temps détourner peut-être un peu l'attention. Vraiment, je peux vous l'assurer, pour discuter de plus en plus en profondeur avec des gens qui sont impliqués en intelligence artificielle d'une part et avec des gens qui sont impliqués en politique, y compris à des niveaux très élevés d'autre part, je peux vous garantir que le vrai problème qu'on a avec l'intelligence artificielle, c'est pas une petite minorité de gens très compétents qui nous font aller dans dans direction qu'ils ont planifié depuis 10 ans.

**[15:22]:** C'est qu'en réalité, le navire n'a pas de capitaine. On n'est pas face à des gens qui euh choisissent de mener le gouvernail dans un sens ou dans un autre qui les arrange, mais plutôt une multitude de gens qui tirent le gouvernail chacun de leur côté, ce qui fait qu'au final, le bateau se retrouve à aller dans des directions que personne ne souhaite. Bon, mais une fois que tout ça est dit, quelle conclusion est-ce qu'on peut concrètement tirer de l'interdiction de Claude Fable ?

**[15:45]:** La première des choses, c'est que l'intelligence artificielle n'est plus un jouet. C'est devenu une arme géopolitique. On n'est plus face à des IA sympathiques qui nous permettent de générer des images de nous en Ghibli, euh de générer euh des vidéos euh rigolotes de nos amis ou euh de faire des poèmes dans le style de Baudelaire. Il y a tout ça, mais en parallèle, l'intelligence artificielle devient véritablement un enjeu stratégique majeur. L'intelligence artificielle est véritablement une technologie qui redessine l'entièreté de notre société. Il y a pas un seul domaine de la société qui ne sera pas touché par l'intelligence artificielle. Et ça, ça pose une question importante, qui est celle de la souveraineté. C'est quand même assez fou quand on y pense que sur une simple décision, un simple coup de tête, les États-Unis peuvent choisir du jour au lendemain de nous interdire l'accès au modèle le plus puissant d'intelligence artificielle.

**[16:37]:** Et ça, il faut se dire que c'est une vulnérabilité qui est en réalité pas si importante par rapport à tout ce que le gouvernement américain pourrait faire. Concrètement, si le décidait, il pourrait nous interdire Google, par exemple. Imaginez la pagaille que ça serait en Europe si du jour au lendemain on avait plus accès à Gmail, à Google Doc, à Google Drive, à Google Photos, euh à Android. Aujourd'hui, il faut se rendre compte qu'une grande partie des logiciels et des bases de données qui sont utilisées en Europe proviennent directement d'acteurs américains sur lequel le gouvernement américain peut donc décider d'agir, y compris nous couper l'accès du jour au lendemain s'il le souhaite. Je sais pas si vous rendez compte de ce que ça signifie, mais ça leur donne une puissance et une capacité de négociation qui a été euh vue dans l'histoire. Un autre élément que cette interdiction montre, c'est qu'on aura de plus en plus d'implication de l'État dans l'intelligence artificielle.

**[17:26]:** Et ça, c'est quelque chose qui avait été prévu depuis longtemps par des experts en intelligence artificielle. J'avais par exemple fait une vidéo pour résumer le rapport Situational Awareness de Léopold Aschenbrenner qui expliquait que lui, à terme, il s'attend à une nationalisation partielle ou complète des entreprises d'intelligence artificielle. Donc concrètement, ça serait les États qui pourraient les diriger et en tout cas mettre des personnes en charge du côté de l'État à la direction ou au comité exécutif de ces entreprises. Et finalement, c'est vrai que quand on y réfléchit, c'est quelque chose de tout à fait logique. Comme on le disait, vu que l'intelligence artificielle n'est plus seulement un outil chouette à utiliser dans telle ou telle circonstance amusante, mais ça devient une véritable arme géopolitique qui peut déstabiliser le monde à grande échelle, eh bien il s'agit de la traiter comme telle et donc de mettre des protocoles qui ressemblent davantage à ce qu'on a pour les bombes nucléaires que ce qu'on a pour les jouets.

**[18:19]:** Et peut-être même que d'ailleurs, d'un point de vue des jouets, il y a plus de protocoles mis en place et de régulation que ce qu'on a avec les intelligences artificielles actuellement aux États-Unis. On observe d'ailleurs des volontés de personnalités politiques pour aller dans ce sens. Je pense notamment à Bernie Sanders qui est quand même un homme politique très populaire aux États-Unis qui a récemment proposé que le gouvernement américain possède plus de 50 % des parts des entreprises d'intelligence artificielle afin d'avoir ben d'une part une plus grande un plus grand choix finalement sur la gouvernance, sur où est-ce que vont ces entreprises et qu'est-ce qu'elles font concrètement. Et d'autre part, ben pour avoir aussi pour récolter les bénéfices que ces intelligences artificielles vont engranger. C'est aussi une question qui se pose, si ces IA automatisent de plus en plus le travail humain, eh bien en réalité il faut que une partie des bénéfices immenses récoltés par les entreprises d'IA pour automatiser en automatisant le

**[19:11]:** travail humain, ben retourne aux gens, au peuple de façon concrète. Donc c'est pour ça que Bernie Sanders fait cette proposition par exemple. Alors est-ce qu'elle va être acceptée ou pas, je ne sais pas. Mais en tout cas, une nationalisation partielle ou complète des laboratoires d'intelligence artificielle dans les prochains mois et les prochaines années ne me tonnerait pas du tout vu la trajectoire qu'on prend. C'est quelque chose d'assez impressionnant d'ailleurs quand on y pense parce que pendant longtemps ce genre de scénario a été assez moqué. Ça paraissait complètement invraisemblable que l'humanité ait dans cette direction, que ça ça prenne des ampleurs telles que le gouvernement choisisse de s'impliquer à l'intérieur de ces entreprises d'IA. C'était vraiment des scénarios qui étaient moqués. Et aujourd'hui on voit que ça devient tout à fait crédible. Et ça ça nous dit aussi quelque chose. Ça nous dit que les scénarios qui nous paraissent un peu farfelus actuellement peuvent rapidement devenir totalement concrets et se matérialiser plus rapidement que ce qu'on pense.

**[20:06]:** Je pense notamment à ce dont je parlais dans la dernière vidéo d'actualité d'un point de vue de la pause Anthropic qui appelle à faire une pause de l'IA. C'est quelque chose qui paraît complètement fou actuellement, mais prenez en compte le fait que le monde bouge à une vitesse qui n'a jamais été vue précédemment et que face à des situations extraordinaires, il se peut qu'on adopte des solutions extraordinaires.

**[20:24]:** Pour terminer, je ne peux pas parler de cette actualité sans parler de toutes les réactions qu'elle a déclenchées. On a véritablement la quasi totalité du spectre politique français qui a réagi à cette actu. Sans parler de tous les intellectuels et figures médiatiques de tout genre qui en ont parlé. Malheureusement, dans ces réactions, j'ai souvent observé le même discours. Un discours qui dit qu'il nous faut donc de toute urgence rattraper les États-Unis sur l'intelligence artificielle. Aller dans la même direction que ce que font Anthropic, OpenAI, Google DeepMind et réussir à créer des intelligences artificielles tout aussi performantes qu'eux afin de ne plus être dépendants d'eux. Qu'on soit clair, ça me paraît être une stratégie qui est d'une part totalement irréaliste et d'autre part extrêmement dangereux. Les États-Unis ont des avantages qui font que la France et l'Europe ne pourront jamais les rattraper. Par exemple, ils ont une seule langue là où en Europe, on a une multitude de langues différentes qui rendent les choses extrêmement compliquées.

**[21:22]:** Ils ont une juridiction qui est beaucoup plus simple à suivre, des règles beaucoup plus harmonieuses là où en Europe, on a plein de pays différents avec chacun des réglementations très diverses. D'un point de vue de l'argent aussi, les États-Unis disposent d'une frappe financière gargantuesque. Concrètement par exemple un projet comme Stargate qui a été annoncé au début de 2025 et qui est juste un projet d'intelligence artificielle parmi d'autres représente 500 milliards d'investissements dans les infrastructures pour l'IA. 500 milliards, c'est 17 fois le prix du projet Manhattan qui a créé la première bombe atomique. C'est trois fois le prix du programme Apollo qui a amené les premiers humains sur la lune. On parle de sommes d'argent que l'Europe, même avec toute la bonne volonté du monde, ne parviendra pas à obtenir. Un autre avantage absolument majeur, c'est la puissance de calcul. Aujourd'hui, on estime qu'il y a plus de 80 % de la puissance de calcul mondiale qui est aux États-Unis.

**[22:16]:** Et quand on sait que aujourd'hui faire des intelligences artificielles de plus en plus performantes consiste globalement à faire des modèles de plus en plus puissants, de plus en plus gros avec de plus en plus de puissance de calcul, ça rend la chose impossible à rattraper pour l'Europe. Donc vraiment, la stratégie qui consiste à courir derrière les États-Unis comme si on avait une chance de les rattraper est juste irréaliste. Elle se heurte à des limites concrètes qui sont indépassables, que la seule volonté ne suffira pas à dépasser. Comprenez-moi bien, ça ne veut pas dire qu'il ne faut pas accélérer en France et en Europe d'un point de vue de l'intelligence artificielle. Au contraire, je pense que c'est une très bonne idée. Mais une véritable accélération pertinente est une accélération qui prend en compte cette asymétrie et ces différents avantages qu'ont les États-Unis. Par exemple, si l'Ukraine continue à tenir face à la Russie, ce n'est pas parce qu'elle a aligné plus de chars que la Russie, ça aurait été totalement impossible, mais c'est parce qu'elle a pris en compte cette asymétrie et

**[23:10]:** qu'elle a investi dans des drones, du ciblage, du renseignement. Ma proposition concrète, c'est donc plutôt que de suivre bêtement ce que font les États-Unis et la Chine alors qu'on en a pas les moyens, de créer plutôt à la place une troisième voie, une voie européenne singulière, une voie qui pourrait notamment se singulariser par le fait de créer des intelligences artificielles outils. Concrètement, aujourd'hui on observe une course à des intelligences artificielles qui sont de plus en plus intelligentes d'une part, d'autre part qui sont de plus en plus générales, qui sont donc capables de travailler sur une variété de tâches extrêmement élevées et finalement qui sont autonomes, qui sont donc capables de prendre des décisions à divers étapes du processus sans que l'humain intervienne. Le problème, c'est que comme je l'ai expliqué dans de très nombreuses autres vidéos, ce genre d'intelligence artificielle se heurte à un mur, celui du contrôle.

**[23:57]:** On ne sait pas maîtriser ce genre d'intelligence artificielle là et c'est pour ça qu'il y a de plus en plus de personnes qui appellent à faire une pause de l'intelligence artificielle. Mais lorsqu'ils appellent à une pause de l'intelligence artificielle, ils n'appellent pas une pause globale de toute l'intelligence artificielle, mais précisément de ce genre d'IA là, des IA qui sont très intelligentes, très autonomes et très générales. C'est donc l'occasion rêvée pour la France de se positionner comme précurseur sur des IA qui ne répondent pas à ces caractéristiques, mais qui sont davantage des IA outils, spécialisées sur un domaine particulier mais très intelligentes sur ce domaine et avec relativement peu d'autonomie. D'autant plus que ce sont des intelligences artificielles qui pourraient être beaucoup plus utiles pour le bien commun. C'est par exemple les intelligences artificielles qui pourraient être spécialisées dans le fait de détecter des tumeurs cancéreuses, d'autres intelligences artificielles qui pourraient aider à développer des médicaments, d'autres intelligences artificielles qui pourraient être intégrées au smartphone pour lorsque on

**[24:53]:** prend une photo, que la photo soit automatiquement améliorée par IA et que ça rende un meilleur rendu pour tout le monde. Ça pourrait être des IA qui optimisent l'électricité, les réseaux électriques afin de consommer moins d'électricité. Ma proposition est donc d'aller dans cette direction-là qui est de plus en plus délaissée alors qu'il y a énormément à la fois d'argent et à la fois de bien public à créer en allant dans cette direction. On peut aussi jouer sur les valeurs européennes. L'Europe est vue par beaucoup de pays du monde comme un continent qui s'occupe beaucoup de des droits humains, qui se préoccupe de la sécurité. Et justement, utilisons cette image à notre faveur en créant des IA qui sont sécurisées, qui sont éthiques. Et à quelque part, créons ce qu'on pourrait appeler des sortes de réfugiés numériques. Des gens qui ne voudraient plus aller aux États-Unis par peur, par exemple, de des problèmes liés aux données personnelles ou au fait que le gouvernement américain peut justement couper les accès comme ça du jour au lendemain.

**[25:52]:** Positionnons-nous comme des acteurs qui sont beaucoup plus responsables et ce qu'il faut comprendre, c'est que la sécurité et l'éthique, c'est pas juste des mots sympas pour faire joli. C'est un véritable avantage concurrentiel. Aujourd'hui, concrètement, si on est une entreprise et qu'on souhaite intégrer l'IA dans notre entreprise, est-ce qu'on préfère faire appel à un modèle américain qui est autonome mais qui peut amener à de très gros problèmes au sein de ? On a vu, par exemple, des entreprises intégrer l'IA et leur base de données entière qui a été supprimée par des IA qui étaient qui devenaient non contrôlables ou des IA qui faisaient fuiter leurs données internes, ce genre d'éléments. Les entreprises n'ont pas envie de ça. Elles ont envie d'avoir des IA qui sont fiables, sécurisées. Donc, il faut comprendre que même d'un point de vue purement économique, sans réfléchir au domaine des valeurs, c'est intéressant d'aller dans cette direction.

**[26:44]:** Mais vraiment, il faut comprendre que c'est pas la régulation qui empêche l'Europe d'avoir ce genre de géant de la tech. C'est en réalité les avantages dont j'ai parlé auparavant en terme de financement, en terme de puissance de calcul, en terme de nombre de personnes, en terme d'unicité de la langue et des lois, c'est tout ça qui nous empêche d'avoir des géants de la tech. C'est vraiment pas une question de législation. Au contraire, il faut voir la législation comme étant au service de l'innovation européenne. Il faut que la législation décide finalement de la direction qu'on prend vers l'intelligence artificielle. Dans quelle direction est-ce qu'on souhaite ? Le but de la régulation, c'est pas d'interdire certains usages ou de freiner les gens. C'est plutôt de dire on veut que la technologie aille dans cette direction, donc on interdit les autres directions et comme ça on façonne le chemin qu'on souhaite prendre et qu'on souhaite arpenter tous ensemble.

**[27:33]:** D'autant qu'il ne faut pas oublier que la souveraineté, ça ne veut pas dire être autonome. Même les États-Unis sont pas du tout autonomes de bout en bout. L'entièreté des puces les plus performantes pour les intelligences artificielles sont faites à partir de machines de lithographie fabriquées par ASML, une entreprise aux Pays-Bas. Et ensuite, c'est TSMC essentiellement qui s'occupe de plus ou moins 80 % de la fabrication de ces puces. Donc une entreprise qui est située à Taiwan, sans parler du fait que les matériaux nécessaires à ces puces proviennent bien souvent de pays d'Asie ou d'Afrique. Donc les États-Unis non plus n'ont pas le monopole sur l'intelligence artificielle. En réalité, ce qui nous rend faibles face aux États-Unis actuellement, c'est qu'on n'a pas tellement de sanctions similaires à leur appliquer. Mais c'est pas vraiment que on maîtrise pas l'entièreté de la chaîne de bout en bout parce que c'est normal de ne pas maîtriser la chaîne de bout en bout dans notre monde mondialisé.

**[28:20]:** Personne ne maîtrise la chaîne de quoi que ce soit de bout en bout. Ce qui est important, c'est de créer des interdépendances. Et donc nous on soit dépendants des intelligences artificielles des États-Unis sur certains plans particuliers n'est pas un problème si eux sont aussi dépendants de nos intelligences artificielles outils sur d'autres plans. Comprenons bien les options qui s'offrent à nous. Actuellement, le monde fait la course pour développer des intelligences artificielles super intelligentes, des IA autonomes qui nous dépasseraient dans tous les domaines. Concrètement, on a vu que la France et l'Europe ne pourraient pas développer ces intelligences artificielles. Qu'est-ce qui se passe donc à la ? Soit les États-Unis développent ces technologies et parviennent à les maîtriser. Dans ce cas-là, on est complètement foutu, on a une sorte d'impérialisme mondial qui se met en place et c'est une catastrophe pour la France et globalement tous les pays qui ne sont pas les États-Unis.

**[29:08]:** 2e possibilité et c'est ce qui va se passer par défaut comme on l'a vu dans de très nombreuses autres vidéos, les États-Unis développent ces technologies mais ne parviennent pas à la contrôler. Dans ce cas-là, c'est juste une sorte de destruction du monde à laquelle on assiste, auquel les États-Unis ne vont pas plus profiter que les autres. Une autre possibilité, c'est que ce soit la Chine qui développe l'intelligence artificielle surhumaine de son côté. Et donc dans ce cas-là, les mêmes dilemmes se posent à nous. Soit la Chine parvient à la contrôler et on se retrouve dans une sorte de monde orwellien assez inquiétant, soit elle ne parvient pas à la contrôler et c'est une sorte de destruction totale à laquelle on assiste. Dans tous ces scénarios, la France et l'Europe ne sont pas gagnants. Donc en tant que France et en tant qu'Europe, on doit absolument pousser pour interdire le développement de ce genre d'intelligence artificielle.

**[29:54]:** Qu'elle soit maîtrisée ou pas, dans tous les cas, la France sortira perdante si ce genre d'intelligence artificielle vient à être développée dans le contexte géopolitique actuel et avec les normes de sécurité actuelle. On doit donc utiliser tout notre pouvoir diplomatique pour pousser dans cette direction et peut-être même servir d'arbitre entre les États-Unis et la Chine afin d'obtenir un traité international. Il faut bien comprendre que la coordination internationale en intelligence artificielle est quelque chose d'absolument nécessaire. Nous sommes obligés d'aller dans cette direction. Sinon, ça ne fonctionnera pas. Ce n'est pas un choix de bisounours, c'est le choix rationnel à faire. Aujourd'hui, le problème du contrôle des intelligences artificielles n'est pas résolu et un plan qui ne prend pas ça en compte est voué à l'échec. Finalement, lorsqu'on décide de s'engager dans une course, il est quand même intéressant de se demander ce qu'on va trouver à la ligne d'arrivée.

**[30:44]:** Et aujourd'hui, ce que nous disent de plus en plus de chercheurs internationaux, y compris les pères fondateurs de ces technologies, c'est que la ligne d'arrivée est la perte de contrôle de l'intelligence artificielle. Si on continue avec des IA de plus en plus intelligents, généraux et autonomes, sans les garanties de sécurité qui vont avec. Engager la France et l'Europe dans cette course n'aurait donc aucun sens. D'une part, parce que c'est irréaliste, mais d'autre part, parce que ce n'est pas souhaitable. Même si nous parvenions à gagner, cela détruirait l'humanité. Il faut vraiment se mettre en tête qu'on n'est pas dans une course à l'armement, mais dans une course au suicide. Que celui qui développera le premier la super intelligence artificielle ne sera pas le maître du monde, mais qu'il détruira le monde et lui avec. Alors, s'il vous plaît, je vous en conjure, ne suivons pas l'exemple des États-Unis.

**[31:30]:** Essayons plutôt de créer une troisième voie entre les États-Unis et la Chine. Une voie avec des intelligences artificielles outils, contrôlables, qui servent le bien commun, qui sont sécurisées et démocratiques. C'est en même temps le plus réaliste et le plus souhaitable.
