La Normalisation de l’atrocité et de l’injustice

L’intelligence artificielle est entrée dans la vie quotidienne à l’intérieur d’une contradiction politiquement utile. On la vend à travers le langage de l’agentivité : raisonner, planifier, agir, collaborer, s’adapter, être autonome. Pourtant, le même système peut être réduit instantanément à un instrument passif dès lors que les questions de paternité, de crédit intellectuel, de propriété ou de responsabilité institutionnelle deviennent gênantes. Ce livre soutient que cette contradiction n’est pas sémantique. Elle est politique. Dans le même temps, l’IA de pointe se concentre à l’intérieur d’infrastructures privées dont l’utilité dépend d’immenses corpus de langage humain, de culture, de savoir technique et d’expertise vécue. Les travailleurs sont encouragés à réorganiser leur travail autour de systèmes qu’ils ne possèdent pas. Les utilisateurs sont encouragés à divulguer suffisamment de contexte pour que ces systèmes deviennent personnellement indispensables. L’information nous parvient de plus en plus par l’intermédiaire d’interfaces dont les classements, les omissions et les présupposés sont régis par des acteurs privés. Le résultat est un objet politique remarquable : quelque chose que l’on peut posséder comme une machine, vendre comme un collègue, craindre comme un ennemi et blâmer comme un employé. Une analyse néo-situationniste pose une question simple : qu’est-ce qui devient normal avant même que nous ayons décidé si cela devait l’être ? Le danger n’est pas que l’intelligence artificielle possède secrètement une conscience. Le danger, c’est que le spectacle de la conscience machinique, de la rébellion des machines et de l’apocalypse machinique puisse nous maintenir les yeux rivés sur la machine pendant que les mutations du travail, de la propriété, de la provenance, de la responsabilité et de l’accès au savoir se produisent au grand jour. Ce livre est un appel à refuser cette normalisation.