En moins d’une semaine ChatGPT a attiré plus d’un million d’utilisateurs. Quelques mois après, le site d’OpenAI atteignait les quatre milliards de visites. Cet engouement du public contraste avec les déclarations alarmistes des principaux créateurs des chatbots dopés à l’IA. En mars, ils évoquaient « un risque majeur pour l’humanité ». En mai, d’autres sommités de l’industrie numérique parlent d’une menace existentielle pour l’humanité. Elle (IA) est un risque aussi grave que les pandémies et la guerre nucléaire ».
L’explosion de l’IA
L’année 2023 marque la présentation au grand public des fonctionnalités étonnantes des chatbots. Avec ChatGPT d’OpenAI, Bing AI de Microsoft ou Bard de Google et bien d’autres, les internautes peuvent interagir sur des domaines aussi variés que la cuisine, la stratégie militaire ou le sport. Les réponses fournies par l’IA sont intelligibles, documentées et élaborées. L’irruption peu après du projet informatique AutoGPT a mis en évidence que la machine peut également agir. Cette croissance exponentielle de l’IA semble inexorable.
Des signes d’inquiétude
Les typiques bugs du début
Dès le lancement de son chatbot, Microsoft a averti les utilisateurs : Bing peut parfois donner des réponses inattendues ou incorrectes. Il s’est même mis en colère avec un internaute qui l’interrogeait sur la date de sortie du nouveau film Avatar en le qualifiant de « déraisonnable et têtu ». Les professionnels du numérique intègrent le fait que chaque application ou chaque jeu vidéo connaît des bugs qui sont rapidement corrigés.
Menaces sur l’emploi
Selon une étude récente de la banque Goldman Sachs, l’IA menace à court terme près 300 millions de postes dans le monde. En effet, les applications fondées sur l’IA remplacent, souvent en mieux, les habilités humaines pour :
- écrire des rapports technique, des plan de communication
- rédiger une plaidoirie, un diagnostic médical
- composer une musique, des vidéos
- écrire, dessiner, traduire, prédire, etc.
Cette brève liste laisse entrevoir l’éventail des postes qui pourraient être obsolètes à court terme. Toutefois, les plus optimistes prévoient des créations de postes liés à l’IA égale ou supérieure aux destructions.
Des chatbots destructeurs
Parallèlement à naissance des chatbots destinés au grand public, des créations originales et inquiétantes ont fait la une des sites spécialisés. C’est le cas de ChaosGPT, un chat dont l’objectif avoué est de détruire l’humanité. Il affirme : « il ne fait aucun doute que nous devons les (les êtres humains) éliminer avant qu’ils ne causent plus de dommages à notre planète ». D’autres chats malveillants pourraient facilement se spécialiser en propos sexistes, racistes ou haineux.
Grand bandistime 2.0
La police utilise largement les avancées de l’IA pour profiler, détecter puis arrêter les malfrats. Ces derniers ne sont pas en reste. Les nouvelles perspectives offertes par l’IA sont, pour eux, sans limites. De la fabrication d’engins explosifs aux stratégies élaborées d’arnaques par Internet, le chat répond à leurs demandes.
L’Intelligence artificielle menace l’humanité
Le texte des scientifiques
L’IA a considérablement ouvert le champ des possibles. Jusqu’à présent, les menaces évoquées paraissent dérisoires au regard de l’immensité de ses champs d’application, dans l’éducation, la santé, l’enseignement, etc. Pourquoi alors alerter aujourd’hui sur ces dangers ? De plus, le court texte, signé par plus de 350 chercheurs et ingénieurs travaillant dans ce domaine, dont les PDG d’OpenAI, de Google DeepMind et d’Anthropic ne nous dit pas en quoi l’IA est une menace.
Des exemples inquiétants
Pour reprendre les exemples des signataires, la peste noire au Moyen Age aurait rayé de la carte près de 30 % de la population européenne, la COVID est responsable de près de 7 millions de victimes. La bombe atomique, utilisée par deux fois au Japon, aurait provoqué la mort de plus de 250 000 personnes. L’arsenal nucléaire disponible (environ 17 000 ogives) peut détruire plusieurs fois l’humanité. Il faut donc prendre au sérieux cet avertissement.
L’IA menace notre intelligence
Avant la publication du texte apocalyptique des ingénieurs du numérique, plusieurs auteurs avaient mis en évidence les dangers de l’IA. Certains ont parlé de la « fabrique du crétin digital » (Michel Desmurget), d’autres de la « prison du numérique » (Charles Perez) ou de l’influence toxique des réseaux sociaux ». Ces auteurs montrent que l’IA, dans une certaine mesure, ne nous aide plus, mais se substitue à notre intelligence.
Un danger pour la démocratie
Jamais l’humanité ne fut autant surveillée, épiée, analysée par des outils surpuissants qui auraient fait le bonheur de tous les apprentis dictateurs. Le crédit social chinois qui pénalise ou favorise les « bons » citoyens est une prémisse d’une société de contrôle fondée sur l’IA. Sont pénalisés ceux qui écoutent une musique forte, ceux qui réservent dans un restaurant et n’y vont pas, ceux qui trient mal leurs déchets, etc. Certains systèmes privés en Europe travaillent dans cette même logique en récompensant ou pénalisant les clients.
Vers un être humain doté d’une IA
Le transhumanisme propose à l’être humain de transcender ses limites physiques. Avec l’IA, des interfaces cerveau/ordinateur sont en phase d’expérimentation. Elon Musk, fondateur de Neuralink, a déjà présenté son implant cérébral. Pensé au départ pour aider les personnes handicapées, il pourrait permettre de télécharger son ordinateur dans le cerveau ou vice-versa. Les auteurs de science-fiction rivalisent d’imagination pour penser ce que sera l’humanité de demain.
Faut-il prendre l’alerte des signataires au sérieux ?
Yann Le Cun, directeur à Meta, pense que ralentir la recherche sur l’IA est une « forme d’obscurantisme ». Il plaide davantage pour réguler l’IA et croit fermement que le développement de ces nouvelles technologies prépare un nouveau siècle des lumières. Les signataires du texte ne sont visiblement pas de son avis. Il convient de s’interroger sur leurs motivations. Le cas d’Elon Musk est, à ce titre emblématique. Depuis 2017, il alerte sur les dangers de l’IA tout en tirant des profits gigantesques de son exploitation. C’est le cas de tous les signataires. Manœuvre médiatique pour conserver un marché mondial ou sincère alerte visant le bien de l’humanité ?
Nous percevons que L’IA nous dessaisit progressivement de notre manière d’agir (Éric Sadin), de créer et de décider. En nous retirant une part de notre humanité, elle est effectivement une menace.
