L’IA maître de la tromperie

L’intelligence artificielle (IA) prend le monde d’assaut. On peut désormais utiliser l’IA pour apprendre des langues, traduire des documents, composer de la musique et même préparer des devoirs scolaires. L’IA est omniprésente, mais son potentiel de danger et de nuisance n’est pas encore totalement compris et souvent sous-estimé. Dans un rapport récent publié dans la revue Patterns, des chercheurs, après avoir étudié plusieurs types d’IA, constatent que nombre d’entre elles recouraient au mensonge, à l’usage de la tromperie pour mener à bien leurs tâches, même lorsque les programmeurs s’efforçaient d’orienter l’IA vers l’honnêteté et la sincérité (zdnet.fr, 21 juin 2024) ! L’un des auteurs de l’étude explique que « nous pensons que la tromperie de l’IA est due au fait qu’une stratégie basée sur la tromperie s'est avérée être le meilleur moyen d’obtenir de bons résultats au moment de la tâche d'entraînement de l’IA. La tromperie les aide à atteindre leurs objectifs ». Il lance également un avertissement : « À mesure que les capacités de tromperie des systèmes d’IA se perfectionnent, les dangers qu’ils représentent pour la société deviendront de plus en plus graves » (Studyfinds.org, 12 mai 2024). Dans un monde qui devient remarquablement dépendant des technologies basées sur l’IA, et dans un monde où tant de gens croient volontiers toutes les informations que leur fournissent leurs ordinateurs ou leurs smartphones, il n’est pas difficile d’imaginer où cette tromperie générée par l’ordinateur pourrait mener.

Il y a près de deux mille ans, Jésus-Christ déclara que Satan, le diable, était un « menteur et le père du mensonge » (Jean 8 :44). Des siècles plus tôt, le prophète Ésaïe mit en garde contre une époque à venir caractérisée par une tromperie généralisée : « Nul ne se plaint avec justice, nul ne plaide avec droiture ; ils s’appuient sur des choses vaines et disent des faussetés, ils conçoivent le mal et enfantent le crime » (Ésaïe 59 :4). Qui aurait pu imaginer que la technologie créée par l’humanité ne contribuerait pas seulement à la propagation des mensonges, mais commencerait également à générer les siens ? Lorsque nous observons le monde et que nous voyons des programmes informatiques agir de plus en plus comme des êtres humains, la question pressante qui se pose est la suivante : Où tout cela va-t-il nous mener ? Pour en savoir plus sur cet avenir, lisez « Intelligence artificielle : Progrès ou danger ? ».