Escroqueries à l’IA, confiance et la tromperie des signaux

Ce texte n’est pas un guide technique des escroqueries vocales, mais une analyse de ce qui se fissure lorsqu’un signal humain élémentaire, la voix, cesse de fonctionner comme garantie.

La première chose qui se perd n’est pas l’argent. C’est la voix. Lorsqu’une communauté découvre que la voix d’un enfant peut être reproduite, clonée, imitée avec une précision suffisante pour tromper une mère ou un grand-parent, le dommage ne se mesure plus en euros. Il se mesure en hésitations. En appels laissés sans réponse. En silences soudains.

Les dernières informations évoquent des tentatives d’escroquerie visant des personnes âgées au moyen de l’intelligence artificielle, des voix qui imitent des proches, des demandes d’aide urgentes.
Le type de nouvelles qui défile sans laisser de trace. Et c’est précisément là que se niche l’erreur de lecture: la considérer comme une variante technologique d’un problème déjà connu.

En réalité, nous ne sommes pas face à une escroquerie plus « évoluée ». Nous sommes face à une rupture des mécanismes de reconnaissance humaine.

Pendant des siècles, la trace vocale a fonctionné comme une preuve informelle mais extrêmement puissante. Non pas une preuve juridique, mais une preuve sociale. Reconnaître une voix signifiait reconnaître une continuité, un lien qui résistait à la distance, à l’obscurité, à l’absence du corps. La voix précédait la vérification et, souvent, la rendait superflue.

L’escroquerie traditionnelle reposait sur la narration: une histoire plausible, un rôle crédible, une autorité simulée. Ici, il se passe autre chose. La fraude ne raconte plus une histoire; elle réplique un signal identitaire. Elle ne convainc pas. Elle est reconnue. Ou plutôt: elle semble l’être. Ce déplacement est décisif. La tromperie ne passe plus par le contenu, mais par le canal perceptif. Elle ne ment pas: elle imite. Un mécanisme que la science-fiction avait identifié avec une grande lucidité bien avant que la technologie ne le rende praticable.

Dans le film Screamers, adapté d’une nouvelle de Philip K. Dick, les machines en guerre contre les êtres humains ne triomphent pas en augmentant leur puissance de feu. Elles gagnent en changeant de stratégie cognitive. Elles se présentent sous la forme d’enfants seuls, blessés, implorants. Elles n’attaquent pas la rationalité du soldat: elles attaquent son éthique. Le piège ne fonctionne que si l’humain répond à une demande d’aide. L’enjeu n’est pas la vraisemblance. L’enjeu est l’irrésistibilité morale du signal. Cette dynamique n’est pas nouvelle dans l’histoire des images.

Dans Ulysses and the Sirens de Herbert James Draper, Ulysse ne se sauve ni par la force ni par la raison. Il se sauve parce qu’il anticipe le piège du signal. Il sait que le chant n’est pas faux, mais irrésistible. C’est précisément pour cela qu’il demande à être ligoté et que les oreilles de ses compagnons soient bouchées. Draper ne représente pas le monstre, mais le moment critique: celui où la séduction opère parce qu’elle s’adresse au désir, non à l’erreur. Les Sirènes ne trompent pas: elles appellent. Leur chant n’est pas mensonger, il est simplement invérifiable. Et le problème n’est pas le mensonge du chant, mais sa capacité à suspendre toute vérification.

Les escroqueries vocales par IA fonctionnent de la même manière. Non parce que la victime « ne comprend pas », mais parce qu’elle reconnaît. La voix du fils, du petit-fils, du proche déclenche une réponse automatique, pré-rationnelle, fondée sur la confiance. Il s’agit d’un protocole humain primaire, affiné pendant des siècles pour rendre possible la vie sociale. Lorsque ce protocole est violé, le dommage ne reste pas circonscrit à l’épisode. Dans la vie quotidienne existent des systèmes de vérification à faible coût cognitif. La voix en fait partie. Si je la reconnais, je peux faire confiance. Si je peux faire confiance, je peux agir. Quand ce système s’effondre, il n’est pas remplacé par un autre plus efficace. Il est remplacé par le soupçon. Or le soupçon n’est pas sélectif. L’effet social le plus significatif de ces fraudes n’est pas la victime directe, mais la rétraction collective qu’elles produisent. La personne âgée ne devient pas simplement plus prudente: elle devient plus isolée. Elle répond moins au téléphone. Elle se méfie aussi des appels authentiques. Elle réduit les contacts, interrompt des flux relationnels déjà fragiles. La technologie frappe ici parce qu’elle trouve un terrain préparé. Les personnes âgées sont plus exposées non seulement en raison de compétences numériques moindres, mais parce que la voix demeure pour elles un instrument central de relation. Pas de messagerie, pas de vidéo, pas d’authentifications multiples.

Téléphone. Voix. Confiance.

Lorsque la voix devient peu fiable, la seule défense proposée est le protocole: mots de passe, codes, procédures convenues. Mais le protocole n’est pas neutre. Il transforme une relation en procédure. Il introduit de la friction là où régnait l’immédiateté. Il exige entraînement, mémoire, discipline. Il impose de vivre dans un état permanent de vérification.

C’est ici que l’épisode local cesse d’être local. Car ce qui est atteint n’est pas la sécurité économique, mais la confiance comme infrastructure invisible de la vie quotidienne. Une communauté fonctionne parce que la majorité des interactions ne sont pas vérifiées. On se reconnaît. On se croit. On agit. Lorsque ce mécanisme se grippe, le coût n’est pas immédiat, mais diffus: perte de fluidité, de spontanéité, d’ouverture.

Le discours public réagit mal à ces fractures. Il les réduit à un problème technologique (« c’est la faute de l’IA ») ou les transforme en urgence criminelle (« il faut plus de contrôles »). Ces deux lectures sont partielles. La première déresponsabilise le contexte social, la seconde promet une solution répressive à un problème déjà entré dans les gestes les plus simples, les habitudes, les foyers. La technologie, ici, ne crée pas le problème. Elle le rend visible.

Philip K. Dick avait identifié le nœud à l’avance: la séparation entre le signe et l’origine.
La voix sans le corps. – La présence sans garantie. – Une identité réduite à une surface réplicable.

Pendant des décennies, l’art et la science-fiction ont exploré cette fracture, en en anticipant les implications symboliques et culturelles. Aujourd’hui, cette même fracture n’est plus un exercice d’imagination: elle se manifeste comme une expérience quotidienne. Comme une fissure mineure, mais diffuse. Nous ne sommes pas préparés à douter de la voix. Nous ne sommes pas entraînés à remettre en question l’intimité lorsqu’elle se présente sous forme de son. La réaction n’est alors pas analytique, mais défensive: on réduit le contact, on suspend la réponse, on introduit de la distance. La relation est traitée comme une vulnérabilité.

Lue sous cet angle, la nouvelle locale ne raconte ni des personnes âgées naïves ni des criminels particulièrement sophistiqués. Elle raconte un seuil qui a été franchi. Le moment précis où un signal humain élémentaire cesse de fonctionner comme garantie partagée.

Et lorsqu’une communauté perd un critère minimal d’authenticité, elle ne le remplace pas aisément. Elle peut se rigidifier, ralentir ses échanges, compenser par des procédures et des précautions. Ou bien accepter, plus ou moins consciemment, de vivre sous un régime de soupçon permanent.

C’est là le véritable objet du récit.
Non la technologie en soi.
Non l’épisode isolé de fraude.

Mais le coût invisible qui s’accumule lorsque la voix, à elle seule, ne suffit plus.

Pourtant, cette fracture n’est pas une condamnation définitive. Chaque fois qu’une technologie met en crise un automatisme humain, elle contraint aussi à le rendre visible. La confiance n’est pas un instinct perdu, mais une compétence qui peut être renégociée et réapprise. Nous ne ferons pas confiance comme avant… mais nous pourrions apprendre à faire confiance mieux, avec une conscience accrue de ce qui rend un signal véritablement humain.

Dans la langue ancienne des Psaumes, ce seuil prend la forme d’une image tranchante: « Sa bouche est plus douce que le beurre, mais la guerre est dans son cœur; ses paroles sont plus suaves que l’huile, mais ce sont des épées dégainées » (Ps 55). Ici, la voix ne ment pas: elle séduit. C’est lorsque le signal est parfait que la confiance cesse d’être un réflexe et devient une responsabilité.

Cet article a été traduit automatiquement depuis l’italien. Le texte original reflète la pensée de l’auteur; veuillez tenir compte d’éventuelles différences linguistiques dans la traduction.