Estafas con IA, confianza y el engaño de las señales

No una guía técnica sobre las estafas vocales, sino un análisis de aquello que se resquebraja cuando una señal humana elemental, la voz, deja de funcionar como garantía.

La primera cosa que se pierde no es el dinero. Es la voz. Cuando una comunidad descubre que la voz de un hijo puede ser reproducida, clonada, imitada con la precisión suficiente como para engañar a una madre o a un abuelo, el daño deja de medirse en euros. Se mide en vacilaciones. En llamadas que no se contestan. En silencios repentinos.

Las últimas noticias hablan de intentos de estafa a personas mayores mediante inteligencia artificial, voces que imitan a familiares, solicitudes urgentes de ayuda. Es el tipo de noticias que pasa sin dejar rastro. Y es precisamente ahí donde se esconde el error de lectura: considerarlas una variante tecnológica de un problema ya conocido.

En realidad, no estamos ante una estafa más “evolucionada”. Estamos ante una ruptura en los mecanismos de reconocimiento humano.

Durante siglos, la huella vocal ha funcionado como una prueba informal pero poderosísima. No una prueba jurídica, sino una prueba social. Reconocer una voz significaba reconocer una continuidad: un vínculo que resistía la distancia, la oscuridad, la ausencia del cuerpo. La voz llegaba antes que la verificación y, a menudo, la hacía innecesaria.

La estafa tradicional operaba sobre la narración: una historia verosímil, un papel creíble, una autoridad simulada. Aquí sucede algo distinto. El fraude ya no cuenta una historia: replica una señal identitaria. No persuade. Es reconocido. O, mejor dicho, parece serlo. Este paso es decisivo. El engaño ya no pasa por el contenido, sino por el canal perceptivo. No miente: imita. Es un mecanismo que la ciencia ficción había identificado con lucidez mucho antes de que la tecnología lo hiciera practicable.

En la película Screamers, basada en un relato de Philip K. Dick, las máquinas en guerra con los seres humanos no vencen aumentando la potencia de fuego. Vencen cambiando de estrategia cognitiva. Se presentan bajo la forma de niños solos, heridos, suplicantes. No atacan la racionalidad del soldado: atacan su ética. La trampa funciona solo si el ser humano responde a una petición de ayuda. El punto no es la verosimilitud. El punto es la irresistibilidad moral de la señal. Esta dinámica no es nueva en la historia de las imágenes.

En Ulysses and the Sirens de Herbert James Draper, Ulises no se salva oponiendo fuerza ni razón. Se salva porque anticipa la trampa del signo. Sabe que el canto no es falso, sino irresistible. Precisamente por eso pide ser atado y que se tapen los oídos de sus compañeros. Draper no representa al monstruo, sino el momento crítico: aquel en el que la seducción funciona porque apela al deseo, no al error. Las sirenas no engañan: llaman. Su canto no es falso; es simplemente no verificable. Y el problema no es la mentira del canto, sino su capacidad para suspender toda verificación.

Las estafas vocales con IA funcionan del mismo modo. No porque la víctima “no entienda”, sino porque reconoce. La voz del hijo, del nieto, del familiar activa una respuesta automática, preracional, basada en la confianza. Es un protocolo humano primario, afinado durante siglos para hacer posible la vida social. Cuando este protocolo se viola, el daño no queda confinado al episodio. En la vida cotidiana existen sistemas de verificación de bajo costo cognitivo. La voz es uno de ellos. Si la reconozco, puedo confiar. Si puedo confiar, puedo actuar. Cuando este sistema colapsa, no es sustituido por otro más eficiente. Es sustituido por la sospecha. Y la sospecha no es selectiva. El efecto social más relevante de estas estafas no es la víctima directa, sino la retracción colectiva que producen. La persona mayor no se vuelve simplemente más prudente: se vuelve más aislada. Responde menos al teléfono. Desconfía también de las llamadas auténticas. Reduce los contactos, interrumpe flujos de relación ya frágiles. La tecnología golpea aquí porque encuentra un terreno predispuesto. Las personas mayores están más expuestas no solo por competencias digitales inferiores, sino porque la voz sigue siendo para ellas un instrumento central de relación. No chat, no video, no autenticaciones múltiples.

Teléfono. Voz. Confianza.

Cuando la voz se vuelve poco fiable, la única defensa que se propone es el protocolo: palabras clave, códigos, procedimientos acordados. Pero el protocolo no es neutro. Transforma una relación en un procedimiento. Introduce fricción donde antes había inmediatez. Exige entrenamiento, memoria, disciplina. Exige vivir en un estado permanente de verificación.

Es aquí donde el episodio local deja de ser local. Porque lo que se ve afectado no es la seguridad económica, sino la confianza como infraestructura invisible de la vida cotidiana. Una comunidad funciona porque la mayoría de las interacciones no se verifica. Se reconoce. Se cree. Se actúa. Cuando este mecanismo se atasca, el costo no es inmediato, sino difuso: pérdida de fluidez, de espontaneidad, de apertura.

El discurso público reacciona mal ante estas fracturas. Las reduce a un problema tecnológico (“es culpa de la IA”) o las convierte en una emergencia criminal (“hacen falta más controles”). Ambas lecturas son parciales. La primera exime de responsabilidad al contexto social; la segunda promete una solución represiva a un problema que ya ha entrado en los gestos mínimos, en los hábitos, en las casas. La tecnología, aquí, no crea el problema. Lo hace visible.

Philip K. Dick había identificado el nudo con antelación: la separación entre signo y origen.
La voz sin el cuerpo.
La presencia sin garantía.
Una identidad reducida a superficie replicable.

Durante décadas, el arte y la ciencia ficción exploraron esta fractura, anticipando sus implicaciones simbólicas y culturales. Hoy esa misma fractura ya no es un ejercicio imaginativo: se manifiesta como experiencia cotidiana. Como una fisura menor, pero extendida. No estamos preparados para dudar de la voz. No estamos entrenados para poner en cuestión la intimidad cuando se presenta en forma de sonido. La reacción, entonces, no es analítica, sino defensiva: se reduce el contacto, se suspende la respuesta, se introduce distancia. La relación es tratada como una vulnerabilidad.

Leída desde esta perspectiva, la noticia local no habla de personas mayores ingenuas ni de criminales particularmente sofisticados. Habla de un umbral que ha sido superado. El momento preciso en el que una señal humana elemental deja de funcionar como garantía compartida.

Y cuando una comunidad pierde un criterio mínimo de autenticidad, no lo reemplaza con facilidad. Puede endurecerse, ralentizar sus intercambios, compensar con procedimientos y cautelas. O aceptar, con mayor o menor conciencia, vivir dentro de un régimen de sospecha permanente.

Este es el verdadero objeto de la narración.
No la tecnología en sí.
No el episodio aislado de estafa.

Sino el costo invisible que se acumula cuando la voz, por sí sola, ya no basta.

Sin embargo, esta fractura no es una condena definitiva. Cada vez que una tecnología pone en crisis un automatismo humano, también obliga a hacerlo visible. La confianza no es un instinto perdido, sino una competencia que puede renegociarse y reaprenderse. No volveremos a confiar como antes… pero podríamos aprender a confiar mejor, con mayor conciencia de aquello que hace que una señal sea verdaderamente humana.

En la lengua antigua de los Salmos, este umbral adopta la forma de una imagen cortante: “Su boca es más blanda que la manteca, pero en su corazón hay guerra; sus palabras son más suaves que el aceite, pero son espadas desenvainadas” (Salmo 55). Aquí la voz no miente: seduce. Es cuando el signo es perfecto cuando la confianza deja de ser reflejo y se convierte en responsabilidad.

Este artículo ha sido traducido automáticamente del italiano. El texto original refleja el pensamiento del autor; téngase en cuenta que pueden existir diferencias lingüísticas en la traducción.