Una presunción de privacidad para el uso común de la IA

Kevin T. Frazier sostiene que tratar a cada cliente digital como si fuera un sospechoso de lavado de dinero o un posible delincuente haría que el país fuera menos innovador, menos privado y no más seguro.

Por Kevin T. Frazier

A medida que aumenten las capacidades de la IA, se harán más frecuentes los llamados a imponer requisitos de “conozca a su cliente” (KYC, por sus siglas en inglés) a los actores de toda la pila tecnológica de la IA, debido a la preocupación de que personas malintencionadas aprovechen la IA con fines ilícitos. Dichas propuestas deben ser recibidas con un alto grado de escepticismo.

Si bien los mandatos de KYC pueden tener sentido en ámbitos limitados, como otorgar a un actor acceso anticipado a sistemas de vanguardia para su implementación en áreas críticas, las obligaciones más amplias traerán consigo una serie de posibles consecuencias negativas, entre ellas, la restricción de la libertad de expresión, el frenazo a la innovación y la aparición de riesgos para la privacidad.

A grandes rasgos, la lógica detrás de los requisitos de KYC es la siguiente:

  1. Los estadounidenses, en general, tienen libertad para realizar transacciones comerciales, y el mantenimiento de registros queda a discreción de la empresa y del cliente.
  2. Ciertas clases específicas de transacciones conllevan un mayor riesgo de actividad ilegal.
  3. No existen mecanismos alternativos para abordar esos riesgos, o estos son inadecuados.
  4. Para reducir ese riesgo es necesario conocer mejor al cliente, a fin de permitir la detección y la aplicación de la ley oportunas.
  5. Es posible detectar con precisión cuándo una persona de este tipo participa en ese tipo de transacciones.
  6. Los mecanismos de detección no recopilarán información innecesaria o, en la medida en que se recopile dicha información superflua, no la utilizarán indebidamente.
  7. La detección de transacciones ilegales dará lugar a la aplicación de la ley.
  8. La aplicación de la ley promoverá el interés común.

El problema es que esas premisas no se sostienen en los contextos en los que podrían introducirse los requisitos de KYC basados en IA. Un ejemplo hipotético ayuda a dejarlo claro.

Imaginemos que la Empresa X busca un acuerdo empresarial con el Laboratorio Y. De conformidad con una obligación de KYC que exige que los laboratorios rastreen todas las transacciones con clientes que realizan actividades relacionadas con la ciberseguridad y los supervisen, el Laboratorio Y solicita información detallada a la Empresa X, como el número total de cuentas solicitadas, qué porcentaje de esas cuentas se utilizará para tareas cibernéticas y una descripción general de dichas tareas. Además, los registros de la Empresa X se conservarán durante al menos 30 días.

En cuanto al punto (2), no está claro cómo los reguladores y los laboratorios distinguirían entre el trabajo relacionado con la ciberseguridad que se considera especialmente riesgoso y el de carácter rutinario. Dado el nivel actual de temor generalizado en torno a los ataques a la IA y los agentes de IA rebeldes, parece probable que el gobierno se incline por aplicar los mandatos de KYC incluso a clientes que se dedican a tareas cibernéticas bastante comunes. Esto podría tener el efecto perverso de hacer que los innovadores eviten las "iniciativas cibernéticas" en el ámbito de la IA. El resultado será una reducción en el número de actores que estudian medios novedosos para garantizar la redundancia y la resiliencia que requiere un ecosistema cibernético saludable. En lugar de estar sujetos a una mayor supervisión, es posible que prefieran canalizar su energía emprendedora hacia otros ámbitos.

En el punto (3), existen múltiples formas de reducir la actividad ilegal en el ámbito cibernético sin recurrir a los requisitos de KYC. La primera es aumentar las sanciones por los delitos que cumplan los requisitos. La segunda es reforzar las capacidades de aplicación de la ley invirtiendo en las agencias existentes y mejorando las herramientas actuales. La tercera es promover las mejores prácticas de ciberseguridad, de modo que los daños causados por la actividad cibernética ilegal sean menos graves y menos generalizados. Es probable que se requieran todos estos enfoques para lograr la reducción de riesgos deseada por quienes consideran que los requisitos de KYC son necesarios.

La clave es ponerlas a prueba antes de recurrir a una intervención más extrema. Hasta el momento, no se ha llevado a cabo ningún experimento de política tan riguroso en estos ámbitos. Los casos aislados de aumento de multas, de incremento de los recursos disponibles para las autoridades encargadas de hacer cumplir la ley y de otras iniciativas relacionadas no se han evaluado en la medida necesaria para justificar dar el salto al KYC.

En cuanto al punto (4), la teoría que sustenta el KYC es que se necesita información detallada para lograr una aplicación oportuna y significativa de la ley. En el contexto de la Ley de Secreto Bancario (BSA), por ejemplo, los bancos deben reportar toda transacción en efectivo que supere los 10.000 dólares. Antes de completar dicha transacción, un banco debe verificar y registrar el nombre y la dirección de la persona que la presenta, así como la identidad, el número de cuenta y el número de Seguro Social o de identificación fiscal de cualquier persona en cuyo nombre se realice. Incluso el número de la licencia de conducir o del pasaporte utilizado para verificar la identidad debe incluirse en el informe. Y el hecho de conocer al cliente no confiere ninguna exención que proteja la privacidad: un banco no puede omitir los trámites para un cliente de décadas simplemente indicando que el depositante es un "cliente conocido".

Sin embargo, a pesar de toda esta información que se recopila, hay pocos indicios de que la ley haya sido eficaz. Hay que reconocer que el Congreso ha intentado limitar el alcance de la ley. En 1994, ordenó al Departamento del Tesoro que redujera los informes de transacciones en efectivo en al menos un 30 por ciento y que eliminara del formulario la información con "poco o ningún valor para fines de aplicación de la ley". En 2001, determinó que el volumen de informes estaba "una vez más interfiriendo con la aplicación efectiva de la ley". En 2020, ordenó al Departamento del Tesoro que revisara el umbral de 10.000 dólares y exigió al fiscal general que informara anualmente sobre la frecuencia con la que los datos proporcionan información útil para la investigación. Para desdicha del Congreso, esos esfuerzos han fracasado. Consideremos que, en un solo año, según lo documentó Nicholas Anthony, del Instituto Cato, este régimen generó 59 mil millones de dólares en costos de cumplimiento, lo que dio lugar a 28 millones de informes sobre sus clientes y solo produjo 275 investigaciones por parte del IRS.

Un conjunto similar de consecuencias significativas e involuntarias se derivará de límites mal definidos en el ámbito del KYC para la IA. Volviendo a la hipótesis, la "actividad relacionada con la ciberseguridad" no ofrece límites claros. Las pruebas de penetración, la investigación de vulnerabilidades y la gestión rutinaria de parches podrían encajar en esta categoría, y los laboratorios expuestos a sanciones por pasar por alto a un cliente de riesgo marcarían, de manera racional, cada caso dudoso. El resultado probable es una pila aún mayor de informes, cada uno menos útil que los de un banco, que terminarán en manos de las autoridades encargadas de hacer cumplir la ley, sin que estas tengan la capacidad demostrada para analizarlos.

En el punto (5), a los reguladores les resultará difícil trazar la línea divisoria entre una actividad de recopilación de datos que es inocua y otra que merece ser investigada. Imagina a dos usuarios: uno que forma parte de un equipo de simulacro de ataque (red team) para identificar vulnerabilidades en nombre de un sistema hospitalario rural, y otro que forma parte de un grupo de ransomware. Ahora, imagínelos a ambos ingresando la misma consulta: un intento de mapear los servicios expuestos de la red. Son indistinguibles a falta de más información sobre los propios usuarios. Si los laboratorios intentaran recabar esa información por medios voluntarios o mediante la auto-divulgación, entonces podrían esperar que las empresas honestas revelaran toda la verdad y nada más que la verdad, y que los actores malintencionados fingieran hacer lo mismo. En resumen, tarde o temprano, los actores malintencionados encontrarán sistemáticamente formas de eludir esos controles.

Un ejemplo del contexto bancario evidencia esta inevitabilidad. Dado que el efectivo por encima de los 10.000 dólares activa un reporte de la Ley de Secreto Bancario (BSA), las personas decididas a evitar ser detectadas han optado, como era de esperarse, por dividir los depósitos en sumas más pequeñas que no superen el umbral —una táctica conocida como "estructuración". El Congreso intentó desarrollar otra solución adaptada: ahora es un delito federal estructurar transacciones con el propósito de eludir la detección. Pero es un juego del gato y el ratón, y no está claro cuándo la persecución ya no valdrá la pena. En la IA, la solución alternativa equivalente —distribuir tareas entre cuentas, proveedores o modelos de peso abierto ejecutados en el propio hardware— es aún más económica y mucho más difícil de detectar. En resumen, es probable que cualquier régimen de KYC en la IA se centre en filtrar la sinceridad, más que en la criminalidad.

En el punto (6), lo que recopila el Laboratorio Y dista mucho de ser incidental. Las descripciones de las tareas cibernéticas de la Empresa X pueden revelar su hoja de ruta de productos o las vulnerabilidades sin parchear de sus clientes. Al agregarse a través de miles de clientes, esos registros se convierten en un "honeypot": un mapa único y consultable que muestra qué empresas están sondeando qué sistemas y dónde se encuentran los puntos débiles. Una filtración o un empleado deshonesto en el laboratorio entregaría a los atacantes una lista de objetivos ya preparada, una que existe únicamente porque la ley exigió que se compilara. Esa exposición solo puede empeorar con el tiempo si no existen límites específicos para la recopilación y el almacenamiento de datos. La Ley de Secreto Bancario exige que los registros cubiertos se conserven durante cinco años, y los reguladores que consideren útiles los registros de IA bien podrían impulsar que el período de retención se acerque a ese punto de referencia. Por último, los propios registros desalientan la investigación. Los investigadores de seguridad, académicos y periodistas suelen preguntar a los modelos cómo funcionan las vulnerabilidades para poder defenderse de ellas. Si saben que esas consultas se están catalogando para una posible revisión gubernamental, muchos dejarán de preguntar —o migrarán a herramientas extranjeras y de código abierto que ningún laboratorio estadounidense pueda ver.

En los puntos (7) y (8), la detección no conduce necesariamente a la aplicación de la ley, y esta no siempre se alinea con el bien público. Se pueden desperdiciar recursos sustanciales en esfuerzos por encontrar y sancionar a actores extranjeros en jurisdicciones donde una citación judicial de Estados Unidos tiene poco peso. Tal como están las cosas, las agencias que probablemente se involucren en la aplicación de la ley en este ámbito ya carecen de fondos y personal suficientes. Es posible que opten por evitar los casos más difíciles y, en su lugar, se centren en las empresas emergentes, que a menudo soportan una carga de cumplimiento desproporcionadamente alta en comparación con sus competidores más grandes. Esto podría, en última instancia, crear una barrera de protección para las empresas de IA ya establecidas o impulsar a los usuarios hacia modelos de peso abierto, los cuales presentan un conjunto único de riesgos y beneficios. Reconocer estos obstáculos en la aplicación de la ley puede provocar una expansión preocupante de la autoridad para hacer cumplir la ley. La ley de informes bancarios permite al Tesoro designar a las instituciones como "agentes del Gobierno de los Estados Unidos", por ejemplo. Una normativa amplia de KYC para la IA podría otorgar discretamente poderes similares a los laboratorios.

Ninguna de estas conclusiones descarta el KYC como un enfoque adecuado para algunas cuestiones de gobernanza de la IA. Por ejemplo, puede ser una intervención particularmente convincente cuando un laboratorio otorga a un pequeño grupo de socios acceso anticipado a sus sistemas más avanzados; en tales casos, saber exactamente quién está al otro lado es una alternativa sensata y menos restrictiva a que el gobierno dicte dicho acceso.

Fuera de ese estrecho margen, los defensores de esta medida deberían tener que demostrar su trabajo para justificar un mandato de KYC: probar primero las alternativas, definir la actividad cubierta con verdadera precisión, limitar el tiempo de retención y acompañar cualquier mandato con una cláusula de caducidad y la obligación significativa de informar si los datos realmente condujeron a la aplicación de la ley. De lo contrario, como se ha visto en el sector financiero, tales políticas no solo pueden fracasar en lograr su propósito, sino que también pueden generar serias preocupaciones adicionales. La mayor parte del uso de la IA es, francamente, aburrida. Tratar a cada cliente digital como si fuera un sospechoso de lavado de dinero o un posible delincuente haría que el país fuera menos innovador, menos privado y no más seguro.

Este artículo fue publicado originalmente en Cato At Liberty (Estados Unidos) el 4 de noviembre de 2026.