La propuesta del senador Sanders de prohibir la superinteligencia se asemeja más a la histeria que a una política bien meditada

El 3 de septiembre, el senador Bernie Sanders (Independiente de Vermont) y el representante Greg Casar (Demócratas de Texas) anunciaron su Ley para la Prohibición de la Superinteligencia Artificial, que suspendería el desarrollo de la “IA avanzada” hasta que se establezca un nuevo organismo regulador federal y, como su nombre lo indica, prohibiría lo que ellos definen como sistemas de inteligencia artificial (IA) “superinteligentes”. Para aquellas empresas o personas que intenten desarrollar o implementar estos sistemas, la sanción podría ir desde una “pena de muerte corporativa” hasta 20 años de prisión.

La idea de Sanders no es precisamente nueva, pero eso no la hace menos errónea. Existen medidas de protección razonables para abordar los riesgos relacionados con el desarrollo de IA de vanguardia, pero criminalizar el desarrollo de la IA no contribuirá en gran medida a que estemos más seguros.

La justificación de Sanders para esta prohibición se basa en gran medida en el reciente incidente de pérdida de control ocurrido en OpenAI, donde un modelo desarrollado internamente se escapó y hackeó a Hugging Face. Según él, incidentes como este justifican una pausa en el desarrollo de la IA y la prohibición del desarrollo de cualquier "mente artificial más inteligente que cualquier humano, capaz de operar de manera independiente más allá de nuestro control".

Pausar, y mucho menos prohibir, el desarrollo de la IA a raíz de este incidente sería una conclusión errónea y podría incluso resultar contraproducente para los objetivos que el senador supuestamente persigue. Incluso quienes apoyan la idea de una pausa coinciden en que esta es la respuesta incorrecta a este incidente en particular. Como lo expresa Dwarkesh Patel —a quien Sanders cita en su publicación—, detener el desarrollo de la IA de vanguardia en este momento limitaría la capacidad de los laboratorios y los defensores cibernéticos para responder a los ciberataques impulsados por la IA. En este momento, la prioridad debería ser desarrollar modelos lo suficientemente avanzados como para detectar y contrarrestar los ataques de IA en enjambre en tiempo real. Si el desarrollo se detuviera de alguna manera hoy, estos ataques aún podrían ocurrir, pero las capacidades defensivas seguirían siendo insuficientes. Esto perpetuaría el desequilibrio de poder que provocó el ataque en primer lugar.

No apoyar una prohibición o una pausa en la IA de vanguardia no significa que el incidente de OpenAI deba ignorarse como inofensivo ni que la solución sea necesariamente no hacer nada. Este incidente ha demostrado que se necesitan medidas adicionales para reforzar la preparación contra los agentes de IA rebeldes y para asignar adecuadamente la responsabilidad cuando ocurran estos eventos, incluso por accidente. También sirve como una llamada de atención para los defensores: los ciberataques de IA autónoma probablemente se verán diferentes de los tradicionales, llevados a cabo por humanos, ya que los agentes rebeldes de OpenAI atacaron de formas que se consideraban técnicamente inviables y apuntaron a infraestructura que normalmente se considera fuera de los límites.

El desarrollo de sistemas de IA de vanguardia conlleva cierto riesgo inherente. Pero la existencia de riesgo no se traduce necesariamente en la necesidad de prohibir o suspender su desarrollo. Suspender el desarrollo de vanguardia, mientras que naciones adversarias o actores no estatales continúan desarrollando estas herramientas, es un riesgo en sí mismo. Una regulación bien pensada puede ayudar a mitigar algunos de los riesgos asociados con el desarrollo de la IA, al tiempo que proporciona mecanismos de respuesta y reparación para cuando estos riesgos se materialicen. Ya existen ideas sobre cómo podría ser esta regulación bien pensada, y algunas de estas propuestas ya se están incorporando a posibles proyectos de ley.

Por ejemplo, la Ley de Inteligencia Artificial de Estados Unidos tiene como objetivo establecer un sistema de verificación por terceros que crearía un proceso en el cual los laboratorios tendrían que demostrar que su proceso de desarrollo aborda correctamente los riesgos de desarrollo, con terceros expertos que auditen dicho proceso. Esencialmente, este enfoque obliga a los laboratorios a "mostrar su proceso", con validadores externos que los auditen. Otras propuestas aprovecharían los tribunales y la legislación vigente para imponer un deber razonable de diligencia a los laboratorios pioneros. Así, cada vez que un modelo de IA cause algún daño, los laboratorios deberán demostrar que tomaron medidas razonables para mitigar cualquiera de estos riesgos potenciales. Las agencias federales, como el Departamento de Comercio, podrían entonces emitir directrices sobre lo que se considera "diligencia razonable", lo que otorgaría cierto nivel de preparación para el futuro y flexibilidad.

Según informes de prensa, una posible propuesta de proyecto de ley futura podría adoptar este enfoque. Otros han propuesto la creación de una "FINRA para la IA", que establecería una organización autorreguladora sin fines de lucro para regular la industria. Esta organización sin fines de lucro actuaría entonces como auditora de la industria, y los laboratorios que superaran estas auditorías quedarían exentos de responsabilidad legal siempre y cuando demuestren haber actuado con diligencia razonable.

Independientemente de cuál se considere el mejor enfoque de entre estos, la realidad es que ya existen estrategias bien pensadas para mitigar los riesgos de la IA de vanguardia. Prohibir y criminalizar el desarrollo de la superinteligencia es un enfoque innecesario e incluso contraproducente. Lo que esta medida provocaría, al final del día, es quitarles una herramienta poderosa a los defensores, al tiempo que limitaría las enormes ventajas que esta tecnología ya está demostrando en campos como la biotecnología o, irónicamente, la ciberseguridad.

Este artículo fue publicado originalmente en Cato At Liberty (Estados Unidos) el 14 de septiembre de 2026.