La necesidad urgente de limitar los poderes de emergencia
Kevin T. Frazier dice que la creciente preocupación por los riesgos catastróficos o incluso existenciales que plantea la IA amenaza con normalizar la invocación de poderes de emergencia por parte de funcionarios estatales y federales antes de que ocurra cualquier emergencia real.
Por Kevin T. Frazier
Investigadores, académicos y comentaristas especializados en IA se reunieron en el Área de la Bahía para el evento "The Curve" a principios de este mes. Siguiendo la regla de Chatham House, los empleados de los laboratorios de vanguardia en IA compartieron advertencias sobre la capacidad de los modelos respectivos de sus empresas. Uno de ellos especuló que los sistemas hospitalarios podrían quedar fuera de servicio debido a "enjambres" de agentes, como los que hackearon Hugging Face. Otro pronosticó que los agentes de IA tomarían el control de los sistemas de armas y se negarían a acatar las órdenes humanas. Por lo que pude observar al charlar con los asistentes, la mayoría parecía estar de acuerdo; no habían visto evidencia suficiente de que los laboratorios supieran cómo evitar que los agentes se escaparan de los entornos de prueba y causaran estragos.
En casos excepcionales, las amenazas podrían materializarse a partir del uso de IA maliciosa e incluso podrían obligar a los gobernadores a ejercer poderes de emergencia para responder a un desastre natural o provocado por el hombre. Sin embargo, las conversaciones en torno a dichas autoridades suelen pasar por alto el detalle crítico de qué poderes deben invocarse, con qué fines y cómo poner fin a la situación cuando la verdadera crisis haya terminado.
La creciente preocupación por los riesgos catastróficos o incluso existenciales que plantea la IA amenaza con normalizar la invocación de poderes de emergencia por parte de funcionarios estatales y federales antes de que ocurra cualquier emergencia real. Si el objetivo es estar preparados para una emergencia plausible relacionada con la IA, los políticos deberían imponer restricciones adecuadas al umbral que permite a un gobernador u otro funcionario reclamar dichos poderes, así como al alcance y la duración de esos poderes.
Una encuesta reciente indicó que el 17 por ciento de los estadounidenses cree que "es casi seguro que sucederá" que la IA avanzada destruya a la humanidad. Otro 46 por ciento prevé que un evento existencial de este tipo es significativamente o moderadamente probable. Este sentimiento predominante de pánico ya está dando forma a las políticas públicas. Un resumen del panorama de las políticas estatales sobre IA proviene del gobernador JB Pritzker: "La inteligencia artificial tiene un enorme potencial para transformar nuestra vida cotidiana, pero cuando los expertos y los líderes de la industria hacen sonar la alarma, nos instan a reducir el ritmo y piden medidas de protección, debemos escuchar". Estas preocupaciones no tienen por qué significar una regulación impuesta desde arriba ni perpetuar un entorno normativo basado más en el miedo y el pesimismo que en la evidencia empírica; sin embargo, estas inquietudes concretas pueden requerir respuestas específicas y, en algunos casos, inmediatas bajo una autorización de emergencia.
Si los políticos se toman en serio sus preocupaciones sobre una emergencia relacionada con la IA, el momento de establecer las reglas para los poderes de emergencia es antes de que alguien se vea tentado a abusar de ellos. Muchas leyes estatales de emergencia se redactaron pensando en inundaciones, incendios y ataques enemigos. Suelen definir un desastre que justifica la declaración de manera amplia, a menudo incluyendo cualquier evento “provocado por el hombre” que amenace la vida o la propiedad. Una vez que se emite la declaración, muchas otorgan al gobernador herramientas como la facultad de suspender leyes regulatorias, restringir la circulación y requisar propiedad privada. Aplicadas a la IA, esas mismas herramientas podrían permitir que un gobernador implemente reformas radicales y tal vez tenga consecuencias irreversibles.
Tenemos experiencia reciente de lo que sucede cuando las dudas sobre el alcance de los poderes de emergencia se resuelven en medio de una crisis. Durante la pandemia de COVID-19, la Corte Suprema de Michigan anuló una ley de 1945 que permitía al gobernador extender las declaraciones de emergencia indefinidamente. Los votantes de Pensilvania enmendaron su constitución en 2021 para limitar las declaraciones a 21 días, salvo que la legislatura las extendiera, y las legislaturas de Kentucky, Ohio y otros lugares promulgaron sus propios límites. Esas reformas llegaron después de que ya se hubieran ejercido los poderes, lo que las convirtió en medidas reactivas e innecesariamente partidistas.
Tres reformas contribuirían en gran medida a garantizar que no se produzcan abusos si llegara a materializarse una emergencia válida relacionada con la IA.
En primer lugar, definir el umbral de activación de manera objetiva. Los gobernadores no deberían invocar los poderes de emergencia sin hallazgos objetivos y verificables. Un aumento repentino de la ansiedad pública o una advertencia interna de un laboratorio, sin un escrutinio independiente, no debería, por sí solo, cumplir con los requisitos. Por ejemplo, la Ley Modelo Estatal de Poderes de Emergencia ordena a los gobernadores que "consulten con la autoridad de salud pública y puedan consultar con cualquier otro experto en salud pública o de otra índole, según sea necesario" antes de cualquier declaración de este tipo. Se deberían establecer controles similares para emergencias relacionadas con la IA y otras tecnologías. Dichos controles también podrían basarse en tipos específicos de incidentes. Los poderes de emergencia relacionados con la IA pueden basarse en conclusiones de un organismo técnico independiente de la empresa cuyo sistema estuvo involucrado en el incidente subyacente, como una interrupción de la red eléctrica provocada por la IA.
En segundo lugar, exigir la aprobación legislativa. Los gobernadores deben poder actuar con rapidez, pero una declaración debe caducar con la misma rapidez a menos que la legislatura la ratifique dentro de un plazo breve, como 14 días. Sin este control, la historia indica que los gobernadores pueden recurrir a los poderes de emergencia incluso cuando la crisis ya ha remitido en gran medida y los procesos legislativos tradicionales vuelven a estar disponibles. Este control legislativo también otorga mayor legitimidad al uso prolongado de los poderes de emergencia e incentiva a los legisladores a vigilar de cerca cómo se utilizan esos poderes.
En tercer lugar, limitar la duración y el alcance. Las declaraciones deben expirar después de un período fijo, y cada renovación debe requerir una nueva votación y nuevas pruebas. Las legislaturas también deben especificar qué herramientas de emergencia se aplican a los incidentes de IA y excluir las más amplias, como la requisa de bienes o la suspensión de leyes no relacionadas. Las leyes de poderes de emergencia mal redactadas pueden permitir que un gobernador ejerza facultades legales que tienen poca relación con el incidente en cuestión. Algunos gobernadores podrían verse tentados a invocar el conjunto completo de poderes de emergencia a su disposición, dada la posible novedad y complejidad de las emergencias relacionadas con la IA. Sin embargo, esa tentación puede y debe abordarse mediante una legislación más matizada que especifique qué poderes están disponibles para qué tipos de emergencias.
Algunos objetarán que en una emergencia se necesita rapidez. Pero ninguna de estas reformas impide que un gobernador responda en las primeras horas de una crisis genuina. Por el contrario, las reformas que aquí se proponen evitan que una "emergencia" temporal se convierta en permanente, al tiempo que protegen a los estadounidenses del ejercicio arbitrario de un poder desmesurado.
Este artículo fue publicado originalmente en Cato At Liberty (Estados Unidos) el 16 de octubre de 2026.