Disrupción, no desorden

En su ensayo "AI Disorder in the Courtroom" (El desorden de la IA en las cortes), Oliver Bateman plantea varias preocupaciones sobre la inteligencia artificial (IA) tanto en la profesión jurídica como en diversos elementos del procedimiento judicial o la práctica probatoria. La tecnología está evolucionando rápidamente e inevitablemente altera las normas y los procesos existentes; sin embargo, no debe darse por sentado que tal alteración dará lugar a un desorden. Si bien esta alteración puede plantear retos, centrarse demasiado en los posibles problemas o precipitarse en la toma de decisiones cuando la tecnología aún es novedosa puede impedir que la profesión jurídica y el sistema legal se beneficien de las ventajas que la alteración tecnológica podría aportar.

La IA no es, ni mucho menos, la primera tecnología novedosa y potencialmente disruptiva a la que se han enfrentado el sistema legal y la profesión jurídica. Del mismo modo, no es la primera vez que surgen preocupaciones sobre el posible impacto de las nuevas tecnologías en el sistema legal y otros ámbitos.

Yo sugeriría dos elementos clave sobre los posibles beneficios de la IA en la profesión jurídica, así como sobre la forma de contrarrestar los posibles riesgos, que, en mi opinión, faltan en gran medida en el ensayo de Bateman y en gran parte del debate sobre la IA en la profesión jurídica. En primer lugar, el ensayo no trata por igual los posibles beneficios de la tecnología para los ciudadanos, los profesionales y el sistema, así como los riesgos que podría plantear. En segundo lugar, está la importante cuestión de cómo se están abordando ya las preocupaciones sobre la IA y cuáles son estas preocupaciones en comparación con el riesgo potencial de daño en el sistema actual. En resumen, la IA puede limitarse a reflejar o amplificar las preocupaciones o el desorden existentes. Esto se refiere tanto a los posibles efectos democratizadores de la IA en la profesión jurídica como a su uso en las cortes y en el proceso de justicia penal.

No debemos ver la IA como una solución milagrosa. Sin embargo, debemos permitir el desarrollo de normas en lugar de precipitarnos a suponer los peores escenarios en cualquier profesión o aplicación. También debemos tener cuidado de no dejar que nuestros temores iniciales dicten la evolución de la tecnología.

Los beneficios potenciales de la IA para la profesión jurídica

Al igual que muchas profesiones, la profesión jurídica se enfrenta a los efectos disruptivos de la IA. No debe darse por sentado que las capacidades disruptivas de la IA son negativas para los clientes o los abogados. Aunque Bateman se refiere al "problema de Clarence Darrow", esto no tiene en cuenta la brecha actual en el acceso a los servicios jurídicos, ni el potencial efecto democratizador que podría tener para empoderar al ciudadano medio en sus interacciones con el sistema jurídico. De hecho, los usos positivos de la IA pueden mejorar el acceso a los servicios jurídicos y la capacidad de los abogados para prestar un mejor servicio a sus clientes.[1]

Una forma en que la IA puede mejorar el sistema jurídico es ayudando a colmar las lagunas existentes en los servicios jurídicos entre quienes los necesitan y el acceso a los mismos que pueden obtener los individuos debido a diversos factores. Muchas personas carecen de documentos legales, como un poder notarial o un testamento. Es posible que tengan dudas sobre la constitución de una empresa o que decidan no hacer valer sus derechos legales en casos en los que no disponen de los recursos necesarios o consideran que obtener servicios jurídicos es una carga. En particular, entre los estadounidenses con bajos ingresos, casi la mitad de los que deciden no recurrir a los servicios jurídicos citan el costo como motivo. Más de la mitad dudan de su capacidad para encontrar un abogado que puedan permitirse en caso de necesitarlo.[2] La IA no debe considerarse un sustituto completo de los abogados y la profesión jurídica, ni siquiera en este tipo de casos; sin embargo, podría proporcionar a quienes actualmente no tienen acceso a los servicios jurídicos un mejor conocimiento de cuándo podrían necesitar representación o algún grado de asistencia jurídica.

La IA no debe considerarse un sustituto de los servicios completos de un abogado, ni es probable que pueda manejar casos complicados y matizados. Pero podría proporcionar orientación o una solución provisional en muchos casos en los que la alternativa podría ser la falta de servicios jurídicos o un intento fallido de autoayuda. Las herramientas basadas en la IA podrían ayudar a las personas a comprender cuándo una situación merece realmente una acción legal. Podrían ayudar a quienes actualmente esperan servicios jurídicos más formales a comprender qué deben conservar o qué información puede necesitar su abogado, o guiarlos a través de preguntas básicas sobre necesidades jurídicas comunes, como redactar un testamento, constituir una empresa o impugnar una multa de parqueo.

Esto no debe confundirse con una sustitución completa de los abogados por "robots", sino que debe considerarse una forma de mejorar el acceso a muchas necesidades jurídicas básicas que no están suficientemente atendidas. De este modo, la IA podría aportar un aspecto increíblemente democratizador a los servicios jurídicos y capacitar a más personas para comprender y acceder al sistema jurídico. En algunos casos, incluso podría generar más trabajo para los abogados, ya que las personas reconocerían la utilidad de estos servicios o se sentirían más capacitadas para plantear cuestiones jurídicas o interponer reclamaciones legales.

Esta democratización también podría beneficiar a los abogados en su capacidad actual para atender a sus clientes y prestar mejores servicios. Por ejemplo, la solicitud de servicios gratuitos o reducidos a través de la asistencia jurídica gratuita suele conllevar largos tiempos de espera o opciones limitadas en cuanto al tipo de servicios prestados. Muchas oficinas de defensa pública también se enfrentan a importantes dificultades debido a la demanda, incluso en situaciones en las que la carga de trabajo es tal que puede resultar difícil proporcionar un asesoramiento adecuado.[3] El uso de la IA permitiría a los abogados centrarse en la complejidad y los matices de las transacciones y los casos, o encontrar precedentes que de otro modo podrían pasar por alto. Esto sería especialmente útil en la mayoría de los bufetes, donde hay un número reducido de abogados y es posible que no tengan el mismo acceso a la investigación o la misma asistencia que un bufete grande.[4]

Por supuesto, hay formas en que la IA también podría mejorar el propio sistema jurídico. Esto incluye tareas básicas de atención al cliente o ayudar a los abogados o a los particulares a conectarse con los recursos jurídicos adecuados, mejorar la programación y automatizar tareas como la edición de opiniones.

Todos estos elementos serían, en cierta medida, disruptivos para el sistema jurídico actual e incluso podrían poner en tela de juicio las normas existentes sobre lo que se considera ejercicio de la abogacía. Sin embargo, esta disrupción no crearía necesariamente desorden. Por el contrario, podría generar un mayor empoderamiento, capacidad de acción y eficiencia dentro del sistema jurídico.

La IA en las cortes se ha enfrentado a nuevas tecnologías y muchas de las preocupaciones son viejas cuestiones

La cuestión de cómo se debe permitir la tecnología en las cortes no es nueva con la IA. Podemos pensar en numerosas tecnologías, desde las fotocopias hasta el vídeo o Internet, que han planteado dudas en torno a las pruebas. En muchos casos, la ley está luchando al mismo tiempo con el papel que estas tecnologías desempeñan en las cortes. Al igual que fuera del sistema jurídico, estas preocupaciones no siempre son nuevas para la IA, sino que pueden ser simplemente una nueva aplicación de preocupaciones ya existentes o requerir una mayor claridad en las normas o reglas vigentes.

Es probable que algunas de las preocupaciones básicas en torno al uso de la tecnología para crear falsificaciones o pruebas falsas y simular precedentes falsos ya estén cubiertas por las normas de conducta profesional, las normas sobre la prueba o incluso las leyes aplicables en materia de fraude o acusaciones falsas. Si existe la preocupación de que la IA pueda crear un vacío legal, en lugar de apresurarnos a crear normas o leyes específicas para la IA, deberíamos examinar primero si las cuestiones existentes podrían actualizarse para aclarar que el uso de la IA no elimina las obligaciones existentes.

En los casos limitados en los que las cortes se han enfrentado a este tipo de problemas, las normas existentes han sido capaces de resolverlos. Por ejemplo, se ha multado a abogados por documentos judiciales generados por IA[5] y se les ha considerado responsables de escritos en los que la IA había creado casos judiciales inexistentes[6]. Esto se ha hecho sin modificar las normas existentes y demuestra que, si los daños se derivan de la aplicación y no de la tecnología subyacente, en gran medida podremos adaptarnos.

Muchas de las preocupaciones sobre la IA en el sistema judicial no son problemas de la IA, sino problemas más amplios de la sociedad. Existen preocupaciones legítimas sobre los posibles sesgos de la IA utilizada en la imposición de penas o la detención, y sin duda deben abordarse.[7] Sin embargo, muchas de estas preocupaciones son un reflejo de los problemas existentes en nuestra sociedad y no son exclusivas de la IA. Si se identifican en la IA, pueden abordarse más rápidamente mediante la reprogramación que en los procesos, a menudo de décadas de duración, destinados a combatir los sesgos implícitos y explícitos en la sociedad.[8] La transparencia de estos algoritmos y la supervisión humana cuando están en juego los derechos individuales serán fundamentales, pero no debe darse por sentado que los seres humanos no son víctimas de tales sesgos o prejuicios. Lo ideal sería que la transparencia permitiera la concienciación y, cuando fuera necesario, la modificación de un algoritmo, mientras que los propios seres humanos siguieran siendo en cierta medida una caja negra. A menudo es difícil saber si la decisión de un juez se basa en el momento del día en que la toma, en sus interacciones pasadas con un abogado en un caso diferente o en un sesgo implícito hacia un grupo concreto que podría no quedar suficientemente reflejado en los mecanismos de reparación existentes.[9]

El ensayo de Bateman destaca un ejemplo concreto en el que la IA puede plantear algunas preguntas sobre cómo comunicar su uso y su impacto cuando se utiliza en recreaciones o, en el ejemplo mencionado, para crear un impacto en las víctimas. Se considera que la reacción en este caso tiene un mayor impacto emocional. Al igual que en muchos escenarios, incluidos los relacionados con las recreaciones en la era anterior a la IA, las normas sobre la divulgación de la tecnología al juez y al jurado probablemente serán útiles para ayudar a sopesar la persuasión de las declaraciones o recreaciones creadas por la IA. Es probable que esto varíe en función del uso específico de la IA en cada situación concreta. Por ejemplo, la persuasión de una declaración o recreación generada íntegramente por IA probablemente sería diferente a la de una que traduce una grabación de otro idioma o lee una declaración existente. Por lo tanto, debemos ser cautelosos con los enfoques únicos para una tecnología de uso general y, en su lugar, analizar la aplicación concreta.

Conclusión

En lugar de pensar que el impacto de la IA en la profesión jurídica traerá consigo el caos, deberíamos ser un poco más optimistas sobre la potencial disrupción de la IA y su capacidad para beneficiar a los ciudadanos, a los profesionales y al sistema jurídico. La IA tiene una amplia gama de aplicaciones, tanto en general como en sectores y situaciones específicos, como se observa en el sistema jurídico. Teniendo esto en cuenta, es mejor examinar las aplicaciones y preocupaciones específicas en lugar de adoptar un enfoque más general. Si bien existen riesgos potenciales, muchos de ellos son preexistentes y no son exclusivos de esta nueva tecnología. Deben sopesarse tanto con los beneficios potenciales como con las imperfecciones del sistema actual. Por lo tanto, debemos ser cautelosos a la hora de sobreestimar el riesgo o la incapacidad de adaptarse a las nuevas tecnologías y considerar los beneficios potenciales.

Este artículo fue publicado originalmente en Fusion (Estados Unidos) el 22 de julio de 2025.