El Derecho en los

Tiempos de la Inteligencia Artificial 

| Por Mtra. Elizabeth Tenorio

¿Puedes discutir con TI y negocio temas tecnológicos, sin perder precisión jurídica?

¿El Derecho ha tenido la misma evolución frente a la tecnología?

¿Tu enfoque contractual contempla el riesgo de cambios del modelo (actualizaciones silenciosas) y su efecto legal?

¿Estás preparado para litigar o asesorar cuando un daño proviene de un sesgo, opacidad, falta de un mapa de riesgos o de cumplimiento en políticas de tecnología?

Desde hace varios años, se ha señalado la gran desventaja que sufre el derecho en cuanto al avance y vigencia de los marcos legales enfocados a la tecnología, pues es notorio que este ha sido y seguirá siendo uno de los grandes retos en materia legal.

Bajo esta perspectiva, y desde el nacimiento de la sociedad de la información ha sido no solamente necesario, sino imperativo que tanto los estudiosos del derecho como la sociedad en general, visualice la importancia de contar con marcos jurídicos que se encuentren orientados a dar la dirección adecuada a cada una de las actividades que comúnmente realizamos mientras utilizamos la tecnología y evolucionamos con ella.

En ese contexto, en los últimos años y con mayor preponderancia hemos sido inundados de conceptos como internet de las cosas o Inteligencia Artificial, encontramos productos y/o servicios vinculados con estos conceptos sin conocer a ciencia cierta su funcionamiento, ventajas y/o desventajas, y en muchos de los casos las personas que ofertan dichos productos desconocen su impacto, y únicamente son impulsados por el “boom” del momento o bien por un ánimo netamente comercial.

Por ello, considero siempre necesario tomar un paso atrás, para entender los conceptos técnicos que pueden conjuntarse con la legalidad existente y así poder contar con un panorama tan amplio que nos permita delinear con mayor seguridad nuestras actividades y sobre todo proteger nuestros derechos como personas y/o consumidores.

Al efecto, y desde una perspectiva jurídica, el primer reto que enfrenta la normativa, es contar con una definición universalmente aceptable sobre lo que es la Inteligencia Artificial (IA). Hoy en día, el Reglamento de IA de la Unión Europea (primer regulación en Inteligencia Artificial) fija el perímetro regulatorio al definir “sistema de IA” como:

“Un sistema basado en máquinas que está diseñado para funcionar con diversos niveles de autonomía y que puede mostrar capacidad de adaptación tras su despliegue, y que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales”.

Esta definición es crucial porque desplaza el análisis desde “si usa IA” hacia qué hace el sistema y qué efectos produce, abriendo el debate sobre responsabilidad, debida diligencia, transparencia, entre otros.

Por ello será relevante considerar cómo se utilizan los datos, (recolección, licitud, minimización, calidad, etc.), almacenamiento y operación entre lo que destaca el monitoreo y la ciberseguridad.

De lo anterior comienzan a visualizarse otros conocimientos, es decir, la técnica mezclada con la legalidad, ¿a qué le llamamos datos?, ¿qué es la ciberseguridad?, ¿qué implican los controles?, ¿qué son los estándares?, ¿cómo opera un almacenamiento? ¿qué es la debida diligencia?, ¿qué es un entorno virtual?, etc., una vez que podemos conocer estos aparatados podemos vislumbrar otras cuestiones muy relevantes como: ¿quién puede responder por un resultado discriminatorio?, ¿cómo opera el derecho de daños frente a la discriminación?, ¿cómo obtener la evidencia correspondiente?, ¿qué estándar probatorio aplica para auditar sesgo, trazabilidad y control de cambios?

Finalmente, la IA exige nuevos mecanismos de gobernanza: gestión de riesgos, documentación, supervisión humana, seguridad por diseño y auditorías, volviendo imprescindible que el Derecho trate a la IA no solo como “herramienta”, sino como infraestructura regulada con obligaciones verificables y vías efectivas de reclamación.

Y tú como abogado, ¿estás preparado para otros retos regulatorios?

Mtra. Elizabeth Tenorio
Cybersecurity Legal Officer
Intelligent Networks