El 1° de agosto de 2019 tuve el honor de participar en un panel de la sede en México del “World Legal Summit”, un evento que se llevó a cabo simultáneamente en 32 ciudades de 25 países, para reunir a las industrias jurídica y tecnológica en un esfuerzo de colaboración mundial que identifique y proponga medidas para el desarrollo sustentable de las tecnologías relacionadas con la inteligencia artificial. (Puede consultarse información del evento aquí)

El programa del evento incluyó tres paneles que a mi punto de vista tratan los temas claves relacionados con la aplicación de herramientas de inteligencia artificial: identidad y gobernanza; ciberseguridad y datos personales, y máquinas autónomas. En este último panel es donde participé, para exponer algunas ideas que ahora comparto.

Juan Carlos Luna, Daniel Avecedo, Luis Fonseca, Adi Corrales, Christian Palacios

Un análisis de las implicaciones legales del uso masivo de máquinas autónomas debe incluir tanto los dispositivos que actúan en el entorno físico (como vehículos autónomos de todo tipo, drones o robots) como los sistemas que automatizan procesos y decisiones (desde la planeación de actividades del telescopio Hubble y la logística de flotillas, hasta el otorgamiento de créditos, la contratación de personal y el reconocimiento facial).

Ambos tipos de máquinas funcionan a partir de un agente inteligente, un programa de cómputo que recibe insumos del entorno (datos, imágenes, sonidos), los evalúa con una metodología basada en algoritmos de inteligencia artificial y de aprendizaje automático, y encuentra la acción que más se acerca a cumplir con el objetivo que le fue programado.

La diferencia está en que unas máquinas actúan en el entorno físico para implementar su decisión y otras no. Un vehículo autónomo o un robot actúan físicamente para llegar a su destino por la ruta elegida o para ejecutar la tarea asignada, en tanto que un sistema utilizado para autorizar créditos sólo arroja una respuesta. No obstante, en ambos casos la toma de decisiones por un agente inteligente afecta el papel de quienes participan o son afectados por dichas decisiones y su impacto es cada vez mayor en la vida de las personas.

Gracias a los avances en inteligencia artificial y los datos masivos, máquinas autónomas con nuevas capacidades se empiezan a utilizar en entornos que se vuelven complejos en tres dimensiones: 1) el nivel de interacción con otros agentes, incluyendo seres humanos; 2) el grado de especialización de la decisión, que ya no es el simple trabajo físico o repetitivo, y 3) la naturaleza de la decisión (alto impacto en la vida de las personas) y del decisor al que apoya o sustituye (que ha pasado del ámbito privado al público).

Existen preocupaciones sobre la actuación de las máquinas autónomas, que tienen que ver con la manera de hacerles exigibles las mismas reglas que son aplicables a los seres humanos y la forma de preservar las garantías y derechos de estos últimos.

Las preocupaciones abarcan los tres elementos del agente inteligente:

• Recepción de insumos. Cómo asegurar que, en aplicaciones de alto impacto, los conjuntos de datos utilizados para el aprendizaje automático estén libres de criterios discriminatorios o sesgos. Se trata de detectar y reducir sesgos humanos y sociales, no de mantenerlos, escalarlos, o crear otros nuevos.
• Selección de la mejor alternativa. El auge de las redes neuronales artificiales ha generado máquinas autónomas de gran exactitud, pero cuyo proceso de decisión no es posible explicar, situación poco aceptable en aplicaciones críticas o que involucran actos de autoridad. Por otro lado, una función objetivo definida incorrectamente puede llevar a que los algoritmos tengan comportamientos no deseados (un ejemplo clásico es el de una aspiradora robot a la que se le programa para maximizar el volumen de polvo aspirado, por lo que decide que la estrategia es un ciclo de aspirar, tirar y volver a aspirar).
• Impacto de las decisiones. La toma de decisiones por máquinas autónomas requiere revisar las responsabilidades establecidas por la ley o la costumbre, fijar reglas para su interacción con los seres humanos y establecer medidas especiales para su utilización por parte del gobierno o de una autoridad.

Resolver estas preocupaciones es indispensable para lograr el apoyo de la sociedad hacia el uso de máquinas autónomas, por lo que es necesaria cierta regulación, no para limitar la innovación, sino con el objeto de establecer condiciones para aumentar al máximo los beneficios y reducir al mínimo los riesgos.

La regulación debe dirigirse a asegurar principios de equidad, transparencia, verificabilidad, seguridad y control en la construcción del agente inteligente, así como la generación de comportamientos aceptables, que sean resultado de funciones objetivo también aceptables, bajo criterios por lo menos iguales a los que se exigen a un ser humano y proporcionales a la importancia de las decisiones tomadas.

El uso de máquinas autónomas para auxiliar o sustituir la actuación del gobierno debe tener una especial atención. Deben promoverse reglas para que la decisión de utilizar una máquina autónoma sea resultado de una discusión pública, con mecanismos para asegurar la transparencia y verificabilidad de los conjuntos de datos utilizados, el uso preferente de modelos interpretables ante igual nivel de exactitud y la vigencia de los medios de defensa del ciudadano.

Las nuevas máquinas autónomas tienen el potencial de generar enormes beneficios, transformando profundamente áreas de la actividad humana y creando otras nuevas. Sin embargo, los efectos positivos llegarán siempre y cuando sociedad y gobierno establezcan condiciones para un adecuado diseño y despliegue, así como medidas para que el mayor número de personas tengan acceso a sus beneficios. Se trata no sólo de potencializar su utilización, sino de estar atentos a mitigar o resolver los riesgos y disrupciones. Así lograremos que la conjunción de máquina y ser humano sea, como ya lo ha sido a lo largo de la historia, un generador de nuevos espacios de crecimiento y bienestar para la raza humana.

En esta tarea, la actividad de foros como el World Legal Summit es fundamental, no sólo para crear conciencia entre la opinión pública, sino también para generar propuestas y acciones que orienten la actuación de gobiernos e industria.