Discuten implicaciones legales de la inteligencia artificial en The Data Pub de febrero

El pasado 25 de febrero, realizamos The Data Pub con la charla "La personalidad jurídica de la IA", en la sede Mixcoac de la Escuela de Gobierno y Transformación Pública. La sesión reunió a estudiantes, profesionales y personas interesadas en la intersección entre derecho y tecnología para analizar los retos que plantea la inteligencia artificial en el ámbito jurídico. La plática fue impartida por Luis Raúl González Romo, abogado y especialista en derecho digital y tecnología.

El objetivo del evento fue abrir un espacio de reflexión sobre uno de los debates más relevantes en la relación entre derecho y tecnología: la posibilidad de reconocer a los sistemas de inteligencia artificial una personalidad jurídica similar a la de las personas o las empresas. La discusión abordó temas como la responsabilidad por las acciones de la IA, la asignación de derechos y obligaciones y los límites éticos y legales que deberían establecerse ante tecnologías cada vez más autónomas, con el propósito de analizar cómo adaptar los marcos jurídicos sin perder de vista la responsabilidad humana ni la protección legal.

La charla fue presentada por Club IA Legal, una comunidad que promueve el uso ético, innovador y colaborativo de la inteligencia artificial en el ámbito jurídico, conectando a profesionales del derecho, tecnólogos, académicos y entusiastas interesados en explorar el futuro del derecho frente a tecnologías emergentes. La sesión estuvo a cargo de Luis Raúl González Romo, quien cuenta con amplia experiencia en innovación legal y transformación digital en organizaciones, y quien expuso diversos enfoques regulatorios y debates actuales sobre la gobernanza de la inteligencia artificial.

Durante la sesión se analizaron distintos aspectos del debate sobre si la inteligencia artificial podría o debería ser considerada un sujeto de derechos y obligaciones ante la ley. Entre las conclusiones principales se señaló que, en el estado actual de la tecnología, no resulta adecuado otorgar personalidad jurídica a la IA, debido a que carece de conciencia, libre albedrío y agencia moral. Aunque el Parlamento Europeo exploró en 2017 la idea de una “persona electrónica”, esta propuesta fue descartada posteriormente en 2020. Como alternativas regulatorias, se discutieron mecanismos como la ampliación de la responsabilidad del fabricante, esquemas de seguros obligatorios, sistemas de certificación y fondos de compensación para cubrir posibles daños derivados del uso de tecnologías autónomas. Asimismo, se subrayó la importancia de mantener un enfoque antropocéntrico en el que las decisiones relevantes continúen bajo supervisión humana, conocido como human in the loop.

La discusión también abordó el concepto de personalidad jurídica a partir de analogías con la programación orientada a objetos y las matemáticas, explicando que se trata de una figura creada por el derecho para permitir la operación legal de determinadas entidades. En ese contexto se presentaron ejemplos de reconocimiento de derechos a entidades no humanas, como el río Vilcabamba en Ecuador, vinculado al reconocimiento de los derechos de la naturaleza, y el caso de la orangutana Sandra en Argentina mediante un recurso de hábeas corpus. También se revisaron argumentos a favor de otorgar identidad legal a sistemas de inteligencia artificial, principalmente relacionados con la necesidad de establecer esquemas claros de compensación de daños y brindar mayor certidumbre jurídica para el desarrollo de tecnologías autónomas, como los vehículos inteligentes o sistemas industriales automatizados.

Por otra parte, se discutieron riesgos asociados a esta posibilidad, particularmente la difuminación de la responsabilidad humana si las organizaciones utilizaran a las máquinas como intermediarios para evadir responsabilidades. También se mencionaron desafíos técnicos como la opacidad de los modelos de inteligencia artificial —las llamadas “cajas negras”— y los riesgos de sesgo en los datos, ilustrados con el caso del sistema COMPAS utilizado en Estados Unidos para predecir reincidencia delictiva. Asimismo, se reflexionó sobre el fenómeno del antropomorfismo tecnológico, es decir, la tendencia cultural a atribuir características humanas a las máquinas, lo que puede generar confusión entre usuarios y legisladores cuando se utilizan conceptos como “agentes morales” o “metahumanos” para describir sistemas tecnológicos.

Finalmente, el ponente comparó distintos enfoques regulatorios en el ámbito internacional. Mientras que la Unión Europea ha optado por un modelo más restrictivo orientado a la protección de los ciudadanos, Estados Unidos ha privilegiado un enfoque más flexible que favorece el desarrollo de la industria tecnológica. En contraste, algunos países asiáticos, como Japón, integran la tecnología dentro de una visión social más amplia asociada a la idea de “Sociedad 5.0”, donde los robots y sistemas inteligentes forman parte del ecosistema social sin ser considerados entidades con conciencia.

Actividades como The Data Pub contribuyen a generar espacios de diálogo interdisciplinario sobre los retos que enfrentan las instituciones públicas ante los avances tecnológicos. Desde la Escuela de Gobierno y Transformación Pública, estas conversaciones se alinean con la visión institucional de impulsar la creación de valor público mediante el análisis crítico, la investigación y la formación de personas capaces de comprender y transformar el entorno público frente a desafíos emergentes como la inteligencia artificial.

Con este tipo de encuentros, la comunidad académica y profesional continúa explorando los marcos conceptuales y regulatorios necesarios para comprender el impacto de las tecnologías emergentes y contribuir al desarrollo de políticas públicas informadas.