Ebers y Navas, Algorithms and law, Cambridge University Press, 2020

1. Si seguimos la ense√Īanza de Don Joaqu√≠n Garrigues y observamos atentamente la realidad veremos que los algoritmos y la inteligencia artificial est√°n omnipresentes en nuestras vidas: hablamos con robots (y no, no me refiero a nuestros estudiantes, sino a altavoces inteligentes como Alexa), hay coches que ya aparcan solos y, si hemos invertido en bolsa, es posible que un robot gestione nuestros ahorros. Est√° realidad est√° tambi√©n presente en el √°mbito jur√≠dico, y es que ya existe software que ayuda a los abogados a gestionar documentaci√≥n ingente, a encontrar los argumentos m√°s utilizados por un juez o que canaliza los conflictos entre los empresarios y los consumidores. Nuestra disciplina no es ajena a esta realidad, tal como han demostrado los diversos autores que, bajo la direcci√≥n de Ana Felicitas Mu√Īoz P√©rez, escribieron Revoluci√≥n digital, Derecho mercantil y token econom√≠a (Tecnos, Madrid, 2019).

El libro Algorithms and law (Cambridge University Press, Cambridge, 2020) gira en torno a la inteligencia artificial, los algoritmos y los robots. Se trata de una obra colectiva que re√ļne las aportaciones de doce juristas, mayoritariamente profesores de universidad. A lo largo de diez cap√≠tulos analizan los retos conceptuales y pr√°cticos que genera la inteligencia artificial en el √°mbito jur√≠dico. Los coordinadores son Martin Ebers y Susana Navas. El primero es profesor de Derecho de la Tecnolog√≠a y la Informaci√≥n en la Universidad de Tartu (Estonia) y Privatdozent en la Universidad von Humboldt de Berl√≠n, adem√°s de un colaborador asiduo de la Comisi√≥n Europea en Derecho privado y Derecho del consumo comunitarios. Susana Navas es catedr√°tica de Derecho civil en la Universidad Aut√≥noma de Barcelona, gran compa√Īera, y autora de m√ļltiples publicaciones sobre el binomio derecho y tecnolog√≠a, adem√°s de otros temas propios de su especialidad acad√©mica.

2. La obra empieza con un art√≠culo introductorio de Sami Haddani y Dennis Knobbe (‚ÄúRobotics and artificial intelligence. The present and future vision‚ÄĚ) en el que repasan la evoluci√≥n de las ‚Äúm√°quinas inteligentes‚ÄĚ a lo largo de la historia hasta llegar a los robots actuales y a la inteligencia artificial, respecto de los que nos explican c√≥mo ‚Äúaprenden‚ÄĚ y subrayan la necesidad de fiabilidad y seguridad. Tambi√©n exponen cu√°les pueden ser sus aplicaciones m√°s novedosas, en un futuro cercano, y los retos que se presentar√°n. Concluyen que todav√≠a falta mucho para estar rodeados de robots que interact√ļan ‚Äúamigablemente‚ÄĚ con los humanos.

Martin Ebbers es el autor del segundo cap√≠tulo, titulado ‚ÄúRegulating AI and robotics: ethical and legal challenges‚ÄĚ. Se trata de una contribuci√≥n excelente, a pesar de su longitud, en la que el autor empieza explicando las cuestiones √©ticas y legales m√°s importantes que generan los algoritmos y la inteligencia artificial. Por ejemplo, subraya los problemas que se derivan de la interconectividad, la opacidad o la autonom√≠a de los algoritmos, de la inteligencia artificial y de los robots. Presenta las cuestiones √©ticas que suscita la sustituci√≥n de seres humanos por m√°quinas o la conexi√≥n de los cerebros a los ordenadores. Alude a las dudas existentes sobre la responsabilidad por los da√Īos generados por las m√°quinas que aprenden por s√≠ mismas y el riesgo de utilizar algoritmos para manipular a las personas, tanto en el √°mbito empresarial como pol√≠tico. A continuaci√≥n expone panor√°micamente las principales iniciativas legislativas que existen en los √°mbitos internacional (Consejo de Europa, OCDE y Naciones Unidas), europeo y empresarial. Y termina con unas reflexiones sobre los temas que deber√≠an regularse y las opciones del legislador. As√≠, advierte en contra de una normativa prematura que puede inhibir la innovaci√≥n y apuesta por una investigaci√≥n comprometida con los derechos y libertades fundamentales.

La opacidad de los algoritmos es el objeto de la contribuci√≥n de Mario Martini, profesor de la Deutsche Universit√§t f√ľr Verwaltungwissenschaften Speyer, entre otros cargos. En el cap√≠tulo ‚ÄúRegulating algorithms: how to demystify the alchemy of Code?‚ÄĚ, analiza los problemas que genera la opacidad de los algoritmos (opacidad, discriminaci√≥n, monopolizaci√≥n del mercado y del conocimiento), las soluciones legislativas actualmente existentes y las que podr√≠an adoptarse. Se muestra muy cr√≠tico con el Reglamento General de Protecci√≥n de Datos y propone un modelo regulatorio con cuatro pasos: instrumentos normativos preventivos, gesti√≥n de los riesgos existentes, protecci√≥n ex post facto, y elaboraci√≥n de c√≥digos de responsabilidad algor√≠tmica.

La autora de la cuarta contribuci√≥n es Diana Sancho, profesora de la Universidad de Leicester, que centra su atenci√≥n en los procesos automatizados de toma de decisiones (‚ÄúAutomated decision-making under article 22 GDPR: towards a more substantial regime for solely automated-making‚ÄĚ). Empieza explicando qu√© son y cu√°les son sus principales riesgos, como explotar las debilidades de los consumidores. A efectos de protegerles analiza el art√≠culo 22 del Reglamento General de Protecci√≥n de Datos, a la luz de la interpretaci√≥n que ofrece el Comit√© Europeo de Protecci√≥n de Datos (WP29) y en relaci√≥n con los art√≠culos 13.2.f, 14.2.g y 15.1.h de la misma norma. Alaba la ex√©gesis del Comit√© referido.

Los dos siguientes cap√≠tulos versan sobre la responsabilidad civil por los da√Īos causados por robots inteligentes. Susana Navas presta mayor atenci√≥n a la responsabilidad del fabricante. Empieza su discurso con el concepto y la clasificaci√≥n de los robots, tanto desde una perspectiva t√©cnica como jur√≠dica. Y tambi√©n repasa la normativa existente. Continua con unas reflexiones sobre la responsabilidad del propietario del robot y rechaza utilizar el r√©gimen de la responsabilidad vicaria, pues considera que los robots se asemejan m√°s a una cosa peligrosa que a un auxiliar. Acto seguido valora la aplicaci√≥n de la Directiva 85/374/CEE, que disciplina la responsabilidad sobre productos defectuosos. Concluye que no se adapta a la realidad actual ni a la evoluci√≥n t√©cnica que se avecina, como revelan m√ļltiples informes, por lo que es necesaria su modificaci√≥n o novaci√≥n.

Ruth Janal, profesora de Derecho civil, propiedad intelectual y Derecho del comercio en la Universidad de Bayreuth, se explaya sobre la responsabilidad extracontractual por los il√≠citos cometidos por los sistemas aut√≥nomos. Tras explicar que pueden generar nuevas categor√≠as de da√Īos, expone quienes pueden ser los posibles responsables (el usuario del sistema, el propietario, el guardi√°n [keeper], el fabricante y el operador). Dada la ausencia de unas normas espec√≠ficas, decide proponer un sistema de responsabilidad para los il√≠citos generados por la inteligencia artificial. Para ello examina brevemente los los reg√≠menes de responsabilidad franc√©s, ingl√©s y alem√°n por culpa, por los da√Īos ocasionados por bienes, por los auxiliares y por los menores. Su propuesta var√≠a en funci√≥n de la persona que deba pechar con la responsabilidad, aunque mayoritariamente apuesta por la objetiva.

El libro cambia bruscamente de direcci√≥n, pues el cap√≠tulo s√©ptimo tiene por objeto el control de los algoritmos en la negociaci√≥n de valores mobiliarios. Su autor es Gerald Spindler, profesor de la Universidad de G√∂ttingen, que centra su atenci√≥n el r√©gimen normativo comunitario y alem√°n de la llamada ‚Äúnegociaci√≥n de alta frecuencia‚ÄĚ (hing-frequency trading). Considera que la legislaci√≥n especial existente (requisitos de organizaci√≥n y r√©gimen de los controles) puede servir de modelo para otros √°mbitos.

A continuaci√≥n Susana Navas diserta sobre la propiedad intelectual de las obras creadas por algoritmos (‚ÄúCreativity of algorithms and copyright law‚ÄĚ). Empieza examinando el concepto y tipos de creatividad para determinar si los seres humanos tienen la exclusiva sobre la misma, o si puede tambi√©n atribuirse a la inteligencia artificial. Acto seguido, explica y clasifica las obras de arte realizadas a trav√©s algoritmos. En tercer lugar analiza la protecci√≥n de las obras creadas por ellos; en particular, qu√© requisitos son necesarios y qui√©n ser√≠a el titular de los derechos que se originaran. Concluye proponiendo el cambio del r√©gimen jur√≠dico de los derechos de autor para dar protecci√≥n a las obras creadas por algoritmos.

En el cap√≠tulo nueve (‚ÄúWake neutrality‚Äô of artificial intelligence devices‚ÄĚ), los estadounidenses Brian Subirana, Renwick Bivings y Sanjay Sarma estudian los altavoces inteligentes (Open Conversational Commerce Devices), como Alexa u Ok Google. En particular, examinan las opciones legislativas para conseguir la neutralidad en los dispositivos inteligentes de conversaci√≥n, a fin de lograr un equilibrio entre los beneficios de la tecnolog√≠a, la protecci√≥n de los derechos humanos (la intimidad, por ejemplo) y el cumplimiento de la ley (i.e. la normativa tuitiva del consumidor). As√≠ analizan c√≥mo conseguir que se comporten de forma neutral y, por ejemplo, no sean sesgados o discriminatorios. Proponen diversos requisitos para alcanzar ese objetivo y consideran que el blockchain y los llamados contratos ‚Äúinteligentes‚ÄĚ pueden ser de gran utilidad. Igualmente, sostienen que hay que incidir en la arquitectura de la inteligencia artificial.

Cierra el libro el cap√≠tulo de Bj√∂rn Steinr√∂tter sobre el marco jur√≠dico de los datos personales y no personales (‚ÄúThe (envisaged) Legal Framework for commercialization of digital data within the EU: Data protection law and data economic law as a conflicted basis for algorithm-based products and services‚ÄĚ). El joven profesor de la Universidad de Potsdam denuncia el conflicto que se produce entre los objetivos esenciales de sus reg√≠menes jur√≠dicos: la protecci√≥n de la intimidad y la libre circulaci√≥n. Empieza su contribuci√≥n con la exposici√≥n sobre la relaci√≥n entre datos y algoritmos y la definici√≥n de datos digitales. Seguidamente expone el r√©gimen jur√≠dico comunitario b√°sico de los datos no personales, que esencialmente persigue agilizar su circulaci√≥n y uso, aunque la evoluci√≥n t√©cnica propicia que sus operadores disfruten de exclusividad. Despu√©s hace lo mismo con la normativa sobre los datos personales, cuya finalidad es proteger al titular de los datos. Y concluye que se genera un conflicto que no es posible harmonizar.

3. El libro coordinado por Susana Navas y Martin Ebers es altamente recomendable, pues analiza con rigor y profundidad algunos de los principales retos de la inteligencia artificial, los algoritmos y los robots en el √°mbito jur√≠dico. Como obra colectiva que es, resulta heterog√©nea, pues cada autor tiene su propio estilo literario y metodolog√≠a. Pero, a pesar de las diferencias, los cap√≠tulos tienen una aproximaci√≥n similar, lo que da coherencia a la obra. Se empieza introduciendo la dimensi√≥n t√©cnica o pr√°ctica del tema objeto de estudio para proceder luego al an√°lisis jur√≠dico. En cuanto al √ļltimo, es usual que presenten la normativa existente, valoren su aplicaci√≥n, expongan los problemas que genera y realicen propuestas de mejora. Interesa subrayar que el libro se centra sobre todo en el Derecho vigente en la Uni√≥n Europea, aunque no necesariamente en el comunitario.

Los autores son reconocidos especialistas en la materia, que cuentan con una impecable trayectoria investigadora. Como hemos dicho, la mayor√≠a trabaja en universidades alemanes, pero tambi√©n hay dos profesoras espa√Īolas, una que imparte docencia en Barcelona y otra en Leicester, y tres estadounidenses. Esta diversidad no perjudica la obra, sino que enriquece su contenido.

El rigor y la profundidad de las diez contribuciones de los doce autores determina que el nivel sea alto. En efecto, no estamos ante una obra introductoria, que ilustre al lector los rudimentos b√°sicos de la materia. Tanto la tem√°tica como la lengua dificultan la inteligencia del libro, pero el esfuerzo -como casi siempre- merece la pena.

Evidentemente hay aspectos mejorables. Uno de ellos es una mayor sistem√°tica de contenidos. Los cap√≠tulos est√°n relacionados y guardan coherencia entre s√≠, pero se echa de menos un hilo conductor m√°s expl√≠cito. Igualmente, hay cuestiones que se repiten en varios cap√≠tulos, como el tema de la posibilidad de ‚Äúapropiarse‚ÄĚ de los datos a trav√©s de derechos de exclusiva o el riesgo que genera para la competencia la negativa de las grandes empresas tecnol√≥gicas a compartir los datos que utilizan. Pero esta repetici√≥n no es perjudicial, pues cada autor aporta su visi√≥n. Y ninguna de estas objeciones, si es que pueden considerase tales, empa√Īa la calidad de la obra, que es excelente. De ah√≠ que no dude en recomendarla.

About Carles Górriz López

Professor Titular de Dret Mercantil. Aficionat al cine, a la literatura i a fer esport.
This entry was posted in derecho y tecnología and tagged , , , . Bookmark the permalink.

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.