Imagen demo
Logo Universidad CEU San Pablo
Sala de prensa
Noticia
Noticias

Neurociencia, Inteligencia Artificial y Derechos Fundamentales

05/07/2022
Imagen de la noticia

La South EU Google Data Governance Chair celebró en Madrid su II Conferencia Internacional bajo el título ‘Neurociencia, Inteligencia Artificial y Derechos Fundamentales’ con la participación de expertos nacionales e internacionales en diferentes áreas de conocimiento.

La conferencia fue inaugurada por Rosa Visiedo, rectora de la Universidad CEU San Pablo; Encarnación Roca, vicepresidenta emérita del Tribunal Constitucional, Académica de Número y Presidenta de la Sección de Derecho de las Tecnologías de la Información y la Comunicación de la Real Academia de Jurisprudencia y Legislación; Miguel Escassi, director de Políticas Públicas y Relaciones Institucionales de Google España y Portugal, y José Luis Piñar, catedrático de Derecho Administrativo en la CEU USP y coordinador del Board de la South EU Google Data Governance Chair.

Rosa Visiedo ha destacado “los enormes beneficios que tanto la Inteligencia Artificial como la neurociencia están trayendo para la sociedad” y ha asegurado que, a día de hoy, “es inimaginable una sociedad sin la presencia de la Inteligencia Artificial”. Por su parte, Encarnación Roca ha señalado la importancia del buen uso de las tecnologías así como de la necesaria reflexión ante una posible afectación en los Derechos Fundamentales.

Finalmente, Miguel Escassi ha abogado por una Inteligencia Artificial humanista y ética y aseguró que el principal compromiso de Google es "hacer accesible la información a escala global”, poniendo en valor la importancia de que “la Inteligencia Artificial hable en español, pues “desde Google –ha subrayado– creemos que la Inteligencia Artificial puede ser esencial para la recuperación del tejido empresarial”. En este sentido, puso en valor el lanzamiento del Proyecto LEIA por parte de la RAE, del que Google es partícipe, y ha calificado de “oportunidad única” la apuesta de España en Inteligencia Artificial a través del reciente lanzamiento del sandbox y del desarrollo de la Agenda Digital.


‘Neurociencia e Inteligencia Artificial’

Durante la Conferencia ‘Neurociencia e Inteligencia Artificial’, Javier Bernácer, director científico del Centro Internacional de Neurociencia y Ética (CINET) e Investigador del Mind-Brain Group (Institute for Culture and Society de la Universidad de Navarra), explicó que neurociencia e Inteligencia Artificial deben establecer “sinergias en panoramas realistas mediante el conocimiento de las capacidades y limitaciones de cada una”, así como dialogar con disciplinas como el Derecho -dentro del marco conceptual de las Humanidades- para garantizar el respeto a las personas.

Incidiendo en esto, Bernácer ha señalado que la neurociencia es un “campo prometedor” en el que queda mucho por avanzar, y matizó que justamente buena parte de estos avances requieren una reconceptualización, donde las humanidades son esenciales.

Bernácer ha concluido destacando los cinco derechos relacionados con la neurotecnología establecidos por el neurobiólogo Rafael Yuste, que habría que incorporar a la Declaración de Derechos Humanos: el derecho a la identidad personal, a la libertad, a la privacidad mental, derecho al acceso equitativo a la mejora cognitiva y el derecho a la protección contra el sesgo algorítmico.


Mesa Redonda

José María Lasalle, consultor, escritor y secretario de Estado de la Sociedad de la Información y Agenda Digital y de Cultura (2011-2018) ha apuntado las posibilidades del Metaverso y alertó del “inquietante trasfondo” que late detrás de esta “simulación que discurre sin debate social” y  cuya comercialización “estará normalizada antes de que se tengan en cuenta las consecuencias”.

Para Lassalle, "corremos el riesgo de que surja una ‘biopolítica’ privada llevada a cabo por las empresas que poseen las infraestructuras que pueden neutralizar la democracia”, por lo que es exigible “una regulación que investigue e identifique iniciativas como el metaverso” para así “configurar un Derecho capaz de “protegernos frente a una realidad metavérsica”.

José Ignacio Torreblanca, director de la Oficina en Madrid del Consejo Europeo de Relaciones Exteriores, ha incidido en el avance de las fake news y su influencia en la polarización de las redes o en la crisis de la democracia representativa, evidenciada por el "declive en el número de personas que creen que las elecciones son libres y legítimas”, a pesar de los esfuerzos de las grandes plataformas.

Torreblanca también alertó de que las dictaduras pueden hacer un mal uso de una ciudadanía empoderada gracias a las nuevas tecnologías en las sociedades democráticas, aunque destacó que la Inteligencia Artificial desarrollada por los Estados puede luchar contra la desinformación. En este sentido, afirmó que los Parlamentos también se están convirtiendo en “infraestructuras críticas”.

Por su parte, José Luis Piñar ha afirmado que, hoy en día, es "impensable” el desarrollo de las personas sin la neurociencia y que el Derecho se enfrenta a situaciones irreales o que implican violaciones de derechos que pasan desapercibidas. Por ello, "el Derecho tiene que dialogar con la técnica para ser capaz de adelantarse a los acontecimientos”.

También ha reflexionado sobre la importancia de la ética y la necesidad de su juridificación, poniendo como ejemplo el Reglamento General de Protección de Datos. En este sentido, señaló que si estamos atentos a lo que ya está ocurriendo en algunas dictaduras "podemos ser conscientes de hasta dónde puede llegar un mal uso de la ciencia” y, de esta forma, "debemos tomar medidas para evitarlas”.

Finalmente, ha matizado que la "neurociencia es clave para el desarrollo de la sociedad actual” y que su desarrollo debe darse "desde el respeto absoluto a los derechos fundamentales".

Por último, Encarnación Roca ha reflexionado sobre la necesidad de que profesores e investigadores universitarios profundicen e incidan en el estudio y análisis de todas estas cuestiones de naturaleza jurídica y de gran actualidad.


Mesa Redonda. ‘What regulation for Neuroscience and Artificial Intelligence? Its implications for Fundamental Rights

Georgios Yannopoulos, profesor asociado en Informática Jurídica y Derecho IT, director del Laboratorio de Derecho e Informática de la Universidad de Atenas y miembro del Board de la South EU Google Data Governance Chair, centró su intervención en señalar que en el ámbito tecnológico no existe un vacío de reglas, sino que es necesario incidir en “cómo se van a aplicar”. Por ello, apostó por considerar "el cambio de la arquitectura y concepción de las normas” para asegurar su correcta implementación.

Por otro lado, ha explicado que nos encontramos en un escenario de “paternalismo liberal”, ya que disponemos de tecnologías que marcan las reglas en las que los usuarios son guiados pero no manipulados.

María da Graça Canto, profesora asistente invitada en Nova School of Law, Profesora Asistente de la Universidad Lusófona (Lisboa) y miembro del Board de la South EU Google Data Governance Chair, ha puesto de relieve que una de las principales medidas para garantizar la legalidad del tratamiento de los datos es el consentimiento y señaló que éste "debe ser específico, entendible, y que asegure la protección de los intereses vitales del interesado".

Reflexionó sobre la posibilidad de considerar aceptable dar nuestro consentimiento para la recopilación de datos mentales de los que el individuo no es consciente o desconoce, y profundizó en torno a los límites morales en la aplicación y en el uso de las nuevas tecnologías.  Para finalizar, se preguntó si los legisladores aceptarían esta barrera de privacidad en "un contexto de regular y reducir el conocimiento y el procesamiento de los datos mentales".

Vincenzo Zeno-Zencovich, profesor en Derecho Comparado de la Universidad RomaTre y miembro del Board de la South EU Google Data Governance Chair, aseguró que hay una convergencia natural entre la neurociencia y la Inteligencia Artificial: “existe una necesidad de procesar grandes cantidades de datos para comprender correctamente cómo funciona el cerebro y su interacción con el resto del cuerpo’’.

Zeno-Zencovich ha abordado los problemas de consentimiento de los ciudadanos en las plataformas digitales y subrayó la necesidad de proteger a los menores. Destacó asimismo que la neurociencia y la Inteligencia Artificial ya están implicadas en el desarrollo de aplicaciones para personas con discapacidades graves o en la detección de enfermedades neurodegenerativas como el Parkinson.

La conferencia ha sido clausurada por Alfonso Martínez-Echevarría, decano de la Facultad de Derecho, y por José Luis Piñar, quienes, tras agradecer la asistencia y la participación a la II Conferencia Internacional, han abogado por la reflexión profunda en todos los temas vinculados a las nuevas tecnologías que pueden tener una afectación directa en los Derechos Fundamentales.


Acerca de la Cátedra South EU Google Data Governance

Creada en 2021, la Cátedra South EU Google Data Governance es un foro europeo de reflexión e investigación sobre gobernanza de datos cuyo objetivo pasa por servir de marco para el análisis sobre los retos futuros a los que se enfrenta la esfera europea en el ámbito de la legislación, en áreas como el Big Data, la Data Driven Innovation, la Inteligencia Artificial y los flujos internacionales de datos. El Board de la South EU Google Data Governance Chair está liderado por José Luis Piñar Mañas, Catedrático de Derecho Administrativo de la Universidad CEU San Pablo de Madrid. El Board está integrado, además, por los profesores Maria da Graça Canto Moniz (Universidad Nova de Lisboa), Georgios Yannopoulos (Universidad de Atenas) y Vincenzo Zeno-Zencovich (Universidad RomaTre).

Palabras clave Neurociencia Inteligencia Artificial Tecnología