Sobre el evento
El pensamiento crítico sobre los impactos sociales de la tecnología se vuelve urgente, particularmente en un escenario de tecnologías emergentes como la inteligencia artificial y la automatización algorítmica. La digitalización global continúa ampliando la brecha de desigualdad, puesto que la digitalización no ocurre por igual en todo el mundo.
Este acontecimiento tiene como objetivo explorar como construir una transición digital que no deje a nadie atrás, proteja y refuerce los derechos humanos en la era digital y coloque tanto a las personas como el planeta en el centro del despliegue tecnológico.
Contará con destacados pensadores y makers que debatirán, identificarán y abordarán los desafíos a los que se enfrentan nuestras sociedades desde una perspectiva tecnológica centrada en el ser humano, a través de temas como Inclusión Digital, Inteligencia Artificial Ética y Derechos Digitales.
¿Cuándo?
Lunes 15 de noviembre de 2021.
De 9.30 h a 18.30 h (CET)
¿Dónde?
Hospital de la Santa Creu y Sant Pau, Barcelona.
Speakers
Carme Artigas
Secretary of State for Digitization and Artificial Intelligence, Government of Spain
Laia Bonet
Deputy Mayor of Barcelona for the 2030 Agenda, the Digital Transition and International Relations
Carlos Grau
CEO Mobile World Capital Barcelona
Cristina Colom
Digital Future Society Director
Sonia Jorge
Executive Director, Alliance for Affordable Internet (A4AI), Web Foundation
Carissa Veliz
"Researcher, philospher, writer"- Institute for Ethics in AI, University of Oxford
Delphine Jamet
Vice President in Charge of Digital at Bordeaux Métropole
Morten Meyerhoff
EGOV Advisor, UNU-EGOV
Michael Donaldson
CTO -City of Barcelona
Nerea Luis
Artificial Intelligence Lead at Singular
Gemma Galdón
CEO & Founder -ETICAS
Gianluca Misuraca
Team Leader and Key Expert on AI Diplomacy & Strategic Communication
John Paul Farmer
New York City's CTO
Renata Ávila
CEO at Open Knowledge Foundation
Lucia Velasco
ONTSI Director
Werner Stengg
Digital Expert, Cabinet of Executive Vice-President Margrethe Vestager, European Commission
Roos Vermeij
Deputy Mayor for Economy, Districts & Small Localities, Municipality of Rotterdam
Liliana Arroyo
Researcher & lecturer – Esade
Brando Benifei
Rapporteur on the AI Act, Head of the PD delegatio – European Parliament (MEP)
Ramon Roca
President – Fundació Guifi.net
Anne Kaun
Researcher and lecturer at Södertorn University
David Franquesa
CEO, Co-Director – Usody, eReuse
Núria Oliver
Scientific Director ELLIS Unit Alicante Foundation
Judit Batayé
Director of Catalunya TECH friendly
Amos Toh
Senior Researcher on AI at Human Rights Watch
Agustí Cerrillo
Catedrático de derecho administrativo – UOC
Simon Chignard
Expert on data governance at UIA (Urban Innovative Actions) and Senior Lecturer at SciencesPo
Cecilio Angulo
Full Professor at Universitat Politècnica de Catalunya
Ricardo Baeza-Yates
Director of Reserch at Institute for Experiential AI, Northeastern University
Judith Membrives i Llorens
Digital Transformation, Tech Sovereignty and AI advocac at Lafede.cat and Assistant Lecturer at UOC
Jackson Morgan
O.team Consultant
Simona Levi
Co-founder – Xnet and15MpaRato
Raquel Jorge Ricart
Policy Analyst – Technology, Digital and Cyber Policy at Elcano Royal Institute
Javier Creus
Founder of Ideas for Change
Belén Santa Cruz
Cabinet Adviser at Secretary of State of Digitalization and Artificial Intelligence
Andrea G. Rodríguez
Lead Researcher -CIDOB
Marc Perez-Batlle
Innovation Manager at Barcelona City Council
Moderadores
Pipo Serrano
Master of Ceremonies: Journalist; Head of Innovation & New Business at Broadcaster
Carles Planas
Moderator. Tech Journalist, El Periódico
Thais Ruiz de Ávila
Moderator. Founder & CEO – Digital Fems
Carina Lopes
Moderator. Head of Digital Future Society Think Tank
Melissa Heikkilä
Moderator. AI correspondent, Politico Europe
Jordi Vaquer
Moderator. Open Society Foundations
Olivia Blanchard
Moderator. Researcher Digital Future Society Think Tank
María Celia Fernández Aller
Moderator. Professor of "Social, Ethical and Legal Issues” at Technical University of Madrid
Federico Ruiz
Moderator. Head of Spain's 5G National Observatory, MWC
Programa
| 9:30 | CEREMONIA DE APERTURA
|
|
| 10:00 | KEYNOTE CONVERSATION: HUMAN RIGHTS IN THE DIGITAL AGE
|
|
| 10:30 | PANEL: DIGITAL TRANSFORMATION & CITIES
Welcome Address: Cristina Colom, Digital Future Society Director
Moderadora: Laia Bonet, Deputy Mayor of Barcelona for the 2030 Agenda, the Digital Transition and International Relations |
|
| 11:30 | Descanso y café |
|
| 12:00 | PUBLIC POLICIES AGAINST THE DIGITAL DIVIDE
Moderadora: Carina Lopes, Head of Digital |
ALGORITHM DEMOCRACY
Moderador: Carles Planas, Tech Journalist, El Periódico |
| 12:45 | Descanso | |
| 13:00 | FACIAL RECOGNITION TECHNOLOGIES: SECURING RESPONSIBLE USES IN URBAN ENVIRONMENTS
Moderadora: Melissa Heikkila, AI correspondent, Politico Europe |
COMMUNITY APPROACH TO THE DIGITAL DIVIDE
Moderadora: Thais Ruiz de Alda, Founder & CEO of Digital Fems |
| 13:45 | Descanso para comer | |
KEYNOTE CONVERSATION: HUMAN RIGHTS IN THE DIGITAL AGE
A medida que el mundo se digitaliza debido a la rápida expansión de las infraestructuras de comunicación digital y la adopción exponencial de la tecnología digital, también lo hace la necesidad de que se respeten nuestros derechos. Las tecnologías digitales proporcionan nuevos medios para ejercer los derechos humanos pero, demasiado frecuentemente, también se utilizan para transgredirlos. Por lo tanto, estas han transformado los medios a través de los cuales se ejercen y se infringen los derechos humanos en todo el mundo. Diariamente surgen nuevos ejemplos de cómo las tecnologías digitales juegan un papel en socavar los derechos humanos y las libertades, en materia de protección de datos y problemas de privacidad, identidad digital, uso de tecnologías de vigilancia, o violencia y acoso en línea, entre otros. En este contexto, esta sesión tiene como objetivo explorar cómo el movimiento de derechos humanos puede ponerse al día con la realidad digital en la que operamos.
PANEL: THE ROLE OF CITIES IN BUILDING AN INCLUSIVE, SAFE AND RESPONSIBLE DIGITAL TRANSFORMATION
Un informe reciente de las Naciones Unidas ha destacado que las tecnologías digitales, innegables y en constante crecimiento, están impulsando una profunda transformación en la forma en que nuestras economías están organizadas y cómo nos relacionamos entre nosotros y con las instituciones públicas. Este camino de la aceleración digital está dando forma a los servicios, procedimientos y productos públicos y privados, generando ganancias en conveniencia y eficiencia, pero también riesgos potenciales, e incluso reales, a nivel individual o social. Los gobiernos locales son parte de esta transformación global y aprovechan los diferentes impulsores tecnológicos para implementar nuevas formas de gobernanza y prestación de servicios. Esto puede implicar gestión en tiempo real, inteligencia artificial y toma de decisiones algorítmicas, análisis de big data, entre otros. Los gobiernos locales también pueden ser pioneros en nuestra búsqueda de una sociedad digital que beneficie a todos, no deje a nadie atrás y amplíe la agencia individual y los derechos y libertades democráticos. Las iniciativas innovadoras adoptadas a nivel local (en términos de uso responsable de tecnologías, compromisos sobre altos estándares de protección de la privacidad, inclusión digital o prohibición de ciertas soluciones siguiendo principios de precaución) pueden tener un impacto enorme en la forma en que la tecnología digital toma forma a nivel mundial. El impacto de la acción local puede ser incluso mayor cuando los municipios trabajan de manera coordinada. Esta sesión es una exploración de la experiencia de varios gobiernos municipales, comprometidos con hacer realidad una transformación digital sólida, y cuáles son los principios, marcos y acciones que persigue una sociedad digital inclusiva.
PUBLIC POLICIES AGAINST THE DIGITAL DIVIDE
La tecnología se ha convertido en un elemento esencial de la vida cotidiana, y su existencia y uso tienen un impacto significativo en la capacidad de las personas para participar plenamente en la sociedad en general y, más específicamente, en áreas esenciales como educación, empleo, gobierno, participación ciudadana y socialización. Lamentablemente, al mismo tiempo, existe una brecha creciente, una nueva forma de división o exclusión, que separa gradualmente a quienes pueden obtener múltiples beneficios de la sociedad digital y a quienes no. Por lo tanto, a medida que la actividad digital y on-line aumenta a nivel mundial, también aumenta la brecha digital y todas las formas en que se manifiesta la desigualdad digital. Dado que esta desigualdad es un fenómeno multifacético y se concreta en diferentes niveles, se requieren políticas activas y procesos de diseño conscientes para enfrentarla, tanto a nivel local como global. En este marco, esta sesión busca ilustrar formas específicas de intervención pública en contextos de exclusión digital, discutiendo la forma en que las políticas públicas están abordando el tema de manera multidimensional, abordando no solo la conectividad de acceso, sino también la asequibilidad, la usabilidad y la adquisición de habilidades.
ALGORITHM DEMOCRACY
Un informe reciente de las Naciones Unidas ha destacado los innegables y crecientes impactos de las tecnologías de IA en el ejercicio del derecho a la privacidad y otros derechos humanos. Este es solo un nuevo hito de un trabajo y una evaluación de mucho tiempo sobre cómo la IA genera desafíos cruciales para el futuro próximo, si no ya para el hoy. El uso cada vez mayor por parte de actores públicos y privados de la IA, incluida la elaboración de perfiles, la toma de decisiones automatizada y las tecnologías de aprendizaje automático, afecta el disfrute del derecho a la privacidad y los derechos asociados, e incluso da forma a una nueva comprensión de lo que significa la privacidad y cómo hacerlo. construir marcos de protección. Además, los algoritmos de decisión automatizados están propagando actualmente la discriminación de género y raza en toda nuestra comunidad global. A pesar de todo eso, los algoritmos no son intrínsecamente malos. Existen enormes oportunidades para aprovechar el valor de los datos y el poder de los algoritmos para generar beneficios en la sociedad, pero existe la necesidad de enfrentar estos potenciales dentro de los principios democráticos. A través de esta sesión, exploraremos diferentes formas de abordar los problemas fundamentales asociados con la IA, buscando soluciones e ideas para superar la discriminación habilitada por la IA, y herramientas para lograr una gobernanza democrática, transparente y responsable de los esquemas de IA.
FACIAL RECOGNITION TECHNOLOGIES: SECURING RESPONSIBLE USES IN URBAN ENVIRONMENTS
Las tecnologías de reconocimiento facial a menudo se señalan como una de las aplicaciones de inteligencia artificial con mayor riesgo. Su uso cada vez mayor, sin una evaluación pública adecuada, se ha convertido en un debate a nivel mundial sobre la vigilancia biométrica, enfrentando una fuerte oposición y una reacción emergente dentro del movimiento de derechos digitales. Específicamente, su uso ha sido recientemente objeto de escrutinio gubernamental tanto en Europa – como en el Reino Unido – y Estados Unidos. Si bien existen beneficios reales en el uso de sistemas de reconocimiento facial para la seguridad pública, su omnipresencia e intrusión, así como su susceptibilidad al error, dan lugar a varias preocupaciones de derechos fundamentales. Por lo tanto, estos sistemas deben regularse para garantizar que existan suficientes salvaguardias para proteger la privacidad y las libertades de las personas, y se deben implementar medidas de rendición de cuentas. A lo largo de esta sesión, discutiremos los riesgos ocultos del reconocimiento facial, así como los criterios para evaluar la ética de dichos sistemas. Además, exploraremos una serie de experiencias en todo el mundo sobre la orientación sobre su uso o las acciones que algunas ciudades están tomando para regularlo.
COMMUNITY APPROACH TO THE DIGITAL DIVIDE
La brecha digital es un fenómeno multifacético que sigue siendo un importante debate de políticas públicas que abarca cuestiones sociales, económicas y políticas. Si bien los gobiernos de todo el mundo han reconocido el problema de la exclusión digital durante muchos años, las soluciones sostenibles y escalables han luchado por emerger. En este contexto, es necesario un enfoque conjunto a través de iniciativas lideradas por la comunidad para abordar la brecha digital, ya que no podemos confiar solo en los marcos públicos para abordar los riesgos de la desigualdad digital. Esta sesión tiene como objetivo discutir y explorar diferentes proyectos, acciones, iniciativas, mejores prácticas y enfoques comunitarios que abordan la brecha digital en contextos y situaciones particulares.
| 15:00 | KEYNOTE CONVERSATION: AI IN PRACTICE: ETHICAL CHALLENGES AHEAD
KEYNOTE: WHAT WE NEED TO MAKE EVERYBODY CONNECTED
|
|
| 15:45 | Pausa y café | |
| 16:15 | OPERATIONALIZING ETHICS IN AI: REGULATORY STANDARDS
Moderadora: María Celia Fernández Aller, Professor of «Social, Etical and Legal Issues” at Technical University of Madrid. |
DIGITAL RIGHTS, DATA AND PRIVACY
Moderador: Jordi Vaquer, Director for Global Foresight and Analysis at Open Society Foundations |
| 17:00 | Descanso | |
| 17:15 | UNPACKING THE USE OF AI BIAS: GENDER, RACE AND CLASS
Moderadora: Olivia Blanchard, Researcher Digital Future Society Think Tank |
DIGITAL PUBLIC INFRASTRUCTURES: DATA AND SOFTWARE
Moderador: Federico Ruíz, Head of Spain’s 5G National Observatory, MWC |
| 18:15 | CIERRE INSTITUCIONAL
|
|
KEYNOTE CONVERSATION: AI IN PRACTICE: ETHICAL CHALLENGES AHEAD
La inteligencia artificial gana cada vez más usos prácticos y se perfila como motor de diferentes innovaciones en la toma de decisiones a nivel público y privado. También es un concepto atractivo para los titulares, pero aún carece de una comprensión clara de sus impactos sociales e individuales. Necesitamos crear conciencia sobre los principios que necesitamos para construir soluciones tecnológicas más justas y éticas impulsadas por la IA. La sesión explorará cómo construir una mejor comprensión social sobre lo que significa la computación de IA en nuestra sociedad digital.
OPERATIONALIZING ETHICS IN AI: REGULATORY STANDARDS
Hoy en día, las tecnologías y herramientas de inteligencia artificial desempeñan un papel clave en todos los aspectos de nuestra vida, ya que se han convertido en parte de nuestra vida cotidiana, desde la atención médica hasta la banca on-line, las aplicaciones de viajes compartidos, los asistentes inteligentes o incluso la aplicación de la ley. Los impactos negativos de la IA ya no son ciencia ficción, y diferentes proyectos de investigación y evaluación han ganado conciencia social sobre cómo los mecanismos y procedimientos relacionados con la IA ya están generando impactos negativos. Estos desafíos han crecido rápidamente, desde el sesgo algorítmico y la privacidad de los datos hasta la transparencia y la responsabilidad. La IA es de hecho una oportunidad, pero el desafío es establecer una nueva dirección que favorezca su uso inclusivo, resiliente y sostenible por parte de los gobiernos locales. ¿Cómo se puede lograr esto y a través de qué marcos? Durante esta sesión, abordaremos y analizaremos diferentes herramientas y acciones que se están implementando en algunas ciudades líderes que buscan estándares éticos para garantizar que la IA sea segura, legal, responsable, justa, inclusiva y en línea con los derechos y libertades fundamentales, como el Algorithm and IA Register de Amsterdam o Helsinki, o las medidas del gobierno de Barcelona para una estrategia de algoritmos y datos municipales enfocada a una promoción ética de la IA.
DIGITAL RIGHTS, DATA AND PRIVACY
En las ciudades, los dispositivos inteligentes conectados, los sensores y los objetos producen, recopilan y transmiten una cantidad cada vez mayor de datos personales y no personales. Esto significa que los riesgos asociados con la recopilación de estos datos también han aumentado sustancialmente en los últimos años a medida que la informática generalizada se convierte en una realidad. Este fenómeno ha traído nuevas consecuencias –como la hiper-targetización a través del análisis de datos, el reconocimiento facial y la elaboración de perfiles individuales–, y también ha puesto de relieve los requisitos potenciales para el establecimiento de marcos regulatorios para proteger los derechos digitales. A lo largo de esta sesión, obtendremos información sobre las acciones, políticas e iniciativas que trabajan hacia la reducción de las desigualdades causadas por la digitalización, implementando tecnología de manera que proteja la privacidad de los ciudadanos en la nueva era de Internet y la Inteligencia Artificial. En este contexto, se necesita una comprensión orientada a los derechos de las cuestiones de privacidad en el contexto digital para garantizar derechos exigibles para exigir una protección proactiva.
UNPACKING THE USE OF AI: BIAS, GENDER, RACE AND POVERTY
La inteligencia artificial es una tecnología estratégica y de rápida evolución con enormes oportunidades. Sin embargo, algunos de sus usos plantean riesgos específicos significativos para la inclusión social y los derechos y libertades fundamentales. Algunos estudios han demostrado problemas con la IA, como conjuntos de datos incorrectos y sesgos del mundo real que se infiltran en los algoritmos. Dado que la inteligencia humana está marcada por un sesgo intrínseco en la toma de decisiones, estas características también se pueden encontrar en productos de IA que funcionan con inteligencia creada por humanos. Estos fenómenos de prejuicio y discriminación (género, raza, etc.) son una amenaza para los derechos humanos universales y, sobre todo, para las personas expuestas a la toma de decisiones a través de sistemas automatizados. A lo largo de esta sesión exploraremos en mayor profundidad los desafíos que plantea el uso de sistemas de IA sobre su juicio ético, protección igualitaria, derechos económicos y libertades, y buscaremos respuestas sobre cómo podemos revertir estas tendencias para que la IA genere confianza.
DIGITAL PUBLIC INFRASTRUCTURES: DATA AND SOFTWARE
Las infraestructuras públicas digitales son las infraestructuras que nos permiten involucrarnos en la vida pública y cívica en los espacios digitales, ya que incluyen herramientas que todos necesitamos utilizar para hacer que los espacios digitales sean accesibles y utilizables. La construcción de sistemas digitales seguros mejora el acceso a los servicios públicos, nos ayuda a comprender y responder mejor a la crisis climática, puede mitigar y prevenir futuras pandemias y también puede ser útil para cerrar la brecha digital. En este contexto, Barcelona, entre muchas otras administraciones públicas, se esfuerza por construir una infraestructura pública digital que permita a las administraciones y servicios públicos –incluidos los centros educativos– garantizar el derecho a la privacidad de los ciudadanos. En términos de empoderamiento digital de nuestras sociedades, vigilar la soberanía digital de las infraestructuras públicas mediadas digitalmente es crucial para asegurar el valor público de cualquier servicio. Esta sesión nos permitirá explorar y descubrir diferentes acciones e iniciativas que los gobiernos están llevando a cabo para construir un patrimonio digital más equitativo, abierto y seguro para todos.
Lugar
EMAIL
dfs.technicaloffice@mobileworldcapital.com
TELÉFONO
(+34) 93 487 08 17
DIRECCIÓN
Recinte Modernista de Sant Pau, Calle de San Antoni Maria Claret, Barcelona, España
Galería
