Aspectos Éticos y Sociales de la Inteligencia Artificial

Créditos
6
Tipos
Obligatoria
Requisitos
Esta asignatura no tiene requisitos , pero tiene capacidades previas
Departamento
CS
Mail
ia@cs.upc.edu
Este curso cubre las prácticas éticas, legales, socioeconómicas, culturales y de género de la tecnología basada en la Inteligencia Artificial, incluida la equidad, la responsabilidad, los derechos de los datos del usuario, la alineación de valores y la explicabilidad. El marco es la práctica real en Europa.

Profesorado

Responsable

  • Ulises Cortés García (ia@cs.upc.edu)

Horas semanales

Teoría
2
Problemas
2
Laboratorio
0
Aprendizaje dirigido
0
Aprendizaje autónomo
6

Competencias

Competencias Transversales

Transversales

  • CT2 - Sostenibilidad y Compromiso Social. Conocer y comprender la complejidad de los fenómenos económicos y sociales típicos de la sociedad del bienestar; tener capacidad para relacionar el bienestar con la globalización y la sostenibilidad; lograr habilidades para utilizar de forma equilibrada y compatible la técnica, la tecnología, la economía y la sostenibilidad.
  • CT4 [Avaluable] - Trabajo en equipo. Ser capaz de trabajar como miembro de un equipo interdisciplinar, ya sea como un miembro más o realizando tareas de dirección, con la finalidad de contribuir a desarrollar proyectos con pragmatismo y sentido de la responsabilidad, asumiendo compromisos teniendo en cuenta los recursos disponibles.
  • CT8 [Avaluable] - Perspectiva de género. Conocer y comprender, desde el propio ámbito de la titulación, las desigualdades por razón de sexo y género en la sociedad; integrar las diferentes necesidades y preferencias por razón de sexo y de género en el diseño de soluciones y resolución de problemas.

    • Básicas

  • CB1 - Que los estudiantes hayan demostrado poseer y comprender conocimientos en un área de estudio que parte de la base de la educación secundaria general, y se suele encontrar a un nivel que, si bien se apoya en libros de texto avanzados, incluye también algunos aspectos que implican conocimientos procedentes de la vanguardia de su campo de estudio.
  • CB3 - Que los estudiantes tengan la capacidad de reunir e interpretar datos relevantes (normalmente dentro de su área de estudio) para emitir juicios que incluyan una reflexión sobre temas relevantes de índole social, científica o ética.

    • Competencias Técnicas

    Específicas

  • CE15 - Adquirir, formalizar y representar el conocimiento humano en una forma computable para la resolución de problemas mediante un sistema informático en cualquier ámbito de aplicación, particularmente los relacionados con aspectos de computación,percepción y actuación en ambientes o entornos inteligentes.
  • CE16 - Diseñar y evaluar interfaces persona-máquina que garanticen la accesibilidad y usabilidad de los sistemas, servicios y aplicaciones informáticas.
  • CE17 - Desarrollar y evaluar sistemas interactivos y de presentación de información compleja y su aplicación a la resolución de problemas de diseño de interacción persona-computadora y persona-robot.

    • Competencias Técnicas Genéricas

    Genéricas

  • CG5 - Trabajar en equipos y proyectos multidisciplinares relacionados con la inteligencia artificial y la robótica, interactuando fluidamente con ingenieros/as y profesionales de otras disciplinas.
  • CG6 - Identificar oportunidades para aplicaciones innovadoras de la inteligencia artificial y la robótica en entornos tecnológicos en continua evolución.
  • CG7 - Interpretar y aplicar la legislación vigente, así como especificaciones, reglamentos y normas en el ámbito de la inteligencia artificial.
  • CG8 - Observar un ejercicio ético de la profesión en todas sus facetas, aplicando criterios éticos en el diseño de sistemas,algoritmos, experimentos, utilización de datos, de acuerdo con los sistemas éticos recomendados por los organismos nacionales e internacionales, con especial énfasis en seguridad, robustez, privacidad, transparencia, trazabilidad, prevención de sesgos (de raza, género, religión, territorio, etc.) y respeto a los derechos humanos.
  • CG9 - Afrontar nuevos retos con una visión amplia de las posibilidades de la carrera profesional en el ámbito de la Inteligencia Artificial. Desarrollar la actividad aplicando criterios de calidad y mejora continua, y actuar con rigor en el desarrollo profesional. Adaptarse a los cambios organizativos o tecnológicos. Trabajar en situaciones de carencia de información y/o con restricciones temporales y/o de recursos.

    • Objetivos

    1. Explorar el papel de la ética en la práctica y la investigación de la inteligencia artificial
      Competencias relacionadas: CB1, CB3, CT2, CT8, CE15, CE16, CE17, CG5, CG8,
    2. Poder desarrollar un conjunto de criterios éticos, legales, socioeconómicos, culturales y de género para el desarrollo de aplicaciones de IA, y evaluar cada una de las aplicaciones identificadas con respecto a estos criterios.
      Competencias relacionadas: CB3, CT4, CT8, CE15, CE16,
    3. Determinar las tecnologí­as de la IA, herramientas, arquitecturas y algoritmos que serán los más adecuados para las aplicaciones industriales.
      Competencias relacionadas: CT4, CT8, CE15, CE16, CE17, CG6, CG5, CG7, CG8, CG9,

    Contenidos

    1. Introducción. Principios éticos
      En este módulo, consideraremos las leyes, las políticas y los principios éticos para regular y gestionar el uso de la IA para el bien común.
    2. Aplicaciones de la Inteligencia Artificial para la Salud y otros dominios relevantes:
      En este módulo, exploraremos las aplicaciones actuales y emergentes de la IA en el cuidado de la salud y otros dominios relevantes. Sus aspectos legales y éticos. En particular, abordaremos los procedimientos de toma de decisiones responsables.
    3. Construyendo un enfoque ELSEC para el uso de IA
      En este módulo, discutiremos cómo otras medidas además de la ley y la política pueden garantizar que la IA mejore el bienestar humano.
    4. Aplicaciones de la Inteligencia Artificial
      En este módulo, exploraremos las aplicaciones actuales y emergentes de la IA en varias aplicaciones de dominio. Las aplicaciones serán la base para una discusión en profundidad y serán el material a evaluar.

    Actividades

    Actividad Acto evaluativo


    Introducción. Principios éticos


    • Teoría: Introducción a la Ética y su trasfondo filosófico. ¿Qué es la ética de la tecnología? La ética de la tecnología es la aplicación del pensamiento ético a las preocupaciones prácticas de la tecnología.
    • Problemas: En este módulo, desarrollaremos un marco que define las condiciones básicas para la responsabilidad a lo largo de todo el ciclo de vida de la IA, desde el diseño responsable hasta la implementación.
    • Aprendizaje autónomo: Lecturas
    Objetivos: 1
    Contenidos:
    Teoría
    8h
    Problemas
    8h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    24h

    Aplicaciones de la inteligencia artificial para la salud:


    • Teoría: En este módulo, abordamos algunas implicaciones ELSEC potenciales de los sistemas basados en IA en el cuidado de la salud. Abordar los problemas de ELSEC en el cuidado de la salud puede ayudar a promover la seguridad, la privacidad y la autonomía del paciente, así como a prevenir consecuencias no deseadas o sesgos en el uso de sistemas de IA.
    • Problemas: Debates dirigidos durante la clase.
    • Aprendizaje autónomo: Lecturas
    Objetivos: 3 1
    Contenidos:
    Teoría
    2h
    Problemas
    2h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    6h

    Construyendo un enfoque ELSEC para el uso de IA


    • Teoría: En este módulo, desarrollamos un marco que define las condiciones básicas para la responsabilidad a lo largo de todo el ciclo de vida de la IA, desde el diseño responsable hasta la implementación.
    • Problemas: Debates dirigidos durante la clase.
    • Aprendizaje autónomo: Lecturas
    Objetivos: 3 2 1
    Contenidos:
    Teoría
    6h
    Problemas
    6h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    18h

    Aplicaciones de la Inteligencia Artificial


    • Teoría: Dilemas éticos en IA: una introducción al estudio filosófico de los dilemas éticos en IA. Discutiremos en profundidad seis aplicaciones tecnológicas reales que pueden ser legal o éticamente problemáticas.
    • Problemas: Debates dirigidos durante la clase.
    • Aprendizaje dirigido: Lecturas
    Objetivos: 3 2 1
    Contenidos:
    Teoría
    12h
    Problemas
    12h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    36h

    Concluciones


    • Teoría: En este módulo, concluimos nuestro curso sobre los aspectos ELSEC de la IA. Reflexionaremos sobre las implicaciones éticas, legales, sociales y económicas de la IA y consideraremos los valores y principios descritos en la Recomendación de la UNESCO sobre la ética de la inteligencia artificial.
    • Problemas: N/A
    • Aprendizaje autónomo: Lectures
    Objetivos: 2
    Contenidos:
    Teoría
    2h
    Problemas
    2h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    6h

    Metodología docente

    Involucrar activamente a los estudiantes. Esto puede implicar invitar a los estudiantes a exponer sus ideas actuales sobre ética o participar en actividades de toma de decisiones éticas antes de que el disertante les presente el contenido por primera vez.


    El profesor selecciona los textos para que coincidan con las necesidades del curso.

    Usaremos estos métodos para llevar el pensamiento ELSEC al salón de clases, conferencias, usando estudios de casos, juegos de roles y discusiones grupales.

    Método de evaluación

    Vamos a pedir a todos los participantes - a través de un cuestionario de evaluación- en qué medida cada uno de ellos cree que el seminario cumplió con los objetivos.

    El curso se evaluará con la entrega de tres trabajos, con valores proporcionales. Algunos de ellos será en equipo y al menos uno será individual que integre los aprendizajes del curso y permita a cada participante demostrar su capacidad para aplicar los conceptos a un caso práctico o problema real.

    Los temas de los trabajos serán renovados en cada edición del curso para garantizar su relevancia y adaptabilidad al desarrollo de la IA y sus aplicaciones.

    Los alumnos recibirán retroalimentación detallada sobre cada trabajo entregado, destacando fortalezas y áreas de mejora.

    Se habilitarán sesiones breves de consulta o tutoría para resolver dudas y apoyar a los participantes en el desarrollo de sus trabajos.



    Transparencia y comunicación:

    Antes de iniciar el curso, se explicará el sistema de evaluación a todos los alumnos.

    Bibliografía

    Básico

    Capacidades previas

    El curso no tiene requisitos previos, sino elementos sólidos de inteligencia artificial y lógica.
    La lectura de la ética nicomaquea de Aristóteles es recomendada