Inteligencia Artificial Responsable

Créditos
3
Tipos
Optativa
Requisitos
Esta asignatura no tiene requisitos , pero tiene capacidades previas
Departamento
CS
Mail
ia@cs.upc.edu
El seminario de IA Responsable (RAI) está diseñado para dotar a los estudiantes de máster de los conocimientos y las habilidades necesarias para investigar, identificar y promover técnicas de Inteligencia Artificial responsable para aplicaciones industriales, garantizando al mismo tiempo que estas tecnologías se desarrollen e implementen de forma coherente con los valores europeos, los derechos fundamentales y los marcos regulatorios más recientes.
Este curso hace especial hincapié en el enfoque de la UE sobre la Inteligencia Artificial, basado en los principios de excelencia, confianza y respeto por los derechos humanos. Los participantes explorarán las implicaciones éticas, legales, económicas, de género y sociales de los sistemas basados en IA, guiados por los valores fundamentales consagrados en el marco ELSEC (Ético, Legal, Social, Económico y Cultural) de la UE, la Carta Europea de los Derechos Fundamentales y los requisitos de la Ley de IA.
Los temas clave abordados incluyen:
Los principios y estándares éticos que deben guiar la investigación y el desarrollo de la IA incluyen la transparencia, la equidad, la no discriminación, la protección de datos y la supervisión humana. El enfoque basado en el riesgo de la Ley de IA, que clasifica los sistemas de IA según su impacto potencial en la seguridad y los derechos fundamentales, impone obligaciones estrictas para las aplicaciones de alto riesgo, incluyendo la evaluación de riesgos, la mitigación y las evaluaciones de impacto en los derechos fundamentales.
La importancia de diseñar una IA centrada en el ser humano y fiable radica en garantizar que los sistemas de IA sean explicables, robustos y respeten la dignidad y la autonomía de todas las personas.
La integración de los valores sociales en los sistemas basados en IA y los retos de integrar el razonamiento ético y la rendición de cuentas en la toma de decisiones automatizada.
Las responsabilidades de los desarrolladores, implementadores y otras partes interesadas de la IA son garantizar que las tecnologías basadas en IA beneficien a la sociedad, minimizando al mismo tiempo los riesgos y previniendo daños.
El contexto social y regulatorio más amplio incluye la promoción de enfoques interdisciplinarios que combinen técnicas responsables basadas en IA con otros campos científicos e industriales para abordar retos complejos en sectores como la sanidad, la educación y la sostenibilidad ambiental. Al finalizar el seminario, los participantes comprenderán a fondo cómo desarrollar y aplicar la IA de forma innovadora y eficaz, cumpliendo además la normativa de la UE, respetando los derechos humanos y los valores democráticos. Este curso busca formar una nueva generación de profesionales de la IA capacitados para liderar en un panorama tecnológico en rápida evolución, manteniendo al mismo tiempo los más altos estándares de responsabilidad e integridad.

Profesorado

Responsable

Otros

Horas semanales

Teoría
2
Problemas
0
Laboratorio
0
Aprendizaje dirigido
0
Aprendizaje autónomo
3.77

Competencias

Competencias Técnicas Genéricas

Genéricas

  • CG1 - Capacidad para proyectar, diseñar e implantar productos, procesos, servicios e instalaciones en todos los ámbitos de la Inteligencia Artificial.

    • Competencias Técnicas de cada especialidad

    Profesionales

  • CEP3 - Capacidad de aplicación de las técnicas de Inteligencia Artificial en entornos tecnológicos e industriales para la mejora de la calidad y la productividad.
  • CEP4 - Capacidad para disenar, redactar y presentar informes sobre proyectos informaticos en el area especifica de Inteligencia Artificial.
  • CEP5 - Capacidad de diseñar nuevas herramientas informáticas y nuevas técnicas de Inteligencia Artificial en el ejercicio profesional.
  • CEP7 - Capacidad de respetar la normativa legal y la deontología en el ejercicio profesional.
  • CEP8 - Capacidad de respetar el entorno ambiental y diseñar y desarrollar sistemas inteligentes sostenibles.

    • Competencias Transversales

    Espíritu emprendedor e innovador

  • CT1 - Conocer y entender la organizacion de una empresa y las ciencias que definen su actividad; capacidad para entender las normas laborales y las relaciones entre la planificacion, las estrategias industriales y comerciales, la calidad y el beneficio.

    • Sostenibilidad y compromiso social

  • CT2 - Conocer y comprender la complejidad de los fenomenos economicos y sociales tipicos de la sociedad del bienestar; capacidad para relacionar el bienestar con la globalizacion y la sostenibilidad; habilidad para utilizar de forma equilibrada y compatible la tecnica, la tecnologia, la economia y la sostenibilidad.

    • Trabajo en equipo

  • CT3 - Ser capaz de trabajar como miembro de un equipo interdisciplinar ya sea como un miembro mas, o realizando tareas de direccion con la finalidad de contribuir a desarrollar proyectos con pragmatismo y sentido de la responsabilidad, asumiendo compromisos teniendo en cuenta los recursos disponibles.

    • Uso solvente de los recursos de información

  • CT4 - Gestionar la adquisicion, la estructuracion, el analisis y la visualizacion de datos e informacion en el ambito de la especialidad y valorar de forma critica los resultados de esta gestion.

    • Razonamiento

  • CT6 - Capacidad de evaluar y analizar de manera razonada y critica sobre situaciones, proyectos, propuestas, informes y estudios de caracter cientifico-tecnico. Capacidad de argumentar las razones que explican o justifican tales situaciones, propuestas, etc.

    • Objetivos

    1. Identificar les tecnologies, eines, arquitectures i algoritmes d'IA més adequats per a aplicacions industrials, garantint que aquestes solucions respectin rigorosament els principis de la Intel·ligència Artificial Responsable, incloent-hi l'ètica, la transparència, la justícia, la responsabilitat, i que compleixin plenament els requisits legals, les normes socials i els estàndards d'igualtat de gènere.
      Competencias relacionadas: CG1, CEP3, CT1, CT2, CT4, CT6,
    2. Ser capaz de desarrollar un conjunto de criterios para el desarrollo de aplicaciones basadas en la IA, y evaluar cada una de las aplicaciones identificadas en cuanto a estos criterios
      Competencias relacionadas: CG1, CEP4, CEP5, CEP7,
    3. Formular recomendaciones éticas a corto y largo plazo para el desarrollo de las aplicaciones industriales de la Inteligencia Artificial y el trabajo en un equipo multidisciplinario
      Competencias relacionadas: CG1, CEP7, CEP8, CT3, CT6,

    Contenidos

    1. IA responsable
      Esta parte del seminario presenta los principios fundamentales de la IA Responsable, haciendo hincapié en las consideraciones éticas y el uso responsable de las tecnologías de IA en todos los sectores. Explora temas clave como la equidad, la transparencia, la rendición de cuentas y el cumplimiento de las normas legales y sociales, capacitando a los participantes para diseñar e implementar sistemas basados ¿¿en IA que respeten los derechos humanos y fomenten la confianzade los usuarios y las intituciones
    2. Cara a cara con las aplicaciones industriales de la Inteligencia Artificial
      Las tecnologías basadas en IA están transformando el panorama empresarial, con aplicaciones que abarcan la gestión, la administración, la ciencia, la ingeniería, la manufactura, las finanzas, el derecho, la defensa, la exploración espacial, la medicina y el diagnóstico. Los altos directivos recurren cada vez más a herramientas de planificación estratégica basadas en IA para el análisis competitivo, el despliegue tecnológico y la asignación de recursos. La IA también facilita la configuración de equipos, la distribución de productos, el cumplimiento normativo y la evaluación del personal, mejorando significativamente la planificación organizacional y el control operativo. A medida que las tecnologías de IA siguen evolucionando, su influencia en la ciencia y la ingeniería se fortalece.
      En este segmento del seminario, los estudiantes examinarán críticamente aplicaciones de IA controvertidas o éticamente cuestionables que se utilizan actualmente en diversos sectores, lo que les permitirá comprender mejor tanto el potencial como los desafíos de la IA en el ámbito empresarial.
    3. Introducción a los Derechos Humanos.
      Esta parte del seminario presenta la relación entre los derechos humanos y la inteligencia artificial, destacando cómo el desarrollo ético de la IA debe priorizar la dignidad, la equidad, la privacidad y la responsabilidad para garantizar que la tecnología beneficie a todos y salvaguarde las libertades fundamentales.

    Actividades

    Actividad Acto evaluativo


    Ejemplos de Aplicaciones Industriales de la Inteligencia Artificial provenientes de la I + D

    Las aplicaciones de la inteligencia artificial desarrolladas por la ciencia y la ingeniería se utilizan para organizar y manipular las cantidades cada vez mayores de información a disposición de científicos e ingenieros. La Inteligencia Artificial se utiliza en procesos complejos y es el aumento del uso de la robótica en los negocios. En esta parte del seminario se estudiarán las aplicaciones avanzadas de la inteligencia artificial nacidas como ID de los resultados. La mayoría de los ejemplos provienen de la investigación financiada por la Unión Europea.
    • Teoría: Cada uno de los casos de estudio dispondrá de un material que se facilitará con antelación. El estudiante debe leerlo para poder discutir sus contenidos. Además, el alumno ha de preparar un papel de cada uno de ellos.Los estudiantes deberán elegir uno de los casos de estudio y preparar un trabajo más detallado.
    Objetivos: 1 3 2
    Contenidos:
    Teoría
    18h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    25h

    Introducción

    El estudiante aprenderá los objetivos de este seminario. Recibirá los materiales y aprenderá el calendario de actividades.

    Contenidos:
    Teoría
    6h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    28h

    Metodología docente

    Se invitarán oradores de la industria - por lo menos 4 - y hasta 7 casos de estudio de aplicaciones industriales de la inteligencia artificial .
    El formato del curso será un seminario con tareas directas de participación y presentación de informes

    Método de evaluación

    Los participantes entregarán un par de ensayos durante el curso. Habrá una sola nota para los ensayos y para el examen final. el examen final contará un 60% de la nota.

    Bibliografía

    Básico

    Complementario

    Capacidades previas

    Se requiere que el estudiante tenga conocimientos en:

    * Los procesos para el desarrollo de sistemas de software grandes y complejas
    * Las funciones y tecnologías para ayudar a controlar este tipo de proyectos
    * Problemas de investigación de nivel en áreas como la ingeniería de software, sistemas de información, modelos de simulación, medios digitales y juegos, computación en red y la inteligencia artificial.