Esta asignatura tiene como objetivo familiarizar al estudiante con los aspectos teóricos y prácticos de las técnicas de Aprendizaje Profundo (AA). Las clases teóricas refrescarán los conceptos básicos de AA (CNN, etc.), asumiendo ciertos conocimientos previos. Se presentarán algunas de las arquitecturas más populares, así como configuraciones de redes neuronales que han demostrado ser útiles para problemas específicos. En la parte práctica, el estudiante deberá realizar experimentos utilizando bibliotecas de AA y experimentar con los diversos componentes propuestos en este campo.
Profesorado
Responsable
-
Enrique Romero Merino (
)
-
Luis Antonio Belanche Muñoz (
)
Otros
Horas semanales
Aprendizaje autónomo
4.93
Competencias
Competencias Técnicas de cada especialidad
Profesionales
-
CEP3 - Capacidad de aplicación de las técnicas de Inteligencia Artificial en entornos tecnológicos e industriales para la mejora de la calidad y la productividad.
-
CEP4 - Capacidad para disenar, redactar y presentar informes sobre proyectos informaticos en el area especifica de Inteligencia Artificial.
Competencias Transversales
Razonamiento
-
CT6 - Capacidad de evaluar y analizar de manera razonada y critica sobre situaciones, proyectos, propuestas, informes y estudios de caracter cientifico-tecnico. Capacidad de argumentar las razones que explican o justifican tales situaciones, propuestas, etc.
Analisis y sintesis
-
CT7 - Capacidad de analisis y resolucion de problemas tecnicos complejos.
Objetivos
-
Entender las varias técnicas que se pueden integrar en un sistema deep learning, y saber experimentar con ellas de manera coherente en un entorno de producción realista mediante el uso de librerías de terceros.
Competencias relacionadas:
CT7,
CEP3,
-
Ser capaz de entender artículos científicos del área del deep learning, de extraer las conclusiones más relevantes, y de derivar posibles aplicaciones o limitaciones.
Competencias relacionadas:
CT6,
CEP4,
Contenidos
-
Introduction and refresher
Fundamental necessary concepts of ML will be reviewed, with special focus on those most influential to deep learning.
-
Convolutional Neural Networks
We will review the main aspects of Convolutional Neural Networks. How they work, why, and how can they be improved.
-
Embeddings and autoencoders
Autoencoders, Variational autoencoders, their modifications and uses. Embeddings. Transfer learning.
-
Few-shot and zero-shot learning
Zero-shot learning (ZSL), One-Shot Learning (OSL), and Few-Shot Learning (FSL) as approaches to handling limited training data in machine learning
-
Diffusion Networks
We will review the main aspects of Diffusion Networks. How they work, why, and how can they be used and trained.
-
Transformer Networks
We will review the main aspects of Transformer Networks. How they work, why, and how can they be used and trained.
-
Graph Neural Networks
We will review the main aspects of Graph Neural Networks. How they work, why, and how can they be used and trained.
-
Interpretability and related issues. Negative deep learning
We discuss interpretability aspects of DL and related issues. How negative deep learning can affect performance.
Actividades
Actividad
Acto evaluativo
Experimentación práctica
Experimentación mediante librerias de deep learning, y el reporte de las conclusiones más relevantes.
Objetivos:
1
Semana:
13 (Fuera de horario lectivo)
Examen
Examen
Objetivos:
1
Semana:
13 (Fuera de horario lectivo)
Introducció i recordatorio
Objetivos:
1
2
Convolutional Neural Networks
Objetivos:
1
2
Lab on Convolutional Neural Networks
Objetivos:
1
2
Embeddings and autoencoders
Objetivos:
1
2
Few-shot and zero-shot learning
Objetivos:
1
2
Diffusion Networks
Objetivos:
1
2
Transformer Networks
Objetivos:
1
2
Lab on embeddings, autoencoders, few-shot and zero-shot learning
Objetivos:
1
2
Graph Neural Networks
Objetivos:
1
2
Interpretability and related issues. Negative deep learning
Objetivos:
1
2
Metodología docente
Esta asignatura tiene un componente teórico y otro práctico.
El componente teórico consiste en clases presenciales en las que el profesor repasará conceptos de Deep Learning, presentará aplicaciones y otras tendencias recientes en este campo.
El componente práctico está compuesto por dos prácticas en grupo, donde los alumnos tendrán que experimentar con las distintas técnicas de Deep Learning. A partir de experimentos sencillos, y utilizando librerías populares de Deep Learning (por ejemplo, Keras, TensorFlow, Pytorch, ...), los alumnos probarán los efectos de las distintas técnicas disponibles.
Al final del curso, habrá un examen.
Método de evaluación
Esta asignatura se evaluará teniendo en cuenta los aspectos teóricos y prácticos:
P1: calificación de la práctica 1
P2: calificación de la práctica 2
E: calificación del examen
La calificación final se calculará como: 0,4 * P1 + 0,4 * P2 + 0,2 * E
Bibliografía
Básica:
-
Deep learning -
Goodfellow, I.; Bengio, Y.; Courville, A,
The MIT Press, 2016. ISBN: 9780262035613
https://discovery.upc.edu/discovery/fulldisplay?docid=alma991004107709706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
-
Deep learning : foundations and concepts -
Bishop, Christopher M; Bishop, Hugh,
Springer, [2024]. ISBN: 978-3031454677
https://discovery.upc.edu/discovery/fulldisplay?docid=alma991005234379706711&context=L&vid=34CSUC_UPC:VU1
-
Neural Networks and Deep Learning -
Charu C. Aggarwal,
Springer Nature Switzerland AG 2023, ISBN: 978-3-031-29644-4
https://link.springer.com/book/10.1007/978-3-031-29642-0
Capacidades previas
Se requieren conceptos básicos de redes neuronales (SGD, retro-propagación, funciones de pérdida) y aprendizaje automático (clasificación, regresión, metodologías de evaluación).
Los estudiantes deben ser capaces de programar de forma autónoma (Python), trabajar en un servidor remoto a través de una terminal (ssh, bash) e interactuar con bibliotecas de terceros.