Aprendizaje Profundo

Usted está aquí

Créditos
4.5
Tipos
Optativa
Requisitos
Esta asignatura no tiene requisitos, pero tiene capacidades previas
Departamento
BSC;CS
Esta asignatura tiene como objetivo familiarizar al estudiante con los aspectos teóricos y prácticos de las técnicas de Aprendizaje Profundo (AA). Las clases teóricas refrescarán los conceptos básicos de AA (CNN, etc.), asumiendo ciertos conocimientos previos. Se presentarán algunas de las arquitecturas más populares, así como configuraciones de redes neuronales que han demostrado ser útiles para problemas específicos. En la parte práctica, el estudiante deberá realizar experimentos utilizando bibliotecas de AA y experimentar con los diversos componentes propuestos en este campo.

Profesorado

Responsable

  • Enrique Romero Merino ( )
  • Luis Antonio Belanche Muñoz ( )

Otros

  • Caroline König ( )

Horas semanales

Teoría
2
Problemas
0
Laboratorio
0.3
Aprendizaje dirigido
0.3
Aprendizaje autónomo
4.93

Competencias

Competencias Técnicas de cada especialidad

Profesionales

  • CEP3 - Capacidad de aplicación de las técnicas de Inteligencia Artificial en entornos tecnológicos e industriales para la mejora de la calidad y la productividad.
  • CEP4 - Capacidad para disenar, redactar y presentar informes sobre proyectos informaticos en el area especifica de Inteligencia Artificial.

Competencias Transversales

Razonamiento

  • CT6 - Capacidad de evaluar y analizar de manera razonada y critica sobre situaciones, proyectos, propuestas, informes y estudios de caracter cientifico-tecnico. Capacidad de argumentar las razones que explican o justifican tales situaciones, propuestas, etc.

Analisis y sintesis

  • CT7 - Capacidad de analisis y resolucion de problemas tecnicos complejos.

Objetivos

  1. Entender las varias técnicas que se pueden integrar en un sistema deep learning, y saber experimentar con ellas de manera coherente en un entorno de producción realista mediante el uso de librerías de terceros.
    Competencias relacionadas: CT7, CEP3,
  2. Ser capaz de entender artículos científicos del área del deep learning, de extraer las conclusiones más relevantes, y de derivar posibles aplicaciones o limitaciones.
    Competencias relacionadas: CT6, CEP4,

Contenidos

  1. Introduction and refresher
    Fundamental necessary concepts of ML will be reviewed, with special focus on those most influential to deep learning.
  2. Convolutional Neural Networks
    We will review the main aspects of Convolutional Neural Networks. How they work, why, and how can they be improved.
  3. Embeddings and autoencoders
    Autoencoders, Variational autoencoders, their modifications and uses. Embeddings. Transfer learning.
  4. Few-shot and zero-shot learning
    Zero-shot learning (ZSL), One-Shot Learning (OSL), and Few-Shot Learning (FSL) as approaches to handling limited training data in machine learning
  5. Diffusion Networks
    We will review the main aspects of Diffusion Networks. How they work, why, and how can they be used and trained.
  6. Transformer Networks
    We will review the main aspects of Transformer Networks. How they work, why, and how can they be used and trained.
  7. Graph Neural Networks
    We will review the main aspects of Graph Neural Networks. How they work, why, and how can they be used and trained.
  8. Interpretability and related issues. Negative deep learning
    We discuss interpretability aspects of DL and related issues. How negative deep learning can affect performance.

Actividades

Actividad Acto evaluativo


Experimentación práctica

Experimentación mediante librerias de deep learning, y el reporte de las conclusiones más relevantes.
Objetivos: 1
Semana: 13 (Fuera de horario lectivo)
Teoría
0h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
34h

Examen

Examen
Objetivos: 1
Semana: 13 (Fuera de horario lectivo)
Teoría
2h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
10h

Introducció i recordatorio


Objetivos: 1 2
Teoría
4h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
4h

Convolutional Neural Networks


Objetivos: 1 2
Teoría
6h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
6h

Lab on Convolutional Neural Networks


Objetivos: 1 2
Teoría
0h
Problemas
0h
Laboratorio
2h
Aprendizaje dirigido
0h
Aprendizaje autónomo
2h

Embeddings and autoencoders


Objetivos: 1 2
Teoría
4h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
4h

Few-shot and zero-shot learning


Objetivos: 1 2
Teoría
4h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
4h

Diffusion Networks


Objetivos: 1 2
Teoría
2h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
2h

Transformer Networks


Objetivos: 1 2
Teoría
4h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
4h

Lab on embeddings, autoencoders, few-shot and zero-shot learning


Objetivos: 1 2
Teoría
0h
Problemas
0h
Laboratorio
2h
Aprendizaje dirigido
0h
Aprendizaje autónomo
0h

Graph Neural Networks


Objetivos: 1 2
Teoría
2h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
2h

Interpretability and related issues. Negative deep learning


Objetivos: 1 2
Teoría
2h
Problemas
0h
Laboratorio
0h
Aprendizaje dirigido
0h
Aprendizaje autónomo
2h

Metodología docente

Esta asignatura tiene un componente teórico y otro práctico.

El componente teórico consiste en clases presenciales en las que el profesor repasará conceptos de Deep Learning, presentará aplicaciones y otras tendencias recientes en este campo.

El componente práctico está compuesto por dos prácticas en grupo, donde los alumnos tendrán que experimentar con las distintas técnicas de Deep Learning. A partir de experimentos sencillos, y utilizando librerías populares de Deep Learning (por ejemplo, Keras, TensorFlow, Pytorch, ...), los alumnos probarán los efectos de las distintas técnicas disponibles.

Al final del curso, habrá un examen.

Método de evaluación

Esta asignatura se evaluará teniendo en cuenta los aspectos teóricos y prácticos:

P1: calificación de la práctica 1
P2: calificación de la práctica 2
E: calificación del examen

La calificación final se calculará como: 0,4 * P1 + 0,4 * P2 + 0,2 * E

Bibliografía

Básica:

Capacidades previas

Se requieren conceptos básicos de redes neuronales (SGD, retro-propagación, funciones de pérdida) y aprendizaje automático (clasificación, regresión, metodologías de evaluación).

Los estudiantes deben ser capaces de programar de forma autónoma (Python), trabajar en un servidor remoto a través de una terminal (ssh, bash) e interactuar con bibliotecas de terceros.