Aprendizaje Profundo

Créditos
4.5
Tipos
Optativa
Requisitos
Esta asignatura no tiene requisitos , pero tiene capacidades previas
Departamento
BSC;CS
Esta asignatura tiene como objetivo familiarizar al estudiante con los aspectos teóricos y prácticos de las técnicas de Aprendizaje Profundo (AA). Las clases teóricas refrescarán los conceptos básicos de AA (CNN, etc.), asumiendo ciertos conocimientos previos. Se presentarán algunas de las arquitecturas más populares, así como configuraciones de redes neuronales que han demostrado ser útiles para problemas específicos. En la parte práctica, el estudiante deberá realizar experimentos utilizando bibliotecas de AA y experimentar con los diversos componentes propuestos en este campo.

Profesorado

Responsable

Otros

Horas semanales

Teoría
2
Problemas
0
Laboratorio
0.3
Aprendizaje dirigido
0.3
Aprendizaje autónomo
4.93

Competencias

Competencias Técnicas de cada especialidad

Profesionales

  • CEP3 - Capacidad de aplicación de las técnicas de Inteligencia Artificial en entornos tecnológicos e industriales para la mejora de la calidad y la productividad.
  • CEP4 - Capacidad para disenar, redactar y presentar informes sobre proyectos informaticos en el area especifica de Inteligencia Artificial.

    • Competencias Transversales

    Razonamiento

  • CT6 - Capacidad de evaluar y analizar de manera razonada y critica sobre situaciones, proyectos, propuestas, informes y estudios de caracter cientifico-tecnico. Capacidad de argumentar las razones que explican o justifican tales situaciones, propuestas, etc.

    • Analisis y sintesis

  • CT7 - Capacidad de analisis y resolucion de problemas tecnicos complejos.

    • Objetivos

    1. Entender las varias técnicas que se pueden integrar en un sistema deep learning, y saber experimentar con ellas de manera coherente en un entorno de producción realista mediante el uso de librerías de terceros.
      Competencias relacionadas: CT7, CEP3,
    2. Ser capaz de entender artículos científicos del área del deep learning, de extraer las conclusiones más relevantes, y de derivar posibles aplicaciones o limitaciones.
      Competencias relacionadas: CT6, CEP4,

    Contenidos

    1. Introduction and refresher
      Fundamental necessary concepts of ML will be reviewed, with special focus on those most influential to deep learning.
    2. Convolutional Neural Networks
      We will review the main aspects of Convolutional Neural Networks. How they work, why, and how can they be improved.
    3. Embeddings and autoencoders
      Autoencoders, Variational autoencoders, their modifications and uses. Embeddings. Transfer learning.
    4. Few-shot and zero-shot learning
      Zero-shot learning (ZSL), One-Shot Learning (OSL), and Few-Shot Learning (FSL) as approaches to handling limited training data in machine learning
    5. Diffusion Networks
      We will review the main aspects of Diffusion Networks. How they work, why, and how can they be used and trained.
    6. Transformer Networks
      We will review the main aspects of Transformer Networks. How they work, why, and how can they be used and trained.
    7. Graph Neural Networks
      We will review the main aspects of Graph Neural Networks. How they work, why, and how can they be used and trained.
    8. Interpretability and related issues. Negative deep learning
      We discuss interpretability aspects of DL and related issues. How negative deep learning can affect performance.

    Actividades

    Actividad Acto evaluativo


    Experimentación práctica

    Experimentación mediante librerias de deep learning, y el reporte de las conclusiones más relevantes.
    Objetivos: 1
    Semana: 13 (Fuera de horario lectivo)
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Examen

    Examen
    Objetivos: 1
    Semana: 13 (Fuera de horario lectivo)
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Introducció i recordatorio


    Objetivos: 1 2
    Teoría
    4h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    4h

    Convolutional Neural Networks


    Objetivos: 1 2
    Teoría
    6h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    6h

    Lab on Convolutional Neural Networks


    Objetivos: 1 2
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    2h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    2h

    Embeddings and autoencoders


    Objetivos: 1 2
    Teoría
    4h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    4h

    Few-shot and zero-shot learning


    Objetivos: 1 2
    Teoría
    4h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    4h

    Diffusion Networks


    Objetivos: 1 2
    Teoría
    2h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    2h

    Transformer Networks


    Objetivos: 1 2
    Teoría
    4h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    4h

    Lab on embeddings, autoencoders, few-shot and zero-shot learning


    Objetivos: 1 2
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    2h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Graph Neural Networks


    Objetivos: 1 2
    Teoría
    2h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    2h

    Interpretability and related issues. Negative deep learning


    Objetivos: 1 2
    Teoría
    2h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    2h

    Metodología docente

    Esta asignatura tiene un componente teórico y otro práctico.

    El componente teórico consiste en clases presenciales en las que el profesor repasará conceptos de Deep Learning, presentará aplicaciones y otras tendencias recientes en este campo.

    El componente práctico está compuesto por dos prácticas en grupo, donde los alumnos tendrán que experimentar con las distintas técnicas de Deep Learning. A partir de experimentos sencillos, y utilizando librerías populares de Deep Learning (por ejemplo, Keras, TensorFlow, Pytorch, ...), los alumnos probarán los efectos de las distintas técnicas disponibles.

    Al final del curso, habrá un examen.

    Método de evaluación

    Esta asignatura se evaluará teniendo en cuenta los aspectos teóricos y prácticos:

    P1: calificación de la práctica 1
    P2: calificación de la práctica 2
    E: calificación del examen

    La calificación final se calculará como: 0,4 * P1 + 0,4 * P2 + 0,2 * E

    Bibliografía

    Básico

    Capacidades previas

    Se requieren conceptos básicos de redes neuronales (SGD, retro-propagación, funciones de pérdida) y aprendizaje automático (clasificación, regresión, metodologías de evaluación).

    Los estudiantes deben ser capaces de programar de forma autónoma (Python), trabajar en un servidor remoto a través de una terminal (ssh, bash) e interactuar con bibliotecas de terceros.