Aquesta assignatura pretén familiaritzar l'estudiant amb els aspectes teòrics i pràctics de les tècniques d'aprenentatge profund (DL). Les classes magistrals refrescaran els conceptes bàsics de DL (CNN, etc.), assumint alguns coneixements previs. S'introduiran algunes de les arquitectures més populars, així com configuracions de xarxes neuronals que han demostrat ser útils per a problemes específics. A la part pràctica, l'estudiant haurà de dur a terme experiments utilitzant biblioteques de DL i experimentar amb els diversos components que s'han proposat en el camp.
Professorat
Responsable
Enrique Romero Merino (
)
Luis Antonio Belanche Muñoz (
)
Altres
Caroline König (
)
Hores setmanals
Teoria
2
Problemes
0
Laboratori
0.3
Aprenentatge dirigit
0.3
Aprenentatge autònom
4.93
Competències
Competències Tècniques de cada especialitat
Professionals
CEP3 - Capacitat d'aplicació de les tècniques d'Intel·ligència Artificial en entorns tecnològics i industrials per a la millora de la qualitat i la productivitat.
CEP4 - Capacitat per dissenyar, redactar i presentar informes sobre projectes informaticos en l'area especifica d'Intel·ligència Artificial.
Competències Transversals
Raonament
CT6 - Capacitat d'avaluar i analitzar de manera raonada i crítica sobre situacions, projectes, propostes, informes i estudis de caracter cientific-tecnic. Capacitat d'argumentar les raons que expliquen o justifiquen aquestes situacions, propostes, etc.
Analisis i sintesis
CT7 - Capacitat d'anàlisi i resolució de problemes tècnics complexos.
Objectius
Entendre les varies técniques que es poden integrar en un sistema deep learning, i saber experimentar amb elles de manera coherent en un entorn de producció realista mitjançan't l'ús de llibreries de tercers.
Competències relacionades:
CEP3,
CT7,
Ser capaç de entendre articles científics del àrea del deep learning, d'extreure'n les conclusions més rellevants, i de derivar-ne possibles aplicacions o limitacions.
Competències relacionades:
CEP4,
CT6,
Continguts
Introduction and refresher
Fundamental necessary concepts of ML will be reviewed, with special focus on those most influential to deep learning.
Convolutional Neural Networks
We will review the main aspects of Convolutional Neural Networks. How they work, why, and how can they be improved.
Embeddings and autoencoders
Autoencoders, Variational autoencoders, their modifications and uses. Embeddings. Transfer learning.
Few-shot and zero-shot learning
Zero-shot learning (ZSL), One-Shot Learning (OSL), and Few-Shot Learning (FSL) as approaches to handling limited training data in machine learning
Diffusion Networks
We will review the main aspects of Diffusion Networks. How they work, why, and how can they be used and trained.
Transformer Networks
We will review the main aspects of Transformer Networks. How they work, why, and how can they be used and trained.
Graph Neural Networks
We will review the main aspects of Graph Neural Networks. How they work, why, and how can they be used and trained.
Interpretability and related issues. Negative deep learning
We discuss interpretability aspects of DL and related issues. How negative deep learning can affect performance.
Activitats
ActivitatActe avaluatiu
Experimentació pràctica.
Experimentació usant llibreries de deep learning, i reportar les conclusions més rellevants. Objectius:1 Setmana:
13 (Fora d'horari lectiu)
Aquesta assignatura té un component teòric i un de pràctic.
El component teòric consisteix en classes presencials on el professor revisarà conceptes d'aprenentatge profund, presentarà aplicacions i altres tendències recents en el camp.
El component pràctic està compost per dues pràctiques en grup, on els estudiants hauran d'experimentar amb les diverses tècniques d'aprenentatge profund. Basant-se en experiments senzills i utilitzant biblioteques populars d'aprenentatge profund (per exemple, Keras, TensorFlow, Pytorch, ...), els estudiants provaran els efectes de les diverses tècniques disponibles.
Al final del curs, hi haurà un examen.
Mètode d'avaluació
Aquesta assignatura s'avaluarà tenint en compte els aspectes teòrics i pràctics:
P1: nota de la pràctica 1
P2: nota de la pràctica 2
E: nota de l'examen
La nota final es calcularà com: 0,4 * P1 + 0,4 * P2 + 0,2 * E
Es requereixen conceptes bàsics de xarxes neuronals (SGD, retro-propagació, funcions de pèrdua) i aprenentatge automàtic (classificació, regressió, metodologies d'avaluació).
Els estudiants han de ser capaços de programar de forma autònoma (Python), treballar en un servidor remot a través d'un terminal (ssh, bash) i interactuar amb biblioteques de tercers.