Aprenentatge Automàtic Basat en Kernel i Modelat Multivariant

Esteu aquí

Crèdits
6
Tipus
Complementària d'especialitat (Ciència de les Dades)
Requisits
Aquesta assignatura no té requisits
Departament
EIO;CS
Kernel based Machine Learning and Multivariate Modeling

Hores setmanals

Teoria
3
Problemes
0
Laboratori
0
Aprenentatge dirigit
0.2
Aprenentatge autònom
6

Objectius

  1. Understand the foundations of Kernel-Based Learning Methods
    Competències relacionades: CG3, CEC1, CEC3, CTR6,
  2. Get acquainted with specific kernel-based methods, such as the Support Vector Machine
    Competències relacionades: CG3, CTR4,
  3. Know methods for kernelizing existing statistical or machine learning algorithms
    Competències relacionades: CTR6,
  4. Know the theoretical foundations of kernel functions and kernel methods
    Competències relacionades: CG3,
  5. Know the structure of the main unsupervised learning problems.
    Competències relacionades: CG3, CEC1, CTR4, CTR6,
  6. Learn different methods for dimensionality reduction when the standard assumptions in classical Multivariate Analysis are not fulfilled
    Competències relacionades: CG3, CEC1, CEC3, CTR4, CTR6,
  7. Learn how to combine dimensionality reduction techniques with prediction algorithms
    Competències relacionades: CG3, CEC1, CEC3, CTR4, CTR6,

Continguts

  1. Introduction to Kernel-Based Learning
    This topic introduces the student the foundations of Kernel-Based Learning focusing on Kernel Linear Regression
  2. The Support Vector Machine (SVM)
    This topic develops Support Vector Machine (SVM) for classification, regression and novelty detection
  3. Kernels: properties & design
    This topic defines kernel functions, their properties and construction. Introduces specific kernels for different data types, such as real vectors, categorical information, feature subsets, strings, probability distributions and graphs.
  4. Kernelizing ML algorithms
    This topic reviews different techniques for kernelizing existent algorithms
  5. Theoretical underpinnings
    This topic reviews the basic theoretical underpinnings of kernel-based methods, focusing on statistical learning theory
  6. Introduction to unsupervised learning
    Unsupervised versus supervised learning. Main problems in unsupervised learning (density estimation, dimensionality reduction, latent variables, clustering).
  7. Nonlinear dimensionality reduction
    a. Principal curves.
    b. Local Multidimensional Scaling.
    c. ISOMAP.
    d. t-Stochastic Neighbor Embedding.
    e. Applications: (i) Visualization of high- or infinite-dimensional data. (ii) Exploratory analysis of functional data in Demography.
  8. Dimensionality reduction with sparsity
    a. Matrix decompositions, approximations, and completion.
    b. Sparse Principal Components and Canonical Correlation.
    c. Applications: (i) Recommender systems. (ii) Estimating causal effects.
  9. Prediction after dimensionality reduction.
    a. Reduced rank regression and canonical correlation.
    b. Principal Component regression.
    c. Distance based regression.

Activitats

Activitat Acte avaluatiu


Introduccció a l'aprenentatge basat en Kernels


Objectius: 1
Continguts:
Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

La SVM per regressió, classificació i detecció de novetats


Objectius: 2
Continguts:
Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Kernels: propietats i disseny


Objectius: 1 3
Continguts:
Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Classe Pràctica (I): la SVM


Objectius: 1 2
Continguts:
Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Classe pràctica (II): El disseny de kernels i altres mètodes KBL


Objectius: 3 4
Continguts:
Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Fonaments teòrics


Objectius: 1 4
Continguts:
Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Introducció a l'aprenentatge no supervisat



Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Reducció no lineal de la dimensinalitat 1



Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Reducció no lineal de la dimensinalitat 2



Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Reducció de la dimensionalitat amb dispersió 1



Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Reducció de la dimensionalitat amb dispersió 2



Teoria
3h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Predicció després de reduir la dimensionalitat 1



Teoria
4h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
6h

Predicció després de reduir la dimensionalitat 2



Teoria
2h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0.2h
Aprenentatge autònom
6h

Prova d'avaluació global


Objectius: 1 2 3 4 5 6 7
Setmana: 15 (Fora d'horari lectiu)
Teoria
0h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
12h

Metodologia docent

L'aprenentatge es realitza a través d'una combinació d'explicacions teòriques i la seva aplicació a exercicis i casos reals. Les explicacions desenvoluparan els coneixements científics necessaris i la seva aplicació a la resolució de problemes. Aquests problemes constitueixen les pràctiques de l'assignatura, que seran desenvolupats pels propis estudiants com a part del seu aprenentatge. El programari utilitzat serà principalment R.

Mètode d'avaluació

L'avaluació de l'assignatura es realitzarà a partir de les notes obtingudes en les pràctiques realitzades durant el curs, més la nota obtinguda en la prova escrita d'avaluació global.

Cada pràctica comportarà la redacció del corresponent informe escrit, el qual serà avaluat pel/s professor/s. Amb el conjunt de pràctiques realitzades s'obtindrà una nota promig P.

La prova escrita es realitzarà al final del quadrimestre i avaluarà l'assimilació dels conceptes bàsics del conjunt de l'assignatura, donant lloc a una nota T.

La nota final s'obtindrà per ponderació:

60% x P + 40% x T

Bibliografia

Bàsica:

Complementaria:

Web links