Aprendizaje Automático Basado en Kernel y Modelado Multivariante

• Horas semanales
• Competencias
• Objetivos
• Contenidos
• Actividades
• Metodología docente
• Método de evaluación
• Bibliografía
• Web links

Profesorado

Responsable

• Luis Antonio Belanche Muñoz ( )
• Pedro Delicado Useros ( )

Horas semanales

Competencias

Competencias Técnicas Genéricas

Genéricas

• CG3 - Capacidad para el modelado matemático, cálculo y diseño experimental en centros tecnológicos y de ingeniería de empresa, particularmente en tareas de investigación e innovación en todos los ámbitos de la Informática.

Competencias Transversales

Uso solvente de los recursos de información

• CTR4 - Gestionar la adquisición, la estructuración, el análisis y la visualización de datos e información del ámbito de la ingeniería informática y valorar de forma crítica los resultados de esta gestión.

Razonamiento

• CTR6 - Capacidad de razonamiento crítico, lógico y matemático. Capacidad para resolver problemas dentro de su área de estudio. Capacidad de abstracción: capacidad de crear y utilizar modelos que reflejen situaciones reales. Capacidad de diseñar y realizar experimentos sencillos, y analizar e interpretar sus resultados. Capacidad de análisis, síntesis y evaluación.

Competencias Técnicas de cada especialidad

Específicas comunes

• CEC1 - Capacidad para aplicar el método científico en el estudio y análisis de fenómenos y sistemas en cualquier ámbito de la Informática, así como en la concepción, diseño e implantación de soluciones informáticas innovadoras y originales.
• CEC3 - Capacidad para aplicar soluciones innovadoras y realizar avances en el conocimiento que exploten los nuevos paradigmas de la Informática, particularmente en entornos distribuidos.

Objetivos

1. Understand the foundations of Kernel-Based Learning Methods
   Competencias relacionadas: CG3, CEC1, CEC3, CTR6,
2. Get acquainted with specific kernel-based methods, such as the Support Vector Machine
   Competencias relacionadas: CG3, CTR4,
3. Know methods for kernelizing existing statistical or machine learning algorithms
   Competencias relacionadas: CTR6,
4. Know the theoretical foundations of kernel functions and kernel methods
   Competencias relacionadas: CG3,
5. Know the structure of the main unsupervised learning problems.
   Competencias relacionadas: CG3, CEC1, CTR4, CTR6,
6. Learn different methods for dimensionality reduction when the standard assumptions in classical Multivariate Analysis are not fulfilled
   Competencias relacionadas: CG3, CEC1, CEC3, CTR4, CTR6,
7. Learn how to combine dimensionality reduction techniques with prediction algorithms
   Competencias relacionadas: CG3, CEC1, CEC3, CTR4, CTR6,

Contenidos

1. Introduction to Kernel-Based Learning
   This topic introduces the student the foundations of Kernel-Based Learning focusing on Kernel Linear Regression
2. The Support Vector Machine (SVM)
   This topic develops Support Vector Machine (SVM) for classification, regression and novelty detection
3. Kernels: properties & design
   This topic defines kernel functions, their properties and construction. Introduces specific kernels for different data types, such as real vectors, categorical information, feature subsets, strings, probability distributions and graphs.
4. Kernelizing ML algorithms
   This topic reviews different techniques for kernelizing existent algorithms
5. Theoretical underpinnings
   This topic reviews the basic theoretical underpinnings of kernel-based methods, focusing on statistical learning theory
6. Introduction to unsupervised learning
   Unsupervised versus supervised learning. Main problems in unsupervised learning (density estimation, dimensionality reduction, latent variables, clustering).
7. Nonlinear dimensionality reduction
   a. Principal curves.
   b. Local Multidimensional Scaling.
   c. ISOMAP.
   d. t-Stochastic Neighbor Embedding.
   e. Applications: (i) Visualization of high- or infinite-dimensional data. (ii) Exploratory analysis of functional data in Demography.
8. Dimensionality reduction with sparsity
   a. Matrix decompositions, approximations, and completion.
   b. Sparse Principal Components and Canonical Correlation.
   c. Applications: (i) Recommender systems. (ii) Estimating causal effects.
9. Prediction after dimensionality reduction.
   a. Reduced rank regression and canonical correlation.
   b. Principal Component regression.
   c. Distance based regression.

Actividades

Actividad Acto evaluativo

Metodología docente

Método de evaluación

Bibliografía

Básica:

• Kernel methods for pattern analysis - Shawe-Taylor, J.; Cristianini, N, Cambridge University Press, 2004. ISBN: 0521813972
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991002747459706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
• Learning with Kernels: support vector machines, regularization, optimization, and beyond - Schölkopf, B.; Smola, A.J, The MIT Press, 2002. ISBN: 0262194759
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991002368479706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
• Deep learning: methods and applications (pp.197-387) - Deng, L.; Yu, D., Now Publishers Inc., 2014. ISBN: 9781601988140
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991004151719706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
• Deep learning (Vol. 1) - Goodfellow, I.; Bengio, Y.; Courville, A, The MIT Press, 2016. ISBN: 9780262035613
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991004107709706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
• The Elements of statistical learning: data mining, inference, and prediction - Hastie, T.; Tibshirani, R.; Friedman, J, Springer, cop. 2009. ISBN: 9780387952840
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991003549679706711&context=L&vid=34CSUC_UPC:VU1&lang=ca
• Statistical learning with sparsity: the lasso and generalizations - Hastie, Trevor; Tibshirani, Robert; Wainwright, Martin, CRC Press, 2015. ISBN: 9781498712170
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991004212899706711&context=L&vid=34CSUC_UPC:VU1&lang=ca

Complementaria:

• Learning from data: concepts, theory, and methods - Cherkassky, V.S.; Mulier, F, John Wiley , 2007. ISBN: 0471681822
  https://discovery.upc.edu/discovery/fulldisplay?docid=alma991003624509706711&context=L&vid=34CSUC_UPC:VU1&lang=ca

Web links

• Official website of the R programming language http://cran.r-project.org/
• Repository of educational videos (in English) on the topics of the course. http://videolectures.net/Top/Computer_Science/Machine_Learning/