El curso presenta técnicas básicasde análisis estadístico de sistemas y redes- En primer lugar revisa y extiende conceptos de probabilidad, teoría de información y algebra lineal. después trata el problema de la estimación, y las técnicas básicas de Machine Learning (aprendizaje automático) para regresión y clasificación. Finalmente introduce técnicas lineales para reducción de dimensionalidad de problemas.
Profesorado
Responsable
Jorge García Vidal (
)
Otros
Jose Maria Barceló Ordinas (
)
Horas semanales
Teoría
2.4
Problemas
1.6
Laboratorio
0
Aprendizaje dirigido
0
Aprendizaje autónomo
7.1
Competencias
Competencias Técnicas de cada especialidad
Computer networks and distributed systems
CEE2.2 - Capacidad de entender los modelos, problemas y algoritmos relacionados con las redes de computadores, así como poder diseñar y evaluar algoritmos, protocolos y sistemas que traten la problemática de la redes de comunicación entre computadores.
Competencias Técnicas Genéricas
Genéricas
CG4 - Capacidad para la dirección general y técnica de proyectos de investigación, desarrollo e innovación, en empresas y centros tecnológicos, en el ámbito de la Ingeniería Informática.
Competencias Transversales
Actitud frente al trabajo
CTR5 - Tener motivación para la realización profesional y para afrontar nuevos retos, así como una visión amplia de las posibilidades de la carrera profesional en el ámbito de la Ingeniería en Informática. Tener motivación por la calidad y la mejora continua, y actuar con rigor en el desarrollo profesional. Capacidad de adaptación a los cambios organizativos o tecnológicos. Capacidad de trabajar en situaciones de falta de información y/o con restricciones temporales y/o de recursos.
Básicas
CB6 - Que los estudiantes sepan aplicar los conocimientos adquiridos y su capacidad de resolución de problemas en entornos nuevos o poco conocidos dentro de contextos más amplios (o multidisciplinares) relacionados con su área de estudio.
Objetivos
Desarrollar la habilidad en el desarrollo de modelos cuantitativos probabilísticos.
Competencias relacionadas:
CB6,
CTR5,
CEE2.2,
CG4,
Contenidos
repaso de modelos de probabilidad
Axiomas de probabilidad, combinatoria, variables aleatorias, probabilidad condicionada e independencia, valores esperados, independencia condicional, desigualdades Ley (débil) de los grandes números. Teoría de la información (Entropía, información mútua, etc). Propiedades de la distribución gausiana multivariada. Ley del límite central.
Estimación. Técnicas básicas de ML para clasificación y regressión
estimación de máxima verosimilitud y bayesiana. Funciones de decisión, coste, riego, minimización del riesgo empírico. Aproximación y estimación. Compromiso entre el bias y la varianza. Clasificación. Regresión lineal. Arquitecturas básicas de redes neuronales.
Modelos lineales y reducción de dimensionalidad
Review of basic linear algebra results, spectral theorem for symmetric matrices, positive definite matrices, matrix calculus, trace operator, SVD, matrix norms, Eckart-Young theorem, condition number, dimensionality reduction, PCA, eigenfaces, Sparse representation, Fourier matrices, Graph signal processing
Actividades
ActividadActo evaluativo
Modelos probabilísticos
Axiomas de probabilidad, combinatoria, variables aleatorias, probabilidad condicionada e independencia, valores esperados (revisión, problemas y material on-line). Inclusión/exclusión, independencia condicional, desigualdades y ejemplos de distribuciones discretas. Ley (débil) de los grandes números. Funciones de distribución acumulativas, funciones de densidad de probabilidad, ejemplos (revisión, material online). Teoría de la información (Entropía, información mútua, etc). Propiedades de la distribución exponencial y gausiana multivariada. Ley del límite central. Objetivos:1 Contenidos:
Teorema espectral para matrices simétricas, Matrices positivas definidas, formas cuadráticas. SVD. Reducción de dimensión. PCA. Pseudo inversa de Monroe-Penrose. Espacios de dimensión infinita, Continuidad de operadores lineales. Espacios de Hilbert. Teorema de representación de Riesz. Objetivos:1 Contenidos:
estimación. Técnicas básicas de aprendizaje automático para regresión y clasificación.
estimación de máxima verosimilitud y bayesiana. Regresión linear. Maximum likelihood and bayesian estimation. Regresión lineal. Bias-variance tradeoff Clasificación.
Algunos materiales estarán disponibles online. Los principales resultados se explicarán en clase. Se harán clases de problemas y de ejemplos de aplicación.
Método de evaluación
La evaluación se basa en el desarrollo de varios proyectos. Cada uno de los proyectos será evaluado (0=
FM = Suma_i (Wi*Mi)
Donde:
Wi = es el peso de cada proyecto i = 1, ... N
Mi = es la nota de cada proyecto i = 1, ... N
El número de proyectos puede variar a lo largo del tiempo, pero en general se prevén los siguientes proyectos
* P1 (25%): Probabilidad básica, teoría de la información y álgebra lineal,
* P2 (25%): Estimación, ML y enfoques bayesianos
* P3 (25%): Comprensión de Bias/Variance tradeoff
* P4 (25%): Regresión y clasificación básicas