Análisis Estadístico de Redes y Sistemas

Créditos
6
Tipos
Obligatoria de especialidad (Redes de Computadores y Sistemas Distribuidos)
Requisitos
Esta asignatura no tiene requisitos , pero tiene capacidades previas
Departamento
AC
El curso cubre los fundamentos probabilísticos y las principales familias de deep generative models: VAEs, GANs, modelos autorregresivos (Transformers), normalizing flows, flow matching (ODE/SDE) y diffusion models. Se introducen también métodos de deep reinforcement learning e Bayesian inference. Dirigido a estudiantes con base en discriminative machine learning

Profesorado

Responsable

  • Jorge García Vidal (jorge@ac.upc.edu)

Otros

  • Jose Maria Barceló Ordinas (jose.maria.barcelo@upc.edu)

Horas semanales

Teoría
3.4
Problemas
0.6
Laboratorio
0
Aprendizaje dirigido
0
Aprendizaje autónomo
7.1

Competencias

Competencias Técnicas de cada especialidad

Computer networks and distributed systems

  • CEE2.2 - Capacidad de entender los modelos, problemas y algoritmos relacionados con las redes de computadores, así como poder diseñar y evaluar algoritmos, protocolos y sistemas que traten la problemática de la redes de comunicación entre computadores.

    • Competencias Técnicas Genéricas

    Genéricas

  • CG4 - Capacidad para la dirección general y técnica de proyectos de investigación, desarrollo e innovación, en empresas y centros tecnológicos, en el ámbito de la Ingeniería Informática.

    • Competencias Transversales

    Actitud frente al trabajo

  • CTR5 - Tener motivación para la realización profesional y para afrontar nuevos retos, así como una visión amplia de las posibilidades de la carrera profesional en el ámbito de la Ingeniería en Informática. Tener motivación por la calidad y la mejora continua, y actuar con rigor en el desarrollo profesional. Capacidad de adaptación a los cambios organizativos o tecnológicos. Capacidad de trabajar en situaciones de falta de información y/o con restricciones temporales y/o de recursos.

    • Básicas

  • CB6 - Que los estudiantes sepan aplicar los conocimientos adquiridos y su capacidad de resolución de problemas en entornos nuevos o poco conocidos dentro de contextos más amplios (o multidisciplinares) relacionados con su área de estudio.

    • Objetivos

    1. Desarrollar la habilidad en el desarrollo de modelos cuantitativos probabilísticos.
      Competencias relacionadas: CB6, CTR5, CEE2.2, CG4,

    Contenidos

    1. Repaso de modelos de probabilidad y teoría de la información
      Revisión de los fundamentos probabilísticos del curso: distribuciones multivariantes, multivariate Gaussian, y conceptos clave de information theory como entropy, conditional, entropy, cross-entropy, KL divergence (direct, reverse), y conexión con maximum likelihood estimation.
    2. Modelos generativos
      Introducción a los deep generative models: modelos que aprenden a representar y muestrear distribuciones de datos complejas. Se cubren las principales familias: latent variable models (VAEs), GANs, modelos autorregresivos basados en Transformers, normalizing flows, y continuous generative models basados en ODEs y SDEs, incluyendo flow matching y diffusion models. Se discuten sus fundamentos teóricos, sus diferencias en términos de training e inference, y sus aplicaciones prácticas.
    3. Reinforcement learning
      Introducción al deep reinforcement learning: agentes que aprenden a tomar decisiones mediante interacción con un entorno. Se cubren los fundamentos teóricos (MDPs, Bellman equations, value functions), métodos model-free como Q-learning y DQN, y policy gradient methods incluyendo actor-critic y PPO. Se discuten las conexiones con los generative models y las aplicaciones prácticas en entornos complejos y de alta dimensionalidad.
    4. Métodos bayesianos
      Introducción a los Bayesian methods aplicados al deep learning. Se cubren los fundamentos de Bayesian inference, la conexión con el variational inference visto en los VAEs, y métodos prácticos para cuantificar la incertidumbre en redes neuronales como Bayesian neural networks y Monte Carlo dropout. Se discute cómo incorporar prior knowledge y obtener distribuciones posteriores sobre los parámetros del modelo.

    Actividades

    Actividad Acto evaluativo


    Modelos probabilísticos

    Actividades en clase (dentro de las 4h de teoría): resolución de problemas sobre cálculo de entropy y KL divergence, discusión de casos prácticos sobre maximum likelihood estimation, y visualización interactiva de multivariate Gaussians. Las actividades fomentan la participación activa y refuerzan la intuición probabilística necesaria para los bloques siguientes.
    Objetivos: 1
    Contenidos:
    Teoría
    4h
    Problemas
    2h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Deep generative models

    TActividades en clase (dentro de las 30h de teoría): resolución de problemas teóricos sobre los fundamentos de cada familia de modelos (ELBO, minimax, change of variables, score matching), discusión comparativa de las diferencias en training e inference entre modelos, y análisis de resultados experimentales de papers relevantes. Las actividades combinan rigor matemático con intuición sobre el comportamiento práctico de los modelos.
    Objetivos: 1
    Contenidos:
    Teoría
    29.9h
    Problemas
    4.1h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Reinforcement Learning

    Actividades en clase (dentro de las 8h de teoría): resolución de problemas sobre MDPs y Bellman equations, discusión de casos prácticos sobre la exploración y explotación en entornos complejos, y análisis comparativo de los métodos model-free (Q-learning, DQN) y policy gradient methods. Las actividades refuerzan la comprensión de los fundamentos teóricos y la conexión con los deep generative models.

    Teoría
    8h
    Problemas
    2h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Trabajo 1



    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    25.9h

    Trabajo 2



    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    30h

    Bayesian methods

    Actividades en clase (dentro de las 4h de teoría): resolución de problemas sobre Bayesian inference y cálculo de distribuciones posteriores, discusión de la conexión entre variational inference y el ELBO de los VAEs, y análisis comparativo de métodos prácticos de uncertainty quantification como Bayesian neural networks y Monte Carlo dropout.
    Objetivos: 1
    Contenidos:
    Teoría
    4h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    EWvaluación de conceptos básicos



    Semana: 1
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Evakluación final



    Semana: 1
    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    0h

    Evaluación de conceptos



    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    10h

    Evaluación de conceptos básicos



    Teoría
    0h
    Problemas
    0h
    Laboratorio
    0h
    Aprendizaje dirigido
    0h
    Aprendizaje autónomo
    10h

    Metodología docente

    Algunos materiales estarán disponibles online. Los principales resultados se explicarán en clase. Se harán clases de problemas y de ejemplos de aplicación.

    Método de evaluación

    La evaluación se basa en el desarrollo de 2 proyectos (cada proyecto tiene el mismo peso) y 4 exámenes cortos. La nota final del curso (FM) será:
    FM = 0.6*(P1+P2)/2 + 0.1Ex1 + 0.1Ex2 + 0.1Ex3 + 0.1Ex4.
    Para cada proyecto, se entrega un informe de investigación donde se analiza el problema propuesto, se describe la metodología de resolución y se presentan los resultados y conclusiones. Los estudiantes serán evaluados por su capacidad de demostrar comprensión de la teoría, de razonar y de comunicar resultados.
    En los exámenes escritos (exámenes cortos en clase), se proporcionará una lista de conceptos teóricos relacionados con los temas de la asignatura sobre los que deberán demostrar comprensión. En el examen se les pedirá que expliquen su comprensión de estos conceptos.
    Peso de las competencias genéricas en la evaluación de la parte específica del curso:

    25.0% ¿ Capacidad de aplicar los conocimientos adquiridos y de resolver problemas en entornos nuevos o desconocidos dentro de contextos más amplios (o multidisciplinares) relacionados con su área de estudio.
    25.0% ¿ Capacidad de comunicar sus conclusiones, y los conocimientos y razonamientos que las sustentan, tanto a público especializado como no especializado, de manera clara e inequívoca.
    50.0% ¿ Capacidad de razonamiento crítico, lógico y matemático. Capacidad de resolver problemas en su área de estudio. Capacidad de abstracción: creación y uso de modelos que reflejen situaciones reales. Capacidad de diseñar e implementar experimentos sencillos, y de analizar e interpretar sus resultados. Capacidad de análisis, síntesis y evaluación.

    Bibliografía

    Básico

    Capacidades previas

    Teoría de probabilidad básica, álgebra lineal, cálculo infinitesimal, ML y redes neuronales.