Anàlisi Estadística de Xarxes i Sistemes

Crèdits
6
Tipus
Obligatòria d'especialitat (Xarxes de Computadors i Sistemes Distribuïts)
Requisits
Aquesta assignatura no té requisits , però té capacitats prèvies
Departament
AC
The course covers basic techniques used in the statistical analysis of networks and systems. It first reviews and extends basic concepts on probability, information theory, and linear algebra. Then it presents basic estimation techniques. It covers the basic approaches of Machine Learning for regression and classification. Finally presents linear methods for dimensionality reduction.

Professorat

Responsable

  • Jorge García Vidal (jorge@ac.upc.edu)

Altres

  • Jose Maria Barceló Ordinas (jose.maria.barcelo@upc.edu)

Hores setmanals

Teoria
3.4
Problemes
0.6
Laboratori
0
Aprenentatge dirigit
0
Aprenentatge autònom
7.1

Competències

Competències Tècniques de cada especialitat

Xarxes de computadors i sistemes distribuïts

  • CEE2.2 - Capacitat d'entendre els models, problemes i algoritmes relacionats amb les xarxes de computadors, així com poder dissenyar i avaluar algoritmes, protocols i sistemes que tractin la problemàtica de la xarxes de comunicació entre computadors.

    • Competències Tècniques Generals

    Genèriques

  • CG4 - Capacitat per a la direcció general i tècnica de projectes de recerca, desenvolupament i innovació, en empreses i centres tecnològics, en l'àmbit de l'Enginyeria Informàtica.

    • Competències Transversals

    Actitud adequada davant el treball

  • CTR5 - Tenir motivació per a la realització professional i per a afrontar nous reptes, tenir una visió àmplia de les possibilitats de la carrera professional en l'àmbit de l'enginyeria en informàtica. Sentir-se motivat per la qualitat i la millora contínua, i actuar amb rigor en el desenvolupament professional. Capacitat d'adaptació als canvis organitzatius o tecnològics. Capacitat de treballar en situacions de carència d'informació i/o amb restriccions temporals i/o de recursos.

    • Bàsiques

  • CB6 - Que els estudiants sàpiguen aplicar els coneixements adquirits y la seva capacitat de resolució de problemes en entorns nous o poc coneguts dins de contexts més amplis (o multidisciplinaris) relacionats amb la seva àrea d'estudi.

    • Objectius

    1. Habilitat de modelat quantitatiu
      Competències relacionades: CB6, CTR5, CEE2.2, CG4,

    Continguts

    1. Repàs a models de probabilitat
      Probability axioms, basic combinatorics, random variables, independence and conditional probability, Bayes formula, total probability. Expected values, variance-covariance matrix, inequalities (Markov, Chebyshev, Chernoff, Jensen), (weak) law large numbers, central limit theorem. Properties of multivariate Gaussian distributions. Entropy, mutual information, KL-divergence, and cross entropy.
    2. Estimació. Tècniques bàsiques de ML per classificació i regressió
      Maximum likelihood and bayesian estimation. Decision functions, Loss, Risk, Empirical Risk minimization. Approximation and estimation. Bias-variance tradeoff. Classification. Linear regression, Logistic regression. k-means, clustering. Random forest. Introduction to Neural networks: FFNN, backprop, SGD, CNN, RNN, Autoencoders
    3. Models lineals i reducció de dimensionalitat
      Review of basic linear algebra results, spectral theorem for symmetric matrices, positive definite matrices, matrix calculus, trace operator, SVD, matrix norms, Eckart-Young theorem, condition number, dimensionality reduction, PCA, eigenfaces, Sparse representation, Fourier matrices.

    Activitats

    Activitat Acte avaluatiu


    Models probabilistics

    Probability axioms, basic combinatorics, random variables, independence and conditional probability, Bayes formula, total probability. Expected values, variance-covariance matrix, inequalities (Markov, Chebyshev, Chernoff, Jensen), (weak) law large numbers, entropy and mutual information. Cross entropy as a cost function. Properties of Gaussian distributions, central limit theorem.
    Objectius: 1
    Continguts:
    Teoria
    8h
    Problemes
    2h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    0h

    Models lineals

    Review of basic linear algebra results, spectral theorem for symmetric matrices, positive definite matrices, matrix calculus, trace operator, SVD, matrix norms, Eckart-Young theorem, condition number, dimensionality reduction, PCA, eigenfaces, Sparse representation, Fourier matrices, Graph signal processing
    Objectius: 1
    Continguts:
    Teoria
    8h
    Problemes
    2h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    0h

    Estimació, tècniques bàsiques de aprenentatge automàtic per regressió i classificació

    Maximum likelihood and bayesian estimation. Decision functions, Loss, Risk, Empirical Risk minimization. Approximation and estimation. Bias-variance tradeoff. Classification. Linear regression. Basic neural networks architectures.

    Teoria
    26.9h
    Problemes
    4.1h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    0h

    test autoavaluació


    Objectius: 1
    Setmana: 8
    Teoria
    0h
    Problemes
    0h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    0h

    test autoavaluació


    Objectius: 1
    Setmana: 16
    Teoria
    0h
    Problemes
    0h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    0h

    Treball 1



    Teoria
    0h
    Problemes
    0h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    19.9h

    Treball 2



    Teoria
    0h
    Problemes
    0h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    20h

    Treball 3



    Teoria
    0h
    Problemes
    0h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    20h

    Metodologia docent

    Alguns materials serán online. La resta en classes presencials a la pisarra. Classes de discussió de problemes i exemples,

    Mètode d'avaluació

    La avaluació se basa en el desenvolupament de 3 projectes i dos controls (C1, C2), un a mitjans dels curs i un altre al final del curs, que es puntuan entre 0 i 10. Cada projecte serà avaluat (0=<nota=<10). La nota final del curs (FM) es calcula com:

    FM = 0.2*(C1+C2+P1+P2+P3)

    En aquest curs els projectes proposats seran:
    * P1: Probabilitat bàsica, teoría de la informació i àlgebra linial,
    * P2: Mètodes bàsics de estimació i Machine Learning.
    * P3: Xarxes Neuronals

    Bibliografia

    Bàsic

    Capacitats prèvies

    Teoria de probabilitat bàsica, algebra lineal, càlcul