Processament Estadístic del Llenguatge Natural

• Hores setmanals
• Objectius
• Continguts
• Activitats
• Metodologia docent
• Mètode d'avaluació
• Bibliografia

Hores setmanals

Objectius

1. Justificar la pertinència d' aplicar determinada tècnica estadística al tractament de determinada tascade PLN.
   Competències relacionades: CG1, CG3, CB6, CB7, CEC1, CEC2, CEC3, CTR4, CTR6,
2. Evaluar l' utilitat d' incloiure determinats components estadístics en determinadae aplicacions de PLN per a resoldre determinades tasques de PLN
   Competències relacionades: CG3, CEC3,
3. Cerca i selecció de recursos i procesadors estadístics de PLN per a ser utilitzats en tasques i aplicacions de PLN.
   Competències relacionades: CG3, CB7, CB9, CEC1, CEC2, CEC3, CTR4,
4. Disseny i implementació de nous components de PLN, adaptació de components ja existents i integració en una aplicació de PLN.
   Competències relacionades: CG3, CB6, CB9, CEC2, CEC3, CTR4,

Continguts

1. Introducció
   PLN vs Lingüística Computacional vs Tecnologia del llenguatge humà
   Métods basats en el coneixement vs mètods empírics
   Recursos
   Recursos Léxics
   Corpus
   Gramàtiques
   Ontologies
2. Models de llenguatge
   Introducció
   Models basats en paraules, classes i sintagmes
   Contingut d'informació
   entropia
   informació mutua
   entropia conjunta i condidional
   informació mutua pointwise
   Kullback-Leibler divergence (KL)
   models "Noise channel"
   models d'aliniació
   Applicació a tasques de PLN
3. Models d'estats finits
   Autòmats d'estats finits i Gramàtiques regulars
   Transdurctors d'estats finits (FST)
   Models d'estats finits probabilistics
   Aplicació a tasques de PLN
4. Models log-linials i de màxima entropia
   Problemes de classificació – MLE vs MEM
   Models Generatius i condicionals (discriminatius).
   MM i HMM.
   CRF
   Construcció de models de ME
   Maximum Entropy Markov Models (MEMM)
   Applicacions al PLN
5. Models per l' analisi sintàctic
   Anàlisi sintàctic de constituents
   Stochastic Context Free Grammars (SCFG)
   Models probabilístics més rics
   Aplicacions al PLN.
   Syntactic parsing
   Semantic parsing
   Anàlisi sintàctic de dependencies
6. Aprenentatge automàtic supervisat per PLN
   Problemes de Classificació.
   Margin-based classifiers: Perceptron, SVM, AdaBoost.
   Kernel-based mehods.
7. Aprenentatge semi-supervisat
   Bootstrapping
8. Aprenentetge no supervisat (agrupació)
   Similitut
   Agrupació jeràrquica
   Agrupació no jeràrquica
   Avaluació de l' agrupació
9. Utilitzacó de tècniques estadístiques en aplicacions de PLN
   Traducció automàtica (MT) en detall
   Altres tasques (Part of Speech (POS) tagging, Named Entity Recognition and Classification (NERC), Mention detection & tracking, Coreference resolution, Text Alignment, Lexical Acquisition, Relation Extraction, Semantic Role Labeling (SRL), Word Sense Disambiguation (WSD)) i aplicacions (Information Extraction (IE), Information Retrieval (IR), Question Answering (Q&A), Automatic Summarization, Sentiment Analysis, and Text Classification) només en forma resumida.

Activitats

Activitat Acte avaluatiu

Metodologia docent

Mètode d'avaluació

Bibliografia

Bàsica:

• Speech and Language Processing: An Introduction to Natural Language Processing, Speech Recognition and Computational Linguistics - Jurafsky, Daniel & Martin, James H., ISBN: 0131873210
  http://www.cs.colorado.edu/~martin/slp.html
• Handbook of natural language processing - Somers, Harold L; Dale, Robert, Marcel Dekker, cop.2000. ISBN: 0824790006
  http://cataleg.upc.edu/record=b1172244~S1*cat
• Foundations of statistical natural language processing - Manning, Christopher D; Schütze, Hinric, MIT Press, 1999. ISBN: 0262133601
  http://cataleg.upc.edu/record=b1165147~S1*cat
• The Oxford handbook of Computational Linguistics - Mitkov, Ruslan , 2004. ISBN: 019927634X
  http://www.chatbots.org/book/the_oxford_handbook_of_computational_linguistics/