Subject
NLP Applications (II): Building Information Extraction, Question Answering and Conversational Systems
General details of the subject
- Mode
- Face-to-face degree course
- Language
- English
Description and contextualization of the subject
El objetivo de la asignatura es conocer y obtener la capacidad de implementar aplicaciones basadas en las tecnolog¿ del lenguaje o procesamiento del lenguaje natural. Se estudiaran la aplicaciones b¿cas de PLN que en la actualidad se utilizan en la industria de la tecnolog¿ del lenguaje.El contenido se concentrara en las siguientes tareas:
i) Extracci¿e la informaci¿Presentar t¿icas avanzadas para la desambiguaci¿el l¿co en varios niveles ling¿¿icos. Las t¿icas desambiguaci¿ncluyen algoritmos de desambiguaci¿e sentido de palabras, entity linking, y reconocimiento y clasificaci¿e entidades nombradas (NERC). Conocer e implementar algoritmos de extracci¿e informaci¿structurada, as¿omo la extracci¿e relaciones sem¿icas y extracci¿e eventos. Para ello, el alumno ser¿apaz de utilizar t¿icas avanzadas de Deep Learning (embeddings, transfer learning, LSTM, CNN, etc.), sequence labeling (inferencia, beam search, viterbi, etc.) y supervisi¿ distancia.
ii) Question Answering: Presentar t¿icas no supervisadas (unsupervised learning) basadas en la similitud textual sem¿ica (embeddings, teoria de grafos), y t¿icas basadas en algoritmos supervisados que incluyen m¿dos end-to-end, recuperaci¿e informaci¿y recuperaci¿e conocimiento. Tambi¿se estudiar¿t¿icas de generaci¿e lenguaje (p.e. modelos de lenguaje, seq2seq). Se estudiaran los ¿ltimos avances en tareas multimodales (e.g. visual question answering)
iii) Sistemas conversacionales: Presentar los m¿os que conforman los sistemas conversacionales, y los algoritmos que controlan interacci¿el dialogo entre humanos y m¿ina. Se har¿special hincapi¿n el m¿o de comprensi¿el lenguaje natural (NLU) as¿omo la generaci¿el lenguaje.
Teaching staff
Name | Institution | Category | Doctor | Teaching profile | Area | |
---|---|---|---|---|---|---|
BARRENA MADINABEITIA, ANDER | University of the Basque Country | Profesorado Adjunto (Ayudante Doctor/A) | Doctor | Bilingual | Computer Languages and Systems | ander.barrena@ehu.eus |
LARRAÑAGA OLAGARAY, MIGUEL | University of the Basque Country | Profesorado Agregado | Doctor | Bilingual | Computer Languages and Systems | mikel.larranaga@ehu.eus |
LOPEZ DE LACALLE LECUONA, OIER | University of the Basque Country | Profesorado Adjunto (Ayudante Doctor/A) | Doctor | Bilingual | Computer Languages and Systems | oier.lopezdelacalle@ehu.eus |
Competencies
Name | Weight |
---|---|
Conocimiento de las herramientas existentes para el procesamiento de diferentes lenguas (analizadores morfológicos, sintácticos, semánticos). | 12.0 % |
Conocimiento de utilización de las técnicas y recursos de ingeniería lingüística para aplicaciones reales de extracción de información, sistemas preguntas-respuestas, y sistemas conversacionales. | 12.0 % |
Capacidad para comprender estrategias de aprendizaje automático en el procesamiento del lenguaje humano. | 12.0 % |
Habilidad para manejar las estrategias y herramientas basadas en conocimiento para el procesamiento del lenguaje humano. | 12.0 % |
Habilidad para el manejo, adaptación y mejora de los métodos empíricos más relevantes para la investigación en las tecnologías de la lengua. | 12.0 % |
Habilidad para el manejo y adaptación de las herramientas existentes para el procesamiento de diferentes lenguas (analizadores morfológicos, sintácticos, semánticos, etc.). | 12.0 % |
Capacidad para diseñar e implementar aplicaciones lingüísticos reales de extracción de información, preguntas-respuestas, y partes de sistemas conversacionales. | 28.0 % |
Study types
Type | Face-to-face hours | Non face-to-face hours | Total hours |
---|---|---|---|
Lecture-based | 15 | 22.5 | 37.5 |
Applied computer-based groups | 30 | 45 | 75 |
Learning outcomes of the subject
Capacidad de implementar aplicaciones basadas en la tecnolog¿ del lenguaje o procesamiento del lenguaje natural.Conocimiento de la utilizaci¿e herramientas b¿cas del procesamiento del lenguaje natural.
Capacidad de utilizar y programar aplicaciones que utilizan m¿dos avanzados como Deep Learning y Machine Learning.
Capacidad de evaluaci¿e aplicaciones NLP.
Temary
1. Introducci¿l NLP aplicado2. Extracci¿e Informaci¿ t¿icas de desambiguaci¿3. Sistemas de Preguntas-Respuestas.
4. Sistemas conversacionales.
Bibliography
Basic bibliography
Chris Manning and Hinrich Sch¿tze. Foundations of Statistical Natural Language Processing, MIT Press. Cambridge, MA: May 1999.Daniel Jurafsky, James H. Martin. Speech and Language Processing (2nd Edition), Pearson. May, 2008.
Eneko Agirre, Phillip Edmonds (Eds.). Word Sense Disambiguation: Algorithms and applications, Springer. 2007
Yoav Goldberg, Graeme Hirst. Neural Network Methods in Natural Language Processing (Synthesis Lectures on Human Language Technologies). 2017. Primer. http://u.cs.biu.ac.il/~yogo/nnlp.pdf
ACL: https://aclweb.org/anthology/