INFORMACIÓN GENERAL

CURSO ACADÉMICO: 2024-2025
ÁREA: Enseñanzas Técnicas
CRÉDITOS: 2,00 créditos ECTS (*)
PRECIO DE MATRÍCULA: 270,00 € (Seguro: 4 €, a consultar)
DIRECCIÓN ACADÉMICA: Oier Lopez De Lacalle

(*) 1 Crédito ECTS equivale a 25 horas

PRESENTACIÓN

Los avances actuales en el campo del procesamiento del lenguaje natural (PLN) se han logrado mediante al uso de grandes modelos de lenguaje (LLM) previamente entrenados. Los LLMs son la base de los sistemas más avanzados en la mayoría de tareas de PNL. Muestran una gran capacidad para aprender matices del lenguaje que resultan eficaces a la hora de realizar cualquier tipo de clasificación o etiquetado de secuencias. Recientemente, gracias a la gran cantidad de texto y los avances en la paralelización de GPU también muestran la capacidad de generar texto con fluidez y seguir instrucciones para realizar una gran variedad de tareas. El objetivo de este curso es enseñar los fundamentos sobre el modelado, la teoría, la adaptación de modelos, la ética y muchos otros aspectos de los grandes modelos de lenguaje. También nos centraremos en el lado práctico, para que los estudiantes adquieran experiencia práctica trabajando con estos modelos. El curso comenzará con la definición de modelos de lenguaje y ganará complejidad, dando énfasis adicional a las técnicas de adaptación (por ejemplo, aprendizaje en contexto, pocas oportunidades, aprendizaje mediante instrucción) y formas de alinearse con las preferencias humanas. Por otro lado, cubriremos técnicas avanzadas de entrenamiento como el paralelismo, arquitecturas selectivas y leyes de escala. Los prejuicios y las preocupaciones éticas de estos modelos también se tratarán en clase.

TE BUSCAMOS A TI

Dirigido a estudiantes, personas trabajadoras e investigadoras que quieran comprender y aplicar Grandes Modelos de Lenguaje (chatGPT, Gemmini) y el procesamiento del lenguaje. Aunque no es imprescindible conocer los aspectos prácticos de la programación, el estudiante valorará el conocimiento del lenguaje Python. El conocimiento preuniversitario de Álgebra y cálculo ayudará a profundizar mejor en la materia ofrecida en el curso. Hay buenos cursos online de aprendizaje de Python, dirigidos a programadores.

REQUISITOS

Aunque no es estrictamente necesario, recomendamos suscribirse a Collab Pro para obtener más prestaciones de la GPU.

IMPARTICIÓN

FECHAS DE IMPARTICIÓN: 30/09/2024 - 4/10/2024
LUGAR DE IMPARTICIÓN: Virtual
IDIOMA DE IMPARTICIÓN: Inglés

INFORMACIÓN / INSCRIPCIÓN

DEPARTAMENTO U ÓRGANO RESPONSABLE: HiTZ zentroa
DIRECCIÓN: Manuel Lardizabal, 1 - Donostia
TELÉFONO: 943 015 049
CORREO ELECTRÓNICO: amaia.lorenzo@ehu.eus / olatz.arregi@ehu.eus