Amb motiu del tancament d'estiu, la validació de documents es reprendrà a partir del 28 d'agost de 2026. Disculpeu les molèsties.
Con motivo del cierre de verano, la validación de documentos se reanudará a partir del 28 de agosto de 2026. Disculpad las molestias
Due to the summer closure, document validation will resume starting August 28, 2026. We apologize for any inconvenience.

Fitxers

tfm_conti_eddie.pdf (1.38 MB)
Master-Thesis-UB-main.zip (796.03 KB)

Tipus de document

Treball de fi de màster

Data de publicació

2024-07-09

Llicència de publicació

cc-by-nc-nd (c) Eddie Conti, 2023
Si us plau utilitzeu sempre aquest identificador per citar o enllaçar aquest document: https://hdl.handle.net/2445/215077

Attention mechanisms in transformers: a new formula with mathematical foundations and enhanced interpretability

Títol de la revista

Autors

Director/Tutor

ISSN de la revista

Títol del volum

Recurs relacionat

Resum

[en] Large Language Models (LLMs) are AI systems capable of understanding and generating human language by processing vast amounts of text data. In recent years, specifically from 2017, the use of LLMs significantly increased thanks to the introduction of the Transformer architecture.

Descripció

Treballs finals del Màster de Fonaments de Ciència de Dades, Facultat de matemàtiques, Universitat de Barcelona. Curs: 2023-2024. Tutor: Arturo Vieiro Yanes i Oriol Pujol Vila

Matèries

Tractament del llenguatge natural (Informàtica), Processament de dades, Xarxes neuronals (Informàtica), Treballs de fi de màster

Matèries (anglès)

Natural language processing (Computer science), Data processing, Neural networks (Computer science), Master's thesis

Citació

Col·leccions

Màster Oficial - Fonaments de la Ciència de Dades
Programari - Treballs de l'alumnat

Citació

CONTI, Eddie. Attention mechanisms in transformers: a new formula with mathematical foundations and enhanced interpretability. [consulted: 8 of August of 2026]. Available at: https://hdl.handle.net/2445/215077

Exportar metadades

JSON - METS

Compartir registre