Exploración del modelo Word2Vec: Bag-of-Words y Skip-gram, en el marco del Procesamiento del Lenguaje Natural.
Fecha
Autores
Autor corporativo
Título de la revista
ISSN de la revista
Título del volumen
Editor
Compartir
Director
Altmetric
Resumen
Our objective is to understand the functioning of the two neural networks that are part of the Word2Vec model, presented by Mikolov et al. To achieve this, we will provide a brief introduction to the concept of neural networks and their training process. Then, we will offer a brief contextualization of natural language processing, and finally, delve into the details of how the Word2Vec models work. This analysis will include notions of why these models are effective, supported by illustrative examples.
Descripción
Nuestro objetivo consiste en comprender el funcionamiento de las dos redes neuronales que forman parte del modelo Word2Vec, presentado por Mikolov et al\cite{mikolovl-inguistic}. Con este propósito, ofreceremos una breve introducción al concepto de redes neuronales y su proceso de entrenamiento. Luego, proporcionaremos una breve contextualización sobre el procesamiento del lenguaje natural, para finalmente adentrarnos en el detalle del funcionamiento de los modelos Word2Vec. Este análisis incluirá nociones sobre por qué estos modelos son efectivos, respaldado por ejemplos ilustrativos
Palabras clave
Redes neuronales, Retropropagación, Procesamiento del Lenguaje Natural, Wor2Vec