Link do material

Word2Vec e sua importância na etapa de pré-processamento

• Word2Vec é um método estatístico para aprender eficientemente um Word Embedding independente, a partir de um corpus de texto.
• Foi desenvolvido por Tomas Mikolov, et al. no Google em 2013 como uma resposta para tornar o treinamento de embeddings baseados em redes neurais mais eficientes.
• É usado um mapa de vetores multidimensional, que é uma forma algébrica de representar o texto por meio de coordenadas, onde cada vetor irá representar uma palavra/sentença; desta forma conseguimos utilizar a matemática a nosso favor, para efetuarmos cálculos, tais como a distância entre cada vetor, e diversas outras operações utilizando as propriedades dos vetores.

Podemos notar que diversos vetores foram agrupados, indicando uma certa proximidade linguística entre as palavras. Por exemplo, a palavra is está mais próxima das palavras the , word2vec e yet do que das palavras first e more.