Representar significado com vetores de palavras
Coloque as palavras como pontos no espaço para que palavras semelhantes fiquem próximas umas das outras.
- Explique a hipótese distributiva por trás dos vetores de palavras
- Compare palavras com semelhança de cosseno
- Resolva analogias com aritmética vetorial - e identifique o viés que ela pode revelar
As contagens tratam cada palavra como não relacionada: para um pacote de palavras, gato é tão diferente de gatinho quanto de carburador. Vetores de palavras (também chamados de embeddings) corrigem isso dando a cada palavra uma lista de números - um ponto no espaço - para que palavras com significados semelhantes fiquem próximas umas das outras.
De onde vêm os números? Da hipótese distributiva, resumida pelo linguista J. R. Firth: “Você conhecerá uma palavra pela companhia que ela mantém”. Palavras que aparecem em contextos semelhantes (café e chá ambos são preparados, derramados, quentes) obtêm vetores semelhantes. Métodos como word2vec e GloVe aprendem esses vetores a partir de bilhões de palavras de texto.
Proximidade como ângulo
Semelhança de cosseno compara as direções em que dois vetores apontam: 1 significa a mesma direção, 0 significa não relacionado (em ângulos retos). Ele ignora o comprimento, que reflete principalmente a frequência de uma palavra, e não o que ela significa.
Experimente
Até 15 XPMapa vetorial de palavras
Os vetores de palavras reais têm centenas de dimensões; este mapa de brinquedo tem dois, então você pode vê-los.
- No modo Comparar, clique em king e queen, depois em king e woman. Qual par aponta mais para a mesma direção?
- No modo Resolver analogias, adivinhe a resposta antes que ela seja revelada. A seta azul é o “movimento” da segunda palavra para a primeira; a seta verde repete esse movimento a partir da terceira palavra.
Clique em duas palavras no mapa. As setas partem da origem e apontam para cada palavra; quanto menor o ângulo entre elas, maior a similaridade do cosseno.
Nenhuma palavra selecionada.
vectors = {"king": (8, 9), "man": (8, 2), "woman": (2, 2), "queen": (2, 9)}
target = tuple(king - man + woman for king, man, woman in zip(vectors["king"], vectors["man"], vectors["woman"]))
print(target, target == vectors["queen"])(2, 9) True
Principais conclusões
Os vetores de palavras colocam as palavras no espaço; contextos semelhantes → pontos próximos (hipótese distributiva).
Semelhança de cosseno compara direções: próximo de 1 = semelhante, próximo de 0 = não relacionado.
A aritmética vetorial pode capturar relacionamentos (rei − homem + mulher ≈ rainha) – e preconceitos sociais.
Quiz da aula
6 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: aplique NLP com Python
Experimente cada ideia de processamento de texto em Python, execute com entradas de exemplo e use os resultados para ver onde o método funciona ou falha.
Encontre a palavra mais semelhante
A primeira linha é N. Cada uma das próximas N linhas é uma palavra e seu vetor, como king 8 9. A última linha é uma palavra de consulta. Imprima a outra palavra com maior semelhança de cosseno com a consulta (empates: primeiro em ordem alfabética).
- Vizinhos reais
- Canto oposto
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…