Ensinando uma máquina a classificar
Classifique novos exemplos consultando seus vizinhos mais próximos, escolha k e observe os limites de decisão.
- Calcular a distância entre dois exemplos
- Classificar usando o voto da maioria entre os k vizinhos mais próximos
- Explicar como a escolha de k muda o resultado
A regressão prevê um número. A classificação prevê uma categoria: spam ou legítimo, qual dígito, qual espécie. Um dos classificadores mais simples e intuitivos é o k-vizinhos mais próximos (k-NN). Ele funciona como quando você avalia um restaurante novo: pergunta às pessoas mais parecidas com você.
Para classificar um novo exemplo:
- Calcule a distância dele até cada exemplo de treino.
- Selecione os k exemplos mais próximos.
- Faça uma votação: vence o rótulo mais frequente.
Com duas características, usamos a distância em linha reta (euclidiana), conhecida da geometria:
Experimente
Até 15 XPConsulte os vizinhos
Clique em qualquer lugar da grade para adicionar um ponto. Linhas o conectam aos k vizinhos mais próximos, e a votação define sua classe. Experimente um ponto exatamente entre os dois grupos; depois altere k de 1 a 9 e observe se o resultado muda.
1import math
2from collections import Counter
3
4training = [((1, 2), "maçã"), ((2, 3), "maçã"), ((3, 1), "maçã"),
5 ((7, 7), "laranja"), ((8, 6), "laranja"), ((6, 8), "laranja")]
6
7def classify(point, k):
8 by_distance = sorted(training, key=lambda example: math.dist(point, example[0]))
9 votes = Counter(label for _, label in by_distance[:k])
10 return votes.most_common(1)[0][0]
11
12print(classify((2, 2), k=3))
13print(classify((7, 6), k=3))
14print(classify((4.5, 4.5), k=5))maçã laranja laranja
Escolha k e observe o limite de decisão
Se coloríssemos cada ponto da grade conforme a previsão do k-NN, veríamos regiões separadas por um limite de decisão. O valor de k molda esse limite:
- k pequeno (como 1): cada ponto segue seu único vizinho mais próximo. O limite fica irregular e um exemplo rotulado errado pode criar uma pequena ilha ao redor de si: é sobreajuste.
- k grande: muitos vizinhos votam e o limite fica mais suave. Se k for grande demais, a classe mais numerosa vence em todos os lugares: é subajuste.
Na prática, testamos vários valores e escolhemos aquele com melhor resultado nos dados reservados para teste. Um k ímpar evita empates quando há duas classes.
Principais conclusões
O k-NN classifica um novo exemplo pela votação da maioria entre os k exemplos de treino mais próximos.
A distância costuma ser euclidiana: . As características precisam ter escalas comparáveis.
Um k pequeno produz limites irregulares (sobreajuste); um k grande demais produz limites suaves demais (subajuste).
Quiz da aula
6 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: escreva código em Python
Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.
Crie um classificador k-NN
A primeira linha contém k e o ponto consultado x y. Cada linha seguinte é um exemplo de treino x y rótulo. Imprima os rótulos dos k vizinhos mais próximos (do mais próximo ao mais distante, separados por espaço) e depois previsão: RÓTULO pelo voto da maioria. Em caso de empate, escolha o rótulo do vizinho mais próximo.
- Frutas
- Resultado apertado
- Empate
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Escolha k usando dados reservados
Linhas iniciadas por train são exemplos de treino (train x y rótulo); linhas iniciadas por test são exemplos reservados no mesmo formato. Para k = 1, 3 e 5, classifique cada exemplo de teste com k-NN (empates são resolvidos pelo rótulo do vizinho mais próximo) e imprima k=K acurácia=A% (porcentagem inteira). Depois, imprima melhor k: K: o menor k com a maior precisão.
- Um ponto ruidoso
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…