Classifique com regressão logística
Transforme uma pontuação linear numa probabilidade com a sigmoide, treine com log loss e escolha um limiar de decisão.
- Explicar a sigmoide e por que ela produz probabilidades
- Calcular a log loss e entender por que ela pune erros confiantes
- Transformar probabilidades em decisões com um limiar
Na classificação, queremos uma probabilidade, não um número sem limites. A regressão logística calcula uma pontuação linear e a comprime com a sigmoide:
que leva qualquer pontuação para o intervalo : pontuações positivas grandes se aproximam de 1, negativas grandes se aproximam de 0, e dá exatamente 0,5. O resultado é lido como a probabilidade da classe positiva.
O treino minimiza a log loss (entropia cruzada binária):
Uma previsão errada e confiante - para um exemplo que na verdade é negativo - custa , enquanto uma hesitante custa bem menos. Isso empurra o modelo a ser confiante só quando está certo.
Da probabilidade à decisão
Uma probabilidade não é uma decisão. Você escolhe um limiar (threshold): prever positivo quando . O padrão de 0,5 raramente tem algo de especial - numa triagem de doença, você pode sinalizar pacientes com , porque deixar passar um caso é pior do que um exame a mais; para bloquear um pagamento, você pode exigir .
Experimente
Até 15 XPMova o limiar
Estas são as probabilidades de um modelo de fraude para 12 transações. Deslize o limiar e veja a precisão e o recall se compensarem.
| Marcadas como fraude | Classificadas como legítima | |
|---|---|---|
| Realmente fraude | 3 positivos verdadeiros | 2 casos perdidos (falsos negativos) |
| Realmente legítima | 2 alarmes falsos (falsos positivos) | 5 negativos verdadeiros |
- 0.95Cartão usado em dois países em menos de uma hora (fraude)Marcadas como fraude
- 0.88Compra grande de eletrônicos às 3 da manhã (fraude)Marcadas como fraude
- 0.72Dispositivo novo, endereço de entrega novo (fraude)Marcadas como fraude
- 0.64Compras pequenas e frequentes de vale-presente (legítima)Marcadas como fraude
- 0.55Primeira compra numa loja nova (legítima)Marcadas como fraude
- 0.48Muitas tentativas de PIN com erro (fraude)legítima
- 0.41Reserva de viagem no exterior (legítima)legítima
- 0.33Compra pequena logo depois de uma redefinição de senha (fraude)legítima
- 0.18Pedido online para o endereço de casa (legítima)legítima
- 0.08Combustível no posto de sempre (legítima)legítima
- 0.05Mercado de sempre, valor de sempre (legítima)legítima
- 0.02Assinatura mensal de streaming (legítima)legítima
import numpy as np
z = np.array([-4.0, -1.0, 0.0, 1.0, 4.0])
print(np.round(1 / (1 + np.exp(-z)), 3))[0.018 0.269 0.5 0.731 0.982]
Principais conclusões
Regressão logística: , uma probabilidade entre 0 e 1.
A log loss pune pesado os erros confiantes.
Escolha o limiar de decisão a partir do custo de cada tipo de erro.
Quiz da aula
5 perguntas · aprovação com 4 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: escreva código em Python
Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.
Calcule a log loss
A linha 1 tem os rótulos verdadeiros (0 ou 1); a linha 2, as probabilidades previstas. Limite as probabilidades a e imprima a log loss com 4 casas decimais.
- Quase tudo certo
- Um erro confiante
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Treine uma regressão logística
A linha 1 é LEARNING_RATE STEPS. Cada linha seguinte é x1 x2 label. Comece com pesos e viés em 0 e rode o gradiente descendente sobre a log loss, com :
Imprima w=[W1, W2] b=B (3 casas decimais), log loss: L (4 casas decimais) e training accuracy: A%, usando um limiar de 0,5.
- Aprovado ou reprovado a partir das horas de estudo e de sono
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…