Tensores, formas e broadcasting
Armazene dados em matrizes multidimensionais, entenda suas formas e use broadcasting para operar sem loops explícitos.
- Descrever tensores por classificação e formato, incluindo a dimensão do lote
- Preveja a forma do resultado da multiplicação, broadcasting e reduções de matrizes
- Remodele, transponha e nivele tensores sem perder o controle dos dados
As redes neurais falam uma língua: tensores - matrizes de números com qualquer número de dimensões. Em numpy (e em PyTorch, que copia o estilo de numpy) um tensor tem uma forma, uma tupla que fornece o tamanho de cada dimensão:
| Classificação | Exemplo | Forma |
|---|---|---|
| 0 (escalar) | um valor de perda | () |
| 1 (vetor) | 25 pixels de um doodle | (25,) |
| 2 (matriz) | um lote de 32 rabiscos | (32, 25) |
| 3 | um lote de 32 imagens 5×5 em tons de cinza | (32, 5, 5) |
| 4 | 32 imagens coloridas, 3 canais, 64×64 | (32, 3, 64, 64) em PyTorch |
A primeira dimensão é quase sempre o lote: as redes processam muitos exemplos ao mesmo tempo, porque uma grande multiplicação de matrizes é muito mais rápida do que muitas pequenas.
1import numpy as np
2
3doodles = np.arange(2 * 3 * 4).reshape(2, 3, 4) # 2 doodles, 3 rows, 4 columns
4print(doodles.shape, doodles.ndim, doodles.size)
5flat = doodles.reshape(2, -1) # -1: "work this one out"
6print(flat.shape)
7print(flat[1, :5])
8print(doodles.transpose(0, 2, 1).shape)
9print(doodles.sum(axis=0).shape, doodles.sum(axis=(1, 2)))(2, 3, 4) 3 24 (2, 12) [12 13 14 15 16] (2, 4, 3) (3, 4) [ 66 210]
Reduções como sum, mean e max assumem um axis: essa dimensão desaparece da forma. Passe keepdims=True para mantê-lo no tamanho 1 - útil quando você deseja dividir pelo resultado.
reshape nunca move dados; ele reinterpreta os mesmos números em uma nova forma, preenchendo primeiro a última dimensão. transpose troca dimensões.
Multiplicação de matrizes
O carro-chefe de cada camada é @, multiplicação de matrizes. As formas devem se alinhar por dentro e as dimensões externas sobreviverem:
Para uma camada: as entradas (batch, in_features) @ (in_features, out_features) fornecem (batch, out_features). Cada saída é uma soma ponderada - um produto escalar por linha e coluna.
Radiodifusão
Operações entre elementos entre tensores de diferentes formas broadcast: numpy alinha as formas a partir da direita e uma dimensão de tamanho 1 (ou uma que esteja faltando) se estende para corresponder. Nenhum dado é copiado.
| Formas | Resultado |
|---|---|
(32, 10) + (10,) | (32, 10) - um desvio por coluna, adicionado a cada linha |
(32, 10) − (32, 1) | (32, 10) - um valor por linha |
(3, 1) × (1, 4) | (3, 4) - um produto externo |
(32, 10) + (32,) | erro: 10 e 32 não coincidem |
1import numpy as np
2
3X = np.array([[1.0, 2.0, 3.0],
4 [4.0, 5.0, 6.0]]) # 2 examples, 3 features
5bias = np.array([10.0, 20.0, 30.0])
6print(X + bias)
7row_means = X.mean(axis=1, keepdims=True) # shape (2, 1)
8print(X - row_means)
9W = np.ones((3, 4))
10print((X @ W).shape)
11try:
12 X + np.array([1.0, 2.0])
13except ValueError as error:
14 print("Error:", str(error).split(" with ")[0])[[11. 22. 33.] [14. 25. 36.]] [[-1. 0. 1.] [-1. 0. 1.]] (2, 4) Error: operands could not be broadcast together
Experimente
Até 15 XPSerá transmitido?
Alinhe as formas a partir da direita: cada par de dimensões deve ser igual ou uma delas deve ser 1 (ou faltar). Para @, as dimensões internas devem corresponder.
“(64, 128) + (128,)”
“(64, 128) + (64,)”
“(64, 1) * (1, 10)”
“(8, 3) @ (3, 5)”
“(8, 3) @ (8, 3)”
“(16, 3, 32, 32) + (3, 1, 1)”
“(5, 4) - (5, 4).mean(axis=1)”
Principais conclusões
Tensores são matrizes n-dimensionais; sua forma lista o tamanho de cada dimensão, primeiro o lote.
@multiplica (N, K) por (K, M) em (N, M) - o núcleo de cada camada.A broadcasting alinha as formas à direita e amplia as dimensões de tamanho 1.
As reduções removem o eixo que você nomeia;
keepdims=Truemantém o tamanho 1.
Quiz da aula
7 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: escreva código em Python
Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.
Padronize os recursos do doodle
Cada linha de entrada representa um recurso do doodle (mesma contagem em cada linha). Padronize cada coluna: subtraia a média da coluna e divida pelo desvio padrão da coluna (np.std, o padrão). Imprima cada linha com valores de 2 casas decimais separadas por espaços e, a seguir, o formato do resultado.
- Três rabiscos
- Quatro rabiscos
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Uma camada para um lote inteiro
Cada linha de entrada é um exemplo com 3 recursos. Empilhe-os em um lote X e, em seguida, calcule as saídas de uma camada X @ W + b com o W fornecido (3 entradas → 2 saídas) e b, para todos os exemplos de uma vez (sem loop nas linhas). Imprima as formas de X e da saída e, em seguida, cada linha de saída com 1 decimal.
- Dois exemplos
- Três exemplos
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…