Carregando
0x10Lição 2 de 17

Tensores, formas e broadcasting

Armazene dados em matrizes multidimensionais, entenda suas formas e use broadcasting para operar sem loops explícitos.

26 min Questionário com 7 perguntas 2 exercícios de código
Ao final desta lição, você saberá
  • Descrever tensores por classificação e formato, incluindo a dimensão do lote
  • Preveja a forma do resultado da multiplicação, broadcasting e reduções de matrizes
  • Remodele, transponha e nivele tensores sem perder o controle dos dados

As redes neurais falam uma língua: tensores - matrizes de números com qualquer número de dimensões. Em numpy (e em PyTorch, que copia o estilo de numpy) um tensor tem uma forma, uma tupla que fornece o tamanho de cada dimensão:

ClassificaçãoExemploForma
0 (escalar)um valor de perda()
1 (vetor)25 pixels de um doodle(25,)
2 (matriz)um lote de 32 rabiscos(32, 25)
3um lote de 32 imagens 5×5 em tons de cinza(32, 5, 5)
432 imagens coloridas, 3 canais, 64×64(32, 3, 64, 64) em PyTorch

A primeira dimensão é quase sempre o lote: as redes processam muitos exemplos ao mesmo tempo, porque uma grande multiplicação de matrizes é muito mais rápida do que muitas pequenas.

shapes.py
1import numpy as np
2
3doodles = np.arange(2 * 3 * 4).reshape(2, 3, 4)   # 2 doodles, 3 rows, 4 columns
4print(doodles.shape, doodles.ndim, doodles.size)
5flat = doodles.reshape(2, -1)                      # -1: "work this one out"
6print(flat.shape)
7print(flat[1, :5])
8print(doodles.transpose(0, 2, 1).shape)
9print(doodles.sum(axis=0).shape, doodles.sum(axis=(1, 2)))
Saída
(2, 3, 4) 3 24
(2, 12)
[12 13 14 15 16]
(2, 4, 3)
(3, 4) [ 66 210]

Reduções como sum, mean e max assumem um axis: essa dimensão desaparece da forma. Passe keepdims=True para mantê-lo no tamanho 1 - útil quando você deseja dividir pelo resultado.

reshape nunca move dados; ele reinterpreta os mesmos números em uma nova forma, preenchendo primeiro a última dimensão. transpose troca dimensões.

Multiplicação de matrizes

O carro-chefe de cada camada é @, multiplicação de matrizes. As formas devem se alinhar por dentro e as dimensões externas sobreviverem:

(N×K)  @  (K×M)  →  (N×M)(N \times K) \; @ \; (K \times M) \;\rightarrow\; (N \times M)

Para uma camada: as entradas (batch, in_features) @ (in_features, out_features) fornecem (batch, out_features). Cada saída é uma soma ponderada - um produto escalar por linha e coluna.

Radiodifusão

Operações entre elementos entre tensores de diferentes formas broadcast: numpy alinha as formas a partir da direita e uma dimensão de tamanho 1 (ou uma que esteja faltando) se estende para corresponder. Nenhum dado é copiado.

FormasResultado
(32, 10) + (10,)(32, 10) - um desvio por coluna, adicionado a cada linha
(32, 10) − (32, 1)(32, 10) - um valor por linha
(3, 1) × (1, 4)(3, 4) - um produto externo
(32, 10) + (32,)erro: 10 e 32 não coincidem
broadcasting.py
1import numpy as np
2
3X = np.array([[1.0, 2.0, 3.0],
4              [4.0, 5.0, 6.0]])           # 2 examples, 3 features
5bias = np.array([10.0, 20.0, 30.0])
6print(X + bias)
7row_means = X.mean(axis=1, keepdims=True)  # shape (2, 1)
8print(X - row_means)
9W = np.ones((3, 4))
10print((X @ W).shape)
11try:
12    X + np.array([1.0, 2.0])
13except ValueError as error:
14    print("Error:", str(error).split(" with ")[0])
Saída
[[11. 22. 33.]
 [14. 25. 36.]]
[[-1.  0.  1.]
 [-1.  0.  1.]]
(2, 4)
Error: operands could not be broadcast together

Experimente

Até 15 XP

Será transmitido?

Alinhe as formas a partir da direita: cada par de dimensões deve ser igual ou uma delas deve ser 1 (ou faltar). Para @, as dimensões internas devem corresponder.

0 de 7 classificadosPontuação 0/0
  • “(64, 128) + (128,)”

  • “(64, 128) + (64,)”

  • “(64, 1) * (1, 10)”

  • “(8, 3) @ (3, 5)”

  • “(8, 3) @ (8, 3)”

  • “(16, 3, 32, 32) + (3, 1, 1)”

  • “(5, 4) - (5, 4).mean(axis=1)”

Principais conclusões

  • Tensores são matrizes n-dimensionais; sua forma lista o tamanho de cada dimensão, primeiro o lote.

  • @ multiplica (N, K) por (K, M) em (N, M) - o núcleo de cada camada.

  • A broadcasting alinha as formas à direita e amplia as dimensões de tamanho 1.

  • As reduções removem o eixo que você nomeia; keepdims=True mantém o tamanho 1.

Quiz da aula

7 perguntas · aprovação com 5 acertos · até 50 XP

Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.

Pratique: escreva código em Python

Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.

Exercício 1

Padronize os recursos do doodle

+25 XP

Cada linha de entrada representa um recurso do doodle (mesma contagem em cada linha). Padronize cada coluna: subtraia a média da coluna e divida pelo desvio padrão da coluna (np.std, o padrão). Imprima cada linha com valores de 2 casas decimais separadas por espaços e, a seguir, o formato do resultado.

  • Três rabiscos
  • Quatro rabiscos
main.py
Carregando editor…

O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.

Exercício 2

Uma camada para um lote inteiro

+25 XP

Cada linha de entrada é um exemplo com 3 recursos. Empilhe-os em um lote X e, em seguida, calcule as saídas de uma camada X @ W + b com o W fornecido (3 entradas → 2 saídas) e b, para todos os exemplos de uma vez (sem loop nas linhas). Imprima as formas de X e da saída e, em seguida, cada linha de saída com 1 decimal.

  • Dois exemplos
  • Três exemplos
main.py
Carregando editor…

O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.

Dúvidas sobre esta lição

Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.

Carregando publicações…