Carregando
0xE0Lição 15 de 16

Construa visão computacional de forma responsável

Meça o desempenho entre grupos e avalie a privacidade e o uso indevido antes de implantar sistemas de visão.

18 min Questionário com 6 perguntas 1 exercício de código
Ao final desta lição, você saberá
  • Explique como um modelo de visão pode funcionar pior para alguns grupos
  • Meça a acurácia por grupo, além da acurácia geral
  • Reconheça os riscos de privacidade e uso indevido em aplicações de visão

Os sistemas de visão decidem quem desbloqueia um telefone, quais raios X o médico examina primeiro e quem é parado na fronteira. Quando falham, as falhas raramente são distribuídas uniformemente – elas se concentram nas pessoas e nas situações que os dados de treinamento menos cobriram.

Olhe além do número geral

Uma acurácia geral é média para todos, portanto, um grupo grande com o qual o modelo lida bem pode ocultar um pequeno grupo com o qual ele falha. Sempre relate os resultados por subgrupo – por tom de pele, idade, iluminação, tipo de câmera, região – e verifique se os dados do teste incluem exemplos suficientes de cada um para confiar nos números.

per_group.py
1results = {"group A": [1, 1, 1, 1, 1, 1, 1, 1, 1, 0], "group B": [1, 0, 1, 0]}
2all_results = [result for outcomes in results.values() for result in outcomes]
3print("overall", round(sum(all_results) / len(all_results), 2))
4for group, outcomes in results.items():
5    print(group, round(sum(outcomes) / len(outcomes), 2))
Saída
overall 0.79
group A 0.9
group B 0.5

Experimente

Até 15 XP

Qual é o risco?

Cada cenário acarreta um risco principal. Classifique-os.

0 de 5 classificadosPontuação 0/0
  • “Um aplicativo de condição de pele treinado quase apenas em pele clara”

  • “Uma loja identifica o rosto de cada comprador sem avisar”

  • “Uma foto gerada realista de um político em um evento falso”

  • “Um detector de pedestres testado apenas em ruas ensolaradas durante o dia”

  • “Fotos do Street View que mostram placas e números de casas legíveis”

Principais conclusões

  • Os modelos de visão falham mais naquilo que seus dados de treinamento cobrem menos – muitas vezes grupos já desfavorecidos.

  • Acurácia do relatório por subgrupo; um número global pode ocultar grandes lacunas.

  • Considere a privacidade (rostos são dados biométricos) e o uso indevido (falsificações realistas) antes de implantar.

Quiz da aula

6 perguntas · aprovação com 5 acertos · até 50 XP

Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.

Pratique: aplique visão computacional com Python

Use pequenas matrizes de pixels para explorar conceitos de visão, execute seu código com imagens de exemplo e relacione cada resultado à ideia maior de visão computacional.

Exercício 1

Meça a acurácia por grupo

+25 XP

A primeira linha contém N. Cada uma das próximas N linhas contém group outcome, em que 1 significa acerto e 0 significa erro. Imprima group: accuracy para cada grupo em ordem alfabética, com acurácia arredondada para duas casas decimais. Depois imprima gap: G: a maior acurácia menos a menor, também com duas casas decimais.

  • Uma grande lacuna
  • Até
main.py
Carregando editor…

O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.

Dúvidas sobre esta lição

Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.

Carregando publicações…