Construa visão computacional de forma responsável
Meça o desempenho entre grupos e avalie a privacidade e o uso indevido antes de implantar sistemas de visão.
- Explique como um modelo de visão pode funcionar pior para alguns grupos
- Meça a acurácia por grupo, além da acurácia geral
- Reconheça os riscos de privacidade e uso indevido em aplicações de visão
Os sistemas de visão decidem quem desbloqueia um telefone, quais raios X o médico examina primeiro e quem é parado na fronteira. Quando falham, as falhas raramente são distribuídas uniformemente – elas se concentram nas pessoas e nas situações que os dados de treinamento menos cobriram.
Olhe além do número geral
Uma acurácia geral é média para todos, portanto, um grupo grande com o qual o modelo lida bem pode ocultar um pequeno grupo com o qual ele falha. Sempre relate os resultados por subgrupo – por tom de pele, idade, iluminação, tipo de câmera, região – e verifique se os dados do teste incluem exemplos suficientes de cada um para confiar nos números.
1results = {"group A": [1, 1, 1, 1, 1, 1, 1, 1, 1, 0], "group B": [1, 0, 1, 0]}
2all_results = [result for outcomes in results.values() for result in outcomes]
3print("overall", round(sum(all_results) / len(all_results), 2))
4for group, outcomes in results.items():
5 print(group, round(sum(outcomes) / len(outcomes), 2))overall 0.79 group A 0.9 group B 0.5
Experimente
Até 15 XPQual é o risco?
Cada cenário acarreta um risco principal. Classifique-os.
“Um aplicativo de condição de pele treinado quase apenas em pele clara”
“Uma loja identifica o rosto de cada comprador sem avisar”
“Uma foto gerada realista de um político em um evento falso”
“Um detector de pedestres testado apenas em ruas ensolaradas durante o dia”
“Fotos do Street View que mostram placas e números de casas legíveis”
Principais conclusões
Os modelos de visão falham mais naquilo que seus dados de treinamento cobrem menos – muitas vezes grupos já desfavorecidos.
Acurácia do relatório por subgrupo; um número global pode ocultar grandes lacunas.
Considere a privacidade (rostos são dados biométricos) e o uso indevido (falsificações realistas) antes de implantar.
Quiz da aula
6 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: aplique visão computacional com Python
Use pequenas matrizes de pixels para explorar conceitos de visão, execute seu código com imagens de exemplo e relacione cada resultado à ideia maior de visão computacional.
Meça a acurácia por grupo
A primeira linha contém N. Cada uma das próximas N linhas contém group outcome, em que 1 significa acerto e 0 significa erro. Imprima group: accuracy para cada grupo em ordem alfabética, com acurácia arredondada para duas casas decimais. Depois imprima gap: G: a maior acurácia menos a menor, também com duas casas decimais.
- Uma grande lacuna
- Até
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…