suspendido o edital<\/a> em dezembro do ano passado ap\u00f3s receber seis representa\u00e7\u00f5es em rela\u00e7\u00e3o a concorr\u00eancia. A licita\u00e7\u00e3o foi liberada no final de abril, ap\u00f3s a prefeitura apresentar resposta a 35 pontos levantados durante a an\u00e1lise. Entretanto, segundo nota do tribunal, \u201cdurante os votos, os conselheiros demonstraram preocupa\u00e7\u00e3o com o uso de algoritmos de intelig\u00eancia artificial para reconhecimento facial, especialmente no que diz respeito \u00e0 preserva\u00e7\u00e3o dos direitos e liberdades individuais previstos na Constitui\u00e7\u00e3o Federal\u201d.<\/p>\nNa nova vers\u00e3o do edital, um dos itens determina que a empresa dever\u00e1 apresentar um relat\u00f3rio de como reduzir os riscos em rela\u00e7\u00e3o a an\u00e1lise dos dados coletados pelo sistema. Na matriz de riscos, anexa ao texto do preg\u00e3o, \u00e9 apontada a \u201calta probabilidade\u201d de acesso n\u00e3o autorizado a dados pessoais.<\/p>\n
De acordo com o documento, as medidas para conter esses riscos devem seguir as defini\u00e7\u00f5es da Lei Geral de Prote\u00e7\u00e3o de Dados. O texto lembra ainda que \u201cBrasil \u00e9 um alvo constante de ataques cibern\u00e9ticos\u201d que podem levar a exposi\u00e7\u00e3o das informa\u00e7\u00f5es contidas no sistema.<\/p>\n
As informa\u00e7\u00f5es de reconhecimento facial que, de acordo com o edital, v\u00e3o permitir identificar pessoas mesmo com o uso de barba, \u00f3culos ou diferentes cortes de cabelo, ser\u00e3o usadas para localizar foragidos da Justi\u00e7a, em cruzamento de informa\u00e7\u00f5es com outros \u00f3rg\u00e3os, com o Secretaria de Estado da Seguran\u00e7a P\u00fablica de S\u00e3o Paulo. Pessoas consideradas suspeitas tamb\u00e9m poder\u00e3o ser rastreadas pelas c\u00e2meras.<\/p>\n
O TCM tamb\u00e9m questionou a prefeitura sobre os riscos da tecnologia violar os direitos de cidad\u00e3os, especialmente pessoas negras. A primeira vers\u00e3o do texto divulgado pela administra\u00e7\u00e3o municipal dizia que o monitoramento seria feito a partir de caracter\u00edsticas como \u201ccor, face, roupas, forma do corpo\/aspecto f\u00edsico\u201d. Na atual, o edital diz que ser\u00e3o usadas informa\u00e7\u00f5es como \u201ccor predominante das roupas, forma do corpo\/aspecto f\u00edsico e outras caracter\u00edsticas\u201d.<\/p>\n
O edital aponta ainda como risco de \u201cprobabilidade alta\u201d falhas na tecnologia de reconhecimento facial que podem levar a identifica\u00e7\u00e3o errada de pessoas. Para reduzir esses problemas, o documento apresenta as recomenda\u00e7\u00f5es de que sejam feitos testes regulares da intelig\u00eancia artificial e treinamento para melhorar a precis\u00e3o do sistema. Al\u00e9m disso, a empresa dever\u00e1 ter pol\u00edticas e procedimentos claros para lidar com casos desse tipo.<\/p>\n
Risco de discrimina\u00e7\u00e3o<\/h2>\n
A vereadora Silvia da Bancada Feminista (PSOL) entrou com uma a\u00e7\u00e3o civil p\u00fablica pedindo a suspens\u00e3o do edital Smart Sampa afirmando que h\u00e1 risco de discrimina\u00e7\u00e3o com uso da tecnologia de reconhecimento facial. \u201cNo Brasil, nas localidades em que essa tecnologia j\u00e1 foi testada, a apurou se que 90,5% das pessoas presas por meio da tecnologia do reconhecimento facial, eram negras\u201d, afirma o texto que pede uma decis\u00e3o liminar da Justi\u00e7a de S\u00e3o Paulo contra o sistema.<\/p>\n
No embasamento da a\u00e7\u00e3o, o mandato destaca ainda que mesmo no relat\u00f3rio do TCM que analisou o edital parece haver pouca preocupa\u00e7\u00e3o com o tema. \u201cN\u00e3o h\u00e1 em todo o relat\u00f3rio sequer a men\u00e7\u00e3o a palavra ra\u00e7a, e qualquer derivado do radical discrimina\u00e7\u00e3o aparece somente uma vez, totalmente en\u00a0passant<\/em>\u201d, acrescentou.<\/p>\nEm janeiro, o promotor estadual Reynaldo Mapelli Junior instaurou\u00a0inqu\u00e9rito para apurar o risco de discrimina\u00e7\u00e3o com uso da tecnologia, especialmente a pessoas em situa\u00e7\u00e3o de rua.<\/p>\n
Em um estudo lan\u00e7ado em 2018, as pesquisadoras Joy Buolamwini, do Instituto de Tecnologia do Massachusetts (MIT), e Timnit Gebru, \u00e0 \u00e9poca na Microsoft, identificaram que as tecnologias de reconhecimento facial chegavam a ter um \u00edndice de erro de 34,7% ao tentar identificar mulheres de pele escura. Entre os homens de pele clara, o percentual, segundo o estudo, era de 0,8%.<\/p>\n
Em julho de 2019, uma mulher foi detida por engano na cidade do Rio de Janeiro ao ser identificada pela tecnologia de reconhecimento facial como foragida da Justi\u00e7a. O caso \u00e9 mencionado no relat\u00f3rio \u201cMais c\u00e2meras, mais seguran\u00e7a?\u201d, lan\u00e7ado pelo Instituto Igarap\u00e9 em 2020, analisando as experi\u00eancias de uso de c\u00e2meras associadas a intelig\u00eancia artificial em Salvador (BA), Campinas (SP) e no Rio de Janeiro.<\/p>\n
O estudo alerta para os riscos das identifica\u00e7\u00f5es erradas, caso a programa\u00e7\u00e3o n\u00e3o seja feita a partir de uma base de dados diversa de rostos, e de vazamento de dados pessoais. \u201cA possibilidade de pris\u00f5es e\/ou deten\u00e7\u00f5es injustas e de perpetua\u00e7\u00e3o de pr\u00e1ticas discriminat\u00f3rias \u00e9 um risco real e iminente\u201d, enfatiza a pesquisa.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"
O sistema\u00a0de 20 mil c\u00e2meras que a prefeitura de S\u00e3o Paulo pretende implantar – programa Smart Sampa – far\u00e1 o armazenamento das informa\u00e7\u00f5es do sistema de reconhecimento facial em cruzamento… <\/p>\n","protected":false},"author":1,"featured_media":55291,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[802],"tags":[],"class_list":["post-55290","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nacional"],"_links":{"self":[{"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/posts\/55290","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=55290"}],"version-history":[{"count":0,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/posts\/55290\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=\/wp\/v2\/media\/55291"}],"wp:attachment":[{"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=55290"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=55290"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mpiaui.com.br\/antigo\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=55290"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}