{"id":30540,"date":"2021-01-03T08:51:29","date_gmt":"2021-01-03T12:51:29","guid":{"rendered":"http:\/\/blogdalucianaoliveira.com.br\/blog\/?p=30540"},"modified":"2021-01-03T08:51:33","modified_gmt":"2021-01-03T12:51:33","slug":"o-algoritmo-e-racismo-nosso-de-cada-dia","status":"publish","type":"post","link":"http:\/\/blogdalucianaoliveira.com.br\/blog\/2021\/01\/03\/o-algoritmo-e-racismo-nosso-de-cada-dia\/","title":{"rendered":"O ALGORITMO E RACISMO NOSSO DE CADA DIA"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Reconhecimento facial aposta no encarceramento e pune preferencialmente popula\u00e7\u00e3o negra <\/h3>\n\n\n\n\n\n\n\n

PABLO NUNES<\/strong>, na Revista Piau\u00ed <\/p>\n\n\n\n

J<\/strong>oy Buolamwini, uma mulher negra de 30 anos, pesquisadora do Media Lab do Instituto de Tecnologia de Massachusetts (M.I.T.), estava desenvolvendo um prot\u00f3tipo de espelho inteligente, capaz de reconhecer a face da pessoa a sua frente e projetar no reflexo imagens de rostos de pessoas inspiradoras, como Serena Williams. Ela montou o espelho, acoplou uma c\u00e2mera para captar a imagem da face e transmitir ao computador que, atrav\u00e9s de um algoritmo de reconhecimento facial, iria identificar a pessoa e vincul\u00e1-la \u00e0s informa\u00e7\u00f5es personalizadas. Tudo pronto e operando, mas o prot\u00f3tipo n\u00e3o detectava o rosto de Joy. Esgotados os poss\u00edveis problemas com a tecnologia, Joy olhou o seu reflexo no espelho e teve uma ideia: pegou uma m\u00e1scara branca, dessas de fantasia, e voltou a ficar de frente pro seu projeto, que dessa vez reconheceu a m\u00e1scara como um rosto.<\/p>\n\n\n\n

A hist\u00f3ria de Joy e de outras pesquisadoras com os algoritmos de reconhecimento facial s\u00e3o contadas no document\u00e1rio Coded Bias<\/a>, um excelente panorama sobre a ado\u00e7\u00e3o desse tipo de algoritmos por diferentes pa\u00edses do mundo. Em 2016, Joy criou oAlgorithmic Justice League<\/a>, uma organiza\u00e7\u00e3o cr\u00edtica ao uso da intelig\u00eancia artificial, que trabalha para, por meio da arte e da pesquisa, aumentar a conscientiza\u00e7\u00e3o sobre as implica\u00e7\u00f5es sociais dessa ferramenta. E esse n\u00e3o \u00e9 o \u00fanico movimento cr\u00edtico ao uso de reconhecimento facial. Na Inglaterra h\u00e1 oBig Brother Watch<\/a> e a Liberty Human Rights<\/a>; a campanha Ban Facial Recognition<\/a>\u00e9 encampada por mais de quarenta institui\u00e7\u00f5es nos EUA; a Internet Freedom Foundation<\/a> pressiona a pol\u00edcia indiana para abandonar o uso de reconhecimento facial, e outros mais.<\/p>\n\n\n\n

Apesar do movimento mundial ser decr\u00edtica<\/a>, banimento<\/a> ou morat\u00f3ria<\/a> ao uso de reconhecimento facial pelas pol\u00edcias, no Brasil temos visto o movimento contr\u00e1rio. Desde 2019, o interesse de parlamentares, governadores, prefeitos e policiais por essa tecnologia tem aumentado, levando \u00e0 dissemina\u00e7\u00e3o de projetos em v\u00e1rios estados. A direita vitoriosa nas elei\u00e7\u00f5es de 2018 queria o reconhecimento facial no Brasil para dar mais velocidade ao trabalho da pol\u00edcia de prender procurados pela justi\u00e7a. E para algumas pessoas progressistas, o reconhecimento facial poderia ser uma solu\u00e7\u00e3o, tirando das pol\u00edcias o papel de escolher quem ser\u00e1 abordado ou n\u00e3o.<\/p>\n\n\n\n

No carnaval de 2019, em Salvador, um grupo de foli\u00f5es participava de um bloco de rua sem imaginar que c\u00e2meras de alta resolu\u00e7\u00e3o capturavam suas imagens. Marcos Vinicius, de 19 anos, estava no bloco fantasiado de melindrosa, com peruca, maquiagem e fantasia, mas esses acess\u00f3rios n\u00e3o atrapalharam o algoritmo usado pela pol\u00edcia baiana e o sistema o reconheceu como um procurado pela justi\u00e7a.\u00a0Ele foi o primeiro preso com o uso desse tipo de tecnologia no Brasil<\/a>, e n\u00e3o seria o \u00faltimo. Segundo o \u00faltimo levantamento da Secretaria de Seguran\u00e7a P\u00fablica baiana,\u00a0o estado j\u00e1 prendeu 199 pessoas com o uso de reconhecimento facial<\/a>\u00a0desde a pris\u00e3o de Marcos Vinicius.<\/p>\n\n\n\n

Em julho daquele mesmo ano, foi a hora da pol\u00edcia do Rio iniciar seu projeto de reconhecimento facial. Escolheu-se o bairro de Copacabana como \u00e1rea de testes, e diversos postes foram instalados em pontos espalhados pelo bairro, devidamente equipados com c\u00e2meras nas suas extremidades. No segundo dia de testes, uma mulher foi reconhecida como sendo Maria L\u00eada F\u00e9lix da Silva, condenada por homic\u00eddio e procurada pela pol\u00edcia.Imediatamente os policiais conduziram a mulher que dizia n\u00e3o ser a procurada, mas estava sem documenta\u00e7\u00e3o, at\u00e9 a delegacia<\/a>. O erro foi resolvido quando familiares da mulher conseguiram encontr\u00e1-la na delegacia e, de posse dos seus documentos, conseguiram provar que ela n\u00e3o era a mulher procurada. O caso \u00e9 mais um de uma s\u00e9rie de erros que essas tecnologias cometem<\/a>, mas tem um agravante: Maria L\u00eada, a \u201cprocurada\u201d, j\u00e1 estava cumprindo pena em pres\u00eddio havia quatro anos. N\u00e3o s\u00f3 os algoritmos erraram, mas tamb\u00e9m a pol\u00edcia que utilizou um banco de dados desatualizado.<\/p>\n\n\n\n

Os projetos foram avan\u00e7ando por estados e munic\u00edpios sem encontrar muita resist\u00eancia. No final de 2019 eu j\u00e1 tinha coletado mais de 150 pris\u00f5es com o uso de reconhecimento facial, e nos casos onde havia informa\u00e7\u00f5es, mais de 90% das pessoas eram negras, a maioria presas por crimes sem viol\u00eancia.<\/a> As poucas vozes que se colocaram de maneira cr\u00edtica \u00e0 ado\u00e7\u00e3o desses algoritmos pelas pol\u00edcias brasileiras n\u00e3o foram suficientes para que um debate nacional fosse pautado. Mas quais s\u00e3o os problemas?<\/p>\n\n\n\n

Algoritmos s\u00e3o como receitas de bolo, instru\u00e7\u00f5es a serem seguidas para atingir o resultado final. O que acontece \u00e9 que muitos desses c\u00f3digos s\u00e3o criados com base em grandes bancos de dados por meio do aprendizado de m\u00e1quina. No caso do reconhecimento facial, um grande banco de imagens de rostos \u00e9 usado para ensinar o algoritmo a identificar o que \u00e9 um rosto.<\/p>\n\n\n\n

O que acontece nesses softwares de reconhecimento facial, como o usado pela Joy no seu espelho tecnol\u00f3gico, \u00e9 que boa parte dos bancos de imagens utilizados para treinar esses algoritmos s\u00e3o compostos por pessoas brancas. Assim, quando a c\u00e2mera capta a imagem de uma pessoa negra ou asi\u00e1tica ela n\u00e3o as identifica como sendo rostos humanos, mas j\u00e1 reconheceu dois homens negros como gorilas<\/a>. Apesar de esse ser um grande problema, a cria\u00e7\u00e3o de bancos de dados mais diversos n\u00e3o resolve a quest\u00e3o completamente. Algoritmos s\u00e3o dados, e dados s\u00e3o produtos da nossa hist\u00f3ria. Por mais que se tente cercar de todos os lados, sempre teremos defasagens e vieses nesse tipo de tecnologia.<\/p>\n\n\n\n

Diferente do projeto da Joy que contava apenas com uma c\u00e2mera que idealmente seria instalada em um banheiro particular, os projetos de reconhecimento facial t\u00eam se baseado na instala\u00e7\u00e3o de c\u00e2meras que capturam imagens 24 horas em ruas, terminais rodovi\u00e1rios e esta\u00e7\u00f5es de metr\u00f4, aliados a algoritmos que processam um n\u00famero alt\u00edssimo de imagens de rostos combinando com bancos de dados diversos, muitas vezes sem o conhecimento do p\u00fablico. O potencial de dano \u00e9 muito maior, uma vez que milhares de pessoas s\u00e3o escaneadas por hora. Para se ter ideia, a primeira fase do projeto de reconhecimento facial em Copacabana capturou 3 milh\u00f5es de faces.<\/p>\n\n\n\n

E toda essa montanha de dados foi produzida antes mesmo da Lei Geral de Prote\u00e7\u00e3o de Dados<\/a> (LGPD) ser sancionada, que, apesar de ter sido um avan\u00e7o em termos de prote\u00e7\u00e3o de dados pessoais, n\u00e3o estabeleceu par\u00e2metros para a \u00e1rea de seguran\u00e7a p\u00fablica. Um anteprojeto de lei foi elaborado por uma comiss\u00e3o de juristas<\/a>, mas deixou de fora temas importantes, como mecanismos de avalia\u00e7\u00e3o de impacto e monitoramento do uso dessas tecnologias, e outros dispositivos<\/a> que seriam importantes para a garantia de que o direito \u00e0 privacidade dos cidad\u00e3os n\u00e3o seja violado.<\/p>\n\n\n\n

Enquanto patinamos em rela\u00e7\u00e3o a leis e normativas que regulem o uso dessas tecnologias no Brasil, a experi\u00eancia internacional pode servir de inspira\u00e7\u00e3o. Patrick Doyle, ex-comandante da Pol\u00edcia Estadual de New Jersey, nos Estados Unidos, tem se dedicado a estudar o uso desse tipo de tecnologia nas pol\u00edcias e elenca quatro recomenda\u00e7\u00f5es simples para esse uso<\/a>: informe totalmente o p\u00fablico sobre o uso da tecnologia, quais dados ser\u00e3o processados, por quem, em que lugar, com que tipo de seguran\u00e7a; estabele\u00e7a par\u00e2metros de uso, ou o conhecido procedimento operacional padr\u00e3o; divulgue a efic\u00e1cia da tecnologia, ou seja, quantos reconhecimentos, quantas pris\u00f5es, quantos erros cometidos; e por fim crie princ\u00edpios e pol\u00edticas de boas pr\u00e1ticas. Depois de acompanhar esses projetos brasileiros nos \u00faltimos anos, posso dizer que praticamente nenhum segue essas quatro simples recomenda\u00e7\u00f5es.<\/p>\n\n\n\n

E mesmo que o Brasil j\u00e1 tivesse uma LGPD Penal, que as recomenda\u00e7\u00f5es internacionais fossem seguidas, que os algoritmos tivessem 100% de acerto, ainda assim ter\u00edamos um problema que \u00e9 anterior a qualquer tecnologia. Hoje o Brasil tem 773.151 pessoas cumprindo pena de priva\u00e7\u00e3o de liberdade<\/a>, uma taxa de crescimento da popula\u00e7\u00e3o carcer\u00e1ria entre as maiores do mundo; essas pessoas, a maioria negras<\/a>, est\u00e3o presas em grande parte por crimes sem viol\u00eancia. E por mais que o n\u00famero de presos cres\u00e7a a cada ano, n\u00e3o vemos redu\u00e7\u00e3o da criminalidade. Nesse cen\u00e1\u0155io bem conhecido, os proponentes do uso de reconhecimento facial pela pol\u00edcia parecem estar esperando resultados distintos, mas apostam em acelerar ainda mais o encarceramento, a mesma l\u00f3gica que tem guiado a seguran\u00e7a p\u00fablica em todos esses anos.<\/p>\n\n\n\n

Assim como a Joy Buolamwini, nos EUA, iniciativas importantes t\u00eam sido criadas no Brasil com o intuito de aumentar o debate p\u00fablico sobre a ado\u00e7\u00e3o dessas tecnologias. O Pan\u00f3ptico, projeto do Centro de Estudos de Seguran\u00e7a e Cidadania (CESeC) que coordeno desde o in\u00edcio deste ano, procura mapear os usos de reconhecimento facial pelas pol\u00edcias do pa\u00eds; o AqualtuneLab, coletivo de juristas negros, tem se dedicado a racializar o debate sobre direitos digitais no pa\u00eds; e o DataPrivacy Brasil tem tido papel fundamental nas quest\u00f5es de prote\u00e7\u00e3o de dados. Al\u00e9m dessas institui\u00e7\u00f5es, Nina da Hora, cientista da computa\u00e7\u00e3o, tem se dedicado a trazer mais gente para o debate por meio de uma comunica\u00e7\u00e3o did\u00e1tica e f\u00e1cil, e o Tarc\u00edzio Silva, que compila uma linha do tempo do racismo algor\u00edtmico<\/a>, tem discutido o tema em f\u00f3runs diversos.<\/p>\n\n\n\n

Essas novas vozes t\u00eam sido fundamentais, mas o caminho ser\u00e1 longo. Sem nenhum tipo de controle, com a participa\u00e7\u00e3o ativa do governo federal no financiamento desse tipo de uso de tecnologia pelas pol\u00edcias<\/a>, estamos caminhando para termos uma c\u00e2mera de reconhecimento facial em cada rua e esquina do pa\u00eds. \u00c9 necess\u00e1rio um freio nesse processo para que possamos debater profundamente os riscos e os potenciais dessa tecnologia para a popula\u00e7\u00e3o, principalmente a popula\u00e7\u00e3o negra, que mais uma vez tem sido mais uma vez v\u00edtima preferencial dos algoritmos \u201cisentos\u201d.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Reconhecimento facial aposta no encarceramento e pune preferencialmente popula\u00e7\u00e3o negra <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[1],"tags":[],"class_list":["post-30540","post","type-post","status-publish","format-standard","hentry","category-notas"],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/p7wKYW-7WA","jetpack-related-posts":[],"_links":{"self":[{"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/posts\/30540","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/comments?post=30540"}],"version-history":[{"count":1,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/posts\/30540\/revisions"}],"predecessor-version":[{"id":30542,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/posts\/30540\/revisions\/30542"}],"wp:attachment":[{"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/media?parent=30540"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/categories?post=30540"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/blogdalucianaoliveira.com.br\/blog\/wp-json\/wp\/v2\/tags?post=30540"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}