{"id":6668,"date":"2018-01-04T17:30:05","date_gmt":"2018-01-04T19:30:05","guid":{"rendered":"http:\/\/controversia.com.br\/?p=6668"},"modified":"2018-01-04T17:23:18","modified_gmt":"2018-01-04T19:23:18","slug":"a-silenciosa-dominacao-por-algoritmos%ef%bb%bf","status":"publish","type":"post","link":"https:\/\/controversia.com.br\/pt\/2018\/01\/04\/a-silenciosa-dominacao-por-algoritmos%ef%bb%bf\/","title":{"rendered":"A silenciosa domina\u00e7\u00e3o por Algoritmos\ufeff"},"content":{"rendered":"

Chris Spannos –\u00a0<\/strong>Que s\u00e3o estas f\u00f3rmulas matem\u00e1ticas, base da Intelig\u00eancia Artificial? Como imp\u00f5em regras e condutas sociais \u2014 nunca debatidas e sempre a servi\u00e7o do poder econ\u00f4mico? \u00c9 poss\u00edvel inverter seu sentido?<\/p>\n

Foi o fil\u00f3sofo grego-franc\u00eas Cornelius Castoriadis quem argumentou que os indiv\u00edduos, na maioria das sociedades, n\u00e3o dependem de si mesmos para determinar a pr\u00f3pria lei \u2013 o que ele chamou de autonomia. Ao contr\u00e1rio, assumem que a lei \u00e9 criada por alguma for\u00e7a externa que se encontra al\u00e9m deles pr\u00f3prios, sejam os deuses, a natureza, a hist\u00f3ria ou a raz\u00e3o \u2013 submiss\u00e3o. Como for\u00e7a cada vez mais influente a regular os resultados sociais, eleitorais e econ\u00f4micos, os algoritmos est\u00e3o entre os novos poderes de submiss\u00e3o. Em outubro de 2016, a Casa Branca, o Parlamento Europeu e a C\u00e2mara dos Comuns do Reino Unido, cada um independentemente, sondaram como preparar a sociedade para o uso generalizado de intelig\u00eancia artificial (IA) movida a algoritmo. Revendo esses relat\u00f3rios governamentais, pesquisadores argumentaram que o modelo de uma \u201cboa sociedade de IA\u201d deveria basear-se em um \u201crespeito hol\u00edstico\u201d que leve em conta \u201ctodo o contexto do desenvolvimento humano\u201d e a \u201cpromo\u00e7\u00e3o da dignidade humana como base fundamental para um mundo melhor\u201d. Contudo, conclu\u00edram que aos tr\u00eas relat\u00f3rios faltava a compreens\u00e3o de como essa tecnologia pode engendrar valores como responsabilidade e coopera\u00e7\u00e3o para guiar o desenvolvimento de uma \u201cboa sociedade de IA\u201d.<\/p>\n

A palavra \u201calgoritmo\u201d foi criada pelo matem\u00e1tico persa Muhammad ibs Musa al-Khwarizmi. Entre suas muitas inova\u00e7\u00f5es, o trabalho de al-Khwarizmi levou \u00e0 cria\u00e7\u00e3o da \u00e1lgebra e do avan\u00e7ado sistema numeral hindo-\u00e1rabe que usamos hoje. \u00c9 a tradu\u00e7\u00e3o para o latim do nome de al-Khwarizmi para \u201cAlgoritmi\u201d \u2013 combinada numa mistura etimol\u00f3gica com a palavra grega para n\u00famero (\u1f00\u03c1\u03b9\u03b8\u03bc\u03cc\u03c2, pronunciada \u201care-eeth-mos\u201d) que resulta em \u201calgoritmo\u201d.<\/p>\n

O Dicion\u00e1rio da Ci\u00eancia Computacional da Universidade de Oxford define algoritmo como um conjunto previsto de regras ou instru\u00e7\u00f5es bem definidas para a solu\u00e7\u00e3o de um problema, como o desempenho de um c\u00e1lculo, em um n\u00famero finito de etapas. \u00c9 comum descrever um algoritmo como semelhante a uma receita, digamos, para cozinhar macarr\u00e3o: 1) ferva \u00e1gua, 2) adicione o macarr\u00e3o, 3) mexa. Mais precisamente, as instru\u00e7\u00f5es deviam ser suficientemente detalhadas para um computador fazer o processamento, tal como os passos para jogar uma partida de jogo-da-velha: \u201cSe voc\u00ea ocupar dois espa\u00e7os numa linha, jogue para conseguir tr\u00eas numa linha\u201d. O trabalho que al-Khwarizmi produziu levou a solu\u00e7\u00f5es de\u00a0equa\u00e7\u00f5es quadr\u00e1ticas<\/a>\u00a0que hoje s\u00e3o aplicadas (entre outros usos) em aeronaves ao levantar voo e circuitos para computadores e dispositivos m\u00f3veis. A despeito dessas inova\u00e7\u00f5es, os algoritmos passaram a desempenhar um novo papel na cria\u00e7\u00e3o social-hist\u00f3rica das sociedades, uma disputa entre submiss\u00e3o e autonomia. Tr\u00eas livros, muito diferentes e interessantes, exploram seu uso potencial numa ampla gama de possibilidades, da domina\u00e7\u00e3o \u00e0 liberta\u00e7\u00e3o humana.<\/p>\n

Em seu livro\u00a0The Master Algorithm<\/a><\/em>, o professor de ci\u00eancias computacionais e engenharia Pedro Domingos apresenta uma vis\u00e3o exaustiva de cinco orienta\u00e7\u00f5es rivais sobre os algoritmos: 1) os\u00a0Simbolistas<\/em>, que veem o aprendizado como o inverso de dedu\u00e7\u00e3o e emprestam ideias da filosofia, da psicologia e da l\u00f3gica; 2) os\u00a0Conexionistas<\/em>, que aspiram \u00e0 engenharia reversa do c\u00e9rebro e s\u00e3o inspirados pela neuroci\u00eancia e pela f\u00edsica; 3) os\u00a0Evolucion\u00e1rios<\/em>, que simulam a evolu\u00e7\u00e3o no computador e bebem na gen\u00e9tica e na biologia evolucion\u00e1ria; 4) os\u00a0Bayesianos<\/em>, que acreditam ser o aprendizado uma forma de infer\u00eancia probabil\u00edstica e t\u00eam ra\u00edzes na estat\u00edstica; e 5) os\u00a0Analogisantes<\/em>, que aprendem extrapolando a partir de julgamentos de similaridades e s\u00e3o influenciados pela psicologia e otimiza\u00e7\u00e3o matem\u00e1tica. Na busca pelo Algoritmo Mestre, Domingos declara seu desideratum final: um \u00fanico algoritmo que combine as caracter\u00edsticas chave de todos os outros. Isso \u00e9 importante, argumenta, porque se \u00e9 que ele existe \u201co Algoritmo Mestre pode derivar todo o conhecimento do mundo \u2013 passado, presente e futuro \u2013 a partir de dados.\u201d<\/p>\n

O livro de Pedro Domingos n\u00e3o apenas joga luz no interior dos trabalhos t\u00e9cnicos de diferentes tipos de algoritmos que a Amazon, a Netflix, o Facebook, o Google e outras plataformas que o capitalismo de plataformas usa para formatar nossas modernas experi\u00eancias heter\u00f4nimas. Tamb\u00e9m fornece um algoritmo exemplar \u2013 \u201cAlquimia\u201d \u2013 para passar por um teste drive. Sua proposta para um Algoritmo Mestre est\u00e1 enraizada em debates pragm\u00e1ticos no campo, assim como ideias sobre como mover-se da\u00ed para frente. Contudo, o foco em modelos abstratos distrai da discuss\u00e3o sobre os impactos negativos dessa tecnologia no mundo real. Por exemplo, a discuss\u00e3o de Domingos sobre \u201csobreajuste\u201d, problema em que um algoritmo \u201cencontra um padr\u00e3o nos dados que n\u00e3o \u00e9 efetivamente verdadeiro no mundo real\u201d, parecia um reconhecimento lamentavelmente insuficiente das perigosas consequ\u00eancias de algoritmos irrespons\u00e1veis \u2013 suas entradas de dados e c\u00f3digos \u2013 e o impacto desastroso que eles podem ter em pessoas e comunidades. \u00c9 como quando o c\u00f3digo postal do lugar onde voc\u00ea vive ajuda a determinar sua pontua\u00e7\u00e3o de cr\u00e9dito e se voc\u00ea se qualifica para um empr\u00e9stimo imobili\u00e1rio ou estudantil. O livro abre uma janela para ver o que \u00e9 poss\u00edvel com um Algoritmo Mestre no sentido geral, mas passa uma mensagem tecno-otimista, quando o mundo de vasta desigualdade e precariedade global de hoje demanda urgentemente que nos perguntemos como alavancar essa tecnologia para mudan\u00e7as sociais positivas na dire\u00e7\u00e3o de um mundo sem classes.<\/p>\n

Armas de Destrui\u00e7\u00e3o Matem\u00e1tica\u00a0<\/em>(WMD, em ingl\u1ebds), da pesquisadoras de dados Cathy O\u2019Neil, oferece uma vis\u00e3o mais c\u00e9tica dos algoritmos, com foco em seus custos e consequ\u00eancias sociais negativas. O\u2019Neil documenta como os algoritmos \u2013 WMDs \u2013 podem punir os pobres e promover os privilegiados, num c\u00edrculo que piora as desigualdades de ra\u00e7a e de classe do capitalismo. Por exemplo, acredita-se amplamente, nos Estados Unidos, que prisioneiros n\u00e3o-brancos de bairros pobres t\u00eam maior probabilidade de cometer crimes, e tamb\u00e9m est\u00e3o mais dispostos a cometer outros crimes e voltar \u00e0 pris\u00e3o. Os modelos de reincid\u00eancia que seguem a tend\u00eancia de um criminoso condenado a reincidir sugerem que essas pessoas s\u00e3o mais propensas a estar desempregadas, n\u00e3o possuem diploma do ensino m\u00e9dio e tiveram, com os amigos, passagens anteriores pela pol\u00edcia. Uma outra maneira de olhar para os mesmos dados, contudo, \u00e9 que essas pessoas vieram de \u00e1reas pobres com p\u00e9ssimas escolas e poucas oportunidades. \u201cEnt\u00e3o as chances de um ex-prisioneiro que volta ao mesmo bairro ter outra encrenca com a lei \u00e9 sem d\u00favida maior do que a de um sonegador de impostos que \u00e9 solto e volta a um sub\u00farbio frondoso.\u201d Nesse sistema, observa O\u2019Neil, \u201cos pobres e n\u00e3o-brancos s\u00e3o punidos mais por serem quem s\u00e3o e viverem onde vivem.\u201d<\/p>\n

Armas de Destrui\u00e7\u00e3o Matem\u00e1tica<\/em>\u00a0oferece v\u00e1rios exemplos inspiradores de como os algoritmos podem ser instalados como uma ferramenta muito poderosa, embora invis\u00edvel, para dominar a vida cotidiana da pessoas. O livro \u00e9 melhor escrito do que se pode esperar de um quant. As fontes humanas de O\u2019Neil oferecem material v\u00edvido que ilumina hist\u00f3rias de dor e sofrimento infligidas \u00e0s pessoas por empresas de cr\u00e9dito com as estrat\u00e9gias predat\u00f3rias de empr\u00e9stimo alimentadas por algoritmos. A partir de sua experi\u00eancia como uma pesquisadora de dados, ela revela problemas com a entrada destes em algoritmos e explica como esses problemas podem levar \u00e0 destrui\u00e7\u00e3o de comunidades inteiras, desde a avalia\u00e7\u00e3o de professores at\u00e9 aqueles que enviam seus curr\u00edculos \u00e0 procura de empregos. A organiza\u00e7\u00e3o de O\u2019Neil das experi\u00eancias de pensamento para imaginar como os algoritmos poderiam informar as t\u00e1ticas da pol\u00edcia em bairros brancos e ricos e para combater crimes de colarinho branco traz \u00e0 tona o privil\u00e9gio e a imunidade de que essas comunidades desfrutam quanto \u00e0s consequ\u00eancias da pobreza. Ela prop\u00f5e exemplos de como os algoritmos poderiam ser auditados e mantidos em padr\u00f5es de responsabilidade. O livro de O\u2019Neil tem muita for\u00e7a, ressaltando os problemas estruturais dos algoritmos como uma tecnologia e a obscena realidade de hoje, em que os ricos ainda s\u00e3o verificados por pessoas, enquanto a vasta maioria \u00e9 cada vez mais gerida por m\u00e1quinas.<\/p>\n

Com uma vis\u00e3o mais ampla de como os algoritmos impactam as sociedades,\u00a0Homo Deus: Uma breve hist\u00f3ria do amanh\u00e3<\/em>, do historiador Yuval Noah Harari, considera uma proposta de mudan\u00e7a de paradigma, segundo a qual a vida diz respeito ao processamento de dados e todos os organismos s\u00e3o m\u00e1quinas de fazer c\u00e1lculos e tomar decis\u00f5es. Nessa analogia, n\u00e3o apenas colmeias, col\u00f4nias de bact\u00e9rias e florestas s\u00e3o sistemas de processamento de dados, mas tamb\u00e9m o s\u00e3o indiv\u00edduos e sociedades humanas. Por essas lentes, os algoritmos bioqu\u00edmicos do leitor deste texto processariam uma imagem de George Clooney coletando dados de seus tra\u00e7os faciais tais como as cores do cabelo e dos olhos, e as propor\u00e7\u00f5es do nariz e ossos da face, para causar sentimentos de atra\u00e7\u00e3o, indiferen\u00e7a ou repulsa. Em escala maior, economias inteiras poderiam ser vistas como centros de processamento de dados, mecanismos para reunir dados sobre desejos e habilidades e transformar esses dados em decis\u00f5es. Tra\u00e7ando compara\u00e7\u00f5es hist\u00f3ricas, Harari escreve: \u201cDe acordo com essa vis\u00e3o, o capitalismo de livre mercado e o comunismo de controle estatal n\u00e3o s\u00e3o ideologias em competi\u00e7\u00e3o, cren\u00e7as \u00e9ticas ou institui\u00e7\u00f5es pol\u00edticas. Na base, s\u00e3o sistemas de processamento de dados em competi\u00e7\u00e3o. O capitalismo usa processamento distribu\u00eddo, enquanto o comunismo baseia-se em processamento centralizado.\u201d Esse argumento relega a fantasmas errantes no cemit\u00e9rio de hist\u00f3ria os velhos debates sobre tecnologia e igualdade, como os \u201cdebates de c\u00e1lculo\u201d das d\u00e9cadas de 1920 e 30 \u2013 entre os socialistas que acreditavam que a autoridade central poderia usar todo o conhecimento dispon\u00edvel para chegar ao melhor plano econ\u00f4mico poss\u00edvel (em suas cabe\u00e7as) para a sociedade e aqueles que acreditam que, porque os problemas da sociedade moderna s\u00e3o t\u00e3o complexos, o planejamento econ\u00f4mico \u00e9 imposs\u00edvel e apenas o mercado poderia coordenar a atividade econ\u00f4mica.<\/p>\n

O livro de Harari n\u00e3o faz tanta cr\u00edtica comparativa do capitalismo e comunismo com base em necessidade, igualdade ou estrutura de classes \u2014 mas leva os leitores a uma s\u00e9rie de perguntas completamente diferentes: s\u00e3o os organismos realmente algoritmos; e a vida \u00e9, de fato, somente processamento de dados? Mais amplamente, Harari considera a possibilidade de que a tecnologia poderia emergir para deslocar as ideologias existentes e formar uma Religi\u00e3o dos Dados. Essa nova religi\u00e3o colocaria toda autoridade na tomada de decis\u00f5es guiada por dados e desalojaria as religi\u00f5es que colocam autoridade em Deus; o humanismo liberal, que coloca a autoridade do indiv\u00edduo, no eu e no livre arb\u00edtrio; no comunismo de Estado, que deposita autoridade no partido e no Estado; e no humanismo evolucion\u00e1rio, que coloca autoridade na sobreviv\u00eancia dos mais aptos.<\/p>\n

Nessa vis\u00e3o, os dados s\u00e3o a nova tecnologia e for\u00e7a de submiss\u00e3o. Em particular, o poder dos algoritmos para processar dados de modos inteligentes poderia tornar obsoletos os fundamentos ideol\u00f3gicos da sociedade, como os conhecemos, independentemente do que pensamos sobre eles. \u201c\u00c0 medida em que as condi\u00e7\u00f5es de processamento de dados mudam novamente no s\u00e9culo XXI, a democracia pode decair ou mesmo desaparecer. Conforme o volume e a velocidade dos dados aumentam, institui\u00e7\u00f5es sagradas como elei\u00e7\u00f5es, partidos e parlamentos podem tornar-se obsoletas \u2013 n\u00e3o porque s\u00e3o anti\u00e9ticas, mas porque n\u00e3o processam dados com efici\u00eancia suficiente. Esse argumento levanta quest\u00f5es sobre o papel da tecnologia num mundo anti\u00e9tico constru\u00eddo sobre vastas e injustas disparidades de poder e privil\u00e9gio. O argumento de Harari parece evitar voltar a tais preocupa\u00e7\u00f5es, uma vez que isso significaria uma revers\u00e3o ao humanismo. Mas a tecnologia parece apresentar novas possibilidades ut\u00f3picas.<\/p>\n

As chamadas \u201cCidades Inteligentes\u201d e a Internet das Coisas s\u00e3o indicadores de que o poder do processamento de dados e dos algoritmos est\u00e3o ganhando for\u00e7a em nossa debandada aparentemente vertiginosa para o futuro. Mas fica a quest\u00e3o: essa tecnologia facilitar\u00e1 a cria\u00e7\u00e3o consciente de sociedades que produzem igualdade? Ou possibilitar\u00e1 configura\u00e7\u00f5es novas e piores de velhas injusti\u00e7as? Um poder de processamento computacional incr\u00edvel est\u00e1 sendo aplicado em governan\u00e7a de submiss\u00e3o. Na elei\u00e7\u00e3o presidencial de 2012 nos EUA, a campanha Obama recolheu um volume tremendo de dados para criar modelos de voto e, usando esses modelos, fez 66 mil simula\u00e7\u00f5es por noite para ajudar a determinar a melhor estrat\u00e9gia de campanha. Muitas pessoas est\u00e3o preocupadas com a aplica\u00e7\u00e3o semelhante do poder de processamento computacional no trabalho e seu impacto nos empregos e nos desempregados.<\/p>\n

Imagine, ao contr\u00e1rio, essa tecnologia aplicada para facilitar a governan\u00e7a aut\u00f4noma, ao ajudar a determinar os melhores est\u00edmulos e resultados econ\u00f4micos para uma sociedade sem classes e aberta \u00e0 ecologia. Enquanto as propostas de uma renda b\u00e1sica universal dominam os debates na esquerda e na direita, n\u00e3o h\u00e1 mais desculpas tecnol\u00f3gicas que inibam a possibilidade revolucion\u00e1ria do autogoverno, diretamente democr\u00e1tico e sociedades aut\u00f4nomas em escala. Modelos tais como o de Castoriadis, de 1957, de Conselhos Oper\u00e1rios e Economia de uma Sociedade Autogerida. Eles inclu\u00edam uma \u201cF\u00e1brica Planejada\u201d baseada em computadores que escolheriam como os meios materiais de vida seriam distribu\u00eddos para a produ\u00e7\u00e3o econ\u00f4mica e do consumo, sem necessidade de gestores e planejadores econ\u00f4micos. Tais sistemas, e outros como eles, poderiam permitir que algoritmos \u2013 na forma de\u00a0blockchain<\/em><\/a>\u00a0e \u201ccontratos inteligentes\u201d \u2013 fizessem o trabalho pesado de planejamento econ\u00f4mico e outras rotinas, para que as pessoas pudessem viver desfrutando o tempo livre individual e social que uma sociedade aut\u00f4noma possibilitaria.<\/p>\n

A quest\u00e3o agora \u00e9 se a intelig\u00eancia artificial guiada por algoritmos conhecer\u00e1 as pessoas e a sociedade melhor do que nos conhecemos a n\u00f3s mesmos; ou se ela empoderar\u00e1 a auto-organiza\u00e7\u00e3o e a democracia direta de modos que levem e considera\u00e7\u00e3o todo o contexto de dignidade e florescimento humano como fundamentos de um mundo melhor?<\/p>\n

A silenciosa domina\u00e7\u00e3o por Algoritmos<\/a><\/p><\/blockquote>\n