You are on page 1of 7

12/09/2017 A silenciosa dominao por Algoritmos

Search this site

Temas Rede de Autores Contato Anuncie Parcerias Incomuns Sobre Equipe Seja Colaborador Ajude a sustentar

Blogs Canal Outras Palavras

A silenciosa dominao por Algoritmos


POR REDAO
ON 03/08/2017
CATEGORIAS: DESIGUALDADES, MUNDO, POSTS, SOCIEDADE


Nossa livraria online

O Minotauro Global
A verdadeira origem da crise
nanceira e o futuro da
economia global

Autor: Yanis Varoufakis


Por R$ 50,00 (PR-VENDA)

Compre

O Bem Viver
Uma oportunidade para imaginar
outros mundos

Autor: Alberto Acosta


Por R$ 30,00

Que so estas frmulas matemticas, base da Inteligncia Artificial? Compre


Como impem regras e condutas sociais nunca debatidas e sempre Blog da Redao
O nosso 11 de
a servio do poder econmico? possvel inverter seu sentido? setembro
11 de setembro Aos nossos amigos
de 1973: o Crise e insurreio
Por Chris Spannos | Traduo: Ins Castilho Palcio La
Moneda, onde Autor: Comite Invisivel
estava o presidente socialista De R$ 32,00 por R$ 27,00
__ Salvador Allende, bombardeado
pelo Exrcito []
Em defesa da
RESENHA DOS LIVROS: Reforma Compre
Psiquitrica
Integrante do
governo Temer prope volta dos
- Homo Deus: Uma breve histria do amanh, de Yuval Noah Harari manicmios pblicos.
Pesquisadores e docentes lanam
(Companhia das Letras) mobilizao por uma poltica de Outros Quinhentos
Sade Mental []
A insana
- Weapons of Math Destruction: How Big Data Increases Inequality transposio do
Rio Tocantins
And Threatens Democracy [Armas de Destruio Matemticas: Como Seca expe
os Big Data aumentam a desigualdade e ameaam a democracia], de leito de pedras
e barro do
Cathy ONeil (Allen Lane) Tocantins, em trecho de cerrado.
Devastao deste bioma, para dar
lugar a []
- The Master Algorithm: How The Quest For The Ultimate Learning Outras Mdias
Machine Will Remake Our World [O Algortmo-Mestre: Como a Arquitetura na
Periferia d
corrida para a mquina de aprender definitiva ir refazer nosso poder s
mulheres
mundo], de Pedro Domingos (Allen Lane) Em reas de
ocupao de
Belo Horizonte,
elas projetam Mais lidos

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 1/7
12/09/2017 A silenciosa dominao por Algoritmos
as reformas de suas casas e depois
POPULAR COMMENTS
executam os trabalhos -- []
Reggae, TODAY WEEK MONTH ALL
direitos e
feminismo na O tenebroso mundo das "novas"
__ terra do festas infantis
agronegcio
Quem Marina
Foi o filsofo grego-francs Cornelius Castoriadis quem argumentou Peralta, cantora Fidel, por Eduardo Galeano
que sacode o
que os indivduos, na maioria das sociedades, no dependem de si MS defendendo os ndios, o
feminismo e a igualdade racial -- e
mesmos para determinar a prpria lei o que ele chamou de []
A atualidade brutal de Hannah
autonomia. Ao contrrio, assumem que a lei criada por alguma fora A falsa queda
Arendt
dos juros e a
externa que se encontra alm deles prprios, sejam os deuses, a urgente
Reforma
natureza, a histria ou a razo submisso. Como fora cada vez mais Monetria Arquitetura hostil: as cidades
A reduo contra seres humanos
influente a regular os resultados sociais, eleitorais e econmicos, os fictcia,
mostram
algoritmos esto entre os novos poderes de submisso. Em outubro de nossos clculos. E, alm de reduzir
O Belchior que a crtica vulgar no
2016, a Casa Branca, o Parlamento Europeu e a Cmara dos Comuns o que a sociedade paga aos viu
rentistas, uma nova []
do Reino Unido, cada um independentemente, sondaram como O destino dos
negros
preparar a sociedade para o uso generalizado de inteligncia artificial alemes sob o Outro Canal
nazismo
(IA) movida a algoritmo. Revendo esses relatrios governamentais, Eram poucos, Rafael Braga Vieira - Coisas Que Voc
pesquisadores argumentaram que o modelo de uma boa sociedade de quase todos
oriundos das
Precisa Saber #33
IA deveria basear-se em um respeito holstico que leve em conta antigas
colnias africanas. Foram
todo o contexto do desenvolvimento humano e a promoo da designados "aptridas" de "sangue
estrangeiro". Cerca de vinte foram
dignidade humana como base fundamental para um mundo melhor. internados []
Por que o livro
Contudo, concluram que aos trs relatrios faltava a compreenso de digital apenas
como essa tecnologia pode engendrar valores como responsabilidade e engatinha no
Brasil
cooperao para guiar o desenvolvimento de uma boa sociedade de Apenas um
tero das
IA. editoras publica
e-books;
vendas mal passam de 1% do total.
A palavra algoritmo foi criada pelo matemtico persa Muhammad Poucos ttulos e insistncia dos Como a Volkswagen colaborou com a
governos [] ditadura
ibs Musa al-Khwarizmi. Entre suas muitas inovaes, o trabalho de al-
Outros Livros
Khwarizmi levou criao da lgebra e do avanado sistema numeral Em Estado de
Choque: em
hindo-rabe que usamos hoje. a traduo para o latim do nome de al- dirio de
guerra,
Khwarizmi para Algoritmi combinada numa mistura etimolgica jornalista
com a palavra grega para nmero (, pronunciada are-eeth- palestino relata
como seu povo sobreviveu ao ltimo
mos) que resulta em algoritmo. massacre na Faixa de Gaza
O livro recebeu elogios de nomes
de peso como o linguista Noam
O Dicionrio da Cincia Computacional da Universidade de Oxford Chomsky, a filsofa Judith Butler, o
msico Roger []
define algoritmo como um conjunto previsto de regras ou instrues (A obra de)
GREG NEWS com Gregrio Duvivier | FAKE
Varoufakis
bem definidas para a soluo de um problema, como o desempenho de contra a PEC NEWS
241! Por Mario
um clculo, em um nmero finito de etapas. comum descrever um Sergio Conti
Para chegar austeridade, ele
algoritmo como semelhante a uma receita, digamos, para cozinhar parte da hecatombe de 1929. A
macarro: 1) ferva gua, 2) adicione o macarro, 3) mexa. Mais grande crise no foi dirimida pelo
incremento de obras []
precisamente, as instrues deviam ser suficientemente detalhadas Para entender
o corao da
para um computador fazer o processamento, tal como os passos para Crise
Por Hugo
jogar uma partida de jogo-da-velha: Se voc ocupar dois espaos Albuquerque,
jurista e editor
numa linha, jogue para conseguir trs numa linha. O trabalho que al- da Autonomia Literria. O
Khwarizmi produziu levou a solues de equaes quadrticas que Minoutauro Global: a verdadeira
origem da crise financeira e o futuro
hoje so aplicadas (entre outros usos) em aeronaves ao levantar voo e []

circuitos para computadores e dispositivos mveis. A despeito dessas


inovaes, os algoritmos passaram a desempenhar um novo papel na
criao social-histrica das sociedades, uma disputa entre submisso e
autonomia. Trs livros, muito diferentes e interessantes, exploram seu
uso potencial numa ampla gama de possibilidades, da dominao
libertao humana.

Em seu livro The Master Algorithm, o professor de cincias


computacionais e engenharia Pedro Domingos apresenta uma viso
exaustiva de cinco orientaes rivais sobre os algoritmos: 1) os
Simbolistas, que veem o aprendizado como o inverso de deduo e
emprestam ideias da filosofia, da psicologia e da lgica; 2) os
Conexionistas, que aspiram engenharia reversa do crebro e so
inspirados pela neurocincia e pela fsica; 3) os Evolucionrios, que
simulam a evoluo no computador e bebem na gentica e na biologia

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 2/7
12/09/2017 A silenciosa dominao por Algoritmos

evolucionria; 4) os Bayesianos, que acreditam ser o aprendizado uma


forma de inferncia probabilstica e tm razes na estatstica; e 5) os
Analogisantes, que aprendem extrapolando a partir de julgamentos de
similaridades e so influenciados pela psicologia e otimizao
matemtica. Na busca pelo Algoritmo Mestre, Domingos declara seu
desideratum final: um nico algoritmo que combine as caractersticas
chave de todos os outros. Isso importante, argumenta, porque se
que ele existe o Algoritmo Mestre pode derivar todo o conhecimento
do mundo passado, presente e futuro a partir de dados.

O livro de Pedro Domingos no apenas joga luz no interior dos


trabalhos tcnicos de diferentes tipos de algoritmos que a Amazon, a
Netflix, o Facebook, o Google e outras plataformas que o capitalismo
de plataformas usa para formatar nossas modernas experincias
heternimas. Tambm fornece um algoritmo exemplar Alquimia
para passar por um teste drive. Sua proposta para um Algoritmo
Mestre est enraizada em debates pragmticos no campo, assim como
ideias sobre como mover-se da para frente. Contudo, o foco em
modelos abstratos distrai da discusso sobre os impactos negativos
dessa tecnologia no mundo real. Por exemplo, a discusso de
Domingos sobre sobreajuste, problema em que um algoritmo
encontra um padro nos dados que no efetivamente verdadeiro no
mundo real, parecia um reconhecimento lamentavelmente insuficiente
das perigosas consequncias de algoritmos irresponsveis suas
entradas de dados e cdigos e o impacto desastroso que eles podem
ter em pessoas e comunidades. como quando o cdigo postal do
lugar onde voc vive ajuda a determinar sua pontuao de crdito e se
voc se qualifica para um emprstimo imobilirio ou estudantil. O
livro abre uma janela para ver o que possvel com um Algoritmo
Mestre no sentido geral, mas passa uma mensagem tecno-otimista,
quando o mundo de vasta desigualdade e precariedade global de hoje
demanda urgentemente que nos perguntemos como alavancar essa
tecnologia para mudanas sociais positivas na direo de um mundo
sem classes.

Armas de Destruio Matemtica (WMD, em ingls), da


pesquisadoras de dados Cathy ONeil, oferece uma viso mais ctica
dos algoritmos, com foco em seus custos e consequncias sociais
negativas. ONeil documenta como os algoritmos WMDs podem
punir os pobres e promover os privilegiados, num crculo que piora as
desigualdades de raa e de classe do capitalismo. Por exemplo,
acredita-se amplamente, nos Estados Unidos, que prisioneiros no-
brancos de bairros pobres tm maior probabilidade de cometer crimes,
e tambm esto mais dispostos a cometer outros crimes e voltar
priso. Os modelos de reincidncia que seguem a tendncia de um
criminoso condenado a reincidir sugerem que essas pessoas so mais
propensas a estar desempregadas, no possuem diploma do ensino
mdio e tiveram, com os amigos, passagens anteriores pela polcia.
Uma outra maneira de olhar para os mesmos dados, contudo, que
essas pessoas vieram de reas pobres com pssimas escolas e poucas
oportunidades. Ento as chances de um ex-prisioneiro que volta ao
mesmo bairro ter outra encrenca com a lei sem dvida maior do que
a de um sonegador de impostos que solto e volta a um subrbio
frondoso. Nesse sistema, observa ONeil, os pobres e no-brancos
so punidos mais por serem quem so e viverem onde vivem.

Armas de Destruio Matemtica oferece vrios exemplos


inspiradores de como os algoritmos podem ser instalados como uma
ferramenta muito poderosa, embora invisvel, para dominar a vida
cotidiana da pessoas. O livro melhor escrito do que se pode esperar
de um quant. As fontes humanas de ONeil oferecem material vvido
https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 3/7
12/09/2017 A silenciosa dominao por Algoritmos

que ilumina histrias de dor e sofrimento infligidas s pessoas por


empresas de crdito com as estratgias predatrias de emprstimo
alimentadas por algoritmos. A partir de sua experincia como uma
pesquisadora de dados, ela revela problemas com a entrada destes em
algoritmos e explica como esses problemas podem levar destruio
de comunidades inteiras, desde a avaliao de professores at aqueles
que enviam seus currculos procura de empregos. A organizao de
ONeil das experincias de pensamento para imaginar como os
algoritmos poderiam informar as tticas da polcia em bairros brancos
e ricos e para combater crimes de colarinho branco traz tona o
privilgio e a imunidade de que essas comunidades desfrutam quanto
s consequncias da pobreza. Ela prope exemplos de como os
algoritmos poderiam ser auditados e mantidos em padres de
responsabilidade. O livro de ONeil tem muita fora, ressaltando os
problemas estruturais dos algoritmos como uma tecnologia e a obscena
realidade de hoje, em que os ricos ainda so verificados por pessoas,
enquanto a vasta maioria cada vez mais gerida por mquinas.

Com uma viso mais ampla de como os algoritmos impactam as


sociedades, Homo Deus: Uma breve histria do amanh, do
historiador Yuval Noah Harari, considera uma proposta de mudana de
paradigma, segundo a qual a vida diz respeito ao processamento de
dados e todos os organismos so mquinas de fazer clculos e tomar
decises. Nessa analogia, no apenas colmeias, colnias de bactrias e
florestas so sistemas de processamento de dados, mas tambm o so
indivduos e sociedades humanas. Por essas lentes, os algoritmos
bioqumicos do leitor deste texto processariam uma imagem de George
Clooney coletando dados de seus traos faciais tais como as cores do
cabelo e dos olhos, e as propores do nariz e ossos da face, para
causar sentimentos de atrao, indiferena ou repulsa. Em escala
maior, economias inteiras poderiam ser vistas como centros de
processamento de dados, mecanismos para reunir dados sobre desejos
e habilidades e transformar esses dados em decises. Traando
comparaes histricas, Harari escreve: De acordo com essa viso, o
capitalismo de livre mercado e o comunismo de controle estatal no
so ideologias em competio, crenas ticas ou instituies polticas.
Na base, so sistemas de processamento de dados em competio. O
capitalismo usa processamento distribudo, enquanto o comunismo
baseia-se em processamento centralizado. Esse argumento relega a
fantasmas errantes no cemitrio de histria os velhos debates sobre
tecnologia e igualdade, como os debates de clculo das dcadas de
1920 e 30 entre os socialistas que acreditavam que a autoridade
central poderia usar todo o conhecimento disponvel para chegar ao
melhor plano econmico possvel (em suas cabeas) para a sociedade e
aqueles que acreditam que, porque os problemas da sociedade
moderna so to complexos, o planejamento econmico impossvel e
apenas o mercado poderia coordenar a atividade econmica.

O livro de Harari no faz tanta crtica comparativa do capitalismo e


comunismo com base em necessidade, igualdade ou estrutura de
classes mas leva os leitores a uma srie de perguntas
completamente diferentes: so os organismos realmente algoritmos; e a
vida , de fato, somente processamento de dados? Mais amplamente,
Harari considera a possibilidade de que a tecnologia poderia emergir
para deslocar as ideologias existentes e formar uma Religio dos
Dados. Essa nova religio colocaria toda autoridade na tomada de
decises guiada por dados e desalojaria as religies que colocam
autoridade em Deus; o humanismo liberal, que coloca a autoridade do
indivduo, no eu e no livre arbtrio; no comunismo de Estado, que

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 4/7
12/09/2017 A silenciosa dominao por Algoritmos

deposita autoridade no partido e no Estado; e no humanismo


evolucionrio, que coloca autoridade na sobrevivncia dos mais aptos.

Nessa viso, os dados so a nova tecnologia e fora de submisso. Em


particular, o poder dos algoritmos para processar dados de modos
inteligentes poderia tornar obsoletos os fundamentos ideolgicos da
sociedade, como os conhecemos, independentemente do que pensamos
sobre eles. medida em que as condies de processamento de dados
mudam novamente no sculo XXI, a democracia pode decair ou
mesmo desaparecer. Conforme o volume e a velocidade dos dados
aumentam, instituies sagradas como eleies, partidos e parlamentos
podem tornar-se obsoletas no porque so antiticas, mas porque no
processam dados com eficincia suficiente. Esse argumento levanta
questes sobre o papel da tecnologia num mundo antitico construdo
sobre vastas e injustas disparidades de poder e privilgio. O argumento
de Harari parece evitar voltar a tais preocupaes, uma vez que isso
significaria uma reverso ao humanismo. Mas a tecnologia parece
apresentar novas possibilidades utpicas.

As chamadas Cidades Inteligentes e a Internet das Coisas so


indicadores de que o poder do processamento de dados e dos
algoritmos esto ganhando fora em nossa debandada aparentemente
vertiginosa para o futuro. Mas fica a questo: essa tecnologia facilitar
a criao consciente de sociedades que produzem igualdade? Ou
possibilitar configuraes novas e piores de velhas injustias? Um
poder de processamento computacional incrvel est sendo aplicado
em governana de submisso. Na eleio presidencial de 2012 nos
EUA, a campanha Obama recolheu um volume tremendo de dados
para criar modelos de voto e, usando esses modelos, fez 66 mil
simulaes por noite para ajudar a determinar a melhor estratgia de
campanha. Muitas pessoas esto preocupadas com a aplicao
semelhante do poder de processamento computacional no trabalho e
seu impacto nos empregos e nos desempregados.

Imagine, ao contrrio, essa tecnologia aplicada para facilitar a


governana autnoma, ao ajudar a determinar os melhores estmulos e
resultados econmicos para uma sociedade sem classes e aberta
ecologia. Enquanto as propostas de uma renda bsica universal
dominam os debates na esquerda e na direita, no h mais desculpas
tecnolgicas que inibam a possibilidade revolucionria do
autogoverno, diretamente democrtico e sociedades autnomas em
escala. Modelos tais como o de Castoriadis, de 1957, de Conselhos
Operrios e Economia de uma Sociedade Autogerida. Eles incluam
uma Fbrica Planejada baseada em computadores que escolheriam
como os meios materiais de vida seriam distribudos para a produo
econmica e do consumo, sem necessidade de gestores e planejadores
econmicos. Tais sistemas, e outros como eles, poderiam permitir que
algoritmos na forma de blockchain e contratos inteligentes
fizessem o trabalho pesado de planejamento econmico e outras
rotinas, para que as pessoas pudessem viver desfrutando o tempo livre
individual e social que uma sociedade autnoma possibilitaria.

A questo agora se a inteligncia artificial guiada por algoritmos


conhecer as pessoas e a sociedade melhor do que nos conhecemos a
ns mesmos; ou se ela empoderar a auto-organizao e a democracia
direta de modos que levem e considerao todo o contexto de
dignidade e florescimento humano como fundamentos de um mundo
melhor?

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 5/7
12/09/2017 A silenciosa dominao por Algoritmos

Sobre o mesmo tema:

28/08/2015 18/10/2016 07/09/2014 05/04/2017


Outra Europa no A silenciosa Reforma Poltica: Trs medos que
possvel ditadura do que fazer, depois povoam a Internet
(1) algoritmo do plebiscito? e trs sadas
(3) (3) (4)


Bio Latest Posts

Redao

TAGS:algoritmos, declnio da democracia, democracia,


democracia e algortimos, dominao por algortimos,
frmulas matemticas, inteligncia artificial, mquinas,
processamento por algortimos, submisso por algortimos

1 Comment

Joo Luengo
Posted agosto 4, 2017 at 2:50 PM

Parece que por mais sofisticada que seja a tecnologia, seu uso ainda orientada pela
intencionalidade humana. A ruptura ainda est por vir, quando estes algoritmos se
tornarem capazes de se autoprogramarem e tomarem decises sem superviso
humana.

Este artigo, entretanto, apenas se concentra na esfera econmica, deixando de lado


um campo imenso que vem utilizando a IA. Trata-se da segurana e vigilncia das
cidades e tambm as armas de guerra. Neste campo, algumas mquinas j so
capazes de tomarem decises sem consultar seres humanos. Um outro
desdobramento do uso dos algoritimos na segurana pblica est se fazendo sentir
na criao de unidades que prevem crimes antes de acontecer. As implicaes
disto na perda de liberdades individuais insondvel.

Portanto o artigo est correto ao dizer que a dominao dos algoritmos vai acentuar
a desigualdade entre quem tem privilgios e quem no os tem. A verdadeira
mudana no cabe tecnologia, mas mentalidade humana, pois a tecnologia ainda
criao dos homens.

Deixe uma resposta

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 6/7
12/09/2017 A silenciosa dominao por Algoritmos

_________________________________________________________________________________________________________________________________________

Outras Palavras | Blog da Redao | Outras Mdias | Biblioteca Dipl | Ipiranga 895 | Outros Livros | Outros Quinhentos

Redao Outras Palavras


Rua Conselheiro Ramalho, 945 - Bixiga
So Paulo (SP)
Brasil
Tel: +55 11 4117 9264

About Arras WordPress Theme

https://outraspalavras.net/posts/a-silenciosa-dominacao-por-algoritmos/ 7/7