Direitos Humanos, inteligência artificial e privacidade

Monções: Revista de Relações Internacionais da UFGD

View Publication Info
 
 
Field Value
 
Title Direitos Humanos, inteligência artificial e privacidade
Human rights, artificial intelligence and privacy
 
Creator Cassino, João Francisco
Avelino, Rodolfo da Silva
Silveira, Sérgio Amadeu da
 
Subject Direitos Humanos. Algoritmos. Privacidade.
Human rights; Algorithms; Privacy
 
Description Este texto trata dos riscos e implicações da inteligência artificial e dos algoritmos para os objetivos contidos na Declaração Universal dos Direitos Humanos. Nesse sentido, as perspectivas de James Der Derian, Frank Pasquale, David Chandler, Shoshana Zuboff, Philip N. Howard e Nick Srnicek foram mobilizadas para a compreensão da atual fase do capitalismo global, do mercado de captura e o processamento em massa de dados pessoais. Diversos casos descritos indicam que a privacidade é cada vez menos respeitada enquanto as empresas protegem seus segredos competitivos com patentes, códigos fechados e acordos de confidencialidade. Técnicas de Big Data e algoritmos em rede podem ser utilizados para melhorar e agilizar a administração pública, mas também resultam em novas práticas discriminatórias que violam o direito à privacidade, à liberdade de expressão e à justiça. Grupos étnicos e raciais, mulheres e comunidade LGBT já sofrem com decisões tomadas por sistemas computacionais autômatos que levam à segregação e ao preconceito. Recebido em: abril/2018.Aprovado em: março/2019.
This text presents risks and implications of artificial intelligence and algorithms for the goals contained in the Universal Declaration of Human Rights. In this sense, the perspectives of James Der Derian, Frank Pasquale, David Chandler, Shoshana Zuboff, Philip N. Howard and Nick Srnicek have been mobilized to understand the current phase of global capitalism, the market of capture and of mass processing of personal data. Several cases described indicate that privacy is less and less respected as companies protect their competitive secrets with patents, closed codes and confidentiality agreements. Big Data techniques and network algorithms can be used to improve and streamline public administration, but also result in new discriminatory practices that violate the right to privacy, freedom of expression and justice. Ethnic and racial groups, women and the LGBT community already suffer from decisions made by automated computer systems that lead to segregation and prejudice.
 
Publisher UFGD
 
Contributor

 
Date 2019-06-30
 
Type info:eu-repo/semantics/article
info:eu-repo/semantics/publishedVersion
"Artigo Solicitado", "Avaliado por pares".
 
Format application/pdf
 
Identifier http://ojs.ufgd.edu.br/index.php/moncoes/article/view/11546
10.30612/rmufgd.v8i15.11546
 
Source Monções: Revista de Relações Internacionais da UFGD; v. 8, n. 15 (2019): Dossiê Teoria das Relações Internacionais no Brasil; 573-596
2316-8323
 
Language por
 
Relation http://ojs.ufgd.edu.br/index.php/moncoes/article/view/11546/5654
/*ref*/BELLUCKAUG, Pam. Chilly at Work? Office Formula Was Devised for Men. Site: NYTimes.com, em 3 de agosto de 2015. Disponível em: <https://www.nytimes.com/ 2015/08/04/science/chilly-at-work-a-decades-old-formula-may-be-to-blame.html>. Acesso em 5 de abril de 2017.
/*ref*/CHAMAYOU, Grégoire. Teoria do Drone. SP, Cosac Naify, 2015.
/*ref*/CHANDLER, David. A world without causation: Big data and the coming of age of posthumanism. Millennium, v. 43, n. 3, p. 833-851, 2015.
/*ref*/CHICAGO DATA PORTAL. Site Oficial da Cidade de Chicago. Strategic Subject List. Disponível em: <https://data.cityofchicago.org/Public-Safety/Strategic-Subject-List/4aki-r3np>. Acesso em: 5 de abril de 2018.
/*ref*/Data collected by Google cars. Site: Google Europe Blog, em 27 de abril de 2010. Disponível em: <https://europe.googleblog.com/2010/04/data-collected-by-google-cars.html>. Acesso em 5 de abril de 2018.
/*ref*/DER DERIAN, James. Antidiplomacy: spies, terror, speed, and war. Blackwell, 1992.
/*ref*/DER DERIAN, James. Critical encounters in international relations. International Social Science Journal, v. 59, n. 191, p. 69-73, 2008.
/*ref*/DER DERIAN, James. Virtuous War: Mapping the Military-Industrial-Media-Entertainment-Network. 2nd ed. Taylor & Francis e-Library, 2009.
/*ref*/DOMINGOS, Pedro. O algoritmo mestre. São Paulo: Novatec. 2017. FUNDAÇÃO DE ESTUDOS AVANÇADOS (FPI). Site Oficial do Governo da Federação Russa, em 13 de outubro de 2017. Disponível em: <http://fpi.gov.ru/press/ media/razrabotchik_robota_fedora_rasskazal_o_pyati_svoih_slozhneyshih_zadachah>. Acesso em: 2 de abril de 2018.
/*ref*/GARVIE, Clare; BEDOYA, Alvaro; FRANKIE, Jonathan. The Perpetual Line-up Unregulated Police Face Recognition in America. Center on Privacy & Technology at Georgetown Law, em 18 de outubro de 2016. Disponível em: <www.perpetuallineup.org>. Acesso em: 5 de abril de 2018.
/*ref*/GUIMÓN, Pablo. Christopher Wylie: “O ‘Brexit’ não teria acontecido sem a Cambridge Analytica”. Internacional. EL PAÍS Brasil. 18/04/2018. Disponível: https://brasil.elpais.com/brasil/2018/03/26/internacional/1522058765_703094.html Acesso 05/10/2018.
/*ref*/HOWARD, Philip N. Pax Technica: How the Internet of things may set us free or lock us up. Yale University Press, 2015.
/*ref*/HUNT, Elle. LGBT community anger over YouTube restrictions which make their videos invisible. Site: TheGuardian.com, em 20 de março de 2017. Disponível em: <https://www.theguardian.com/technology/2017/mar/20/lgbt-community-anger-over-youtube-restrictions-which-make-their-videos-invisible>. Acesso em 5 de abril de 2018.
/*ref*/ISRANI, Ellora Thadaney. When an Algorithm Helps Send You to Prison. Site: NYTimes.com, em 26 de outubro de 2017. Disponível em: <https://www.nytimes .com/2017/10/26/opinion/algorithm-compas-sentencing-bias.html>. Acesso em: 2 de abril de 2018.
/*ref*/JOHNSON, N.F.; ZHENG, M.; VOROBYEVA, Y.; GABRIEL, A.; QI, H.; VELASQUEZ, N.; MANRIQUE, P.; JOHNSON, D.; RESTREPO, E.; SONG, C.; WUCHTY, S. New online ecology of adversarial aggregates: ISIS and beyond . Science (Magazine), Vol 352, Issue 6292 , em 17 de junho de 2016. Disponível em: <http://science. sciencemag.org/content/352/6292/1459>. Acesso em: 2 de abril de 2018.
/*ref*/KELION, Leo. Google tech used by Pentagon 'to analyse drone videos'. Site: BBC.com, em 7 de março de 2018. Disponível em: <http://www.bbc.com/news/ technology-43316667> Acesso em: 2 de abril de 2018.
/*ref*/KOSINSKI, Michal et al. Mining big data to extract patterns and predict real-life outcomes. Psychological methods, v. 21, n. 4, p. 493, 2016.
/*ref*/KOSINSKI, Michal; WANG, Yilun. Deep Neural Networks Are More Accurate Than Humans at Detecting Sexual Orientation From Facial Images. Journal of Personality and Social Psychology. February 2018, Vol. 114, Issue 2, P. 246-257. Stanford Graduate School of Business. Disponível em: <https://www.gsb.stanford.edu/faculty-research/publications/deep-neural-networks-are-more-accurate-humans-detecting-sexual>. Acesso em: 5 de abril de 2018.
/*ref*/LLANERAS, Kiko. Dime cuánto mides y te diré a quién votas. Site: ElPais.com, em 23 de junho de 2017. Disponível em: <https://politica.elpais.com/politica/ 2017/06/23/ratio/1498207330_149656.html>. Acesso em: 2 de abril de 2018.
/*ref*/LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 10/05/2018.
/*ref*/MATZ, S. C. et al. Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the national academy of sciences, v. 114, n. 48, p. 12714-12719, 2017.
/*ref*/MERRILLAUG, Jeremy B. Liberal, Moderate or Conservative? See How Facebook Labels You. Site: NYTimes.com, em 23 de agosto de 2016. Disponível em: <https:// www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html>. Acesso em: 2 de abril de 2018.
/*ref*/NYE JR, Joseph S. Cyberpower. Harvard Univ Cambridge, MA, Belfer Center for Science and International Affairs, 2010.
/*ref*/PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
/*ref*/PENNY, Laurie. Robots are racist and sexist. Just like the people who created them. Site: TheGuardian.com, em 20 de abril de 2017. Disponível em: <https://www.the guardian.com/commentisfree/2017/apr/20/robots-racist-sexist-people-machines-ai-language>. Acesso em: 5 de abril de 2018.
/*ref*/PEREDA, Cristina F. ¿Google es racista?: Un joven demuestra en un vídeo las diferencias al buscar “tres adolescentes negros” y “tres adolescentes blancos”. Site: ElPais.com, em 10 de junho de 2016. Disponível em <https://elpais.com/ internacional/2016/06/10/estados_unidos/1465577075_876238.html>. Acesso em 5 de abril de 2018.
/*ref*/SÁNCHEZ, Álvaro. Los gigantes de Internet tendrán una hora para borrar contenidos terroristas. Site: ElPais.com, em 1º de março de 2017. Disponível em: <https://elpais.com/internacional/2018/03/01/actualidad/1519898000_774757.html>. Acesso em: 2 de abril de 2018.
/*ref*/SANZ, Juan Carlos. Un palestino detenido por un error de traducción de Facebook. Site: ElPais.com, em 25 de outubro de 2017. Disponível em: <https://elpais.com/ internacional/2017/10/24/mundo_global/1508864861_586037.html>. Acesso em 5 de abril de 2018.
/*ref*/SILVEIRA, Sérgio Amadeu da. Tudo sobre tod@s: Redes digitais, privacidade e venda de dados pessoais. Ebook Kindle, 2017.
/*ref*/SIMONITE, Tom. When It Comes to Gorillas, Google Photos Remains Blind. Site: Wired.com, em 11 de janeiro de 2018. Disponível em: <https://www.wired.com/ story/when-it-comes-to-gorillas-google-photos-remains-blind>. Acesso em 5 de abril de 2018.
/*ref*/SRNICEK, Nick; DE SUTTER, Laurent. Platform Capitalism. Cambridge, UK; Malden, MA: Polity, 2017.
/*ref*/Tinder tem versão secreta só para pessoas bonitas e celebridades, diz site. Site: Folha de S.Paulo, em 8 de março de 2017. Disponível em: <http://www1.folha.uol. com.br/tec/2017/03/1864670-tinder-tem-versao-secreta-so-para-pessoas-bonitas-e-celebridades.shtml>. Acesso em 5 de abril de 2018.
/*ref*/TOBIN, Ariana; ANGWIN, Julia; VARNER, Madeleine. Facebook Enabled Advertisers to Reach ‘Jew Haters’. Site: ProPublica.org, em 14 de setembro de 2017. Disponível em: <https://www.propublica.org/article/facebook-enabled-advertisers-to-reach-jew-haters>. Acesso em 5 de abril de 2018.
/*ref*/TUCKER, Ian. Interview: 'A white mask worked better': why algorithms are not colour blind. Site: TheGuardian.com, em 28 de maio de 2017. Disponível em: <https://www.theguardian.com/technology/2017/may/28/joy-buolamwini-when-algorithms-are-racist-facial-recognition-bias>. Acesso em: 5 de abril de 2018.
/*ref*/UNITED NATIONS GENERAL ASSEMBLY. Human Rights Council. A/HRC/32/L.20 – Draft Resolution/Decision: The Promotion, Protection And Enjoyment Of Human Rights On The Internet., 2016.
/*ref*/VIRILIO, Paul; PACIORNIK, Celso Mauro; DOS SANTOS, Laymert Garcia. Velocidade e política. Estação Liberdade, 1996.
/*ref*/WiFi data collection: An update. Site: Google Europe Blog, em 14 de maio de 2010. Disponível em: <https://europe.googleblog.com/2010/05/wifi-data-collection-update.html>. Acesso em 5 de abril de 2018.
/*ref*/'Whoever leads in AI will rule the world’: Putin to Russian children on Knowledge Day. Site: RT.com, em 1º de setembro de 2017. Disponível em: <https://www.rt. com/news/401731-ai-rule-world-putin>. Acesso em: 2 de abril de 2018.
/*ref*/ZHAO, Jieyu; WANG, Tianlu; YATSKAR, Mark; ORDONEZ, Vicente; CHENG, Kai-Wei. Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints. University of Virginia, 2017. Disponível em: <http://www.cs.virginia.edu/~kc2wc/publications/ZWYOC.html>. Acesso em 5 de abril de 2018.
/*ref*/ZMOGINSKI, Felipe. Sistema de crédito social chinês revela uso autoritário da tecnologia. Site: Blog Copy From China - Blogosfera UOL, em 28 de março de 2018. Disponível em: <https://copyfromchina.blogosfera.uol.com.br/2018/03/28/na-china-pontuacao-de-comportamento-beira-o-autoritarismo/>. Acesso em 5 de abril de 2018.
/*ref*/ZUBOFF, Shoshana, Big Other: Surveillance Capitalism and the Prospects of an Information Civilization, em 4 de abril de 2015. Journal of Information Technology (2015) 30, 75–89.
 
Rights Direitos autorais 2019 JOÃO FRANCISCO FASSINO, RODOLFO DA SILVA AVELINO, SÉRGIO AMADEU DA SILVEIRA
https://creativecommons.org/licenses/by-nc-sa/3.0/br/
 

Contact Us

The PKP Index is an initiative of the Public Knowledge Project.

For PKP Publishing Services please use the PKP|PS contact form.

For support with PKP software we encourage users to consult our wiki for documentation and search our support forums.

For any other correspondence feel free to contact us using the PKP contact form.

Find Us

Twitter

Copyright © 2015-2018 Simon Fraser University Library