[ID 171] O IMPACTO DISRUPTIVO QUE O DEEPFAKE PODE CAUSAR NA SOCIEDADE
DOI:
https://doi.org/10.17648/2525-278X-v1n7-6Palavras-chave:
Deepfake, Ameaça, TecnologiaResumo
INTRODUÇÃO: As mídias críveis, que são geradas por uma rede neural, possuem características cognitivas análogas aos indivíduos e são capazes de aparentar que alguém disse ou fez algo mesmo sem o consentimento da pessoa alvo. Esta tecnologia pode ser usada para praticar crimes e ser colocada a serviço da desinformação, transformando indivíduos comuns em vetores ativos da sua propagação.
OBJETIVO: O objetivo geral é determinar o perigo que o Deepfake acarreta e seus potenciais danos s a sociedade. Os objetivos específicos são descrever a violação de direitos fundamentais; determinar se a legislação vigente consegue regular a disseminação dessas mídias online e caracterizar os danos oriundos da desinformação acarretado pela tecnologia.
MATERIAL E MÉTODOS: O tipo da pesquisa é descritiva-qualitativa e seu método é o hipotético-dedutivo que confronta duas hipóteses. A pesquisa teve como técnica o levantamento bibliográfico.
RESULTADOS: A confecção dos Deepfakes por intermédio de duas abordagens (Autoencoders e GANs) torna possível gerar mídias que se valem de plataformas digitais e fenômenos; como a atração por notícias falsas, cognição cultural, informação em cascada, bolhas online de informação e a verdade ilusória; para violar direitos fundamentais e espalhar desinformação. Projetos de regularização desta tecnologia emergem no mundo e somado ao avanço tecnológico de sistemas de identificação de detecção automatizada da integridade de uma mídia digital proporciona o combate aos Deepfakes.
CONCLUSÃO: O Estado poderá não ser baseado em evidências empíricas e será possível criar uma legislação para proteger as pessoas contra os usos irrestritos da tecnologia.
Referências
ABBOUD, Georges; CAMPOS, Ricardo; NERY JR, Nelson. FAKE NEWS E REGULAÇÃO. 3. ed. Revista dos Tribunais Ltda, 2022. Disponível: https://proview.thomsonreuters.com/. Acesso em 14 de setembro 2021.
AHMED, Saifuddin. Navigating the maze: Deepfakes, cognitive ability, and social media news skepticism. Disponível : https://journals.sagepub.com/doi/abs/10.1177/14614448211019198. Acesso em 10 de maio 2022.
AJDER, Henry; CAVALLI, Francesco; GRAPHIC, Cullen; PATRINI, Giorgio. Deeptrace: The State of Deepfakes Landscape, Threats, and Impact. Disponível: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf.
ARAL, Sinan; ROY, Deb; VOSOUGHI, Soroush.THE SPREAD OF TRUE AND FALSE NEWS ONLINE. Disponível: https://www.science.org/doi/10.1126/science.aap9559. Acesso em 23 de fevereiro 2022.
ARONOW, Peter M ; KALLA, Josua ; Ternovski. Deepfake Warnings for Political Videos Increase Disbelief but Do Not Improve Discernment: Evidence from Two Experiments. Disponível : https://osf.io/dta97/. Acesso em 4 de fevereiro 2022.
ARKES, H. R., Hackett, C., & Boehm, L. (1989). The generality of the relation between familiarity and judged validity. http://dx.doi.org/10.1002/bdm.3960020203. Acesso em 7 de Julho 2022.
BRENNER, Stefan; FILKUVOVÁ, Petra; LANGGUH, Johhannes; POGORELOV, Konstantin; SCHROEDER,Daniel Thilo. Don't Trust Your Eyes: Image Manipulation in the Age of DeepFakes. Disponível: https://www.frontiersin.org/articles/10.3389/fcomm.2021.632317/full. Acesso em 20 de dezembro 2021..
BOUCHER, PHILIP. Tackling deepfakes in European policy. Disponível: https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2021)690039. Acesso em 3 de outubro 2021.
BRASHIER, Nadia M; FAZIO, Lisa K; MARSH, Elizabeth J., PAYNE, B. Keith. Knowledge Does Not Protect Against Illusory Truth. Disponível: https://psycnet.apa.org/record/2015-38275-001. Acesso em 5 de julho 2022
CAO, Xiaoyu; GONG, Neil Zhenqiang. Understanding the Security of Deepfake Detection. Disponível: https://link.springer.com/chapter/10.1007/978-3-031-06365-7_22. Acesso em 14 de dezembro 2021
CARVALHO, Vanessa Brasil de; CASTELFRANCHIl, Yurij; FAGUNDES, Vanessa Oliveira; MALCHER, Maria Ataide; MASSARANI, Luisa; MENDES, Ione Maria; MIRANDA, Fernanda Chocron; LOPES, Suzana Cunha. Jovens e sua percepção sobre fake news na ciência. Dispomível: https://www.scielo.br/j/bgoeldi/a/PqdXRfWRLjpSZLGqvBfzzgF/?lang=pt. Acesso em 14 de dezembro 2021.
CHADWICK, Andrew ; VACCARI,Cristian. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Disponível: https://journals.sagepub.com/doi/full/10.1177/2056305120903408. Acesso em 15 de novembro 2021.
CHELSEY, Robert; CILTRON, Danielle K. Deep Fakes: Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. Disponível: https://scholarship.law.bu.edu/faculty_scholarship/640/. Acesso em 8 de dezembro 2021.
COLOMINA, Carme; MARGALEF, Héctor Sánchez; YOUNGS, Richard. The impact of disinformation on democratic processes and human rights in the world. Disponível: https://www.europarl.europa.eu/thinktank/en/document/EXPO_STU(2021)653635
. Acesso em 17 de dezembro 2021.
COMISSION, European. A multi-dimensional approach to disinformation: Report of the independent High level Group on fake news and online disinformation. Disponível: https://op.europa.eu/en/publication-detail/-/publication/6ef4df8b-4cea-11e8-be1d-01aa75ed71a1. Acesso em 20 de fevereiro 2022.
CORVEY, William. Media Forensics (MediFor) (Archived). Disponível: https://www.darpa.mil/program/media-forensics. Acesso em 19 de Julho 2022.
COZZOLINO, D. ; NIEBNER, M. ; RIESS, C. ; ROSSLER, A. ; THIES, J. ; VERDOLIVA, L. FaceForensics++: Learning to Detect Manipulated Facial Images. Disponível: https://arxiv.org/abs/1901.08971. Acesso em 5 de junho 2022.
DAMIANI. Jesse. A Voice Deepfake Was Used To Scam A CEO Out Of $243,000. Disponível: https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/. Acesso em 25 de outubro 2020
DELHI, New. I was vomiting: Journalist Rana Ayyub reveals horrifying account of deepfake porn plot. Disponível: https://www.indiatoday.in/trending-news/story/journalist-rana-ayyub-deepfake-porn-1393423-2018-11-21. Acesso em 15 de julho 2022.
DIAKOPOULOS, Nicholas; JOHSON, Deborah G. Anticipating and Addressing the Ethical Implications of Deepfakes in the Context of Elections. Disponível: https://journals.sagepub.com/doi/abs/10.1177/1461444820925811. Acesso em 9 de dezembro 2021.
DONOVAN, Joan; PARIS, Britt. DEEPFAKES AND CHEAP FAKES: The Manipulation of Audio and Visual Evidence. Disponível: https://www.hks.harvard.edu/publications/deepfakes-and-cheap-fakes. Acesso em 9 de dezembro 2021.
EUROPE, COMISSION. Joint declaration on freedom of expression and “fake news”, disinformation and propaganda. Disponível: https://www.osce.org/fom/302796. Acesso em 5 de julho 2022.
Fallis, D. The Epistemic Threat of Deepfakes. Philos. Technol. 34, 623–643 (2021). https://doi.org/10.1007/s13347-020-00419-2. Disponível: https://link.springer.com/article/10.1007/s13347-020-00419-2. Acesso em 17 de dezembro 2021
FLORIDI, Luciano. Artificial Intelligence, Deepfakes and a Future of Ectypes. Disponível : https://link.springer.com/article/10.1007/s13347-018-0325-3. Acesso em 17 de dezembro 2021.
FRANKS, Mary Anne; WALDMAN, Ari Ezra. Sex, Lies, and Videotape: Deep Fakes and Free Speech Delusions. Disponível: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3445037. Acesso em 11 de dezembro 2021.
FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade. 2. ed. Revista dos Tribunais Ltda, 2020. Disponível: https://proview.thomsonreuters.com/. Acesso em 14 de setembro 2021.
GOLDSTEIN, David ; HASHER, Lynn ; TOPPINO, Thomas . Frequency and the conference of referential validity. Disponíve : https://psycnet.apa.org/record/1978-02525-001. Acesso em 5 de julho 2022.
GUARDIAN. Mother charged with deepfake plot against daughter's cheerleading rivals. Disponível : https://www.theguardian.com/us-news/2021/mar/15/mother-charged-deepfake-plot-cheerleading-rivals. Acesso em 5 de julho 2022.
HARTZOG, Woodrow; Silbey, Jessica. The Upside of Deep Fakes. Disponível: https://scholarship.law.bu.edu/faculty_scholarship/1072/. Acesso em 11 de dezembro 2021.
HISTORY SPEAKS. Holmes. Dissenting in Abrams v. United States, 1919. Disponível : https://firstamendmentwatch.org/history-speaks-holmes-dissenting-abrams-v-united-states-1919/. Acesso em 4 de julho 2022.
KIETZMANN, Jan; KIETZMANN, Tim; LEE, Linda; MCCARTHY, Ian. Deepfakes: Trick or treat?. Disponível: https://www.sciencedirect.com/science/article/abs/pii/S0007681319301600. Acesso em 15 de novembro 2021.
LEE, Wenke; MIRSKY, Yisroel. The Creation and Detection of Deepfakes: A Survey. Disponível: https://arxiv.org/abs/2004.11138. Acesso em 15 de novembro 2021.
MAHMUD, Bahar Uddin; SHARMIN, Afsana .Deep Insights of Deepfake Technology : A Review. Disponível: https://www.semanticscholar.org/paper/Deep-Insights-of-Deepfake-Technology-%3A-A-Review-Mahmud-Sharmin/44c2ae65d9ac6fe4a10349547bc0d3a7a7bbbf35. Acesso em 15 de novembro 2021.
MARCEL, Sébastien ; KORSHUNOV, Pavel. L. Deepfake detection: humans vs. Machines. Disponível: https://arxiv.org/abs/2009.03155. Acesso em 5 de fevereiro 2022.
MCCARTHY, J.; MINSKY, M. L.; ROCHESTER, N.; SHAMNON, C. E. A PROPOSAL FOR THE DARTMOUTH SUMMER RESEARCH PROJECT ON ARTIFICIAL INTELLIGENCE. Disponível: http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf. Acesso em 26 de dezembro 2021.
PAVIS, Mathilde. Rebalancing our regulatory response to Deepfakes with performers’ rights. Disponível : https://journals.sagepub.com/doi/full/10.1177/13548565211033418. Acesso em 17 de dezembo 2021.
PEDROSO, Fernando de Almeida. Crimes contra a honra. Doutrina essenciais de Direito Penal. São Paulo: RT. Volume 5. 2010.
Tom Dobber1 , Nadia Metoui1, Damian Trilling1 , Natali Helberger1, and Claes de Vreese1
DOBBER, Tom; HERBERGER, Natali; METOUI, Nadia; TRILLING, Damian; VREESE, Claes de. Do (Microtargeted) Deepfakes Have Real Effects on Political Attitudes?. Disponível : https://journals.sagepub.com/doi/full/10.1177/1940161220944364. Aceso em 15 de novembro 2021.
RAIS, Diogo. Fake news. 2. ed. Revista dos Tribunais Ltda, 2020. Disponível: https://proview.thomsonreuters.com/. Acesso em 14 de setembro 2021.
RINI, Regina. Deepfakes and the Epistemic Backstop. Disponível: https://philpapers.org/rec/RINDAT. Acesso em 11 de dezembro 2021.
RUITER, Adrienne de. The Distinct Wrong of Deepfakes. Disponível: https://link.springer.com/article/10.1007/s13347-021-00459-2. Acesso em 15 de novembro 2021.
SPIVAK, Russell. DEEPFAKES": THE NEWEST WAY TO COMMIT ONE OF THE OLDEST CRIMES. Disponível: https://go.gale.com/ps/i.do?p=AONE&sw=w&issn=&v=2.1&it=r&id=GALE%7CA592039891&sid=googleScholar&linkaccess=abs&userGroupName=anon%7E866c767e. Acesso em 11 de dezembro 2021.
TANDOC, Edson C.; LIM, Zheng Wei; LING, Richard. Defining “Fake News”: A typology of scholarly definitions. Disponível: https://journals.scholarsportal.info/details/21670811/v06i0002/137_dn.xml&sub=all. Acesso em 12 de janeiro 2022.
WARDLE, Claire; DERAKHSHAN, Hossein. INFORMATION DISORDER: Toward an interdisciplinary framework for research and policy making. Disponível: https://edoc.coe.int/en/media/7495-information-disorder-toward-an-interdisciplinary-framework-for-research-and-policy-making.html. Acesso em 20 de fevereiro 2022.
WESTERLUND, Mika. The Emergence of Deepfake Technology: A Review. Disponível: https://www.semanticscholar.org/paper/The-Emergence-of-Deepfake-Technology%3A-A-Review-Westerlund/17734113f254a64b3bae312713edba3b1e34fb56. Acesso em 15 de novembro 2021.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Revista Rumos da Pesquisa em Ciências Empresariais, Ciências do Estado e da Tecnologia
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Todos os direitos autorais dos artigos publicados pertencem à Revista Rumos da Pesquisa em Ciências Empresariais, Ciências do Estado e de Tecnologia do UNICERP.
Os trabalho são originais e não estão disponíveis em outras publicações, quer seja no formato impresso ou no eletrônico.
A Revista se reserva o direito de efetuar nos originais alterações de ordem normativa, ortográfica e gramatical com vistas a manter o padrão culto da língua, respeitando, contudo, o estilo dos autores e que os originais não serão devolvidos aos autores.
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License (CC BY 4.0).
