CIVIL LIABILITY AND REGULATION OF NEW TECHNOLOGIES: ISSUES ABOUT THE USAGE OF ARTIFICIAL INTELLIGENCE IN BUSINESS DECISION-MAKING

Authors

DOI:

https://doi.org/10.21783/rei.v6i1.383

Keywords:

Civil liability, New technologies, Artificial intelligence, Business agents, Due diligence.

Abstract

The main objective of this article is the discussion about the regime of civil liability of agents for the process of decision making based on the use of artificial intelligence systems. After establishing a panorama about the regulation of artificial intelligence in Brazil, the article moves to a synthetic approach to the main applicable theories of civil liability, using as a paradigmatic case for analysis the conduct of business agents that, within the scope of companies, delegate important decisions, totally or partially, to automated systems, whose algorithmic process does not always have a clear explanation, but often leads to damages. In this case, the constitutional rules, the due diligence and ethical standards are shown as relevant parameters for the assessment of the civil liability of these agents.

Downloads

Download data is not yet available.

Author Biographies

Chiara Spadaccini de Teffé, Universidade do Estado do Rio de Janeiro (UERJ) e Instituto Brasileiro de Mercado de Capitais (IBMEC)

Doutoranda em Direito Civil pela Universidade do Estado do Rio de Janeiro. Mestre em Direito Civil pela Uerj, tendo sido aprovada com distinção e louvor. Grau obtido por meio da defesa da dissertação intitulada 'A tutela da imagem da pessoa humana na internet: da identificação do dano à sua compensação'. Graduada em Direito pela Universidade Federal do Rio de Janeiro (UFRJ), quando foi bolsista de iniciação científica do CNPq e da FAPERJ. Foi professora substituta de Direito Civil na UFRJ (2017-2018) e pesquisadora do Instituto de Tecnologia e Sociedade do Rio (ITS Rio). Atualmente, é professora de Direito Civil e Tecnologia no IBMEC, professora de cursos do ITS Rio, CEPED-UERJ e Emerj e professora convidada da Pós-graduação em Advocacia Contratual e Responsabilidade Civil da EBRADI. Membro do conselho executivo da revista eletrônica civilistica.com (Qualis A2). Membro do Fórum permanente de mídia e liberdade de expressão da Emerj. Parecerista da revista do IBERC, da Revista de Estudos Institucionais, da Revista do IBDCivil e da Revista Direito GV.

Filipe Medon, UERJ

Mestrando em Direito Civil pela UERJ. Graduado em Direito na Faculdade de Direito da UERJ com CR 9,32. Residente Jurídico na Procuradoria Geral do Estado do Rio de Janeiro. Advogado. Professor de Direito Civil. Ex-estagiário de Juiz na 16ª Vara Cível da Capital; Ex-monitor de Direito Civil VII - Direitos Reais na Faculdade de Direito da UERJ; Ex-estagiário de Juiz na 40ª Vara Criminal da Capital; Ex-bolsista de extensão no corpo editorial da Revista Brasileira de Direito do Petróleo, Gás e Energia; Líder Finalista Regional do Hult Prize 2014 (Hult International Foundation - Clinton Global Iniciative); Ex-colunista do site jurídico Jurisconsultos.org; Membro fundador da Confraria da Poesia Informal; Membro correspondente da Academia Brasileira de Poesia - Casa Raul de Leoni. Fluente em Inglês, Espanhol e cursa o nível intermediário em Francês. Tricampeão Nacional de Poesia Juvenil (ALAP-Rio 2010-2011-2013). Autor do livro Coração Pela Paz (2016), Coautor da Revista Argila da Academia Brasileira de Poesia (2013) e das I, II e III Antologias da Confraria da Poesia Informal (2013, 2014 e 2015). 

References

AFFONSO, Filipe José Medon. Inteligência artificial e danos: autonomia, riscos e solidariedade. 2019. Dissertação Mestrado em Direito – Faculdade de Direito, Universidade do Estado do Rio de Janeiro, Rio de Janeiro, 2019.

BALKIN, Jack M. Free Speech in the Algorithmic Society: Big Data, Private Governance, and New School Speech Regulation. Yale Law School: Faculty Scholarship Series, n. 5160, 2018. Disponível em <https://digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=6159&context=fss_papers> Acesso em 02 mar. 2019.

BARBOSA, Mafalda Miranda. Inteligência Artificial, E-persons e Direito: desafios e perspectivas. Revista Jurídica Luso Brasileira, v. 3, n. 6, 2017, p. 1475-1503.

BELLONI, Luiza. Robô mata trabalhador dentro da fábrica da Volkswagen na Alemanha. Publicado em 02 de julho de 2015. Disponível em: <https://www.huffpostbrasil.com/2015/07/02/robo-mata-trabalhador-dentro-da-fabrica-da-volkswagen-na-alemanh_n_7714702.html> Acesso em: 20 abr. 20.

BIGONHA, Carolina. Inteligência Artificial em perspectiva. Panorama setorial da Internet. Inteligência Artificial e ética, a. 10, n. 2, out. 2018. Disponível em: <https://www.cetic.br/publicacao/ano-x-n-2-inteligencia-artificial-e-etica/> Acesso em: 19 abr. 20.

BLANCHET, Richard; SILVA, Lucila. A responsabilidade dos administradores e o dever de diligência. GT Interagentes, 2014. Disponível em: <http://www.ibgc.org.br/userfiles/files/GT_Interagentes_Responsabilidade_Administradores.pdf> Acesso em: 02 mar. 19.

BONNET, Adrien. La Responsabilité du fait de l’intelligence artificielle. Banque de Memóires, Université Panthéon-Assas – Paris II, 2015.

CARVALHOSA, Modesto; LATORRACA, Nilton. Comentários à lei de sociedades anônimas. v. 3. São Paulo: Saraiva, 1997.

CAMPOS, Juliana. A Responsabilidade Civil do produtor pelos danos causados por robôs inteligentes à luz do regime do Decreto-Lei n.º 383/89, de 6 de novembro. Revista de Direito da Responsabilidade, a. 1, 2019.

ČERKA, Paulius; GRIGIENĖ, Jurgita; SIRBIKYTĖ, Gintarė. Liability for damages caused by Artificial Intelligence. Computer Law & Security Review, Elsevier, v. 31, n. 3, p. 376-389, 2015.

CIFAR PAN-CANADIAN ARTIFICIAL INTELLIGENCE STRATEGY, 2019. Disponível em: <https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy> Acesso em 20 jun. 2019.

COLEMAN, Lauren deLisa. CES 2019: Why IBM CEO Ginni Rometty's Opening Address Delivers. Disponível em: <https://www.forbes.com/sites/laurencoleman/2019/01/09/ces-2019-why-ibm-ceo-ginni-rommetys-opening-address-delivers/#1460654720d5> Acesso em: 28 jun. 19.

DE LUCA, Cristina. Bolsonaro sanciona lei que cria a autoridade de dados pessoais com 14 vetos. Blog Porta 23. UOL. Publicado em 09 de julho de 2019. Disponível em: <https://porta23.blogosfera.uol.com.br/2019/07/09/bolsonaro-sanciona-lei-que-cria-a-autoridade-de-dados-pessoais-com-14-vetos/?fbclid=IwAR0ihxRR9UQ5tPHHLFHnHkiGofqJcZWLTmL5mu3bEqD3K4O7cgDMFC6-Cpk> Acesso em: 09.07.19.

DONEDA et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, 2018.

EXECUTIVE ORDER ON MAINTAINING AMERICAN LEADERSHIP IN ARTIFICIAL INTELLIGENCE. Publicado em 11 de fevereiro de 2019. Disponível em: <https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/> Acesso em: 28 jun. 19.

EZRACHI, Ariel; STUCKE, Maurice. Artificial Intelligence & Collusion: When Computers Inhibit Competition. University of Illinois Law Review, v. 2017.

FRAZÃO, Ana. Algoritmos e inteligência artificial. Jota, publicado em 15 de maio de 2018. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/algoritmos-e-inteligencia-artificial-15052018> Acesso em: 08 fev. 2019

FRAZÃO, Ana. Dados, estatísticas e algoritmos. Jota, publicado em 28 de junho de 2017 (2017a). Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/dados-estatisticas-e-algoritmos-28062017> Acesso em 19 fev. 2019

FRAZÃO, Ana. Programas de compliance e critérios de responsabilização de pessoas jurídicas por ilícitos administrativos. In: ROSSETTI, Maristela; PITTA, Andre (Coord.). Governança corporativa: avanços e retrocessos. São Paulo: Quartier Latin, 2017 (2017b).

FRAZÃO, Ana. Responsabilidade civil de administradores de sociedades empresárias por decisões tomadas com base em sistemas de inteligência artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

GUIDANCE FOR REGULATION OF ARTIFICIAL INTELLIGENCE APPLICATIONS, 2020. Disponível: <https://www.whitehouse.gov/wp-content/uploads/2020/01/Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf> Acesso em: 23 jan. 20

HARADA, Eduardo. Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas. Tecmundo, publicado em 01 de julho de 2015. Disponível em: <https://www.tecmundo.com.br/google-fotos/82458-polemica-sistema-google-fotos-identifica-pessoas-negras-gorilas.htm> Acesso em 17 maio 2019.

JOH, Elizabeth E. Feeding the Machine: Policing, Crime Data, & Algorithms. J. William & Mary Bill of Rights Journal, v. 26, n. 2, 2017.

LAMY FILHO, Alfredo; PEDREIRA, José Luis Bulhões. Direito das Companhias. Rio de Janeiro: Forense, 2017.

LARA, Rodrigo. SimSimi: app de conversa com inteligência artificial é risco para crianças? UOL. Publicado em 24 de abril de 2018. Disponível em: <https://www.uol.com.br/tilt/noticias/redacao/2018/04/24/simsimi-app-de-conversa-com-inteligencia-artificial-e-risco-para-criancas.htm> Acesso em: 20 abr. 20.

LAWGORITHM. Estratégias nacionais de inteligência artificial. Publicado em: 12 de setembro de 2019. Disponível em: <https://lawgorithm.com.br/estrategias-ia/> Acesso em: 20 abr. 20

LEMOS, Ronaldo. É preciso plano de inteligência artificial. Folha, publicado em: 04 fev. 2019. Disponível em: <https://www1.folha.uol.com.br/colunas/ronaldolemos/2019/02/e-preciso-plano-de-inteligencia-artificial.shtml>. Acesso em: 19 fev. 2019

LESSIG, Lawrence. The Law of the Horse: What Cyberlaw Might Teach. Harvard Law Review, v. 113, 1999, p. 501-549. Disponível em: <https://cyber.harvard.edu/works/lessig/finalhls.pdf> Acesso em: 13 out. 2018.

MCCARTHY, John. What is artificial intelligence? 2007. Disponível em: <http://www-formal.stanford.edu/jmc/whatisai/node1.html> Acesso em: 07 fev. 2019.

MAGRANI, Eduardo; SILVA, Priscilla; VIOLA, Rafael. Novas perspectivas sobre ética e responsabilidade de Inteligência Artificial. In: FRAZÃO, Ana;

MULHOLLAND, Caitlin (coords.). Inteligência Artificial e Direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.

MCKENZIE, Raub. Bots, Bias and Big Data: Artificial Intelligence, Algorithmic Bias and Disparate Impact Liability in Hiring Practices. Arkansas Law Review, v. 71, n. 2, 2018.

MOKHTARIAN, Edmund. The Bot Legal Code: Developing a Legally Compliant Artificial Intelligence. VAND. J. ENT. & TECH. L., v. 21, n. 1, 2018.

MONTEIRO, Renato Leite. Existe um direito à explicação na Lei Geral de Proteção de Dados do Brasil? Artigo estratégico 39. Dezembro de 2018.

MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

NATIONAL STRATEGY FOR ARTIFICIAL INTELLIGENCE. Índia, 2018. Disponível em: <http://niti.gov.in/writereaddata/files/document_publication/ NationalStrategy-for-AI-Discussion-Paper.pdf> Acesso em 20 fev. 2019

NORONHA, Fernando. Direito das obrigações. v. 1. São Paulo: Saraiva, 2003.

NORONHA, Fernando. Desenvolvimentos contemporâneos da responsabilidade civil. Revista dos Tribunais, v. 761, 1999.

OCDE. Recommendation of the Council on Artificial Intelligence, 2019. Disponível em: <https://www.oecd.org/going-digital/forty-two-countries-adopt-new-oecd-principles-on-artificial-intelligence.htm> Acesso em: 28 jun. 19.

PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts and Torts. Law, Governance and Technology Series, v. 10. Springer, 2013.

PARTICIPA BR. Consulta pública sobre a Estratégia Brasileira de Inteligência Artificial. 2019. Disponível em: <http://participa.br/estrategia-brasileira-de-inteligencia-artificial/legislacao-regulacao-e-uso-etico> Acesso em: 18 dez. 2019.

PASQUALE, Frank. The Black Box Society. The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.

PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Rev. Bras. Polít. Públicas, v. 7, n. 3, 2017.

ROBLES, Pablo. China plans to be a world leader in Artificial Intelligence by 2030. Publicado em 01 de outubro de 2018. Disponível em <https://multimedia.scmp.com/news/china/article/2166148/china-2025-artificial-intelligence/index.html> Acesso em 20 fev. 2019.

SANTINO, Renata. Robô-rebelde 'morre' após ser atropelado por carro autônomo. Olhar digital. Publicado em: 14 de janeiro de 2019. Disponível em: <https://olhardigital.com.br/noticia/robo-rebelde-morre-apos-ser-atropelado-por-carro- autonomo/81217>. Acesso em 19 fev. 2019

SATURNO, Ares. Robô perfura spray acidentalmente e deixa 54 feridos em armazém da Amazon. Canaltech. Publicado em: 07 de dezembro de 2018. Disponível em: <https://canaltech.com.br/curiosidades/robo-perfura-spray-acidentalmente-e-deixa-54-feridos-em-armazem-da-amazon-128575/> Acesso em: 01 mar. 2019.

SCHELLEKENS, Maurice. Self-driving cars and the chilling effect of liability Law. Computer Law & Security Review, v. 31, n. 4, 2015.

SCHREIBER, Anderson. Manual de Direito Civil Contemporâneo. São Paulo: Saraiva Educação, 2018.

SCHREIBER, Anderson. Novos Paradigmas da Responsabilidade Civil: Da Erosão dos Filtros de Reparação à Diluição dos Danos. 6. ed. São Paulo: Editora Atlas, 2015.

SOULEZ, Marie. Questions juridiques au sujet de l’intelligence artificielle. Enjeux numériques, n.1, março de 2018. Disponível em: <http://www.annales.org/enjeux-numeriques/2018/resumes/mars/15-en-resum-FR-AN-mars-2018.html#15FR> Acesso em 14 fev. 2019.

SOUZA, Carlos Affonso Pereira de. O debate sobre personalidade jurídica para robôs. Errar é humano, mas o que fazer quando também for robótico? Jota, publicado em 10 de outubro de 2017. Disponível em: <https://www.jota.info/opiniao-e-analise/artigos/o-debate-sobre-personalidade-juridica-para-robos-10102017> Acesso em: 20 abr. 2018.

TEFFÉ, Chiara Spadaccini. Quem responde pelos danos causados pela IA? Jota, publicado em 24 de outubro de 2017. Disponível em: <https://www.jota.info/opiniao-e-analise/artigos/quem-responde-pelos-danos-causados-pela-ia-24102017> Acesso em: 23 fev. 2019.

TEFFÉ, Chiara Spadaccini; MEDON, Filipe. A utilização de inteligência artificial em decisões empresariais: notas introdutórias acerca da responsabilidade civil dos administradores. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

TEPEDINO, Gustavo; BARBOZA, Heloisa Helena; BODIN DE MORAES, Maria Celina. Código Civil Interpretado conforme a Constituição da República. v. 2. 2.ed. Renovar: Rio de Janeiro, 2012.

TEPEDINO, Gustavo; SILVA, Rodrigo da Guia. Inteligência Artificial e elementos da responsabilidade civil. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

TEPEDINO, Gustavo. As tecnologias e a renovação do Direito Civil. Publicado em 12 de junho de 2019. Disponível em: <http://www.oabrj.org.br/colunistas/gustavo-tepedino/as-tecnologias-renovacao-direito-civil?fbclid=IwAR1PumT-lccIeKgJQzAbrV6o1Odgqzh1CkrA_va5UsHbu3RWyYgTkrn2V9M> Acesso em: 28 jun. 19.

THE NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN. Publicado em outubro de 2016. Disponível em: <https://www.nitrd.gov/news/national_ai_rd_strategic_plan.aspx> Acesso em 20 fev. 2019.

TIEDEMANN, Klaus. Punibilidad y Responsabilidad Administrativa de las Personas Jurídicas y de sus Órganos. Revista Jurídica de Buenos Aires, v. 2, 1988.

TRINDADE, Rodrigo. Como acidente fatal mudou o programa de carros autônomos da Uber. UOL. Publicado em 16 de novembro de 2019. Disponível em: <https://www.uol.com.br/tilt/noticias/redacao/2019/11/16/como-acidente-fatal-mudou-o-programa-de-carros-autonomos-da-uber.htm> Acesso em: 20 abr. 20.

TURNER, Jacob. Robot Rules. Regulating artificial intelligence. Palgrave Macmillan: Londres, 2019.

VLADECK, David C. Machines without principals: liability rules and artificial intelligence. Washington Law Review, v. 89, n. 117, 2014.

ZANATTA, Rafael A. F. Perfilização, Discriminação e Direitos: do Código de Defesa do Consumidor à Lei Geral de Proteção de Dados Pessoais. Publicado em: fevereiro de 2019. Disponível em: <https://www.researchgate.net/publication/ 331287708> Acesso em: 27 jun. 19.

Downloads

Published

2020-04-25

How to Cite

de Teffé, C. S., & Medon, F. (2020). CIVIL LIABILITY AND REGULATION OF NEW TECHNOLOGIES: ISSUES ABOUT THE USAGE OF ARTIFICIAL INTELLIGENCE IN BUSINESS DECISION-MAKING. JOURNAL OF INSTITUTIONAL STUDIES, 6(1), 301–333. https://doi.org/10.21783/rei.v6i1.383

Issue

Vol. 6 No. 1 (2020)

Section

Articles

License

The authors hold their copyright and concede to the JOURNAL OF INSTITUTIONAL STUDIES the right to the first publication, in accordance with the Creative Commons Attribution license.

Authors are strongly encouraged to publish their manuscripts in other medias, such  as institutional repositories and personal pages. The Journal only requires the credits of the first publication.