RESPONSABILIDADE CIVIL E REGULAÇÃO DE NOVAS TECNOLOGIAS: QUESTÕES ACERCA DA UTILIZAÇÃO DE INTELIGÊNCIA ARTIFICIAL NA TOMADA DE DECISÕES EMPRESARIAIS

Auteurs

DOI :

https://doi.org/10.21783/rei.v6i1.383

Mots-clés :

Responsabilidade Civil, Novas Tecnologias, Inteligência Artificial, Agentes Empresariais, Dever de Diligência.

Résumé

RESUMO: O presente artigo tem por objeto central a discussão acerca do regime de responsabilidade civil dos agentes na tomada de decisões baseadas na utilização de sistemas de inteligência artificial. A partir de um panorama acerca da regulação da inteligência artificial no Brasil, passa-se a uma abordagem sintética sobre as principais teorias da responsabilidade civil aplicáveis, utilizando-se como caso para análise a conduta dos agentes empresariais que, no âmbito das sociedades empresárias, delegam decisões, total ou parcialmente, para sistemas automatizados, cujo processo algorítmico nem sempre possui uma explicação clara, mas que, não raro, conduz a danos. Nesse cenário, as normas constitucionais, o dever de diligência e padrões éticos se mostram como parâmetros relevantes para a aferição da responsabilidade civil desses agentes.

Téléchargements

Les données relatives au téléchargement ne sont pas encore disponibles.

Bibliographies de l'auteur

Chiara Spadaccini de Teffé, Universidade do Estado do Rio de Janeiro (UERJ) e Instituto Brasileiro de Mercado de Capitais (IBMEC)

Doutoranda em Direito Civil pela Universidade do Estado do Rio de Janeiro. Mestre em Direito Civil pela Uerj, tendo sido aprovada com distinção e louvor. Grau obtido por meio da defesa da dissertação intitulada 'A tutela da imagem da pessoa humana na internet: da identificação do dano à sua compensação'. Graduada em Direito pela Universidade Federal do Rio de Janeiro (UFRJ), quando foi bolsista de iniciação científica do CNPq e da FAPERJ. Foi professora substituta de Direito Civil na UFRJ (2017-2018) e pesquisadora do Instituto de Tecnologia e Sociedade do Rio (ITS Rio). Atualmente, é professora de Direito Civil e Tecnologia no IBMEC, professora de cursos do ITS Rio, CEPED-UERJ e Emerj e professora convidada da Pós-graduação em Advocacia Contratual e Responsabilidade Civil da EBRADI. Membro do conselho executivo da revista eletrônica civilistica.com (Qualis A2). Membro do Fórum permanente de mídia e liberdade de expressão da Emerj. Parecerista da revista do IBERC, da Revista de Estudos Institucionais, da Revista do IBDCivil e da Revista Direito GV.

Filipe Medon, UERJ

Mestrando em Direito Civil pela UERJ. Graduado em Direito na Faculdade de Direito da UERJ com CR 9,32. Residente Jurídico na Procuradoria Geral do Estado do Rio de Janeiro. Advogado. Professor de Direito Civil. Ex-estagiário de Juiz na 16ª Vara Cível da Capital; Ex-monitor de Direito Civil VII - Direitos Reais na Faculdade de Direito da UERJ; Ex-estagiário de Juiz na 40ª Vara Criminal da Capital; Ex-bolsista de extensão no corpo editorial da Revista Brasileira de Direito do Petróleo, Gás e Energia; Líder Finalista Regional do Hult Prize 2014 (Hult International Foundation - Clinton Global Iniciative); Ex-colunista do site jurídico Jurisconsultos.org; Membro fundador da Confraria da Poesia Informal; Membro correspondente da Academia Brasileira de Poesia - Casa Raul de Leoni. Fluente em Inglês, Espanhol e cursa o nível intermediário em Francês. Tricampeão Nacional de Poesia Juvenil (ALAP-Rio 2010-2011-2013). Autor do livro Coração Pela Paz (2016), Coautor da Revista Argila da Academia Brasileira de Poesia (2013) e das I, II e III Antologias da Confraria da Poesia Informal (2013, 2014 e 2015). 

Références

AFFONSO, Filipe José Medon. Inteligência artificial e danos: autonomia, riscos e solidariedade. 2019. Dissertação Mestrado em Direito – Faculdade de Direito, Universidade do Estado do Rio de Janeiro, Rio de Janeiro, 2019.

BALKIN, Jack M. Free Speech in the Algorithmic Society: Big Data, Private Governance, and New School Speech Regulation. Yale Law School: Faculty Scholarship Series, n. 5160, 2018. Disponível em <https://digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=6159&context=fss_papers> Acesso em 02 mar. 2019.

BARBOSA, Mafalda Miranda. Inteligência Artificial, E-persons e Direito: desafios e perspectivas. Revista Jurídica Luso Brasileira, v. 3, n. 6, 2017, p. 1475-1503.

BELLONI, Luiza. Robô mata trabalhador dentro da fábrica da Volkswagen na Alemanha. Publicado em 02 de julho de 2015. Disponível em: <https://www.huffpostbrasil.com/2015/07/02/robo-mata-trabalhador-dentro-da-fabrica-da-volkswagen-na-alemanh_n_7714702.html> Acesso em: 20 abr. 20.

BIGONHA, Carolina. Inteligência Artificial em perspectiva. Panorama setorial da Internet. Inteligência Artificial e ética, a. 10, n. 2, out. 2018. Disponível em: <https://www.cetic.br/publicacao/ano-x-n-2-inteligencia-artificial-e-etica/> Acesso em: 19 abr. 20.

BLANCHET, Richard; SILVA, Lucila. A responsabilidade dos administradores e o dever de diligência. GT Interagentes, 2014. Disponível em: <http://www.ibgc.org.br/userfiles/files/GT_Interagentes_Responsabilidade_Administradores.pdf> Acesso em: 02 mar. 19.

BONNET, Adrien. La Responsabilité du fait de l’intelligence artificielle. Banque de Memóires, Université Panthéon-Assas – Paris II, 2015.

CARVALHOSA, Modesto; LATORRACA, Nilton. Comentários à lei de sociedades anônimas. v. 3. São Paulo: Saraiva, 1997.

CAMPOS, Juliana. A Responsabilidade Civil do produtor pelos danos causados por robôs inteligentes à luz do regime do Decreto-Lei n.º 383/89, de 6 de novembro. Revista de Direito da Responsabilidade, a. 1, 2019.

ČERKA, Paulius; GRIGIENĖ, Jurgita; SIRBIKYTĖ, Gintarė. Liability for damages caused by Artificial Intelligence. Computer Law & Security Review, Elsevier, v. 31, n. 3, p. 376-389, 2015.

CIFAR PAN-CANADIAN ARTIFICIAL INTELLIGENCE STRATEGY, 2019. Disponível em: <https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy> Acesso em 20 jun. 2019.

COLEMAN, Lauren deLisa. CES 2019: Why IBM CEO Ginni Rometty's Opening Address Delivers. Disponível em: <https://www.forbes.com/sites/laurencoleman/2019/01/09/ces-2019-why-ibm-ceo-ginni-rommetys-opening-address-delivers/#1460654720d5> Acesso em: 28 jun. 19.

DE LUCA, Cristina. Bolsonaro sanciona lei que cria a autoridade de dados pessoais com 14 vetos. Blog Porta 23. UOL. Publicado em 09 de julho de 2019. Disponível em: <https://porta23.blogosfera.uol.com.br/2019/07/09/bolsonaro-sanciona-lei-que-cria-a-autoridade-de-dados-pessoais-com-14-vetos/?fbclid=IwAR0ihxRR9UQ5tPHHLFHnHkiGofqJcZWLTmL5mu3bEqD3K4O7cgDMFC6-Cpk> Acesso em: 09.07.19.

DONEDA et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, 2018.

EXECUTIVE ORDER ON MAINTAINING AMERICAN LEADERSHIP IN ARTIFICIAL INTELLIGENCE. Publicado em 11 de fevereiro de 2019. Disponível em: <https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/> Acesso em: 28 jun. 19.

EZRACHI, Ariel; STUCKE, Maurice. Artificial Intelligence & Collusion: When Computers Inhibit Competition. University of Illinois Law Review, v. 2017.

FRAZÃO, Ana. Algoritmos e inteligência artificial. Jota, publicado em 15 de maio de 2018. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/algoritmos-e-inteligencia-artificial-15052018> Acesso em: 08 fev. 2019

FRAZÃO, Ana. Dados, estatísticas e algoritmos. Jota, publicado em 28 de junho de 2017 (2017a). Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/dados-estatisticas-e-algoritmos-28062017> Acesso em 19 fev. 2019

FRAZÃO, Ana. Programas de compliance e critérios de responsabilização de pessoas jurídicas por ilícitos administrativos. In: ROSSETTI, Maristela; PITTA, Andre (Coord.). Governança corporativa: avanços e retrocessos. São Paulo: Quartier Latin, 2017 (2017b).

FRAZÃO, Ana. Responsabilidade civil de administradores de sociedades empresárias por decisões tomadas com base em sistemas de inteligência artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

GUIDANCE FOR REGULATION OF ARTIFICIAL INTELLIGENCE APPLICATIONS, 2020. Disponível: <https://www.whitehouse.gov/wp-content/uploads/2020/01/Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf> Acesso em: 23 jan. 20

HARADA, Eduardo. Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas. Tecmundo, publicado em 01 de julho de 2015. Disponível em: <https://www.tecmundo.com.br/google-fotos/82458-polemica-sistema-google-fotos-identifica-pessoas-negras-gorilas.htm> Acesso em 17 maio 2019.

JOH, Elizabeth E. Feeding the Machine: Policing, Crime Data, & Algorithms. J. William & Mary Bill of Rights Journal, v. 26, n. 2, 2017.

LAMY FILHO, Alfredo; PEDREIRA, José Luis Bulhões. Direito das Companhias. Rio de Janeiro: Forense, 2017.

LARA, Rodrigo. SimSimi: app de conversa com inteligência artificial é risco para crianças? UOL. Publicado em 24 de abril de 2018. Disponível em: <https://www.uol.com.br/tilt/noticias/redacao/2018/04/24/simsimi-app-de-conversa-com-inteligencia-artificial-e-risco-para-criancas.htm> Acesso em: 20 abr. 20.

LAWGORITHM. Estratégias nacionais de inteligência artificial. Publicado em: 12 de setembro de 2019. Disponível em: <https://lawgorithm.com.br/estrategias-ia/> Acesso em: 20 abr. 20

LEMOS, Ronaldo. É preciso plano de inteligência artificial. Folha, publicado em: 04 fev. 2019. Disponível em: <https://www1.folha.uol.com.br/colunas/ronaldolemos/2019/02/e-preciso-plano-de-inteligencia-artificial.shtml>. Acesso em: 19 fev. 2019

LESSIG, Lawrence. The Law of the Horse: What Cyberlaw Might Teach. Harvard Law Review, v. 113, 1999, p. 501-549. Disponível em: <https://cyber.harvard.edu/works/lessig/finalhls.pdf> Acesso em: 13 out. 2018.

MCCARTHY, John. What is artificial intelligence? 2007. Disponível em: <http://www-formal.stanford.edu/jmc/whatisai/node1.html> Acesso em: 07 fev. 2019.

MAGRANI, Eduardo; SILVA, Priscilla; VIOLA, Rafael. Novas perspectivas sobre ética e responsabilidade de Inteligência Artificial. In: FRAZÃO, Ana;

MULHOLLAND, Caitlin (coords.). Inteligência Artificial e Direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.

MCKENZIE, Raub. Bots, Bias and Big Data: Artificial Intelligence, Algorithmic Bias and Disparate Impact Liability in Hiring Practices. Arkansas Law Review, v. 71, n. 2, 2018.

MOKHTARIAN, Edmund. The Bot Legal Code: Developing a Legally Compliant Artificial Intelligence. VAND. J. ENT. & TECH. L., v. 21, n. 1, 2018.

MONTEIRO, Renato Leite. Existe um direito à explicação na Lei Geral de Proteção de Dados do Brasil? Artigo estratégico 39. Dezembro de 2018.

MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

NATIONAL STRATEGY FOR ARTIFICIAL INTELLIGENCE. Índia, 2018. Disponível em: <http://niti.gov.in/writereaddata/files/document_publication/ NationalStrategy-for-AI-Discussion-Paper.pdf> Acesso em 20 fev. 2019

NORONHA, Fernando. Direito das obrigações. v. 1. São Paulo: Saraiva, 2003.

NORONHA, Fernando. Desenvolvimentos contemporâneos da responsabilidade civil. Revista dos Tribunais, v. 761, 1999.

OCDE. Recommendation of the Council on Artificial Intelligence, 2019. Disponível em: <https://www.oecd.org/going-digital/forty-two-countries-adopt-new-oecd-principles-on-artificial-intelligence.htm> Acesso em: 28 jun. 19.

PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts and Torts. Law, Governance and Technology Series, v. 10. Springer, 2013.

PARTICIPA BR. Consulta pública sobre a Estratégia Brasileira de Inteligência Artificial. 2019. Disponível em: <http://participa.br/estrategia-brasileira-de-inteligencia-artificial/legislacao-regulacao-e-uso-etico> Acesso em: 18 dez. 2019.

PASQUALE, Frank. The Black Box Society. The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.

PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Rev. Bras. Polít. Públicas, v. 7, n. 3, 2017.

ROBLES, Pablo. China plans to be a world leader in Artificial Intelligence by 2030. Publicado em 01 de outubro de 2018. Disponível em <https://multimedia.scmp.com/news/china/article/2166148/china-2025-artificial-intelligence/index.html> Acesso em 20 fev. 2019.

SANTINO, Renata. Robô-rebelde 'morre' após ser atropelado por carro autônomo. Olhar digital. Publicado em: 14 de janeiro de 2019. Disponível em: <https://olhardigital.com.br/noticia/robo-rebelde-morre-apos-ser-atropelado-por-carro- autonomo/81217>. Acesso em 19 fev. 2019

SATURNO, Ares. Robô perfura spray acidentalmente e deixa 54 feridos em armazém da Amazon. Canaltech. Publicado em: 07 de dezembro de 2018. Disponível em: <https://canaltech.com.br/curiosidades/robo-perfura-spray-acidentalmente-e-deixa-54-feridos-em-armazem-da-amazon-128575/> Acesso em: 01 mar. 2019.

SCHELLEKENS, Maurice. Self-driving cars and the chilling effect of liability Law. Computer Law & Security Review, v. 31, n. 4, 2015.

SCHREIBER, Anderson. Manual de Direito Civil Contemporâneo. São Paulo: Saraiva Educação, 2018.

SCHREIBER, Anderson. Novos Paradigmas da Responsabilidade Civil: Da Erosão dos Filtros de Reparação à Diluição dos Danos. 6. ed. São Paulo: Editora Atlas, 2015.

SOULEZ, Marie. Questions juridiques au sujet de l’intelligence artificielle. Enjeux numériques, n.1, março de 2018. Disponível em: <http://www.annales.org/enjeux-numeriques/2018/resumes/mars/15-en-resum-FR-AN-mars-2018.html#15FR> Acesso em 14 fev. 2019.

SOUZA, Carlos Affonso Pereira de. O debate sobre personalidade jurídica para robôs. Errar é humano, mas o que fazer quando também for robótico? Jota, publicado em 10 de outubro de 2017. Disponível em: <https://www.jota.info/opiniao-e-analise/artigos/o-debate-sobre-personalidade-juridica-para-robos-10102017> Acesso em: 20 abr. 2018.

TEFFÉ, Chiara Spadaccini. Quem responde pelos danos causados pela IA? Jota, publicado em 24 de outubro de 2017. Disponível em: <https://www.jota.info/opiniao-e-analise/artigos/quem-responde-pelos-danos-causados-pela-ia-24102017> Acesso em: 23 fev. 2019.

TEFFÉ, Chiara Spadaccini; MEDON, Filipe. A utilização de inteligência artificial em decisões empresariais: notas introdutórias acerca da responsabilidade civil dos administradores. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

TEPEDINO, Gustavo; BARBOZA, Heloisa Helena; BODIN DE MORAES, Maria Celina. Código Civil Interpretado conforme a Constituição da República. v. 2. 2.ed. Renovar: Rio de Janeiro, 2012.

TEPEDINO, Gustavo; SILVA, Rodrigo da Guia. Inteligência Artificial e elementos da responsabilidade civil. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. Editora Revista dos Tribunais, 2019.

TEPEDINO, Gustavo. As tecnologias e a renovação do Direito Civil. Publicado em 12 de junho de 2019. Disponível em: <http://www.oabrj.org.br/colunistas/gustavo-tepedino/as-tecnologias-renovacao-direito-civil?fbclid=IwAR1PumT-lccIeKgJQzAbrV6o1Odgqzh1CkrA_va5UsHbu3RWyYgTkrn2V9M> Acesso em: 28 jun. 19.

THE NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN. Publicado em outubro de 2016. Disponível em: <https://www.nitrd.gov/news/national_ai_rd_strategic_plan.aspx> Acesso em 20 fev. 2019.

TIEDEMANN, Klaus. Punibilidad y Responsabilidad Administrativa de las Personas Jurídicas y de sus Órganos. Revista Jurídica de Buenos Aires, v. 2, 1988.

TRINDADE, Rodrigo. Como acidente fatal mudou o programa de carros autônomos da Uber. UOL. Publicado em 16 de novembro de 2019. Disponível em: <https://www.uol.com.br/tilt/noticias/redacao/2019/11/16/como-acidente-fatal-mudou-o-programa-de-carros-autonomos-da-uber.htm> Acesso em: 20 abr. 20.

TURNER, Jacob. Robot Rules. Regulating artificial intelligence. Palgrave Macmillan: Londres, 2019.

VLADECK, David C. Machines without principals: liability rules and artificial intelligence. Washington Law Review, v. 89, n. 117, 2014.

ZANATTA, Rafael A. F. Perfilização, Discriminação e Direitos: do Código de Defesa do Consumidor à Lei Geral de Proteção de Dados Pessoais. Publicado em: fevereiro de 2019. Disponível em: <https://www.researchgate.net/publication/ 331287708> Acesso em: 27 jun. 19.

Téléchargements

Publiée

2020-04-25

Comment citer

de Teffé, C. S., & Medon, F. (2020). RESPONSABILIDADE CIVIL E REGULAÇÃO DE NOVAS TECNOLOGIAS: QUESTÕES ACERCA DA UTILIZAÇÃO DE INTELIGÊNCIA ARTIFICIAL NA TOMADA DE DECISÕES EMPRESARIAIS. REI - REVISTA ESTUDOS INSTITUCIONAIS, 6(1), 301–333. https://doi.org/10.21783/rei.v6i1.383

Numéro

Vol. 6 No 1 (2020)

Rubrique

Artigos

Licence

Autores que publicam nesta revista concordam com os seguintes termos:

    1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
    2. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
    3. Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online após a publicação na revista.