DECISÕES EXCLUSIVAMENTE AUTOMATIZADAS E A NECESSIDADE DE UMA SUPERVISÃO HUMANA NO BRASIL

Autores

Palavras-chave:

Inteligência Artificial. Decisões exclusivamente automatizadas. Supervisão humana. Direito à explicação. Direito à revisão humana.

Resumo

A inteligência artificial pode ser definida como a tentativa de atribuir à sistemas artificiais a capacidade cognitiva do ser humano. O presente trabalho tem como objetivo definir como os algoritmos de inteligência artificial devem ser desenhados para a garantia a produtividade esperada de tais incrementos tecnológicos e os requisitos exigidos para garantir a segurança jurídica nas decisões de inteligência artificial exclusivamente automatizadas. Quanto à metodologia aplicada foi realizada pesquisa básica estratégica descritiva de cunho qualitativa, utilizando-se do método hipotético-dedutivo com análise da doutrina pátria e dos conteúdos da jurisprudência nacional sobre o tema. Iniciou-se o presente trabalho identificando as diversas aplicações da inteligência artificial como instrumento de produtividade do sistema produtivo da economia brasileira por meio da assistência na tomada de decisão por um usuário humano ou na sua substituição nas decisões exclusivamente automatizadas. Passou-se a possibilidade da utilização da inteligência artificial para a tomada de decisões e as exigências para sua validade. Verificou-se a necessidade da construção dos sistemas algorítmicos de maneira neutra para que se previna a tomada enviesada de decisões automáticas e a necessidade de auditabilidade destas decisões em razão do direito de explicação garantido aos usuários. Examinou-se também a possibilidade da revisão humana das decisões automáticas de forma individualizada prestigiando-se a segurança jurídica e os direitos subjetivos dos usuários humanos ou a adoção de um sistema de revisão em abstrato das decisões buscando-se a manutenção da possibilidade de progresso científico mantendo-se o ganho de escala das decisões algorítmicas automatizadas.

Biografia do Autor

Rodrigo Vianna Silva, Procuradoria Geral Federal - AGU

Pós-graduado em Direito do Trabalho e Previdenciário na Universidade Gama Filho no ano de 2000 e em Ciências Penais na Universidade Estácio de Sá no ano de 2017.  Graduado em Direito pela Universidade Federal de Minas Gerais (1999). Procurador Federal da Advocacia Geral da União desde 2016.

Michelle Lucas Cardoso Balbino, Faculdade Patos de Minas

Doutora em Direito pelo Uniceub. Mestre em Sustentabilidade Socioeconômico e Ambiental pela Escola de Minas pela Universidade Federal de Ouro Preto (UFOP). Especialização em Direito, Impacto e Recuperação Ambiental pela Escola de Minas pela Universidade Federal de Ouro Preto (UFOP). Pós-graduação em Gestão Pública Municipal pela Universidade Federal de Uberlândia (UFU). Pós-graduação em Direito Público pela Sociedade Universitária Gama Filho. Tem experiência na área de Gestão Educacional; Direito Ambiental/Sustentabilidade e Multinacionais. Professora Universitária. Advogada. Endereço para acessar este CV: http://lattes.cnpq.br/6069957017063656.

Referências

AGÊNCIA CNJ. Inteligência artificial aprimora atuação de advogados públicos. Brasília, 2021. Disponível em: https://www.anpprev.org.br/anp/conteudo/artigo/inteligencia-artificial-aprimora-atuacao-de-advogados-publicos/11488? Acesso em: 27 de mar. 2021.

AGRELA, Lucas. Inteligência artificial começa a chegar à segurança pública. Disponível em: https://exame.com/tecnologia/inteligencia-artificial-comeca-a-chegar-a-seguranca-publica. Acesso em: 25/03/2021.

BARBOSA, M.M. Nas fronteiras de um admirável mundo novo? O problema da personificação de entes dotados de inteligência artificial. In: BARBOSA, M., et al (Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 97-112.

BRANCO, Leo. Uso de robôs já acelera análise de processos em tribunais e chega ao STF. O Globo. Brasil, 2020. Disponível em: https://oglobo.globo.com/brasil/uso-de-robos-ja-acelera-analise-de-processos-em-tribunais-chega-ao-stf-1-24225944. Acesso em: 27 de mar. 2021.

BRASIL. Lei Federal n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 8 maio 2021.

BRASIL. Lei n. 10.406, de 10 de janeiro de 2002. Institui o Código Civil. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 03 abr.2021.

BRASIL. Lei n. 13.105, de 16 de março de 2015. Código de Processo Civil. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13105.htm. Acesso em: 15 maio 2021.

BRASIL. Lei n. 4.717, de 29 de junho de 1965. Regula a ação popular. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l4717.htm#:~:text=LEI%20N%C2%BA%204.717%2C%20DE%2029,Art.&text=%C2%A7%201%C2%BA%20Consideram%2Dse%20patrim%C3%B4nio,%2C%20art%C3%ADstico%2C%20est%C3%A9tico%20ou%20hist%C3%B3rico. Acesso em: 15 maio 2021.

CINTRA, Antônio Carlos de Araújo; GRINOVER, Ada Pellegrini; DINAMARCO, Cândido Rangel. Teoria geral do processo. [S.l: s.n.], 2015.

CONSELHO NACIONAL DE JUSTIÇA. Justiça em números 2020. Brasília, 2020. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2020/08/WEB_V2_SUMARIO_EXECUTIVO_CNJ_JN2020.pdf. Acesso em: 27 de mar. 2021.

CORDEIRO, A. Barreto Menezes. Decisões individuais automatizadas à luz do RPGD e da LGPD. In: BARBOSA, M. et.al. (Coord.) Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 263-270.

CRESPO, M. Inteligência artificial, machine learning e deep learning: relações com o direito penal. In: BARBOSA, M., et al (Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 1003-1012.

DI PIETRO, Maria Sylvia Zanella. Direito administrativo. 31 ed. Rio de Janeiro: Forense. 2018.

DIDIER JR, Fredie. Curso de Direito Processual Civil. Teoria geral do processo e processo de conhecimento. v.1. 7. ed. Salvador: JusPodivm, 2007.

FALEIROS JÚNIOR, José Luiz de Moura. Discriminação por algoritmos de inteligência artificial: a responsabilidade civil, os vieses e o exemplo das tecnologias baseadas em luminância. In: BARBOSA, M., Hq.(Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 969-1000.

FILGUEIRAS JÚNIOR, Marcus Vinícius. Ato administrativo eletrônico e teleadministração: perspectivas de investigação. Revista de Direito Administrativo. v. 237. jul./set 2004. p. 243-264.

FRAZÃO, Ana. GOETTENAUER, Carlos. Black Box e o direito face à opacidade algorítmica. In: BARBOSA, M., et al (Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 27-42.

GUTIERREZ, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidência de accountability. In: Ana Frazão e Caitlin Mulholland. (Coord.) Inteligência artificial e direito. 2.ed. rev. Atual. ampl. São Paulo: Thomson Reuters Brasil, 2020. p. 81-109.

LIMA, Cíntia Rosa Pereira de. OLIVEIRA, Cristina Godoy Bernardo de. RUIZ, Evandro Eduardo Seron. Inteligência artificial e personalidade jurídica: aspectos controvertidos. In: BARBOSA, M., et.al.(Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 113-128.

MELLO, Alexandre Schmitt da Silva. DRESCH, Rafael de Freitas Valle. Breves reflexões sobre livre-arbítrio, autonomia e responsabilidade humana e de inteligência artificial. In: BARBOSA, M., et.al.(Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 143-153.

MELLO, Celso Antônio Bandeira de. Curso de direito administrativo. 32 ed. São Paulo: Malheiros. 2015.

MULHOLLAND, C. Responsabilidade civil e processos decisórios autônomos em sistemas de inteligência artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, A.; MULHOLLAND, C. (Org.). Inteligência artificial e Direito. 2 ed. rev., atual. e ampl. São Paulo: Thomson Reuters Brasil, 2020. p. 327-350.

MULHOLLAND, Caitlin. FRAJHOF, Isabella Z. Entre as leis da robótica e a ética: regulação para o adequado desenvolvimento da inteligência artificial. In: BARBOSA, M., et al (Coord.)., Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 65-80.

MULHOLLAND, Caitlin. FRAJHOF, Isabella Z. Inteligência Artificial e a lei geral de proteção de dados pessoais: breves anotações sobre o direito à explicação perante a tomada de decisões por meio de machine learning. . In: Ana Frazão e Caitlin Mulholland.(Coord.) Inteligência artificial e direito. 2.ed. rev. Atual. ampl. São Paulo: Thomson Reuters Brasil, 2020. p. 267-292.

OLIVEIRA, Fábio Hilário Martinez de. A Inteligência Artificial como ferramenta de implementação do ato administrativo eletrônico automático e da teleadministração na Procuradoria-Geral do Estado de Mato Grosso do Sul. Disponível em: http://www.pge.ms.gov.br/wp-content/uploads/2017/09/A-Intelig%C3%AAncia-Artificial-como-ferramenta-de-implementa%C3%A7%C3%A3o-do-ato-administrativo-eletr%C3%B4nico-autom%C3%A1tico-e-da-tele-administra%C3%A7%C3%A3o-na-Procuradoria.pdf.

OLIVEIRA, Marcos Aurélio Bellizze. LOPES, Isabela Maria Pereira. Os princípios norteadores da proteção de dados pessoais no Brasil e sua otimização pela Lei 13.709/2018. In: Ana Frazão, Gustavo Tepedino, Milena Donato Olivia. Lei geral de proteção de dados pessoais e suas repercussões no direito brasileiro. Ana Frazão, et.al. coord. 2. Ed. São Paulo: Thomson Reunters Brasil, 2020. p. 53-82.

PIRES, Fernanda Ivo. Poder Judiciário, inteligência artificial e efeitos vinculantes. In: BARBOSA, M., ET.AL.(Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p. 477-508.

ROQUE, André Vasconcelos e SANTOS, Lucas Braz Rodrigues dos. Inteligência artificial na tomada de decisões judiciais: três premissas básicas. Revista Eletrônica de Direito Processual – REDP. Rio de Janeiro. Ano 15. v. 22. n. 1. jan.-abr. 2021.

SANTANA, José Vinícius Silva de. OLIVEIRA, Péricles Carvalho. Inteligência Artificial (IA) e o Princípio do Juiz Natural: um debate sobre possíveis limites para uso da IA em decisões judiciais. Disponível em: https://ambitojuridico.com.br/cadernos/internet-e-informatica/inteligencia-artificial-ia-e-o-principio-do-juiz-natural-um-debate-sobre-possiveis-limites-para-uso-da-ia-em-decisoes-judiciais/#:~:text=0-,Intelig%C3%AAncia%20Artificial%20(IA)%20e%20o%20Princ%C3%ADpio%20do%20Juiz%20Natural%3A,da%20IA%20em%20decis%C3%B5es%20judiciais&text=Cumprindo%20objetivos%20estruturais%2C%20descrevem%2Dse,a%20Constitui%C3%A7%C3%A3o%20Federal%20de%201988. Acesso em: 30 abr. 2021.

SCHIEFLER, Eduardo. PEIXOTO, Fabiano Hartmann. DEZAN, Matheus Lopes. A decisão administrava robótica e o dever de motivação. Jota. 2020. Disponível em: https://www.jota.info/coberturas-especiais/inova-e-acao/a-decisao-administrativa-robotica-e-o-dever-de-motivacao-01092020#:~:text=Seja%20uma%20decis%C3%A3o%20administrativa%20manualmente,prescri%C3%A7%C3%B5es%20do%20ordenamento%20jur%C3%ADdico%20brasileiro. Acesso em: 28 abr. 2021.

SILVA, Nilton C da. Inteligência Artificial. In: FRAZÃO, A.; MULHOLLAND, C. (Org.). Inteligência artificial e Direito. 2 ed. rev., atual. e ampl. São Paulo: Thomson Reuters Brasil, 2020. p. 33-50.

STEIBEL, Fábio; et.al. Possibilidades e potenciais da utilização da inteligência artificial. In: FRAZÃO, A.; MULHOLLAND, C. (Org.). Inteligência artificial e Direito. 2 ed. rev., atual. e ampl. São Paulo: Thomson Reuters Brasil, 2020. p. 51-62.

TEODORO JR, H. Negócio jurídico – Inexistência, invalidade e ineficácia – Diversidade de consequências jurídicas. Disponível em: http://genjuridico.com.br/2019/12/23/negocio-juridico-inexistencia-invalidade. Acesso em: 03 abr.2021.

TOMASEVICIUS FILHO, Eduardo. Reconhecimento facial e lesões aos direitos da personalidade. In: BARBOSA, M., et al (Coord.). Direito digital e inteligência artificial: Diálogos entre Brasil e Europa. São Paulo: Editora Foco, 2021. p.129-142.

UNIÃO EUROPEIA. REGULAMENTO (UE) 2016/679 DO PARLAMENTO EUROPEU E DO CONSELHO, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados). Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:02016R0679-20160504&from=EN#tocId17. Acesso em: 17 abr. 2021.

VERONESE, Alexandre. Os direitos de explicação e de oposição diante das decisões totalmente automatizadas: comparando o RGPD da União Europeia com a LGPD brasileira. In: Lei geral de proteção de dados pessoais e suas repercussões no direito brasileiro. Ana Frazão, et.al. coord. 2. Ed. São Paulo: Thomson Reunters Brasil, 2020. p. 381-410.

Publicado

2021-12-22

Como Citar

SILVA, R. V.; LUCAS CARDOSO BALBINO, M. DECISÕES EXCLUSIVAMENTE AUTOMATIZADAS E A NECESSIDADE DE UMA SUPERVISÃO HUMANA NO BRASIL. Revista da Advocacia Pública Federal, v. 5, n. 1, p. 77-102, 22 dez. 2021.

Edição

Seção

Artigos