Tutela Ética e Jurídica dos Danos e da Responsabilidade da Inteligência Artificial
Palabras clave:
Ética, Inteligência Artificial, ResponsabilidadeResumen
Este artigo tem como problema de pesquisa o seguinte questionamento: como deve ser a tutela ética e jurídica dos danos causados por um ente artificialmente inteligente? Objetiva-se verificar a suficiência das diretrizes éticas e do sistema jurídico de responsabilidade civil brasileiro frente aos atos causados em análise. Contrapõe-se os regimes de responsabilização: subjetivo; objetivo; transubjetivo; e preventivo. Identifica-se a ontologia da inteligência artificial e afasta-se sua titularidade do dever de indenizar. No mais, apresentam-se reflexões etimológicas, estatísticas e jurídicas sobre o conceito de risco, verificando-se que essa a concepção jurídica se restringe à capacidade de causar dano. Assim, analisa-se se as atividades envolvendo programação de entes inteligentes artificialmente são consideradas de risco. Conclui-se que, diante da incerteza e da aleatoriedade inerente à programação, execução e desenvolvimento dos entes artificialmente inteligentes, a tutela jurídica mais adequada é a subjetiva em razão do potencial dano. No mais, conclui-se que a tutela ética pode ser visualizada como excludente de responsabilização enquanto mecanismo de rompimento do nexo causal, vez que exercida quando da elaboração do sistema autônomo mediante programação de abstenções de ações potencialmente causadora de danos. Utiliza-se o método de pesquisa integrada, bem como a técnicas de estudo de caso e pesquisa bibliográfica.
Descargas
Citas
ADAMS, J. “Risk: the policy implications of risk compensation and plural rationalities”. London, UCL Press, 1995.
BERGENHEM, Carl, et al. “How to reach complete safety requirement refinement for autonomous vehicles”, In CARS 2015-Critical Automotive applications: Robustness & Safety. 2015. Disponível em: https://hal.archives-ouvertes.fr/hal-01190734/document. Acesso em: 10 dez. 2021.
BEUC. “Automated decision making and artificial intelligence: a consumer perspective”, Tech. rep., Bureau Europeen des Unions de Consommateurs, 2018. Disponível em: https://www.beuc.eu/publications/beuc-x-2018-058_automated_decision_making_and_artificial_intelligence.pdf. Acesso em: 21 mar. 2020.
BEVILÁQUA, Clóvis. Teoria Geral do Direito Civil, Ed. Servanda, Campinas-SP, 2015.
BODEN, Margaret A. Artificial Intelligence: a very short introduction, Ed. Oxford University Press, Oxford, 2018.
BOSTROM, Nick. “Ethical Issues in Advanced Artificial Intelligence”. Disponível em: http://www.fhi.ox.ac.uk/wp-content/uploads/ethical-issues-in-advanced-ai.pdf. Acesso em: 09 abr. 2020.
BOSTROM, Nick. Superintelligence, Ed. Oxford University Press, London, 2014.
BOSTROM, Nick. The ethics of artificial intelligence. In RAMSEY, W.; FRANKISH, K. (org.) Draft for Cambridge Handbook of Artificial Intelligence, Ed. Cambridge University Press, Cambridge, 2011. Disponível em: https://www.nickbostrom.com/ethics/artificial-intelligence.pdf. Acesso em: 09 abr. 2020.
BRAYNE, Sarah. Predict and Surveil: data discretion and the Future of Policing, Ed. Oxford University Press, New York, 2021.
BRASIL. “Lei da Liberdade Econômica. Lei n. 13.874 de 20 de setembro de 2019”. Diário Oficial [da] República Federativa do Brasil, Poder Executivo, Brasília, DF, 20 set. 2019.
BURT, Brian A. “Definitions of risk”, Journal of dental education, 65(10), 2001, p. 1007-1008.
BURTON, Simon, et.al. “Mind the Gaps: Assuring the Safety of Autonomous Systems from an Engineering, Ethical, and Legal Perspective”, Artificial Intelligence, 279, 2020, p. 4, 103201.
CHEN, Zhiyuan; LIU, Bing. Lifelong Machine Learning, Ed. Morgan & Claypool, Oregon, 2018.
CITRON, D. K.; PASQUALE, F. A. “The Scored Society: Due Process for Automated Predictions”, Washington Law Review, 1, 2014, p. 2-27.
CLARKESWORLD. “Submissions Closed”, Twitter. 2023. Disponível em: https://twitter.com/clarkesworld/status/1627711728245960704. Acesso em: 28 jul. 2023.
CRAWFORD, Kate. Atlas of AI, Yale University Press, London, 2021.
CURTI, Filippo et al. “Cyber risk definition and classification for financial risk management”, Journal of Operational Risk, 18 (2), 2023, p. 3.
DIVINO, S. B. S. “After All, Artificial Intelligence is not Intelligent: in a Search for a Comprehensible Neuroscientific Definition of Intelligence” Opinion Juridica, 21, 2022, p. 1-21.
DIVINO, S. B. S. “Consciência e intencionalidade na Teoria do Fato Jurídico de Pontes de Miranda: Direito sem objetividade?”, Dissertação de Mestrado. Pontifícia Universidade Católica de Minas Gerais, Minas Gerais, Belo Horizonte, 2019.
DIVINO, S. B. S. “Desigualdade codificada: como o uso de algoritmos pode reduzir, ocultar e aumentar a desigualdade?” In: COLOMBO; C.; ENGELMANN, W.; FALEIROS JÚNIOR, J. L. de M. (Org.), Tutela Jurídica do Corpo Eletrônico. 1ed. Foco, Indaiatuba, 2022, p. 723-738.
DIVINO, S. B. S.; MAGALHAES, R. A. “Inteligência Artificial e Direito Empresarial: Mecanismos de Governança Digital para Implementação e Confiabilidade”, Economic Analysis of Law Review, 11, 2020, p. 72-89.
DIVINO, S. B. S.; MAGALHAES, R. “A. Propriedade intelectual e direito autoral de produção autônoma da inteligência artificial”, Revista de Direitos e Garantias Fundamentais, 21, 2020, p. 167-192.
FERGUSON, Andrew Guthrie. The Rise of Big Data Policing: surveillance, race, and the Future of Law Enforcement, New York University Press, New York, 2017.
FLORIDI L. “Soft ethics, the governance of the digital and the General Data Protection Regulation”, Phil. Trans. R. Soc. 2018, A 376: 20180081.
FOLHA. “Com que frequência acidentes ocorrem?” Folha Online. 2023. Disponível em: https://www1.folha.uol.com.br/folha/turismo/preparese/aviao-voar_e_seguro-02.shtml. Acesso em: 29 jun. 2023.
FREITAS, Augusto Teixeira de. Consolidação das Leis Civis. Senado Federal, Brasília, 2003.
GIDDENS, A. O mundo na era da globalização, Presença, Lisboa, 2000.
GORNER, Jeremy. “Chicago Police Use ‘Heat List’ as Strategy to Prevent Violence”, Chicago Tribune. 2013. Disponível em: http://articles.chicagotribune.com/2013-08-21/news/ct-met-heat-list-20130821_1_chicago-police-commander-andrew-papachristos-heat-list. Acesso em: 02 set. 2021.
HOOKER, John; KIM, Tae Wan. “Truly Autonomous Machines Are Ethical”. AI Magazine, 40 (4), 2019, p. 66-73.
JABŁONOWSKA, A. et., al. “Consumer law and artificial intelligence Challenges to the EU consumer law and policy stemming from the business’ use of artificial intelligence” Final report of the ARTSY Project. European University Institute. 2018, p. 38.
KAPLAN, Andreas; HAENLEIN, Michael. “Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence”, Business horizons, 62 (1), 2019, p. 15-25.
KAPLAN, Stanley; GARRICK, B. John. “On the quantitative definition of risk”, Risk analysis, 1 (1), 1981, p. 11-27.
KLIPPENSTEIN, Ken. “Exclusive: surveillance footage of tesla crash on sf’s bay bridge hours after elon musk announces “self-driving” feature” The Intercept, 2023. Disponível em: https://theintercept.com/2023/01/10/tesla-crash-footage-autopilot/. Acesso em: 27 jul. 2023.
KNIGHT, Frank Hyneman. Risk, uncertainty and profit. Houghton Mifflin, Boston, 1921.
LA TIMES. “Norway cruise ship engines failed from lack of oil, maritime official says. L.A”, Times, 2019. Disponível em: https://www.latimes.com/world/la-fg-norway-cruise-ship-sky-20190327-story.html. Acesso em: 11 abr. 2020.
LANDES, Elisabeth M. “Insurance, liability, and accidents: a theoretical and empirical investigation of the effect of no-fault accidents”, The Journal of Law and Economics, 25 (1), 1982, p. 49-65.
LIEBER, Renato Rocha; ROMANO-LIEBER, Nicolina Silvana. “O conceito de risco: Janus reinventado” In: MINAYO, MCS., and MIRANDA, AC., orgs. Saúde e ambiente sustentável: estreitando nós [online], Ed. FIOCRUZ, Rio de Janeiro, 2002, p. 71-72.
MENDES, Felismina. “Risco: um conceito do passado que colonizou o presente”, Revista Portuguesa de Saúde Pública, 20 (2), 2002, p. 53-62.
MESKÓ, B. et al. “Will artificial intelligence solve the human resource crisis in healthcare?”, BMC Health Services Research, 18, 2018, p. 545.
MOOR, J. H. “The nature, importance, and difficulty of machine ethics”, IEEE Intelligent Systems, 21 (4), 2006, p. 18–21.
RACHUM-TWAIG, Omri. “Whose Robot Is It Anyway? Liability for Artificial-Intelligence-Based Robots”, U. Ill. L. Rev., 2020, p. 1141.
RUSSELL, Stuart. J.; NORVIG, Peter. Artificial intelligence: a modern approach, Ed. Pearson Education, New Jersey, 2010.
SATO, Mila. “AI-generated fiction is flooding literary magazines — but not fooling anyone”, The Verge. 2023. Disponível em: https://www.theverge.com/2023/2/25/23613752/ai-generated-short-stories-literary-magazines-clarkesworld-science-fiction. Acesso em: 28 jul. 2023.
SEARLE, John. Intentionality: An Essay in the Philosophy of Mind, Ed. Cambridge University Press, Cambridge, 1983.
SIDDIQUI, F.; MERRILL, J. B. “17 fatalities, 736 crashes: The shocking toll of Tesla’s Autopilot”, The Washington Post, 2023. Disponível em: https://www.washingtonpost.com/technology/2023/06/10/tesla-autopilot-crashes-elon-musk/. Acesso em: 27 jul. 2023.
SMITH, Jeremy. “'Minority Report' Is Real — And It's Really Reporting Minorities” Mic, 2015. Disponível em: https://www.mic.com/articles/127739/minority-reports-predictive-policing-technology-is-really-reporting-minorities. Acesso em: 02 set. 2021.
SOUZA, Kátia Regina Góes; LOURENÇO, Luciano. “A evolução do conceito de risco à luz das ciências naturais e sociais”, Territorium, 22, 2015, p. 31-44.
STAFF, Guardian. “US air force denies running simulation in which AI drone ‘killed’ operator”, The Guardian, 2023. Disponível em: https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test. Acesso em: 27 jun. 2023.
STONE, Zara. “Everything You Need To Know About Sophia, The World's First Robot Citizen”, Forbes, 2017. Disponível em: https://www.forbes.com/sites/zarastone/2017/11/07/everything-you-need-to-know-about-sophia-the-worlds-first-robot-citizen/?sh=453114bb46fa. Acesso em: 29 dez. 2020
SUTTON, R. S. AND BARTO, A. G. Reinforcement Learning: An Introduction. Ed. MIT Press, Cambridge, 1998.
THE STRATEGY WEB. Bosch Connected World 2020 – The human unicorn on AI. 2020. Disponível em: https://thestrategyweb.
TURING, Alan. “On computable numbers, with an application to the Entscheidungsproblem”, Proceedings of the London Mathematical Society, 42 1936, p. 230–65.
UN. “Living with risk: a global review of disaster reduction initiatives”, Geneva, 2002
UNIÃO EUROPEIA. “Artificial Intelligence: Europe needs to take a human-in-command approach, says EESC”, 2017. Disponível em: https://www.eesc.europa.eu/en/news-media/press-releases/artificial-intelligence-europe-needs-take-human-command-approach-says-eesc. Acesso em: Acesso em: 11 abr. 2020.
UNIÃO EUROPEIA. Diretrizes éticas para uma IA de confiança (Ethics Guidelines For Trustworthy AI), 2019. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. Acesso em: 09 abr. 2020.
VLASSIS, Nikos. A Concise Introduction to Multiagent Systems and Distributed Artificial Intelligence: synthesis lectures on artificial intelligence and machine learning sequence in series, Morgan & Claypool, Oregon, 2007.
VOROBEYCHIK, Yevgeniy; KANTARCIOGLU, Murat. Adversarial Machine Learning: Synthesis Lectures on Artificial Intelligence and Machine Learning. Ed Morgan & Claypool, Oregon, 2018.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Sthéfano Divino
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:- Los/las autores/as ceden todos sus derechos de autor a la revista Cadernos de Dereito Actual, la cual se encargará de difundir y citar siempre a su autor.
- Los autores/as se comprometen a no enviar el artículo o publicarlo en otra revista.
- Se permite y recomienda a los/las autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada, siempre que se haga referencia a Cadernos de Dereito Actual.
- Cadernos de Dereito Actual no se hace responsable por ninguno de los artículos publicados en caso de que el/la autor/autora hay incurrido en plagio o alguna política desleal a la hora de redactar y/o enviar su artículo. Cualquier responsabilidad civil o penal corresponderá, siempre, al autor/autora del artículo.
Todos los contenidos publicados en la revista están protegidos bajo una licencia "Creative Commons - Reconocimiento - No Comercial". Toda persona tiene derecho a acceder libremente a los contenidos de la revista.