Podem as máquinas ter propriedade sobre algo?
(Especial Núcleo de Referência em Inteligência Artificial Ética e Confiável)
Por Flávio Luis de Mello
O direito de forma ampla, e a propriedade intelectual de forma estrita, tem sofrido impactos decorrentes das profundas transformações sociais, políticas e econômicas das últimas décadas. Tais transformações ampliaram enormemente seu campo de incidência para que pudesse enfrentar essa nova realidade, decorrente do desenvolvimento industrial, científico e tecnológico. Logo, é de se esperar que o direito avance também para buscar compreender o que são estes sistemas autônomos inteligentes e como o ordenamento jurídico deve reagir à sua atuação. Diante da ausência de regramento jurídico acerca deste tema em no país, tal estudo torna-se muito relevante, pois o direito de propriedade intelectual é algo que permeia os diversos setores: produtivo, artístico, cultural, bem como a indústria de ensino.
O termo Inteligência Artificial foi cunhado por John McCarthy em 1956 como sendo a capacidade de uma máquina de executar funções que, se fossem realizadas pelo ser humano, seriam consideradas inteligentes. Essa definição deve ser entendida segundo a ótica da época, momento no qual se buscava projeção para uma área de pesquisa ainda carente de recursos financeiros. A comparação com a inteligência humana certamente tem um apelo propagandístico forte, mas pouco formal. Essa definição de McCarthy para IA é muito combatida devido ao seu apelo comercial, tendo sido, inclusive, objeto de uma crítica muito bem elaborada [7]. No meio científico, a definição mais aceita é aquela propagada por Russel e Norvig (2003), um livro tradicionalíssimo, que define IA como o estudo e projeto de agentes inteligentes, isto é, sistemas que percebem ou sensorizam o meio ao seu redor e tomam ações a fim de maximizar suas chances de sucesso.
A definição original de IA produziu uma mítica duradoura em torno desse tipo de algoritmo, tornando esta linha de pesquisa e desenvolvimento da computação a mais popular na sociedade.
Independentemente das intenções de uso do termo, objetos inteligentes parecem ser muito desejados pelo ser humano, o que tornam produtos com esta propriedade facilmente consumidos pelo público. Por outro lado, a mesma inteligência, que é tão desejada, também cria a compulsão por uma apropriação exclusiva, dando origem a comparações equivocadas sobre a possibilidade de homem e máquina terem a mesma inteligência. A disputa por tal objeto de interesse é vazia em sua essência, uma vez que a “inteligência”, em si, não é única, nem tão pouco rara. A “autoria” também pode ter essa pluralidade de observação.
A questão levantada pelo Teste de Turing disfarça propositadamente a discussão principal sobre a dúvida a respeito do modelo de pensamento humano ser único e exclusivo, isto é, se existem outras formas de pensar além da humana. Penso que a comunidade científica concorda hoje com Turing e aceita razoavelmente bem a hipótese de que a resposta é: sim, máquinas podem pensar, mas tenha cuidado com o que se entende por pensar.
Podem as máquinas ter propriedade sobre algo?
Os animais têm suas formas de pensar, certamente distintas dos seres humanos, e, ainda, não faz sentido comparar a inteligência de um com a de outro. Assim, se certas entidades podem ter seus diferentes modos de pensamento, então, parece razoável que as máquinas também possuam formas particulares de pensar. O ponto importante passa a ser o que é feito com essas inteligências diferenciadas, e, mais especificamente, como uma inteligência tida como mais artificial pode auxiliar outra modalidade de inteligência percebida como mais natural. E se expandir um pouco mais essa questão, a relação de autoria entre um instrumento de produção de conteúdo e seu utilizador pode envolver a discussão sobre manifestações distintas de autoria.
Neste artigo, o foco é a IA empregada na produção de materiais dito autorais, algo operacionalizado por meio do desenvolvimento de programas, implementados em hardware ou software, para estes geradores de conteúdo. Entretanto, aqui se introduz propositadamente uma discussão breve sobre a IA e o direito do consumidor, pois esta área caminha em uma direção de compreensão que vai facilitar de sobremaneira a discussão sobre propriedade intelectual.
De acordo com o Código de Defesa do Consumidor (CDC), o fabricante, o produtor, o construtor, nacional ou estrangeiro, e o importador respondem pelas questões relacionadas com os defeitos de fábrica, estando os defeitos de software/hardware incluídos nesse contexto. Por outro lado, essa mesma legistação, exime de responsabilidade o fabricante, o produtor, o construtor, nacional ou estrangeiro, e o importador quando o defeito no produto for decorrente do mau uso realizado pelo consumidor ou por terceiro. Em geral, nesses casos, há necessidade de se fornecer ao consumidor toda explicação sobre como deve ser utilizado o produto para não o danificar ou colocar em risco o adquirente ou terceiros. Contudo, o nível de complexidade dos produtos de software, em especial aqueles relacionados com IA, exigem do consumidor um conhecimento que está muito além das habilidades e formação do cidadão médio, aproximando-o do que poderia ser entendido como o analfabeto digital [5].
É fato que o consumidor lê as explicações e notificações do fornecedor, mas não consegue decodificá-las nem as apreender.
No processo de desenvolvimento do software, antes do seu uso real, há uma imprevisibilidade de identificar todos os defeitos, algo demonstrável matematicamente. Mesmo com testes repetitivos ainda restarão erros que irão, incidentalmente, causar problemas. Obviamente, se todos os erros forem detectados, então eles poderão ser corrigidos. No entanto, o reparo destes erros implica modificar e desenvolver novos trechos de código, o que pode levar o programa a novos erros, impondo uma problemática que se apresenta recursivamente e sem fim, isto é, o conserto pode introduzir novos defeitos. Além disso, alguns erros não são causados no projeto e desenvolvimento do software, eles surgem posteriormente porque o ecossistema em que eles estão inseridos se altera ao longo do tempo, impondo novas condições de trabalho que jamais poderão ser antecipadas.
Estes defeitos estão relacionados com o que se conhece hoje como “risco de desenvolvimento” e que é amplamente abordado na literatura, tal como discute [6] e [2] ambos na “Revista dos Tribunais”, [3] na discussão sobre dano e direito do consumidor e [1] na discussão sobre proteção jurídica.
Não há um consenso mundial sobre o assunto, e no Brasil existem duas correntes distintas: (1) a favor do risco do desenvolvimento como excludente de responsabilidade do fornecedor; (2) a favor da responsabilização do fornecedor.
Assim, ainda hoje se discute se o defeito imprevisível é uma atuação ilícita que viola uma norma jurídica. Analogamente pode-se argumentar em relação a propriedade intelectual, também é discutível a licitude de atribuir direito autoral à máquina sem agredir o direito autoral de pessoas. De acordo com o nosso ordenamento jurídico, os agentes autônomos e robôs não podem ser responsabilizados pelas ações ou omissões que causam danos a terceiros, por serem destituídos de personalidade jurídica. As normas existentes em matéria de responsabilidade abrangem casos em que a causa subjacente à ação, ou omissão, do robô pode ser atribuída a um agente humano específico, tal como o fabricante, o proprietário ou o utilizador – casos em que o agente poderia ter previsto e evitado o comportamento lesivo do robô. A geração de conteúdo por máquina goza da mesma característica, há um autor/autores subjacentes à execução do algoritmo previamente programado, cujo resultado pode ter sido armazenado antecipadamente de forma explicita ou não. Alguns dirão ainda mais, de forma consciente ou não.
De acordo com [4], pode-se dizer que a IA se caracteriza pela reunião de cinco características: capacidade comunicativa, conhecimento de si mesma, conhecimento acerca do mundo, comportamento determinado por objetivos e capacidade de explorar vias alternativas de solução quando as vias anteriormente ensaiadas falharem. Além disso, é igualmente importante distinguir autonomia de liberdade. A máquina não cria conteúdo porque ela é autônoma e não livre, ela foi previamente programada com conteúdos que podem estar explicitamente codificados em seus programas, ou como é mais comum de acontecer, que estão codificados implicitamente através de sistemas geradores tais como Sistemas de Produção de Post, Gramáticas de Chomsky, ou Redes Neurais Adversárias Generativas.
A possível ação danosa que pode resultar do comportamento de um robô levanta várias esferas de imputação possíveis: os produtores do hardware e software do robô (ou de seus componentes), aquele cujas instruções e ações influenciaram o seu comportamento programado ou emergente, e aqueles que lucram com a sua atuação. Todos esses poderiam, em tese, ser responsabilizados objetiva e solidariamente. No entanto, a concreta identificação do responsável não será fácil de fazer, pois há graus de controle muito diferentes sobre objetos dotados de IA e robôs. Isso sinaliza claramente que existem sim agentes responsáveis, que certamente não são máquinas, tão pouco algoritmos e programas. Logo, salvo melhor juízo, mesmo um produto intelectual que tenha sido gerado por uma máquina tem um “responsável proprietário”. E ainda, um autômato que não é agente capaz para ser responsável, também não pode ser proprietário de nada.
Alguns autores e especialistas recomendam prudência quanto a alterações legislativas. Para eles, o ideal neste momento seria a busca de soluções dentro do atual sistema positivo, recorrendo à extensão teleológica. O meio pelo qual o produto intelectual foi produzido, não deve ofuscar a visão de se perceber claramente que há um autor na origem dos fatos. Essas questões sugerem que a legislação corrente é aderente a atualidade, mas que é essencial compreender o fenômeno a fim de não se cair em armadilhas do deslumbramento em relação às tecnologias que se desconhece. Testar o sistema jurídico com inovações legislativas neste momento seria fazer precipitadas avaliações de um futuro que, por natureza, permanece desconhecido.
Outra corrente pensa que novas ferramentas e normas precisarão ser criadas, não só para disciplinar a realidade de um ambiente autoral, cujo instrumento gerador aparentemente é uma espécie de robô ou mecanismo inteligente, mas também, para regular as múltiplas questões envolvendo a IA. Qualquer que seja a corrente, e qualquer que seja a direção de movimento a ser adotada, a questão principal parece ser personalidade jurídica para dispositivos e entidades dotados de Inteligência Artificial, que hoje não abrange, em qualquer proporção, tais personagens.
References
[1] ALMEIDA, João Batista de. A proteção jurídica do consumidor. 2. ed. São Paulo: Saraiva, 2000. p. 90-91.
[2] BENJAMIN, Antônio Herman de Vasconcellos; MARQUES, Cláudia Lima; BESSA, Leonardo Roscoe. Manual de direito do consumidor. São Paulo: Revista dos Tribunais, 1991. p. 67.
[3] GOMES, Marcelo Kokke. Responsabilidade civil: dano e defesa do consumidor. Belo Horizonte: Del Rey, 2001. p. 215.
[4] HALLEVY, Gabriel. The criminal liability of artificial intelligence entities – From science fiction to legal social control. Intellectual Property Journal, 2010. p. 175-176. Disponível em: http://heinonline.org/HOL/LandingPage?handle=hein.journals/akrintel4&div=11&id=&page=. Acesso em: 11 jul. 2018.
[5] LÉVY, Pierre. As tecnologias da inteligência: o futuro do pensamento na era da informática. 10. ed. Rio de Janeiro: Editora 34, 2001.
[6] MARINS, James. Responsabilidade da empresa pelo fato do produto. São Paulo: Revista dos Tribunais, 1993. p. 128.
[7] MCDERMOTT, Drew. Artificial intelligence meets natural stupidity. In: HAUGELAND, John. Mind design: philosophy, psychology and artificial intelligence. Cambridge: The MIT Press, 1981. c. 5.
Sobre o autor
Flávio Luis de Mello possui graduação em Engenharia de Computação pelo Instituto Militar de Engenharia (1998), mestrado em Engenharia de Sistemas e Computação pelo Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia (2003) e doutorado em Engenharia de Sistemas e Computação pelo mesmo instituto (2006). Atualmente é Professor Associado da Universidade Federal do Rio de Janeiro, colaborador do Instituto Militar de Engenharia e do Centro de Defesa Cibernética. Tem experiência na área de Ciência da Computação, com ênfase em Teoria da Computação, atuando principalmente nos seguintes temas: inteligência artificial forte, inteligência de máquina, tecnologia da informação, defesa cibernética e modelos de computação.
Como citar esta matéria
Mello, Flávio Luis. Podem as máquinas ter propriedade sobre algo?. SBC Horizontes, SBC Horizontes, Fevereiro 2023. ISSN 2175-9235. Disponível em: <http://horizontes.sbc.org.br/index.php/2023/02/podem-as-maquinas-ter-propriedade-sobre-algo/>. Acesso em:<data>
