Além da estética: Dimensões éticas da geração de arte por IA

Por Gustavo Lúcius Fernandes*, Renato Polanczyk Resende*, Pedro O. S. Vaz-de-Melo
^{*Esses autores contribuíram igualmente para o artigo.
Crédito da imagem de capa: Renato Polanczyk Resende}

Com o surgimento dos computadores modernos no século XX, surgiu também a possibilidade de se automatizar uma série de atividades humanas, tanto no campo manual quanto no campo intelectual. Já naquela época, imaginava-se que as tecnologias emergentes teriam o potencial de libertar a humanidade do trabalho árduo, possibilitando-nos desfrutar da vida dedicando a atividades que realmente nos completam, tais como escrever um poema inspirado na natureza, pintar um quadro que expressa sentimentos, ler e interpretar um livro, e se divertir. Há uma famosa frase de 1969, atribuída ao futurista e escritor de ficção científica Arthur Clarke, que exemplifica bem essa ideia. Naquele ano, quando questionado sobre quais seriam as consequências da automatização do mercado de trabalho, ele respondeu: “O objetivo do futuro é o desemprego pleno, para que possamos nos divertir”.

Mais de 50 anos depois da declaração de Arthur Clarke, vivemos em um mundo onde a automação já é realidade. Desde então, muitos empregos foram substituídos por máquinas, enquanto muitos outros foram criados por causa delas. Ainda hoje, há uma série de discussões sobre o futuro do trabalho, e como esse futuro nos impactará. No entanto, a surpresa para as pessoas da nossa época é que os computadores estão desenvolvendo capacidade de executar tarefas que, até então, eram pensadas como exclusivamente humanas. Assim, além de fazerem os nossos trabalhos, computadores estão desenvolvendo habilidades em áreas que eram capazes de nos destacar como seres humanos. Uma dessas áreas é a arte.

O campo das artes vive uma investida de modelos de Inteligência Artificial (IA) que tentam cada vez mais escrever, pintar e compor como humanos. Na área de criação de imagens, há uma série de algoritmos de aprendizado de máquina, como Dall-E, MidJourney e Stable Diffusion, capazes de gerar imagens baseadas em descrições. Assim, é possível solicitá-los que criem uma pintura no estilo de Van Gogh do Pelé fazendo um gol. Esses modelos só possuem essa capacidade porque eles são treinados com milhões, ou bilhões de exemplos de imagens retiradas de forma indiscriminada da internet. Atualmente, a forma como eles são treinados, bem como os resultados que eles estão gerando, está fomentando discussões sobre problemas éticos em diversas áreas de estudo, como: Computação, Direito, Arte, Sociologia e Filosofia.

Na computação, o maior problema discutido é a respeito do processo de coleta das imagens utilizadas para treinamento dos modelos que, em muitos casos, são coletadas de forma descontrolada e imprudente. Alguns estudos já analisaram bases contendo essas imagens e identificaram nelas dados pessoais e informações médicas sensíveis (Edwards, 2022), o que não são registros aceitáveis para estarem em uma base de dados pública.

No entanto, mesmo imagens que não possuem informações sensíveis muitas vezes são obtidas sem consentimento de seus donos. Assim, a presença dessas imagens nessas bases fazem com que os modelos treinados nelas estejam em desacordo com os princípios: (i) da benevolência, que garante a preservação da privacidade; (ii) da justiça, pois cria um cenário competitivo injusto entre os modelos de IA e artistas humanos; e (iii) da explicabilidade, onde deve-se garantir a transparência e responsabilidade dos modelos, o que seria importante para termos evidência de plágio por parte dos modelos.

Esses três princípios: benevolência, justiça e explicabilidade, nos remetem ao campo de estudo do direito. Nessa área, a discussão é maior em torno da propriedade intelectual e direitos de uso de imagens presentes na internet e das imagens geradas pelos modelos. O problema é que a legislação atual não está bem posicionada ao cenário tecnológico em que vivemos. Assim, há uma série de casos já julgados, ou em processo de julgamento, que exemplificam o desafio da área.

Um caso famoso já julgado é o conhecido como Slater versus PETA, onde o direito de uma selfie tirada por um macaco estava em disputa (Northern District Of California, 2015). Slater, o fotógrafo, requereu os direitos da imagem, por tornar a captura da imagem possível. A PETA, organização de proteção aos animais, alegou que o macaco era o autor, por ter realmente tirado a foto. O tribunal inicialmente responsável pela ação decidiu que trabalhos produzidos pela natureza, plantas ou animais, não poderiam possuir copyrights (direito de propriedade intelectual), o que invalidou a sustentação da PETA. O caso terminou com um acordo entre as partes, em um tribunal de instância superior, onde Slater aceitou doar 25% dos ganhos com a foto para um grupo que protege macacos na Indonésia. Embora a decisão do primeiro tribunal não cita inteligências artificiais, o caso é importante, pois cria alguma referência para casos de imagens não geradas por humanos (Welle, 2015).

Em outro caso já julgado, Stephen Thaler não conseguiu registrar no escritório de direitos autorais dos EUA uma imagem gerada por IA. Ele fez tentativas de registro em 2019, 2020 e 2022, mas todas foram negadas. O escritório justificou a recusa citando a ausência de comprovação de autoria humana, fundamental para a concessão dos direitos. A decisão ainda destaca a necessidade de envolvimento humano substancial no processo criativo para tal registro (U.S. Copyright Office, 2022).

Um outro caso semelhante diz respeito a um livro ilustrado que recebeu uma proteção de direitos autorais limitada pelo escritório de direitos autorais dos EUA. Nesse caso, todas as imagens do livro foram geradas pelo software MidJourney, enquanto o texto foi gerado por um humano. Ao avaliar o trabalho, o escritório decidiu que o texto utilizado para gerar as imagens não era suficiente para constituir um trabalho independente do autor humano, Kris Kashtanova. Por causa disso, enquanto a parte narrativa da história possui os direitos intelectuais garantidos, por causa da origem humana, a parte visual do trabalho não pode receber o mesmo benefício (U.S. Copyright Office, 2023).

Atualmente, está em curso o julgamento de alguns casos que abordam a utilização de imagens para o treino de modelos, como por exemplo o caso Getty versus Stability (District Of Delaware, 2023). A Getty, empresa de armazenamento de imagens, detentora dos direitos de várias fotografias, alega que a Stability empregou 12 milhões de suas imagens no treinamento de modelos de IA sem autorização prévia. O destaque do caso está no fato de que os modelos foram tão profundamente treinados com as imagens da Getty, que eles são capazes de reproduzir até a marca d’água da empresa, levantando até preocupações sobre possíveis confusões na percepção do que é real e do que é gerado pelos algoritmos.

Outro caso em aberto diz respeito ao processo iniciado pelas ilustradoras Sarah Andersen, Kelly McKernan, e Karla Ortiz contra as empresas Stability AI, MidJourney e DeviantArt (Northern District Of California, 2023a). No processo, as artistas alegam que os modelos das empresas estão sendo treinados em imagens sem consentimento dos seus criadores originais. Além disso, as imagens geradas por esses modelos competem espaço no mercado da arte diretamente com os artistas que criaram as imagens utilizadas no treinamento. Para esse caso, especialistas apontam que este processo carece de solidez em comparação ao anterior, devido à imprecisão técnica na descrição do processo de treinamento (Guadamuz, 2023).

O processo mencionado anteriormente, aberto pelas ilustradoras, mostra o drama que vem tomando conta da área das artes. O fato dos artistas terem suas obras coletadas sem autorização para treinamento dos modelos resulta na falta de compensação financeira apropriada. Além disso, os modelos de aprendizado de máquina são capazes de produzir imagens com uma velocidade maior que os seres humanos, o que deixaria os artistas em uma situação de desvantagem.

Algumas empresas já tomaram algumas decisões a respeito disso. A Adobe, por exemplo, lançou um modelo gerador de imagens treinado apenas com imagens cujos direitos pertencem à própria empresa (Adobe, 2023). Além disso, ela está trabalhando em uma tecnologia que associa a qualquer arquivo de imagem um marcador de “Não treinar”, que impede que coletores de imagens incorporem os arquivos com esse marcador em suas bases de dados. Uma outra tecnologia recente que pode ajudar os artistas é chamada de Glaze, um software capaz de adicionar uma camada de proteção a qualquer imagem (Shan et al., 2023). Essa camada é imperceptível ao olho humano, mas impede os modelos de copiar o estilo dessas figuras, protegendo assim o estilo do artista.

Quando olhamos a questão pelo lado sociológico, há uma preocupação no que diz respeito ao nosso despreparo para lidar com a potencial perda de empregos que a IA pode causar na área das artes. Assim como o público em geral, a maioria dos artistas visuais foi pega de surpresa pelo rápido avanço das tecnologias de geração de imagens por IA. Não está claro se essas tecnologias vão servir aos artistas como uma nova ferramenta ou se vão substituí-los por completo. Como já foi mencionado anteriormente, o escritor Arthur Clarke acreditava que a consequência da automatização no mercado de trabalho era o desemprego pleno, para que pudéssemos aproveitar a nossa vida. E, segundo o autor, “É por isso que temos que destruir o atual sistema político-econômico”.

De fato, da forma como está agora, nosso sistema político-econômico não é equipado para lidar com o fechamento de grande número de postos de trabalho na área do entretenimento e arte como um todo. Atualmente, nós presenciamos uma greve de atores e roteiristas nos EUA, cujo impacto, segundo as projeções, já chega em 3 bilhões de dólares na economia do estado da Califórnia (Liu, 2023). Uma das reivindicações dos roteiristas é que seus trabalhos sejam devidamente protegidos contra modelos de inteligência artificial (Dalton, 2023).

Ainda lembrando da citação de Arthur Clarke, é importante que pensemos em quais tarefas devem ser automatizadas. Na visão de Clarke, a humanidade automatiza as tarefas indesejadas para liberar tempo para a busca de empreendimentos mais elevados. Ao ter tempo para aquilo que realmente nos completa, estamos finalmente livres para explorar nossa criatividade, aprimorar nossas habilidades intrapessoais e interpessoais. Ao desenvolver novas tecnologias e ultrapassar os limites da inovação, deve sempre considerar as consequências de tais ações.

Então, quais seriam os ganhos de automatizar a arte? Esses ganhos superam o valor intrínseco que podemos perder na forma de nossas identidades como humanos? Ao fazer isso, não estamos nos mantendo longe do tempo de diversão mencionado por Clarke? Ou, numa perspectiva otimista, essas novas tecnologias podem nos incentivar a ampliar os limites de nossas capacidades criativas e nos impulsionar a evoluir como espécie?

As respostas para essas questões são subjetivas e pessoais, mas pensar sobre elas nos faz olhar para um assunto importante. As novas tecnologias sempre trazem consequências para a sociedade, e são concebidas com objetivos específicos em mente. Os criadores dessas tecnologias devem possuir uma compreensão clara dos desdobramentos de suas invenções, enquanto os usuários dos avanços tecnológicos devem questionar de maneira crítica os propósitos subentendidos das novas invenções.

O cenário é de fato complexo e, como foi mencionado anteriormente, abrange várias áreas do conhecimento de forma interconectadas. A convergência de mentes vindas da computação, direito, artes, sociologia e filosofia podem contribuir para o avanço da humanidade no assunto do uso ético de IA no campo artístico, sem que haja prejuízo do progresso e da nossa essência de humanidade.

Referências

ADOBE. Adobe Unveils Firefly, a Family of New Creative Generative AI. Adobe News, 2023. Disponível em: <https://news.adobe.com/news/news-details/2023/Adobe-Unveils-Firefly-a-Family-of-new-Creative-Generative-AI/default.aspx>. Acesso em: 28 jun. 2023.

DALTON, Andrew. Writers strike: Why A.I. is such a hot-button issue in Hollywood’s labor battle with SAG-AFTRA. Fortune, 2023. Disponível em: <https://fortune.com/2023/07/24/sag-aftra-writers-strike-explained-artificial-intelligence/>. Acesso em: 18 set. 2023.

DISTRICT OF DELAWARE. GETTY IMAGES(US), INC v. STABILITY AI, INC. 2023. Disponível em: <https://copyrightlately.com/pdfviewer/getty-images-v-stabilityai-complaint/?autoviewer=truepage=zoom=autopagemode=none>. Acesso em: 28 jun. 2023.

EDWARDS, Benj. Artist finds private medical record photos in popular AI training data set. Ars Technica, 2022. Disponível em: <https://arstechnica.com/information-technology/2022/09/artist-finds-private-medical-record-photos-in-popular-ai-training-data-set/>. Acesso em: 28 jun. 2023.

GUADAMUZ, Andres. Artists file class-action lawsuits against Stability AI, DeviantArt, and Midjourney. TechnoLlama, 2023. Disponível em: <https://www.technollama.co.uk/artists-file-class-actionlawsuit-against-stability-ai-deviantart-and-midjourney>. Acesso em: 28 jun. 2023.

LIU, Jennifer. Hollywood strikes have already had a $3 billion impact on California’s economy, experts say: It’s causing ‘a lot of hardship’. CNBC, 2023. Disponível em: <https://www.cnbc.com/2023/08/09/hollywood-strikes-have-had-3-billion-impact-on-california-economy-so-far.html>. Acesso em: 18 set. 2023.

NORTHERN DISTRICT OF CALIFORNIA. NARUTO, a Crested Macaque, by and through his Next Friends, PEOPLE FOR THE ETHICAL TREATMENT OF ANIMALS, INC., and ANTJE ENGELHARDT, Ph.D. v. DAVID JOHN SLATER, an individual, BLURB, INC., a Delaware corporation, and WILDLIFE PERSONALITIES, LTD., a United Kingdom private limited company. 2015. Disponível em: <https://www.animallaw.info/pleading/naruto-v-slater-peta>. Acesso em: 28 jun. 2023.

NORTHERN DISTRICT OF CALIFORNIA. SARAH ANDERSEN, an individual; KELLY MCKERNAN, an individual; KARLA ORTIZ, an individual v. STABILITY AI LTD., a UK corporation; STABILITY AI, INC., a UK corporation; MIDJOURNEY, INC., a Delaware corporation; DEVIANTART, INC., a Delaware corporation. 2023. Disponível em: <https://stablediffusionlitigation.com/pdf/00201/1-1-stablediffusion-complaint.pdf>. Acesso em: 28 jun. 2023.

SHAN, Shawn; CRYAN, Jenna; WENGER, Emily; ZHENG, Haitao; HANOCKA, Rana; ZHAO, Ben Y. Glaze: Protecting artists from style mimicry by text-to-image models. arXiv preprint arXiv:2302.04222, 2023. 

U.S. COPYRIGHT OFFICE. Re: Second Request for Reconsideration for Refusal to Register A Recent Entrance to Paradise (Correspondence ID 1-3ZPC6C3; SR 1-7100387071). 2022. Disponível em: <https://www.copyright.gov/rulings-filings/reviewboard/docs/a-recent-entrance-to-paradise.pdf>. Acesso em: 28 jun. 2023.

U.S. COPYRIGHT OFFICE. Re: Zarya of the Dawn (Registration VAu001480196). 2023. Disponível em: <https://copyright.gov/docs/zarya-of-the-dawn.pdf>. Acesso em: 28 jun. 2023.

WELLE, Deutsche. Disputa em torno de selfie de macaco chega ao fim. G1, 2023. Disponível em: <https://g1.globo.com/mundo/noticia/disputa-em-torno-de-selfie-de-macaco-chega-ao-fim.ght>ml. Acesso em: 18 set. 2023.

Autoria

Gustavo Lúcius Fernandes é atualmente doutorando em Ciência da Computação na UFMG e atua como pesquisador no Projeto GODeep, uma colaboração entre o departamento de Ciência da Computação da UFMG e a Petrobras, cujo objetivo principal é explorar o potencial de Deep Learning na resolução de desafios geocientíficos. Além disso, possui mestrado em Ciência da Computação pela UFMG e completou sua graduação em Sistemas de Informação na Faculdade COTEMIG. Gustavo reconhece a notável capacidade da Inteligência Artificial e compreende plenamente o seu potencial transformador. No entanto, ele também é consciente dos riscos associados a essa tecnologia, que podem representar ameaças para a humanidade. Como resultado, ele possui interesse no estudo de duas áreas críticas: (i) Segurança da Inteligência Artificial (AI Safety), onde há o empenho em investigar métodos e estratégias para prevenir danos causados por sistemas de Inteligência Artificial. Isso envolve a mitigação de riscos decorrentes do uso inadequado da IA e a prevenção de acidentes relacionados a sistemas autônomos. (ii) Alinhamento da Inteligência Artificial com Objetivos Humanos (AÍ Alignment), onde se busca compreender como é possível alinhar as Inteligências Artificiais com os valores e objetivos humanos, garantindo que essas tecnologias não saiam do nosso controle e assegurando que a IA seja desenvolvida e utilizada de forma ética e responsável. Site: gustavolucius.github.io 

Renato Polanczyk Resende: Graduando de Ciência da Computação pela UFMG e artista no tempo livre, tentando conciliar as duas áreas. Tem grande interesse nas áreas mais humanas da Computação, envolvendo aspectos da ética e possíveis impactos de novas tecnologias nas vidas das pessoas e na sociedade como um todo.

Pedro O.S. Vaz-de-Melo é um professor associado no Departamento de Ciência da Computação da Universidade Federal de Minas Gerais. Possui doutorado em Ciência da Computação pela UFMG, mestrado em Informática pela PUC-MG e  bacharelado em Ciência da Computação também pela PUC-MG. Pedro é bolsista de produtividade pelo CNPq, sendo autor de mais de 100 artigos científicos e atuando como membro do comitê de programa em conferências de destaque nas áreas de Inteligência Artificial, Web e Mineração de Dados. Atualmente interessado na pesquisa dos impactos crescentes da Inteligência Artificial na vida cotidiana das pessoas. Site: www.dcc.ufmg.br/~olmo

Como citar essa matéria:
FERNANDES, Gustavo Lúcius; RESENDE, Renato Polanczyk; VAZ-DE-MELO, Pedro O. S. Além da estética: Dimensões éticas da geração de arte por IA. SBC Horizontes. ISSN 2175-9235. outubro de 2023. Disponível em: http://horizontes.sbc.org.br/index.php/2023/10/alem-da-estetica-dimensoes-eticas-da-geracao-de-arte-por-ia/. Acesso em: dd mês aaaa.