Antes de responder a pergunta que serve de título a este pequeno ensaio, é preciso definir o conceito do que denominamos genericamente “inteligência artificial”. Existem diferentes níveis de desenvolvimento de aplicações algorítmicas, para os mais diversos usos, sendo importante anotar que para a maioria da população, apenas as formas mais simples e básicas da IA estão hoje disponíveis gratuitamente. A utilização de ferramentas tecnológicas vai provocar um novo tipo de assimetria nas relações privadas, separando os iniciados e usuários da IA, daqueles que muitas vezes nem se dão conta do impacto dessas ferramentas em nosso cotidiano. Claro que devemos nos preocupar com um futuro cada vez mais próximo, no qual o emprego da IA parece se tornar indissociável da maior parte das atividades profissionais, e entender que no tempo presente, questões envolvendo tecnologia já estão na pauta de julgamento dos Tribunais, mas antes de pensarmos num avatar que vai assegurar nossa permanência no universo digital após a finitude de nossa existência física, precisamos nos preocupar com aplicações algorítmicas nos jogos on line que nossos filhos utilizam em casa; na utilização, pelo Judiciário, de modelos de IA generativa, sem qualquer disciplinamento ou até mesmo informação para os jurisdicionados; em aplicações de reconhecimento facial que estão se tornando onipresentes em portarias de escolas, academias e centros comerciais, bem como o uso de ferramentas inteligentes para realizar triagem de pacientes em hospitais e para a definição do risco de crédito por instituições financeiras…
Será que nos damos conta de que a nossa “bolha” criada pelas redes sociais é delimitada pelo nosso comportamento registrado, mapeado e influenciado por um algoritmo? Cabe a ele estabelecer quais perfis veremos em nossa timeline, que sugestões de músicas e filmes serão apresentadas pelos serviços de streaming e, até mesmo, quem seriam as pessoas mais adequadas ao nosso perfil em sites de relacionamento.
A compreensão sobre o significado de IA para o Direito depende de separarmos os usos da própria tecnologia. Como regra geral, as aplicações de inteligência artificial são ferramentas que podem ser utilizados para bons ou maus propósitos. Temos de dirigir nossa atenção para a forma como a tecnologia vem sendo empregada nas relações humanas, partindo da premissa de que as normas jurídicas regulam relações humanas, não informando se ocorrem no ambiente físico ou digital.
As atuais aplicações de IA dependem de seus códigos de programação e das bases de dados que são elaboradas por seres humanos para aprenderem sobre os padrões que devem estabelecer e analisar. Se o criador apresenta vieses discriminatórios ou a base de dados está comprometida e não reflete a realidade social na qual estamos inseridos, não dá para chegar a outra conclusão senão aquela em que a criatura – vale dizer, os algoritmos que integram a codificação da programação – perpetuará posições discriminatórias, que ainda serão potencializadas pelo elevado nível de processamento de dados e informações dos dispositivos informáticos.
Essa simbiose entre o físico e o digital e os diferentes níveis de compreensão e usos, que muitas vezes convergem em diferentes aplicações, cria um cenário de vulnerabilidade agravada e perplexidade pela pouca efetividade do cenário regulatório vigente para enfrentar desafios que se acentuam num ritmo que as normas jurídicas parecem incapazes de acompanhar. Neste quadro, há vozes que defendem liberdade plena para a inovação ou, ainda, a criação de modelos de autorregulamentação a ser conduzida pelos próprios desenvolvedores da tecnologia. Contudo, é preciso lembrar que se encontra em tramitação um projeto de lei (PL Senado 2.338/2023), elaborado por uma comissão de juristas especialmente designada para estabelecer um marco regulatório para a inteligência artificial em nosso país, que elege como paradigma modelos de avaliação do risco de utilização da IA.
Tradicionalmente, o direito das sucessões destina-se a assegurar o cumprimento das disposições de última vontade do falecido, respeitado os limites legais do direito à herança, consubstanciado na proteção legítima dos herdeiros necessários. Ao lado das regras sucessórias para aqueles que falecem sem deixar testamento, existe uma extensa disciplina de atos jurídicos destinados ao exercício da autonomia patrimonial do titular dos bens, que pode estabelecer, nos limites da lei, o modo como deseja que ocorra a transmissão de seus bens após a sua morte.
Há algum tempo se tornou consenso na doutrina e na jurisprudência nacional que o instrumento do testamento poderia contemplar não apenas disposições patrimoniais, mas poderia também ser empregado para disciplinar aspectos existenciais, como, por exemplo, a vedação da utilização da voz, imagem e qualquer outro atributo pessoal do falecido por aplicações de inteligência artificial que permitiriam simular ações envolvendo o interessado depois de sua morte.
Como mencionado acima, todos nós, em maior ou menor intensidade, temos uma presença digital que não está condicionada aos limites de nossa existência física. Essa permanência digital post mortem só se torna possível com a utilização de aplicações de inteligência artificial que prometem aos herdeiros não apenas conservar a memória daqueles que faleceram, mas interagir com modelos digitais desenhados para imitar o comportamento do falecido, permitindo que ele converse, dê conselhos ou console familiares, por exemplo. Os entusiastas de tais aplicações ressaltam aspectos positivos do enfrentamento ao luto e depressão que decorreriam de uma perda repentina e inesperada de uma pessoa próxima.
Não sei se ao abordarmos essas questões consideramos todos os aspectos necessários. Estamos diante de direitos personalíssimos que, por definição legal, têm atributos de indisponibilidade e de intransmissibilidade. Aos vivos, resta a legitimação extraordinária para a defesa da memória do falecido e a possibilidade de usufruir de aspectos patrimoniais relacionados a direitos autorais sobre bens do falecido. Isso é bem diferente de utilizar a tecnologia para criar uma representação virtual semelhante a alguém que não existe fisicamente, estabelecendo um modelo digital que poderia criar situações e imputar ações completamente diferentes da biografia do falecido, comprometendo, em última instância, sua identidade pessoal.
Mas as aplicações de IA no campo sucessório não se limitam à criação de avatares. Para os advogados, os algoritmos podem ser uma importante ferramenta para auxiliar clientes interessados em planejamento sucessório, permitindo a análise de vários cenários societários e tributários e estabelecendo comparações sobre o custo do emprego de instrumentos como doações e criação de sociedades empresárias de cunho eminentemente patrimonial para a gestão de ativos financeiros.
É preciso distinguir a função de organização e sistematização de informações (atividade- meio) da tomada efetiva de decisão de como colocar em prática o planejamento (atividade- fim), que pertence ao cliente interessado, após aconselhamento profissional, especialmente num campo de atuação marcado pela necessidade de se levar em conta peculiaridades de cada entidade familiar e os objetivos do titular dos bens. Preocupa-me a proliferação de aplicações que prometem aconselhamento jurídico genérico, sem verificação das peculiaridades do caso concreto ou acompanhamento por profissional habilitado para a tarefa.
Talvez no campo das famílias tenhamos impactos mais visíveis. Podemos começar com as pessoas solteiras que estão em busca de um relacionamento, submetem-se a um questionário de um aplicativo de relacionamento e confiam no algoritmo para encontrar o “match” perfeito.
Aplicações de IA podem monitorar a rotina dos filhos, medindo o tempo de tela, localização em tempo real utilizando o GPS do smartphone, reconhecer sites perigosos e sugerir locais seguros para pesquisa na internet, ajudar pessoas com necessidades específicas a administrar medicamentos ou até mesmo avisar parentes próximos sobre situações de risco, como, por exemplo, um acidente (a queda de um idoso que mora sozinho). Não existe direito de família diverso de um direito de família digital. Vivemos num mundo que usa a tecnologia, e o direito de família regula as relações entre pessoas, no ambiente físico ou digital. Se ainda não temos consenso de como abordar o assunto, há diferentes perspectivas sobre a natureza jurídica de ativos digitais e especialmente sobre a possibilidade de transmissibilidade destes em razão da morte. Os denominados “bens digitais híbridos”, que representam aspectos existenciais com repercussões econômicas, estão entre os tópicos mais debatidos em face da diversidade de entendimento.
Estamos acompanhando o desenvolvimento de uma nova e disruptiva tecnologia que tem o potencial de revolucionar profundamente a estrutura de nossa sociedade. Não se trata apenas de conseguir que máquinas executem atividades cognitivas do mesmo modo que o cérebro humano. Atualmente, grandes empresas de tecnologia como Microsoft, Amazon, Meta e Alphabet (Google), que denominamos Big Techs, estão numa verdadeira “corrida do ouro”, pois sabem que ficar para trás pode significar a extinção de seu modelo de negócio. Mas parecem estar priorizando o desenvolvimento da tecnologia em detrimento da segurança, pois ainda não se compreendem as consequências de formas de utilização de uma tecnologia que não foi completamente estudada e avaliada.
Por melhor que sejam as intenções, que regras devem orientar essa busca pela integração de ferramentas tecnológicas? Será que não devemos pensar um pouco mais sobre o que está vindo a seguir?
Olhar para o passado pode ser bastante útil. Nos primórdios das redes sociais, a promessa era conectar pessoas e, com isso, torná-las mais felizes. O tempo passou, e a necessidade de monetização dos serviços trouxe a busca incessante por engajamento e postagens virais; cresceu a desinformação nas redes e atualmente vivemos uma preocupante epidemia de saúde mental, especialmente entre adolescentes, ao redor do mundo.
Os entusiastas da inteligência artificial em nossas vidas destacam que o objetivo seria fazer o ser humano mais produtivo, capaz de aprender mais rápido, comunicar-se melhor e, quem sabe, tornar-se mais criativo, já que terá mais tempo após ser libertado de tarefas que passarão a ser executadas pela máquina. A verdade é que abrimos uma caixa de Pandora, com cientistas buscando criar redes neurais artificiais inspiradas no cérebro humano para o desenvolvimento de um paradigma computacional bem distinto da programação tradicional que costuma gerar resultados previsíveis.
O papel do Direito nesse contexto é o de estabelecer limites e coibir o uso abusivo da tecnologia em detrimento dos direitos fundamentais. Para tanto, a função preventiva e precaucional da regulação parece ser o caminho a ser adotado, conjugando diretrizes e princípios éticos (soft law) com uma regulação jurídica focada na proteção de direitos.
Marcos Ehrhardt Junior
Doutor em Direito pela Universidade Federal de Pernambuco (UFPE). Professor de Direito Civil da Universidade Federal de Alagoas (Ufal) e do Centro Universitário Cesmac. Editor da Revista Fórum de Direito Civil (RFDC). Vice-Presidente do Instituto Brasileiro de Direito Civil (IBDCivil). Presidente da Comissão de Enunciados do Instituto Brasileiro de Direito de Família (IBDFAM). Advogado. E-mail: contato@marcosehrhardt.com.br.
Aprofunde seus conhecimentos:
Conheça as obras coordenadas por Marcos Ehrhardt Jr., Marcos Catalan e Cláudia Ribeiro Pereira Nunes sobre Inteligência Artificial e Relações Privadas:
Inteligência Artificial e Relações Privadas vol. 01 – possibilidades e desafios: o objetivo mais saliente deste volume inicial – o primeiro de três livros notadamente dedicados ao estudo verticalizado das inteligências artificiais e de seus impactos nas relações civis e de consumo – é explorar o estado da arte no tratamento da inteligência artificial e seus impactos no direito privado. Conheça a obra aqui.
Inteligência Artificial e Relações Privadas vol. 02 – relações existenciais e a proteção da pessoa humana: a discussão aqui proposta impõe enfatizar que as preocupações mais latentes não dizem respeito à informação em si, mas àquilo que pode ser feito com ela por sistemas cuja sofisticação crescente – ao menos potencialmente – pode produzir efeitos indesejados em contextos e graus nem sempre antecipáveis pela razão humana. Conheça a obra aqui.
Inteligência Artificial e Relações Privadas vol. 03 – relações patrimoniais entre o consumo, os contratos e os danos: o livro busca mostrar as principais discussões envolvendo limites e possibilidade afetos ao direito de danos e seu papel diante de decisões automatizadas que rotineiramente lesam os usuários da tecnologia e, ainda, mostrar como lidar com a discriminação promovidas pelas inteligências artificiais e com a opacidade intencionalmente fundida a algoritmos usados pelo Mercado com distintas funcionalidades. Conheça a obra aqui.