Escrito por: Paola Cantarini
Retirado de: Jornal da USP
Parte 1
Com fundamento em autores como Sandra Wachter, Brent Mittelstadt, Helen Nissenbaum, Luciano Floridi, Daniel Solove e sua teoria sobre o devido processo informacional vinculado à proteção de privacidade, e ainda com base em Habermas e em Martha Nussbaum, afirmamos a necessidade de um novo Bill of human rights, e da reformulação dos seus alicerces, para se adaptarem ao contexto “onlife” e trazer uma abordagem adaptada à inteligência artificial, pois não é possível combater os problemas atuais com fulcro em premissas ultrapassadas, como democracia liberal, ou seja, dentro do paradigma liberal.
É preciso repensar o modelo democrático diante da redução de países democráticos, já que apenas 29% da população mundial vive sob tais regimes, com queda pelo 18º ano consecutivo na liberdade global, aumento da distância entre países ricos e pobres, aumento da concentração de riqueza, estagnação global do Índice de Desenvolvimento Humano (IDH) e aprofundamento das desigualdades digitais e democráticas. Sem contar a insuficiência em interpretações ainda dominantes, como a que prevalece nos EUA acerca da 1ª Emenda da Constituição, a embasar uma concepção absolutista, da emenda e do direito à liberdade de expressão, em um anacronismo histórico não atento à mudança do ser humano, da realidade social e das dinâmicas do poder, e das mídias sociais e não atento à Teoria dos Direitos Fundamentais que fundamenta a necessária ponderação entre direitos fundamentais em colisão.
Ao contrário do que sustenta por exemplo Cass R. Sunstein, precisamos de pensamento disruptivo, inovador em especial nas humanidades, como também sustenta Glauco Arbix, e de soluções mais do que pontuais ou incrementais.
O século 21 apresenta desafios inéditos à dignidade humana que transcendem as categorias tradicionais dos direitos humanos estabelecidas no pós-guerra. A revolução digital, os avanços em neurociência, a inteligência artificial e as novas formas de organização social criaram lacunas normativas que exigem uma reformulação profunda do marco jurídico-filosófico dos direitos fundamentais e humanos. É urgente o reconhecimento de novos direitos humanos emergentes e a construção de um novo Bill of human rights adaptado às realidades contemporâneas, fundamentado nos trabalhos de pensadores contemporâneos que têm dedicado suas carreiras a compreender e responder a esses desafios. Tal postulação vai, pois, de encontro ao que dispõe o primeiro tratado internacional acerca da IA vinculante, o qual, apesar de sua importância, ainda traz lacunas preocupantes, em especial não trata de aplicações militares de IA, nem proíbe expressamente usos de alto risco como sistemas de reconhecimento facial em massa, deixando margem para autorregulação (art. 18) e não cria novos direitos humanos (art. 13).
As rápidas inovações em neurociência e interfaces cérebro-máquina (Brain-Computer Interfaces – BCIs) inauguram uma nova fronteira no campo dos direitos humanos. Tecnologias capazes de ler, decodificar, manipular e estimular a atividade cerebral colocam em risco a autodeterminação mental, a privacidade cognitiva e a integridade psíquica dos indivíduos. A literatura contemporânea já identifica a necessidade de uma nova geração de direitos fundamentais e humanos – os neurodireitos – como resposta normativa a tais desafios.
O neurocapitalismo representa uma nova configuração de poder, na qual dados cerebrais são extraídos, armazenados, processados e comercializados com finalidade de lucro, ampliando as já existentes assimetrias profundas entre indivíduos e corporações.
Como alerta Frank Pasquale, estamos diante de uma transição de uma “sociedade da informação” para uma “sociedade da vigilância neurocognitiva”, na qual a coleta de dados se estende das atividades online para os processos mentais internos.
O avanço das neurotecnologias demanda uma profunda atualização do catálogo de direitos fundamentais e humanos. A privacidade cerebral, o direito ao sonho e a limitação do neurocapitalismo são apenas as primeiras expressões dessa transformação normativa necessária.
O reconhecimento dos neurodireitos representa não apenas uma resposta a riscos emergentes, mas também um compromisso ético com a preservação da autonomia, da dignidade e da liberdade cognitiva dos indivíduos em um mundo cada vez mais invasivo e neuroinformacional.
O direito à privacidade cerebral refere-se à proteção jurídica da atividade elétrica, química e funcional do cérebro, incluindo os dados derivados de sua captação, análise e inferência por tecnologias neurocientíficas. Trata-se de um desdobramento direto da proteção de dados pessoais, porém com um grau de sensibilidade e risco inédito.
A atividade neural contém informações sobre emoções, crenças, memórias e até intenções futuras. Tal conteúdo, caso seja acessado sem consentimento ou processado de forma inadequada, pode violar os direitos à intimidade, à autodeterminação informacional e à liberdade de pensamento, configurando uma nova forma de vigilância cognitiva.
Como principais novos direitos humanos e fundamentais destacam-se os neurodireitos, exigindo-se uma proteção jurídica da mente humana, como dispõe Rafael Yuste, diretor do Centro de Neurotecnologia da Universidade de Columbia e presidente da NeuroRights Foundation, e o principal arquiteto teórico dos neurodireitos. Yuste, que também foi um dos idealizadores da BRAIN Initiative, lançada pelo presidente Obama em 2013, argumenta que o avanço das neurotecnologias requer uma proteção jurídica específica da mente humana, enfatizando a urgência temporal da implementação dos neurodireitos. Em suas palavras à Unesco: “É preciso atuar antes de que seja demasiado tarde”.
Esta urgência deriva do fato de que as neurotecnologias estão se desenvolvendo exponencialmente, e a janela de oportunidade para estabelecer proteções legais proativas está se fechando rapidamente.
Neurodireitos são um conjunto emergente de direitos fundamentais que visam proteger a integridade, a autonomia e a liberdade mental dos indivíduos diante do avanço das neurotecnologias e da interface direta entre cérebro e máquina (Brain-Computer Interfaces – BCIs), além de tecnologias de leitura, manipulação ou alteração da atividade cerebral.
Segundo Yuste, em Four ethical priorities for neurotechnologies and AI, são neurodireitos fundamentais:
Direito à privacidade mental: a proteção das informações pessoais obtidas através de neurotecnologias (neurodados) contra decodificação sem consentimento prévio;
Direito à identidade mental: o direito à consciência e à manutenção da identidade pessoal contra alterações não autorizadas através de intervenções neurotecnológicas;
Direito à liberdade cognitiva (cognitive liberty) / direito à agência: a proteção da autonomia da vontade e da capacidade de tomada de decisões livres;
Direito à integridade mental / direito ao livre arbítrio: a preservação da capacidade de escolha independente contra manipulações neurais;
Direito ao aprimoramento cognitivo: a liberdade de escolher usar ou recusar tecnologias de aprimoramento mental;
Direito à não discriminação algorítmica com base em dados neurais (fair access to mental augmentation).
Entre as iniciativas legislativas e constitucionais no mundo há o pioneirismo do Chile, como primeiro país a iniciar a constitucionalização dos neurodireitos incluindo em sua reforma constitucional de 2021 o direito à integridade física e mental e à proteção de dados neurais como direitos fundamentais explícitos na Constituição. Na União Europeia, o tema já aparece nos debates do Conselho Europeu de Bioética, no AI Act e no AI Liability Directive, com preocupação sobre IA e manipulação de processos cognitivos.
Nos Estados Unidos há projetos de lei em debate, especialmente em nível estadual (ex.: Califórnia), e discussões no âmbito da Neuroethics Initiative do National Institutes of Health (NIH).
A Unesco, na Recomendação sobre Ética da Inteligência Artificial – 2021, inclui o tema da proteção à privacidade mental como parte da agenda ética para IA.
O século 21 é marcado pela emergência de tecnologias capazes de acessar, decodificar e manipular a atividade cerebral humana. Interfaces cérebro-máquina, dispositivos de neuroestimulação e técnicas de neuromarketing avançado configuram um cenário onde as fronteiras entre pensamento, decisão e intervenção externa tornam-se cada vez mais tênues. Tal contexto demanda uma urgente ampliação do catálogo de direitos fundamentais e humanos, incorporando neurodireitos que protejam a autonomia, a dignidade cognitiva e a liberdade mental.
O conceito de neurocapitalismo, conforme delineado por Rafael Yuste e ampliado por autores como Marcello Ienca, pode ser conceitualizado como o sistema econômico emergente baseado na extração, processamento e monetização de dados neurais para criação de valor econômico através da previsão e modificação de estados mentais, comportamentos e decisões. Ou seja, é um modelo emergente de exploração comercial da atividade cerebral.
Diferentemente do capitalismo de vigilância tradicional, que infere estados mentais através de comportamentos observáveis, o neurocapitalismo acessa diretamente a atividade neural, prometendo eliminar a “incerteza” inerente às inferências comportamentais. Tal modelo emergente permite que empresas privadas monetizem dados neurais, oferecendo serviços de entretenimento, saúde ou produtividade, mas ao custo da captura massiva de dados cerebrais.
Empresas de tecnologia já desenvolvem produtos capazes de captar sinais neurais para fins de publicidade direcionada, modulação de comportamento do consumidor e análise de estados emocionais. As práticas de neurodata mining, nas quais dados cerebrais são coletados, armazenados e vendidos, criam uma nova categoria de risco social: a vigilância neurocognitiva. Essa forma de exploração extrapola os limites da privacidade tradicional, atingindo dimensões profundas da subjetividade humana.
Do ponto de vista jurídico, tal cenário representa uma violação não apenas da autodeterminação informacional, mas também dos princípios constitucionais da dignidade da pessoa humana e da liberdade de pensamento.
A categoria emergente do direito denominado Brain Data Privacy busca estabelecer salvaguardas normativas para proteger informações derivadas da atividade cerebral, independentemente de sua identificação direta com o indivíduo. Trata-se de um direito que transcende a lógica tradicional da proteção de dados pessoais, reconhecendo o caráter sensível, íntimo e estruturalmente ligado à identidade dos dados neurais.
Ienca e Andorno propõem que o direito à privacidade mental seja positivado como um novo direito humano, abrangendo a proibição da coleta, armazenamento e processamento de dados cerebrais sem consentimento livre, específico e informado. Além disso, autores como Rafael Yuste advogam por restrições legais explícitas ao uso comercial de dados neurais, de forma a limitar os efeitos destrutivos do neurocapitalismo.
Plataformas de neurogames, dispositivos wearable para meditação ou produtividade e até aplicativos de análise de humor baseados em EEG (eletroencefalografia) já coletam tais dados. A ausência de regulação adequada cria um ambiente propício à exploração econômica da mente humana, com potenciais violações de privacidade, liberdade de pensamento e dignidade cognitiva.
São modalidades de exploração neurocapitalista:
O neuromarketing direto – empresas como Neurosky, Emotiv e Nielsen já comercializam dispositivos de EEG consumer-grade para análise de resposta neural a estímulos publicitários. Esta “leitura direta” das preferências neurais representa salto qualitativo em relação ao marketing tradicional, prometendo acesso aos “verdadeiros” desejos do consumidor, não filtrados pela consciência reflexiva.
Otimização cognitiva comercial – plataformas como Nootopia, Brain.fm e Focus@Will vendem promessas de enhancement cognitivo através de estimulação neural, criando mercados de capacidades mentais onde atenção, memória e criatividade tornam-se commodities.
Economia da atenção neural – dispositivos de monitoramento contínuo da atenção, como aqueles desenvolvidos pela BrainCo, permitem quantificação e mercantilização em tempo real dos recursos atencionais, criando novos mercados de “tempo mental”.
O neurocapitalismo opera através de três mecanismos centrais de acumulação e expropriação:
1) Extração neural: captura de dados cerebrais através de dispositivos invasivos e não invasivos, frequentemente sob pretexto terapêutico ou de enhancement.
2) Processamento algorítmico: aplicação de machine learning e IA para decodificação de padrões neurais e criação de perfis mentais detalhados.
3) Instrumentalização comportamental: uso de insights neurais para influência e modificação de comportamentos, criando loops de feedback que amplificam o controle sobre processos mentais.
Os dados cerebrais possuem características únicas que os distinguem categoricamente de outras formas de dados pessoais, tais como:
1) Involuntariedade radical – diferentemente de dados comportamentais digitais, que resultam de ações conscientes (clicks, posts, compras), os dados neurais são produzidos involuntariamente pelos processos cerebrais básicos. O indivíduo não pode simplesmente “parar” de produzir ondas cerebrais ou atividade neural.
2) Acesso a estados mentais privados – neurotecnologias contemporâneas permitem acesso a estados mentais que o próprio indivíduo pode não reconhecer conscientemente, incluindo processos pré-conscientes, emoções implícitas e intenções não articuladas.
3) Imutabilidade biométrica – padrões neurais individuais apresentam características biométricas únicas e relativamente estáveis, funcionando como “impressões digitais cerebrais” que não podem ser alteradas voluntariamente.
O avanço das neurotecnologias tem gerado um cenário de profundas transformações nas relações entre ciência, mercado e direitos fundamentais. Tais desafios e particularidades demonstram a inadequação dos frameworks existentes, a começar pelas limitações do modelo de consentimento, já que quase nunca se tem um consentimento livre, informado, granular e, pois, qualificado (ficção do consentimento). O paradigma do consentimento central ao GDPR, LGPD e legislações similares revela-se inadequado tanto para o contexto original e muito mais para dados neurais devido a várias razões:
Impossibilidade de granularidade: não é possível consentir seletivamente com tipos específicos de atividade neural.
Desconhecimento do escopo: indivíduos não compreendem plenamente que informações podem ser extraídas de seus padrões neurais.
Permanência da extração: uma vez estabelecida interface neural, a extração de dados torna-se contínua e dificulta revogação de consentimento.
Insuficiência da anonimização, já que técnicas tradicionais de anonimização se mostram ineficazes para dados neurais devido à:
1 – Singularidade dos padrões cerebrais: impossibilidade prática de verdadeira anonimização.
2 – Capacidade de reidentificação: algoritmos podem reidentificar indivíduos através de padrões neurais únicos.
3 – Inferência de atributos sensíveis: dados neurais “anonimizados” podem revelar orientação sexual, condições médicas, crenças políticas.
Tendo em vista tais desafios, insuficiência do status quo do Direito para proteção adequada destes novos direitos, propomos um framework específico e uma nova dimensão dos novos neurodireitos, ao lado do direito à privacidade cerebral (Brain Data Privacy), o direito ao sonho como expressão da liberdade psíquica. Os aspectos centrais da proposta, como seus fundamentos epistemológicos e desenvolvimentos, serão apresentados no nosso próximo texto.
Leia Também:
