Rachel Pinheiro de Andrade Mendonça

Colunista

Rachel Pinheiro de Andrade Mendonça

Doutoranda em direito pelo IDP, mestre em direito público pela UNB, pós-graduada em direito econômico e regulatório pela  PUC-RIO, pós-graduada pela EMERJ, advogada, sócia fundadora do Mendonça Advocacia e sócia fundadora da WebAdvocacy.

Requisitar dados não é suficiente para a proteção da privacidade. É preciso tratar a assimetria de informação.

Rachel Pinheiro de Andrade Mendonça

OChat GPT3 ou a versão 3.5 do Chat GPT[1]desenvolvida pela empresa OpenAI Microsoft em 30 de novembro de 2022 e o lançamento do chatbot concorrente chamado Bard, ainda em fase experimental, criado pela Alphabet (Google) em 07 de fevereiro de 2023 têm uma finalidade em comum: ambos são controlados por Inteligência Artificial Generativa e suas funcionalidades permitem que as pessoas possam “conversar” com uma máquina em tempo real por meio de mensagens escritas.

Mas, o que é Inteligência Artificial Generativa (IAG)?

A IAG (Generative Artificial Intelligence) é um subcampo da inteligência artificial que utiliza tecnologia LaMDA (sigla para “modelo de linguagem para aplicações com diálogos”) e se destaca pela sua criatividade e capacidade de criar um conteúdo novo e original através da geração de textos, imagens, músicas e até obras de artes, ao invés de simplesmente analisar ou agir com base nos dados existentes (sim ou não).

Assim, a criação de textos e, sobretudo, a criação de imagens a partir de textos fornecidos são suas características principais¸ como por exemplo, o DALL-E (trocadilho com o pintor Salvador Dalí), lançado pela OpenAI, que já está em sua segunda versão[2] , como também identificados em outras plataformas como a Dream, Midjourney, Picsart, Stable Diffucsion – além de Imagem Parti (ambas do Google)[3].

Dado que a criação desses chatbot’s por meio da Inteligência Artificial Generativa já está no mundo e que não há mais como regressar ao status quo, questiona-se qual será o impacto da utilização da tecnologia LaMDA para o Direito.

Não há dúvida de que “estamos vivendo num mundo que não está apenas mudando, mas está se metamorfoseando” e que a “[m]udança implica que algumas coisas mudam, porém outras permanecem iguais (…). A metamorfose implica em uma transformação muito mais radical, em que as velhas certezas da sociedade moderna estão desaparecendo e algo inteiramente novo emerge” [4].

Notícias como as de que “juiz colombiano usou ChatGPT para elaborar decisão”[5] ou de que a IA Generativa foi aprovada em provas para médicos, advogados e MBA nos EUA[6] ocasionam gravíssimo alerta.

Artigo de Luciano Floridi, chamado “AI as agency without Intelligence: on ChatGPT, large language models, and other generative models[7] alerta para o fato de que esses grandes modelos de linguagem (LLMs) podem processar textos com sucesso extraordinário e de modo indistinguível da produção humana, ainda que careça de inteligência, compreensão ou capacidade cognitiva.

No entanto, a par do êxtase provocado a cada tecnologia disruptiva, é preciso ter muito cuidado em sua adoção, sobretudo, para o exercício do direito (seja para a ciência do direito, para a advocacia ou para o próprio Poder Judiciário), na medida em que suas limitações são óbvias e que, quando erram, podem gerar desastres de vultuosas proporções, como ocorreu com o LLM Bard do Google que gerou perdas de ações na casa dos 100 bilhões de dólares por ter dado informação incorreta.[8]

A par dos “insucessos” na estreia do lançamento do “Bard”[9] [10]e das críticas que se possa fazer ao “ChatGPT” que utiliza tecnologia LaMDA (sigla para “modelo de linguagem para aplicações com diálogos”), ainda de conhecimento limitado, sobretudo, a partir de eventos ocorridos no mundo após o ano de 2021, a crescente e irrefreável interação entre homens e máquinas já não é mais uma preocupação futurística, mas uma realidade irrefreável.

Agora, não mais os homens criam robôs, como os robôs pretendem ser humanos e buscam a singularidade técnica que se caracteriza por uma explosão de super inteligência artificial que, segundo Vernon Vinge em “The Coming Singularity”, 1993, terá o condão de produzir a devastação e o fim da era humana como a conhecemos.[11] Não obstante já objeto de estudo há mais de 70 (setenta) anos[12], somente agora passou ao topo das notícias, diante do estágio avançadíssimo da Inteligência Artificial Generativa com o lançamento de Chatbot’s como o ChatGPT e o Bard. Registre-se que, no ano de 2012, na Cúpula da Singularidade, Stuart Armstrong já alertava sobre as previsões de superação da era humana por meio da Inteligência Artificial (AGI – Artificial General Intelligence), através do qual se encontrou uma ampla gama de datas previstas, tendo como média o ano de 2040[13].

No entanto, é preciso estar atento para o fato de que somente o ser humano é Dasein, só ele pode ter experiências, só ele pode compreender holisticamente e estar a serviço do pensamento como o fio de Ariadne[14].

O que Heidegger em “Ser e Tempo” busca exprimir com a expressão “Dasein”?

Diz que Dasein não é um conceito, mas uma “indicação formal”, uma indicação de experiência. É uma expressão “intraduzível” porque não pode substituir a tarefa de pensar aquilo a serviço do que elas estão, na medida em que  “[i]ntraduzível, isto é intransferível, intransponível nunca é a palavra, mas a experiência de seguir a indicação da palavra, de seguir o que, nessas palavras-indicação, se dá a pensar.”[15]

Cuidemos porque tecnologias disruptivas como a LLM apenas podem entregar “palavras” e nem sempre o jogo de palavras está correto ou produz algum sentido, o que varia, enormemente, conforme o banco de informações que a própria tecnologia armazena e classifica.

Tal como em Homero na Odisseia, cuidemos para que o Direito, a Advocacia e o próprio Poder Judiciário não se deixem envolver ao canto da sereia de Ulysses. Programas de computador formados por algoritmos são só palavras e “[n]enhuma obra de pensamento e nenhuma tradução de uma obra de pensamento pode substituir a tarefa de fazer viver o pensamento“.[16]

Usar a tecnologia em favor do pensamento e da produção técnica da ciência do Direito sim; deixá-la conduzir os processos, as petições, os julgamentos, sem a conexão das palavras com a experiência do pensar, nunca. Os algoritmos não podem ter a experiência do Dasein, não podem viver a experiência do pensamento, não contém o fio de Ariadne.

Permaneçamos firmes pela luta por um futuro humano, por um Poder Judiciário humano, já que advogados de lata e juízes de lata não possuem Dasein, não podem viver o pensamento, não podem exprimir experiências, não podem ser-aí-no-mundo.


[1] Disponível em openai.com/blog/chatgpt/ em 21/02/2023.

[2] Disponível em https://openai.com/dall-e-2/ em 21/02/2023.

[3] Disponível em https://www.projetodraft.com/verbete-draft-o-que-e-ia-generativa/  em 21/02/2023.

[4] BECK, Ulrich. A metamorfose do mundo: novos conceitos para uma nova realidade. Tradução Maria Luiza X. de A. Borges. Revisão técnica: Maria Claudia Coelho. Rio de Janeiro: Zahar, 2018.

[5] Disponível em  Colombian judge says he used ChatGPT in ruling | ChatGPT | The Guardian em 21/02/2023.

[6] Disponível em https://exame.com/future-of-money/chatgpt-inteligencia-artificial-e-aprovada-em-provas-para-medico-advogado-e-mba-nos-eua/ em 21/02/2023.

[7] Disponível em AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models by Luciano Floridi :: SSRN em 21/02/2023.

[8] Disponível em AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models by Luciano Floridi :: SSRN em 21/02/2023.

[9] Disponível em https://blog.google/technology/ai/bard-google-ai-search-updates/ em 21/02/2023.

[10] Disponível em https://www.reuters.com/technology/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08/ em 21/02/2023.

[11] Disponível em  https://pt.wikipedia.org/wiki/Singularidade_tecnol%C3%B3gica em 21/02/2023.

[12] Disponível em https://www.singularityweblog.com/about-singularity-blog/ em 21/02/2023.

[13]  Disponível em  https://pt.wikipedia.org/wiki/Singularidade_tecnol%C3%B3gica em 21/02/2023. 

[14] Ariadne (em grego “Ἀριάδνη”), na mitologia grega, é a princesa de Creta, filha do rei Minos e da rainha Pasífae.[1][2] Conhecida por ter se apaixonado pelo herói Teseu e ser esposa do deus Dioniso. Conta a mitologia que Teseu foi mandado a Creta,[2] voluntariamente, como sacrifício ao minotauro que habitava o labirinto construído por Dédalo e tão bem projetado que quem se aventurasse por ele não conseguiria mais sair. E seria, então, devorado pelo Minotauro. Teseu resolveu enfrentar o monstro. Foi ao renomado Oráculo de Delfos para descobrir se sairia vitorioso. O oráculo disse-lhe que deveria ser ajudado pelo amor para vencer o minotauro.

Ariadne, a filha do rei Minos, lhe disse que o ajudaria se este a levasse a Atenas para que ela se casasse com ele.[2] Teseu reconheceu aí a única chance de vitória e aceitou. Ariadne, então, deu-lhe uma espada e um fio de lã (Fio de Ariadne), para que ele pudesse achar o caminho de volta, e deste fio ficaria segurando uma das pontas.[4] Teseu saiu vitorioso e partiu de volta à sua terra com Ariadne, embora o amor dele por ela não fosse o mesmo que o dela por ele. [https://pt.wikipedia.org/wiki/Fio_de_Ariadne_(l%C3%B3gica)].

[15] HEIDEGGER, Martin. Ser e Tempo. 10. Ed. Petrópolis/RJ: Vozes, 2021, p.  17.

[16] HEIDEGGER, Martin. Ser e Tempo. 10. Ed. Petrópolis/RJ: Vozes, 2021, p.  17.

Repositório

A inteligência artificial generativa (CHATGPT, BARD) e a ciência do Direito. A ausência do fio de Ariadne para os algoritmos. WebAdvocacy. Brasília, DF. 22 de fevereiro de 2023.

Requisitar dados não é suficiente para a proteção da privacidade. É preciso tratar a assimetria de informação. WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. Janeiro de 2023.

O Constitucionalismo Digital e as Constituições Analógicas: afinal, qual é o tamanho do Estado para a proteção dos direitos e garantias fundamentais na era da Revolução Digital 4.0? WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 12 de novembro de 2022.

A robotização do Poder Judiciário brasileiro (Justiça 4.0) e o par eficiência e celeridade: o Juiz de Lata e os perigos da algoritmização da função de julgar. WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 08 de outubro de 2022.

A DEMOCRACIA NO BRASIL E O MITO DE SÍSIFO: a fronteira entre o direito (Recht) e o não-direito (Unrecht). WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 21 de setembro de 2022.

O METAVERSO E O METRÔ DA LINHA 743: o dia em que captar os pensamentos e sentimentos virou modelo de negócio das big techs. WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. Agosto de 2022.

A democracia equilibrista e o Estado de (não) Direito: a fábula de Esopo com o javali, o cavalo e o caçador. WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 23 de junho de 2022

De Montesquieu a Boushay: qual é o papel das leis nas sociedades capitalistas? WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 13 de maio de 2022.

Sobre a estupidez de Robert Musil e o combate as fake news: qual é a roupa da verdade? WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. 2022.

Os algoritmos e a discriminação de preços: qual é o papel do direito antitruste na sociedade do capitalismo de vigilância? WebAdvocacy. Brasília, DF. Coluna de Rachel Pinheiro de Andrade Mendonça. Janeiro de 2022.