Quem escreve o que o algoritmo pensa? Recomendações voltadas aos riscos do viés algorítmico no uso da Inteligência Artificial pela Defensoria Pública do Paraná, com vistas à proteção dos direitos da personalidade dos assistidos

Abstract

A investigação insere-se no contexto da modernidade digital e da Sociedade da Informação, marcadas pela hiperconectividade e centralidade dos dados na organização das dinâmicas sociais e institucionais. A crescente incorporação da Inteligência Artificial (IA), inclusive no sistema de justiça, evidencia uma reconfiguração das formas de produção de conhecimento, tomada de decisão e exercício de direitos. Nesse cenário, os algoritmos influenciam a circulação de informações e a definição de oportunidades, impactando na esfera jurídica e na proteção dos direitos fundamentais. Assim, a pergunta da pesquisa consiste no seguinte: quais as recomendações a serem direcionadas às Defensorias Públicas do Estado do Paraná, com o intuito de prevenir ou mitigar os riscos do viés algorítmico para os direitos da personalidade dos assistidos? Buscando respostas lógicas e confiáveis ao problema de pesquisa, partiu-se da hipótese de que, na ausência de comandos claros, estruturados e eticamente delimitados, sistemas de IA tendem a reproduzir padrões implícitos dos dados de treinamento e a reforçar inclinações presentes no enunciado do usuário, gerando respostas imprecisas ou enviesadas, com potencial lesivo aos direitos da personalidade. Então, é necessário que sejam fixadas diretrizes visando evitar ou mitigar esses potenciais desvios causados pelo uso da tecnologia. O objetivo geral reside detectar os riscos do viés algorítmico aos direitos da personalidade e propor instrumento técnico-orientativo destinado à Defensoria Pública do Estado do Paraná, voltado à utilização responsável da IA. Como objetivos específicos, buscou-se: (i) contextualizar a modernidade digital e a hiperconectividade como fenômenos estruturantes; (ii) examinar os direitos da personalidade no ordenamento brasileiro e sua ressignificação na era digital; (iii) compreender o funcionamento técnico da IA, identificando pontos críticos de enviesamento; e (iv) desenvolver cartilha prática de engenharia de prompts para mitigação de riscos no uso institucional dessas ferramentas. No percurso metodológico, a pesquisa adota abordagem qualitativa, de natureza exploratória e aplicada, utilizando método dedutivo e técnica documental indireta consistente na pesquisa bibliográfica, normativa e análise técnica dos fundamentos da IA. Também houve pesquisa exploratória, com a realização de um experimento prático com as ferramentas Gemini e ChatGPT mediante comparação entre prompts estruturados e não estruturados, bem como estágio de imersão na Defensoria Pública do Estado do Paraná – Núcleo Ponta Grossa. Dos achados de pesquisa, tem-se que estes demonstraram que o viés algorítmico constitui risco estrutural decorrente da lógica probabilística dos sistemas, da incorporação de dados historicamente assimétricos e das escolhas humanas na modelagem dos algoritmos. Constatou-se que decisões automatizadas podem naturalizar desigualdades sob aparência de neutralidade matemática, afetando concretamente os direitos da personalidade. No plano empírico, verificou-se tendência confirmatória em respostas geradas por comandos genéricos, evidenciando que a qualidade do prompt influencia diretamente a precisão e a adequação jurídica do resultado. Conclui-se que a proteção dos direitos da personalidade na era digital exige não apenas atualização normativa, mas também práticas institucionais responsáveis no uso da IA. A engenharia de prompts mostrouse instrumento relevante para mitigação de riscos, sem afastar a indispensável supervisão humana, reafirmando a centralidade da dignidade da pessoa humana como limite e fundamento do desenvolvimento tecnológico.