Inteligência Artificial: Betoneiras Modernas e a Responsabilidade Humana na mistura correta da massa.

Natal, 04 de dezembro de 2024

Por Frederico Lima

No debate sobre a regulamentação da inteligência artificial (IA), como no Projeto de Lei Nº 2338/2023 em tramitação no Brasil, é essencial lembrar que a tecnologia é, em essência, uma ferramenta. Assim como a betoneira na construção civil, a IA acelera processos e melhora a eficiência, mas não substitui a responsabilidade de quem define os parâmetros para o seu uso.

De nada adianta uma betoneira se as medidas de areia, cimento e água forem erradas. O problema, nesse caso, não é a máquina, mas quem calculou mal a mistura.

Essa analogia simples ajuda a contextualizar a discussão sobre os riscos atribuídos à IA. Muitos enxergam a tecnologia como um agente autônomo, capaz de agir por conta própria, quando, na realidade, ela é apenas uma extensão das decisões humanas.

A IA não decide sozinha como analisar um pedido de crédito, diagnosticar uma doença ou classificar currículos; ela segue critérios programados por desenvolvedores e instituições. Se os critérios forem enviesados ou mal planejados, os resultados serão desastrosos — e a culpa, invariavelmente, será de quem definiu as regras.

A Inteligência Artificial e a Construção Civil

Voltemos à construção civil. Imagine que você precisa construir uma casa. Os pedreiros podem misturar o cimento manualmente, com pás, ou utilizar uma betoneira. A betoneira fará o trabalho mais rápido e com menos esforço, mas se as proporções estiverem erradas — por exemplo, com areia demais e cimento de menos —, a mistura não terá qualidade. Não é culpa da betoneira; a falha está nas medidas pré-definidas.

A IA funciona de forma semelhante. Ela é uma ferramenta avançada, capaz de processar dados em volumes inimagináveis e identificar padrões complexos. Mas ela só pode fazer isso com base nos dados e nas regras fornecidas por seres humanos. Se os dados forem incompletos ou preconceituosos, ou se os critérios de decisão não considerarem a diversidade das situações, a IA apenas ampliará os erros e injustiças existentes.

O Projeto de Lei e a Responsabilidade Humana

O Projeto de Lei Nº 2338/2023 tenta regulamentar o uso da IA, estabelecendo diretrizes para segurança, transparência e mitigação de riscos. Contudo, há um ponto

crucial que merece mais atenção: a maior parte dos problemas atribuídos à IA decorre de falhas humanas, não da tecnologia em si. A lei aborda temas como governança e explicabilidade dos sistemas, mas precisa avançar em responsabilizar diretamente aqueles que determinam os parâmetros e os dados usados.

Por exemplo, na análise de crédito, os critérios de decisão são definidos pelos bancos ou empresas financeiras. Se esses critérios forem baseados apenas em renda e histórico financeiro, pessoas de classes sociais mais baixas terão mais dificuldades em obter crédito, perpetuando desigualdades históricas. A IA, nesse caso, é apenas a betoneira executando uma receita mal formulada.

Comparação com a LGPD

A Lei Geral de Proteção de Dados (LGPD) também regula aspectos tecnológicos, mas com foco na proteção dos dados pessoais. Enquanto a LGPD exige que empresas informem como utilizam os dados e garantam a segurança desses, o Projeto de Lei da IA propõe regulamentar o uso e os efeitos das decisões automatizadas. Apesar de complementares, as duas leis têm diferenças importantes:

1. Escopo: A LGPD lida com o uso de dados pessoais, enquanto o PL 2338/2023 trata de qualquer aplicação de IA, mesmo aquelas que não usam dados
2. Foco em Direitos: Ambas garantem direitos aos indivíduos, mas o PL da IA introduz novos direitos específicos, como o de contestar decisões
3. Autoridade Reguladora: A LGPD criou a ANPD (Autoridade Nacional de Proteção de Dados), enquanto o PL da IA ainda precisa definir a autoridade responsável pela supervisão.

A LGPD já mostrou que a simples criação de regras não resolve problemas estruturais. É preciso garantir que as organizações sigam as normas e que sejam responsabilizadas por suas falhas. O mesmo se aplica à IA.

O Caminho para uma Regulamentação Eficaz

Para que a regulamentação da IA seja realmente eficaz, ela precisa:

• Priorizar a transparência dos critérios definidos por humanos, não apenas dos sistemas tecnológicos.
• Responsabilizar diretamente as empresas e os desenvolvedores por decisões baseadas em dados inadequados ou critérios enviesados.
• Promover o treinamento ético e técnico de equipes que trabalham com IA, garantindo uma compreensão das implicações sociais das suas escolhas.

A tecnologia é apenas uma ferramenta; quem a usa carrega a responsabilidade. Assim como na construção civil, onde a qualidade de uma casa depende das proporções corretas de materiais, no mundo da IA, o sucesso ou o fracasso está nas mãos de quem define as regras. Se queremos que a IA construa pontes e não muros, precisamos garantir que as medidas sejam as certas — e que aqueles que as calculam sejam responsabilizados por seus erros.

O Que o Marco Regulatório Propõe

O Projeto de Lei Nº 2338/2023 estabelece princípios, obrigações e mecanismos de supervisão para o uso de IA no Brasil. Aqui estão suas principais cláusulas:

1. Princípios Fundamentais

O projeto prioriza a centralidade da pessoa humana, a não discriminação, a transparência e a proteção de dados pessoais. Esses princípios buscam garantir que a IA seja usada para promover o bem-estar social e respeitar os direitos humanos.

Ponto Positivo: Esses princípios alinham o Brasil com legislações avançadas, como o Regulamento Europeu de IA (EU AI Act), que também prioriza a segurança e a equidade.

Ponto Negativo: Apesar de bem elaborados, esses princípios são vagos. Falta detalhamento sobre como implementá-los de maneira prática e como garantir que sejam respeitados.

2. Direitos das Pessoas Afetadas

Os usuários têm o direito de contestar decisões automatizadas, solicitar explicações sobre os critérios utilizados e exigir supervisão humana em decisões sensíveis.

Ponto Positivo: Essa cláusula protege os cidadãos contra decisões opacas, como negativas de crédito ou rejeições em processos seletivos.

Ponto Negativo: As explicações fornecidas pelos sistemas de IA podem ser altamente técnicas e incompreensíveis para o público geral, reduzindo a eficácia desse direito.

3. Classificação de Riscos

O projeto classifica sistemas de IA conforme seu nível de risco (alto, excessivo, etc.), exigindo maior supervisão para aqueles considerados de alto impacto.

Ponto Positivo: Essa abordagem permite uma regulamentação proporcional, concentrando esforços em áreas que realmente afetam a vida das pessoas.

Ponto Negativo: A falta de critérios claros para categorizar os riscos pode gerar insegurança jurídica, dificultando a adaptação das empresas.

4. Responsabilidade Civil

O projeto prevê responsabilidade objetiva para sistemas de alto risco e presunção de culpa para outros casos, assegurando que os desenvolvedores e operadores respondam por falhas.

Ponto Positivo: Essa cláusula incentiva maior cuidado no desenvolvimento e operação de sistemas, protegendo os direitos dos usuários.

Ponto Negativo: Exigir responsabilidade objetiva pode desincentivar investimentos em inovação, especialmente de startups e empresas menores.

A Solução: Termos de Uso Claros e Acessíveis

Um dos grandes avanços da LGPD foi exigir que empresas informem os usuários sobre como seus dados são tratados. Esse modelo pode ser adaptado para a IA, exigindo que todo sistema inclua termos e condições claros e acessíveis, detalhando:

• Os dados utilizados: O que está sendo coletado e por quê.
• Os critérios de decisão: Como as regras do sistema foram
• Os direitos do usuário: Como contestar decisões ou solicitar explicações.

Imagine, por exemplo, um sistema de análise de crédito. Sem termos claros, o usuário pode ter sua solicitação negada sem entender os motivos. Com termos bem definidos, ele saberá quais informações foram consideradas, como contestar decisões ou corrigir dados incorretos.

Esse modelo empodera os cidadãos e garante transparência, transformando o marco regulatório em algo prático e acessível.

Comparação com a LGPD e o Regulamento Europeu

• LGPD: Assim como a LGPD trouxe transparência no uso de dados pessoais, o marco regulatório da IA pode trazer clareza sobre os critérios usados por

sistemas automatizados.

• EU AI Act: O regulamento europeu exige que sistemas de IA de alto risco sejam auditáveis e transparentes, um exemplo que o Brasil deveria seguir.

1.  O Risco da Judicialização Exacerbada

A regulamentação da inteligência artificial (IA) exige um equilíbrio delicado entre proteção de direitos e praticidade. Se o marco regulatório não oferecer clareza suficiente, pode gerar disputas judiciais em massa devido a:

• Ambiguidade nos Direitos: Os usuários podem não entender plenamente os direitos garantidos, como o direito à explicação de decisões automatizadas,

levando-os a buscar na Justiça respostas que poderiam ser resolvidas administrativamente.

• Dificuldade de Provar Violação: Em muitos casos, a falta de transparência nos sistemas de IA pode dificultar a demonstração de que uma decisão foi

enviesada ou inadequada, forçando as partes a buscar perícias judiciais.

• Incerteza Jurídica: Empresas podem enfrentar ações judiciais preventivas ou reativas devido à indefinição sobre o que constitui "boa governança" ou

"mitigação de riscos".

Esses fatores podem resultar em um aumento exponencial de litígios, onerando tanto o sistema judiciário quanto as partes envolvidas.

2.  Como o Marco Regulatório Pode Prevenir Judicializações Desnecessárias

A regulamentação deve incluir mecanismos que reduzam a necessidade de recorrer ao Judiciário, promovendo uma resolução eficiente e acessível de conflitos. Algumas propostas incluem:

1. Termos e Condições Claros

• Função Educativa: Garantir que os termos de uso dos sistemas de IA sejam compreensíveis para o público leigo. Por exemplo, ao usar IA para análise de crédito, os usuários precisam entender como as decisões são tomadas e como contestá-las.
• Prevenção de Litígios: Se os usuários souberem exatamente como o sistema

funciona e como seus dados são utilizados, a probabilidade de disputas diminui.

1. Mecanismos de Mediação

• Resolução Extrajudicial: O marco regulatório pode exigir que empresas disponibilizem canais de mediação para resolver disputas antes que estas cheguem ao Judiciário.
• Supervisão Reguladora: Uma autoridade específica, como a ANPD na LGPD, pode ser designada para mediar reclamações e promover soluções rápidas e

1. Auditorias e Certificações

• Credibilidade: Auditorias regulares e certificações podem assegurar que os sistemas de IA estão em conformidade com a regulamentação, reduzindo

questionamentos sobre sua operação.

• Redução de Conflitos: Empresas que possuem certificação de conformidade estariam mais protegidas contra litígios infundados.

1. Educação e Capacitação

• Capacitação do Judiciário: Juízes e advogados precisam ser treinados para entender as nuances da IA e avaliar casos com precisão.
• Educação Pública: Campanhas educativas podem ajudar a população a

compreender melhor como a IA funciona, prevenindo interpretações erradas e ações judiciais desnecessárias.

3.  A Experiência Internacional

Em países como os Estados Unidos, onde a abordagem regulatória é mais setorial, e na União Europeia, com o EU AI Act, há esforços para minimizar a judicialização ao combinar regulamentação rígida com canais de resolução administrativa. Esses modelos podem servir de inspiração para o Brasil:

• União Europeia: O Regulamento Europeu de IA exige que sistemas de alto

risco sejam auditáveis e que os usuários tenham acesso a explicações claras. A transparência reduz o número de disputas judiciais.

• Estados Unidos: A abordagem setorial prioriza autorregulação, o que diminui o envolvimento do Judiciário, mas pode ser insuficiente para proteger os direitos dos cidadãos.

Construindo Pontes para o Futuro, Não Muros para o Vazio

A inteligência artificial é a betoneira do futuro, mas sem a "mistura certa" — regras claras, transparência e responsabilidade humana —, o marco regulatório corre o risco de se tornar inócuo. De pouco adianta termos uma lei repleta de boas intenções, mas incapaz de lidar com as complexidades práticas do mundo real.

A inteligência artificial é mais do que uma tecnologia; ela é uma oportunidade para moldarmos um futuro mais eficiente, justo e inovador. Mas como qualquer ferramenta poderosa, seu impacto depende de como é utilizada e das regras que a governam.

Assim como uma betoneira transforma cimento e areia em estruturas que sustentam edifícios, a IA pode transformar dados em decisões que sustentam nossa sociedade.

Se acertarmos na "mistura" — com transparência, responsabilidade e mecanismos que evitem a judicialização excessiva —, podemos usar a IA para construir pontes que conectem eficiência tecnológica e direitos humanos. Do contrário, estaremos erguendo muros que separam oportunidades de progresso daqueles que mais precisam.

O Brasil tem a chance de liderar pelo exemplo, adotando um marco regulatório que proteja seus cidadãos sem sufocar a inovação. Mas isso só será possível se enxergarmos a IA pelo que ela realmente é: uma ferramenta nas mãos humanas, cujo poder precisa ser guiado por sabedoria e comprometimento ético.

Que saibamos calibrar essa betoneira do futuro para moldar um amanhã mais sólido, inclusivo e cheio de possibilidades.

Frederico Lima.