Um pedido de crédito negado, uma candidatura descartada ou uma transação bloqueada podem ter passado por um sistema automatizado antes de chegar ao conhecimento do consumidor. Em muitas operações, algoritmos analisam dados, identificam padrões e ajudam empresas a tomar decisões em grande escala.
A eficiência é um dos principais atrativos dessa tecnologia. O problema surge quando informações incorretas, critérios inadequados ou padrões discriminatórios interferem no resultado. Para a pessoa afetada, entender por que a decisão aconteceu pode ser tão importante quanto conseguir corrigi-la.
No Brasil, a discussão não depende apenas de uma futura regulamentação geral da inteligência artificial. A Lei Geral de Proteção de Dados (LGPD), em seu artigo 20, já prevê o direito de solicitar a revisão de decisões tomadas exclusivamente com base no tratamento automatizado de dados pessoais que afetem os interesses do titular, além de informações sobre os critérios e procedimentos utilizados.
A empresa não pode simplesmente se eximir dizendo que foi o algoritmo que decidiu. | Fabrizio Bon Vecchio, presidente do Instituto Ibero-Americano de Compliance
A transparência é parte da responsabilidade
A LGPD estabelece que o titular pode solicitar informações claras e adequadas sobre os critérios usados em uma decisão automatizada, respeitados os segredos comercial e industrial. Isso não significa que toda decisão apoiada por tecnologia seja automaticamente irregular. A questão é compreender como os dados foram utilizados e se o procedimento respeitou os direitos envolvidos.
A responsabilidade também não se limita ao desenvolvedor do sistema. Empresas que escolhem uma ferramenta, definem sua finalidade e incorporam seus resultados a processos internos precisam avaliar riscos, acompanhar o desempenho e estabelecer quem responde por eventuais problemas. Contratar um fornecedor de tecnologia não elimina, por si só, as obrigações da organização.
O desafio aumenta quando a decisão envolve grupos vulneráveis ou pode reproduzir desigualdades presentes nos dados. Por isso, mecanismos de auditoria, documentação, monitoramento e revisão são importantes para identificar falhas e permitir que uma decisão contestada seja examinada de maneira adequada.
O que muda para empresas e consumidores
Para as organizações, governar o uso de inteligência artificial significa mapear onde a tecnologia é empregada, quais dados utiliza e quais consequências seus resultados podem produzir. Nem todo processo exige o mesmo nível de controle, mas decisões com impacto relevante sobre pessoas precisam de atenção proporcional ao risco.
Para os consumidores, o primeiro passo é identificar a empresa responsável e solicitar informações sobre o tratamento dos dados e os critérios da decisão. O Governo Federal orienta que esse contato seja feito pelos canais de privacidade da organização, com possibilidade de encaminhamento de reclamações aos órgãos competentes.
A discussão, portanto, vai além de saber se uma máquina pode errar. Sistemas automatizados podem ampliar a velocidade e a escala das operações, mas precisam estar inseridos em processos que permitam explicar resultados, corrigir falhas e atribuir responsabilidades. A confiança na tecnologia depende também da capacidade de responder quando ela não funciona como deveria.
