O impacto das técnicas de preservação de privacidade espacial sobre a justiça algorítmica em sistemas de decisão baseados em localização

Descrição

Sistemas de decisão automatizada baseados em dados geográficos consolidaram-se em domínios de impacto social, tais como concessão de crédito, precificação de seguros, po- liciamento preditivo e alocação de serviços públicos. Nesses sistemas, a localização do indivíduo é utilizada como insumo de utilidade e como vetor de risco. De um lado, a coordenada geográfica carrega informação contextual para os modelos preditivos. Nesse contexto, a localização funciona como uma variável substituta (proxy) de atributos protegi- dos como raça e renda, de modo que decisões aparentemente neutras reproduzem padrões de discriminação territorial, i.e., redlining. A exposição contínua de dados locacionais motivou a adoção de técnicas de preservação de privacidade espacial - entre elas a geo- indistinguibilidade, a k-anonimidade, o mascaramento espacial (cloaking) e a privacidade diferencial local. Essas técnicas degradam a precisão da localização reportada por meio da injeção de ruído ou da generalização espacial. Embora concebidas para proteger o indivíduo, essas técnicas alteram a distribuição dos dados que alimentam os modelos de decisão, com efeitos ainda pouco compreendidos sobre a equidade dos resultados. Esta pesquisa de iniciação científica tem por objetivo caracterizar empiricamente o compromisso entre privacidade, utilidade e justiça (privacy–utility–fairness trade-off ) em sistemas de decisão baseados em localização. A investigação não propõe um novo mecanismo de proteção, mas constrói um arcabouço experimental reprodutível que aplica um catálogo de técnicas de preservação de privacidade espacial, sob diferentes intensidades de proteção, e mensura simultaneamente três dimensões: a privacidade efetivamente alcançada, a utilidade preditiva preservada e a justiça algorítmica do resultado, avaliada por métricas de paridade de grupo e por testes de disparidade espacial.