“Quando os governos usam algoritmos para fazer ou ajudar com decisões, esses algoritmos tornam-se políticas públicas, sujeitos a supervisão pública”
Existem muitos exemplos do uso da tecnologia em contexto democrático. A principal vantagem da era da internet na política em geral é a capacidade de promover o envolvimento do cidadão. Proporcionando a longo prazo, o aumento da transparência nas instituições e suas responsabilidades. É por isso que o uso de tais tecnologias na área democrática deve ser encorajador, não importa o que.
No dia 16 de outubro de 2017 o Presidente James Vacca, em Reunião do Comitê da Cidade de Nova York sobre Tecnologia abordou alguns pontos interessantes:
Agências em todos os níveis de governo estão se voltando para a automação e algoritmos de aprendizagem em máquina para ajudar a tomar decisões que afetam os direitos dos indivíduos e o acesso aos recursos. Na cidade de Nova York, os algoritmos computacionais foram utilizados para atribuir crianças a escolas públicas, avaliar professores, edifícios alvo para inspeções de incêndio [ e tomar decisões policiais. Estes algoritmos podem processar grandes quantidades de dados e descobrir padrões ou insights para direcionar a tomada de decisões. No entanto, eles não são decisores neutros.
Algoritmos como políticas públicas.
Quando os governos usam algoritmos para fazer ou ajudar com decisões, esses algoritmos tornam-se políticas públicas, sujeitos a supervisão pública. Isso é verdade, independentemente de o algoritmo ser criado por uma agência governamental ou um fornecedor privado. A cidade de Nova York tem a obrigação de Compreender. Escrutar. E Explicar Como seus Algoritmos Tomam Decisões que Afetam os Nova-Iorquinos.
No mínimo, a cidade deve assegurar e demonstrar ao público que as ferramentas de decisão algorítmica da NYC (1) estão alinhadas com os objetivos políticos da cidade e com o interesse público; (2) trabalham conforme o previsto; (3) não utilizam dados para marginalizar populações minoritárias ou vulneráveis e exacerbar a desigualdade; (4) fornecem uma transparência significativa para os nova-iorquinos para que eles possam recorrer e buscar soluções para decisões automatizadas que sejam incorretas, injustas ou contrárias à lei..
Embora os dados refere-se a cidade de Nova Iorque. A preocupação aqui representada deve ser a mesma em todos os lugares.
fonte: Center for Democracy & Technology
