Responsabilização Algorítmica
De Wikipedia, a enciclopédia encyclopedia
No contexto da computação, um algoritmo pode ser definido como uma sequência finita de instruções bem definidas para realizar determinada tarefa[1] e é utilizado para definir a estrutura de um programa computacional que será executado posteriormente. Por princípio, um algoritmo deve ser projetado de tal forma que não haja algum viés por trás das decisões que são tomadas durante seu processo de execução. Ou seja, o algoritmo deveria avaliar apenas características essenciais das entradas apresentadas, sem fazer distinção baseando-se em características que usualmente não devem ser utilizadas em ambiente de sociedade, como, por exemplo, a etnia de um indivíduo que está sendo julgado em um tribunal.
Entretanto, há suspeita de que esse princípio nem sempre é respeitado e que em certas ocasiões um ou mais indivíduos podem ser prejudicados deliberadamente por esses algoritmos. É neste momento que levanta-se o debate acerca de quem deve ser responsabilizado pelos prejuízos causados por uma decisão tomada pela máquina: o próprio sistema ou o indivíduo que a projetou com tais parâmetros[2].
Esta discussão é caracteriza a Responsabilização Algorítmica (Algorithmic Accountability), que visa tentar entender o que se passa internamente nos algoritmos que são executados nesses sistemas e que muitas vezes estão ocultos em verdadeiras caixas pretas, que não são tornadas públicas para que a população possa, de fato, entender porque tal ação foi tomada por parte de uma máquina. De fato, um algoritmo executará apenas aquilo que tenha sido previamente definido por aquele que o projetara. Ou seja, uma tomada de decisão que venha a prejudicar outros indivíduos por conta da falta de imparcialidade ou por análise incorreta de dados acontecerá porque o algoritmo foi projetado para executar daquela forma.