O Preconceito Nas Máquinas
Há alguns séculos, a tecnologia e os
processos instrumentais têm se revelado como
demonstradores eficazes de uma verdade
supostamente objetiva e verificável. Este
processo situa os instrumentos de tecnologia
no centro do imaginário científico de nossa
época e confere a eles um status quasi-mítico,
de inexorável revelação da verdade. Entender
a forma como uma inteligência artificial é
montada a partir das crenças daquele que
a cria, esclarece o motivo pelo qual não se
pode considerar aparatos de tecnologia como
instrumentos inquestionáveis de mensuração
do mundo, tampouco como instrumentos de
organização do mundo social, como softwares
de previsão de crimes já amplamente utilizados,
que no tangente à legislação, transforma o
processo tecnológico em argumento jurídico,
sem considerar a ideologia incutida na base
de seu processo de programação e operações
internas. Para tanto, o trabalho acessa
duas esferas principais; A primeira, reforça
a necessária reavaliação de “tecnologia”
como aparato, como objeto, argumentando
que o tecnológico deve ser compreendido
como ideologia, e portanto, apenas tornado
tangível na esfera da processualidade, ou
materialização ritual, habitus, modus, e prática.
A segunda parte é a investigação da forma
de estruturação de inteligências artificiais (AI)
atuais, direcionando o questionamento sobre
os processos da programação de máquinas em
que abrem-se as brechas para a ideologia do
programador, pelas quais o datum (res) tornase “realidade legível” e manipulável no cálculo
maquínico.
O Preconceito Nas Máquinas
-
DOI: 10.22533/at.ed.9031921067
-
Palavras-chave: Tecnologia, machinelearning, discurso, político.
-
Keywords: Atena
-
Abstract:
For the last centuries, technology
and instrumental processes have been revealed
as demonstrators of a supposedly objective
and verifiable truth. This process places the
instruments of technology in the center of
the scientific imaginary of our time and gives
them a quasi-mythical status, of an inexorable
revelation of the truth. Understanding how an
artificial intelligence is built within the realms
of beliefs of those who create it, clarifies the
reason why we cannot regard technology as
unquestionable instruments of measurement
of the world, nor as instruments of organization
of the social world, in uses such as a software
for the prediction of crimes, which, in regard of
the legislation, transforms the technical process
into juridical argumentation, disregarding the
ideology present in the implementation of the
system itself. Hence, the work accesses two
Fundamentos da Ciência da Computação 2 Capítulo 7 54
main spheres; The first, reinforces the necessary reassessment of technology as an
apparatus, as an object, claiming that technology must be understood as ideology,
and thus, made knowable only through procedurality, or ritual materialization, habitus,
modus, and practice. The second perspective is a research on the structuring of
artificial intelligence (AI), which directs the questioning to the programming processes
of softwares that open their bases to the programmer’s ideology, through which data
(res) becomes a readable and manipulable “reality”in the machinic calculation.
-
Número de páginas: 15
- Marcus Lyra
