Os sistemas de Inteligência Artificial (I.A.) fazem já parte do dia a dia – da governança à saúde, da educação à produção cultural, da economia ao trabalho –, mas saberemos o suficiente sobre a proliferação algorítmica em que vivemos?
Contribuir para a literacia sobre I.A. é, precisamente, o objetivo do livro Os Algoritmos e Nós, da autoria de Paulo Nuno Vicente, investigador ICNOVA e coordenador do iNOVA Media Lab. No ensaio, publicado em maio de 2023 pela Fundação Francisco Manuel dos Santos, o investigador analisa o tema complexo da I.A. e da proliferação algorítmica, combinando a perspetiva matemática e computacional com a análise social. De forma acessível, o livro procura tanto explicar os conceitos envolvidos neste tema, como apoiar um debate informado e participado na construção social da tecnologia.
Em entrevista exclusiva, Paulo Nuno Vicente explora as principais mensagens do livro e a falta de conhecimento generalizado sobre I.A, mas também as implicações da era do algoritmo para a investigação : “para media nativamente digitais e computacionais, necessitamos (também) de métodos nativamente digitais e computacionais”, defende.
Quais são as mensagens principais deste ensaio?
A obra parte de duas premissas essenciais. A primeira: vivemos na era da legitimação social dos algoritmos enquanto modo de conhecimento, fonte de autoridade e forma de poder. A segunda: essa legitimação tem vindo a ser construída por via da prática, pela adoção pública e privada de sistemas de Inteligência Artificial na vida social – na justiça, na saúde, no trabalho, na educação, na produção cultural, na economia, na finança… – sem que exista um debate cívico alargado sobre riscos, oportunidades, limites. Esse debate necessita ser ancorado na evidência científica e na documentação social dos seus efeitos – e não imaginando ou projetando um futurismo utópico ou distópico. O fenómeno que designo no livro como uma “proliferação algorítmica” procura designar essa progressiva complementaridade e/ou substituição do nosso atributo humano de juízo individual ou colegial por processos computacionais de natureza preditiva em dimensões estruturais da vida cívica. Para um futuro democrático, justo, inclusivo, sustentável, a proliferação algorítmica não pode dispensar uma apropriação cívica. Trata-se, fundamentalmente, de um contributo para a consolidação de uma literacia sobre a Inteligência Artificial.
Na era dos algoritmos, há ainda um desconhecimento generalizado sobre o que é um algoritmo e o seu impacto nos vários domínios? Se sim, que riscos pode ter esse desconhecimento para cidadãos e sociedade, no geral?
Os Algoritmos e Nós procura desocultar uma temática complexa e interdisciplinar – a da Inteligência Artificial – partindo de uma perspetiva social, cultural e cívica. Sendo uma das denominadas “megatendências” tecnológicas da denominada Quarta Revolução Industrial, frequentemente associada a um potencial disruptivo, é diariamente encerrada numa tensão simplista entre a utopia e a distopia, através do discurso dos media, do marketing das empresas tecnológicas globais, da narrativa da ficção científica. Não identifico em Portugal aquilo que se possa descrever como um debate público informado, aberto, acessível e livre de “irreversibilidades” sobre a sua adoção na vida social. O termo “algoritmo” e a expressão “inteligência artificial” são hoje atalhos convenientes para processos muito distintos; frequentemente, acabam diluídos e perturbam um entendimento claro sobre nuances verdadeiramente fundamentais. Em síntese, o grande risco é o da chamada “dupla ignorância”: o não sabermos o que não sabemos sobre estes sistemas e a razão por que são adotados. Existem questões críticas decorrentes da dataficação da vida social, da automatização, da opacidade, da falta de explicabilidade de alguns destes sistemas. Por outro lado, existem questões prementes e muito pouco discutidas em torno da dependência de infraestruturas e consumos energéticos colossais, do trabalho humano “invisível”, a chamada “economia do biscate” e a emergência daquilo a que chamo “novos velhos meios de predição”, associados a formas emergentes de precariedade e de degradação de proteções sociais no contexto laboral de uma economia globalizada.
A popularização de ferramentas em que os sistemas de I.A. estão mais em evidência, como o Chat GPT ou os algoritmos de recomendação nos serviços de streaming, tem servido para aumentar o conhecimento do cidadão comum sobre esta matéria? Ou o discurso lúdico acaba por absorver outras dimensões importantes?
A razão de ser deste livro tem muito que ver com essa pergunta. Estejamos mais ou menos conscientes, convivemos diariamente com sistemas de I.A. e vivemos mergulhados em referências popularizadas: entre Blade Runner e o Exterminador Implacável. Isso torna-nos, por inerência, mais preparados para compreender, discutir e participar na construção social da tecnologia? Infelizmente, não. Arrisco até dizer que, se existisse uma compreensão clara sobre o funcionamento algorítmico de várias das plataformas que povoam a nossa vida, assistiríamos a uma menor taxa de adoção ou de utilização. Contudo, enquanto humanos, as nossas forças são simultaneamente as nossas fraquezas: queremos estar onde os nossos mais próximos e queridos estão; somos seres para quem a ligação emocional não tem um papel secundário como tantas vezes se pensou ou se pensa. O “social” em “plataforma social” é a chave. O papel da investigação e da Universidade é (também) ser parte da criação desta consciência e participação cívicas. A pergunta refere um “cidadão comum”. Contudo, é minha perceção de que uma porção muito significativa do que tradicionalmente se designa como “a elite” – política, económica, intelectual… – não conhece o suficiente sobre I.A. para poder decidir, para regular com clarividência e livre de modismos e de pressões externas. A própria Universidade foi exemplo disso, em várias regiões do globo, durante os confinamentos gerados pela pandemia de Covid-19, com a rápida adoção dos denominados proctoring systems. É um pouco como se costuma dizer: quando temos na mão um martelo, tudo se assemelha a um prego. Esse é também um dos riscos atuais na adoção de sistemas de I.A.: tratar a vida social, fundamentalmente, como sendo composta por problemas de gestão e de processamento de informação, em que o computador ou, mais especificamente, o algoritmo ocupa a vez de martelo.
Refere, no livro, o conceito de algocracia. De que se trata? E o que deve ser acautelado quando os algoritmos são aplicados na governança e na regulação?
O conceito de algocracia pretende designar o processo de governo ou de administração do poder com recurso a algoritmos. As práticas algocráticas estão documentadas em diferentes áreas da vida social e em diferentes regiões. No livro, apresento e discuto casos em que sistemas algorítmicos substituem professores na avaliação de exames de fim de ciclos de estudo, suprem funções tradicionalmente atribuídas a funcionários de autoridades tributárias, de serviços de imigração, advogados, polícias, gestores empresariais, etc. É preciso tornar claro que, em sistemas democráticos, têm sido os representantes eleitos a adotar estes sistemas na administração, mais ou menos conscientes dos seus potenciais efeitos, mas sobretudo focados em ganhos de eficiência ou otimização. A quantificação, o número e, logicamente, o algoritmo seduz pela sua aparente objetividade e neutralidade. Um algoritmo, sem acesso a conjuntos de dados estruturados, resume-se a uma fórmula desligada da matéria-prima que irá processar. A regulação por poderes públicos, como por exemplo o IA Act em elaboração na União Europeia, necessita de articular a relação entre algoritmos e dados. Transparência, auditoria e prestação de contas (accountability) são valores essenciais.
Quais os maiores desafios que se colocam à investigação em contextos digitais perante sistemas de I.A.? Que abordagens poderão ser seguidas para conseguir estudar uma “black box” aparentemente opaca a terceiros?
Essa é a questão central que a área de estudos em Media Digitais deve querer abraçar e endereçar. Somos hoje confrontados com uma rarefação dos métodos de investigação em sistemas sociotécnicos altamente complexos, hiperespecializados e fugazes. Estou consciente de que muitos colegas investigadores persistem crentes no (ou resignados ao) potencial dos métodos fundacionais das ciências sociais e humanas: a entrevista, o questionário, a observação participante, o grupo focal, a etnografia, entre outros. Concordo que estas nossas abordagens nos permitem aceder a determinados níveis dos fenómenos; para simplificar, digamos que permitem aceder aos níveis exteriores da “predisposição para”, do “relato sobre”, da “ação com ou junto de”. São níveis essenciais, contudo, insuficientes, a meu ver, se procuramos compreender de modo mais integral a relação pessoa-máquina e a agência do não-humano. Resumindo: para media nativamente digitais e computacionais, necessitamos (também) de métodos nativamente digitais e computacionais. É um pouco como escreveu o antropólogo Clifford Geertz: “os antropólogos não estudam aldeias, estudam em aldeias”. Adaptando, direi que os investigadores de media digitais – como os sistemas de I.A – necessitam de estudar media e em media, isto é, estudar sobre, mas também estudar em e com, a partir do interior da sua materialidade, porque esta possui um potencial de informação anatómica (passe a metáfora) essencial. Com certeza, isso requer não apenas a tão reiterada interdisciplinaridade, mas fundamentalmente um perfil de investigador híbrido: com um pé nas ciências sociais e humanas e outro nas ciências da computação e da informação. Falamos há, pelo menos, duas décadas na convergência dos media, talvez não realizando que essa convergência somos nós.
