KAL. The Economist. Disponível em: https://www.economist.com/the-world-this-week/2023/11/02/kals-cartoon. Acesso em: 28 nov. 2024.
Imagine-se em um quarto fechado, onde alguém externo tenta se comunicar com você por meio de códigos desconhecidos. Por sorte, você dispõe de um manual que lhe fornece uma resposta formal para cada código dado. Uma vez que esta linguagem lhe é alheia, você não entende o que lhe é dito e nem sequer sabe qual foi a sua resposta, mesmo que tenha certeza de que ela foi eficiente. Em um número suficiente de observações, o indivíduo externo ao quarto tende a intuir que você domina a linguagem, no entanto, a inferência não é verdadeira, de modo que você apenas esteja simulando ter o conhecimento sobre.
Assim apresenta-se o argumento do Chinese Room, desenvolvido pelo filósofo norte-americano John Searle, com o objetivo de demonstrar que, por mais consistente que pareça o domínio das máquinas sobre a linguagem, tal fato não implica em um domínio real. Trata-se de um domínio puramente artificial.
O filósofo argumenta que as máquinas operam de forma objetiva, apenas reorganizando os símbolos com base em sua lógica de programação dada. Partindo disso, o pensador defende que as máquinas são incapazes de operar de maneira subjetiva, de forma que organizar os símbolos não seja o mesmo que compreender os seus significados. A mente humana, por outro lado, é capaz de operar de forma objetiva e subjetiva, uma vez que a compreensão e a apreensão de conteúdos se dá por meio do processamento das informações pelo cérebro humano. O pensador conclui que uma máquina não pode gerar estados mentais semelhantes aos dos seres humanos, uma vez que a mente humana é dotada da capacidade de absorver sentido consciente sobre a realidade¹.
Nesse sentido, é possível compreender que as máquinas, como as conhecemos, não são capazes de autônomamente gerar consciência de si e do mundo, uma vez que essas não possuem a capacidade de apreender e analisar de forma crítica a realidade. Em sentido contrário, opera o cérebro humano, cujas formulações são dotadas de um caráter social e, portanto, estão condicionadas ao desenvolvimento das relações sociais².
As relações sociais, por sua vez, não podem ser compreendidas de forma dissociada do modo de produção, em que são produzidas e reproduzidas. No processo em que modifica o mundo, o homem, enquanto potência, se confronta com o meio natural e, ao atuar sobre a natureza com o objetivo de adaptá-la às suas necessidades, modifica a própria existência humana. Desde o início do processo de trabalho, meio pelo qual se modifica o mundo, o homem é capaz de ter o produto final objetivado em sua mente. Tal fato deriva de sua capacidade de abstrair sobre a realidade, o que lhe difere de qualquer outro ser³. Nessa perspectiva, o trabalho apresenta-se como o elemento formador da consciência humana, de modo a constituir no firme solo das experiências concretas a sua base indissociável. Na medida em que sua consciência se desenvolve a partir das relações sociais e da reprodução de sua vida material, a consciência torna-se social e historicamente determinada⁴.
Na sociedade capitalista, o determinante da reprodução da vida se torna o processo de autovalorização do capital. A relação dialética estabelecida entre homem e meio natural, explorada mais acima no texto, possui uma intermediação. Nessa sociedade, prevalece a lei do valor, de modo que o principal determinante da produção não seja a utilidade da mercadoria, mas sua capacidade de efetivar riqueza. Assim, o conjunto de necessidades, interesses e motivos para realização da produção, bem como a interação do homem com o meio social e natural, estão, portanto, sob a égide daqueles que, ao deterem os meios necessários para a realização do trabalho, subalternizam os homens e o seu processo criativo para enriquecimento próprio. Desse modo, no processo de trabalho especificamente capitalista, a formação da consciência humana é dotada do caráter essencialmente capitalista de produção. O conjunto dessas interações sociais fundamentalmente práticas entre o processo de trabalho e a formação da consciência, expresso em relações ideais objetivadas, disseminadas e reproduzidas, denomina-se ideologia⁵.
A ideologia resulta da determinação do processo em que os homens interagem com o meio social, sendo essas interações fundamentais para a reprodução dos interesses das classes dominantes. Os meios de comunicação e informação possuem, assim, papel fundamental na reprodução desses mecanismos, conferindo-lhe um caráter quase que não alternativo. A ideologia dominante deve aparecer como a única forma possível de sociabilidade e, na medida em que se apresenta na forma de interesse geral, esta denota um caráter específico, que lhe dá a condição de “neutralidade”. A neutralidade da consciência, do pensamento e da ideologia, no modo de produção capitalista, é a própria reprodução dos mecanismos do capitalismo. Dessa forma, podemos inferir que, por mais que a ideologia se apresente como neutra, os homens possuem centralidade em sua formação.
Ao se retomar a análise feita sobre as máquinas, concluímos que estas não possuem consciência, pensamento ou qualquer estado mental que seja equivalente aos da mente humana. No entanto, enquanto meio de informação e comunicação, as inteligências artificiais possuem papel crucial na reprodução da ideologia dominante. Como os frutos do trabalho humano na sociedade capitalista, as máquinas parecem dotadas da capacidade de se autodeterminarem enquanto seres conscientes de si. Na medida em que se apresentam como seres autônomos, sua forma parece independente de ideologia e de qualquer correlação com a atividade humana. Sob o véu da neutralidade e da falsa consciência das máquinas, oculta-se a ideologia da classe dominante.
Dessa maneira, podemos compreender que o avanço desses mecanismos tecnológicos cria novas formas de difusão de ideais, uma vez que as modernas inteligências artificiais têm capacidades notáveis para produzir textos, imagens, vídeos e áudios de forma realista e quase automática. Instrumentos como modelos linguísticos e sistemas de criação de imagens são capazes de gerar conteúdos que dificilmente podem ser diferenciados dos produzidos por seres humanos. A facilidade na criação de deepfakes⁶ e de narrativas manipuladas apresenta uma nova faceta da informação na sociedade contemporânea, em que a quantidade e a rapidez da produção tornam a luta contra a desinformação e as manipulações ideológicas um desafio ainda maior⁷.
O (des)controle de informação produzido pelas inteligências artificiais tem consequências significativas para a sociedade. Uma das consequências é a perda de confiança, ou seja, quando a distinção entre o real e o falso se torna praticamente impossível. Ademais, as repercussões políticas e econômicas são relevantes, pois a manipulação de informações pode impactar eleições, desestabilizar governos e até mesmo impactar os mercados financeiros, gerando efeitos a nível mundial⁸. É de se explicitar que uma simples especulação digital pode causar efeitos danosos, por exemplo, ao sistema bancário, causando pânico e originando uma corrida bancária. De modo semelhante, as notícias falsas podem levar ao questionamento de um processo eleitoral, causando instabilidade política e social. Tais desafios se tornam ainda mais complexos pela ausência de regulamentações sólidas que se mantenham atualizadas às novas formas de interações sociais.
Os sistemas tecnológicos de informação e comunicação estão em constante processo disruptivo, de modo que se apresenta, aqui, um desafio real às instituições políticas sobre como e o que controlar na internet. A verdade é que tais debates se tornam acalorados sempre que se põe em xeque a “liberdade de expressão” dos cidadãos. Podemos observar que, no limiar desse processo, os donos dessas grandes corporações tecnológicas sempre estão na vanguarda da defesa da dita “neutralidade” do discurso digital.
Afinal, a quem interessa a (des)regulamentação? Por mais convincente que seja a suposta independência das máquinas, a centralidade humana deve ser enfatizada, de forma que as IAs, os bots e os algoritmos sejam, tão somente, produtos do trabalho humano com um fim determinado. Na aparência de seres autônomos e independentes, apenas reproduzem as determinações materiais realizadas pelos próprios homens. Sob o véu da aparente neutralidade desses mecanismos, podemos observar os interesses produtivos, financeiros, comerciais e ideológicos daqueles que os comandam.
Imagine que, agora, você pode abrir a porta do quarto chinês. É perceptível, então, que mesmo que as máquinas possam gerar respostas eficientes para seus questionamentos, o fazem somente na medida em que se constituem em uma base real concreta. Portanto, não podem ser dissociadas do processo em que o homem modifica a natureza e, ao mesmo tempo, torna-se humano.
Rafael Barbosa Saldanha
Kayky Barcelos de Oliveira
REFERÊNCIAS
¹ FILHO, Maxwell Morais de Lima. O Experimento de Pensamento do Quarto Chinês: a Crítica de John Searle à Inteligência Artificial Forte. ARGUMENTOS - Revista de Filosofia, n. 3. Disponível em: https://philpapers.org/rec/FILOED-2. Acesso em: 03 dez. 2024.
² PEREIRA, João Junior Bonfim Joia. O desenvolvimento da consciência humana segundo a concepção do materialismo-histórico. Publicatio. Disponível em: https://revistas.uepg.br/index.php/humanas/article/view/3125. Acesso em: 03 dez. 2024.
³ MARX, Karl. O processo de trabalho e o processo de valorização. In: O Capital. Boitempo, 2023. p. 255-276.
⁴ PEREIRA, João Junior Bonfim Joia. O desenvolvimento da consciência humana segundo a concepção do materialismo-histórico. Publicatio. Disponível em: https://revistas.uepg.br/index.php/humanas/article/view/3125. Acesso em: 03 dez. 2024.
⁵ MARX, Karl; ENGELS, Friedrich. A ideologia alemã: crítica da mais recente filosofia alemã em seus representantes Feuerbach, B. Bauer e Stirner, e do socialismo alemão em seus diferentes profetas, 1845-1846. São Paulo: Boitempo, 2007.
⁶ Deepfake é uma técnica de Inteligência Artificial (IA) para criar ou manipular conteúdo audiovisual de forma realista.
⁷ PACHECO, Denis. Inteligências artificiais entram em campo contra e a favor da desinformação. Jornal USP, 2023. Disponível em: https://jornal.usp.br/atualidades/inteligencias-artificiais-entram-em-campo-contra-e-a-favor-da-desinformacao/. Acesso em: 05 dez. 2024.
⁸ MARR, Bernard. Os 15 maiores riscos da inteligência artificial. Forbes, 2023. Disponível em: https://forbes.com.br/forbes-tech/2023/06/os-15-maiores-riscos-da-inteligencia-artificial/. Acesso em: 05 dez. 2024.
Comments