O surto tecnológico desencadeado pela indústria da IA vai revolucionar a produção de ideologia nas sociedades centrais do sistema mundial
Tomasz Konicz, 10.03.2024
Há cerca de um ano, um artista de 3D queixou-se na plataforma de notícias Reddit de ter „perdido tudo“ o que constituía o seu trabalho depois de um software de inteligência artificial (IA) ter entrado na sua empresa. O artista gráfico, cujas experiências foram publicadas no blogue suíço GNU/Linux,1 trabalhava numa pequena empresa de jogos com dez empregados que produz jogos para telemóveis. Com a utilização do serviço de síntese de imagem de IA Midjourney V5, ele deixou de se considerar um artista criativo, pois agora só se ocupava em retrabalhar os modelos gerados pela IA.
A empresa não tinha outra escolha, uma vez que os modelos e as personagens para jogos móveis podem agora ser criados em dois ou três dias, ao passo que este trabalho costumava demorar várias semanas. No seu trabalho, ele queria „fazer, modelar, criar no espaço 3D. Com a minha própria criatividade. Com as minhas próprias mãos“, lamenta o designer gráfico, mas agora só tem de retrabalhar modelos que são „o resultado de conteúdos recolhidos da Internet“, „de artistas a quem nada foi pedido“.
Esta é uma das bases do boom da IA dos últimos anos: a indústria está a analisar toda a Internet, recolhendo quantidades gigantescas de dados numa zona cinzenta do ponto de vista jurídico, para treinar os seus modelos com esses dados. Milhares de milhões de imagens, textos, vídeos e músicas constituem o material sobre o qual as redes neuronais têm de ser meticulosamente treinadas. Os programas cada vez mais complexos da indústria da IA não só consomem grandes quantidades de capacidade de computação e, por conseguinte, de energia (mesmo o sistema de reconhecimento de voz da IA Whisper só pode ser utilizado localmente com o apoio de GPU, utilizando CUDA),2 como também precisam de pessoas para os treinar na sua fase de arranque.
Regresso ao século XVIII com a IA
O reconhecimento de padrões na fase de aprendizagem – quer se trate de linguagem, imagens, música ou texto – continua a ser efectuado por „trabalho manual“, por trabalhadores baratos do Sul global. O absurdo da fase de constituição da indústria da IA é que ela destrói os poucos empregos „criativos“ criados pela indústria cultural do capitalismo tardio, ao mesmo tempo que cria temporariamente um exército de trabalhadores precários que primeiro têm de ensinar as máquinas a „aprender“.3 Os grandes conjuntos de dados têm de ser percebidos por seres humanos, num trabalho sem sentido, com „etiquetas“ (semelhantes aos captchas que são frequentemente solicitados quando se faz o login), a fim de alimentar os sistemas de IA com material significativo.
E este trabalho manual para a indústria da IA do século XXI está a ser feito em termos que eram comuns no século XVIII, durante o nascimento do sistema mundial capitalista, encharcado de sangue e sujidade. A indústria global de recolha e análise de dados, que produz o material empírico utilizável pelas redes neuronais de IA, paga os salários mais baixos e é conhecida pelas condições de trabalho mais precárias. O líder de mercado australiano Appen, que processa material para a Amazon, o Facebook, a Google e a Microsoft, pode recorrer a cerca de um milhão de trabalhadores precários nas Filipinas, na América do Sul e em África, que – quando as coisas correm bem – recebem salários mensais inferiores a 300 dólares americanos. Esta indústria, cujo volume de negócios deverá passar de 2,2 mil milhões de dólares em 2022 para 17 mil milhões de dólares em 2023, pode deslocalizar-se ainda mais rapidamente do que a indústria têxtil, que também se baseia em salários de miséria, uma vez que não é necessário construir fábricas ou instalações de produção. Estes trabalhadores precários são frequentemente explorados no trabalho ao domicílio – como no sistema de trabalho ao domicílio dos primórdios do capitalismo.
A ferramenta perfeita para a indústria cultural
As pessoas têm de dizer à máquina que padrões tem cada etiqueta, para que o seu reconhecimento de padrões possa funcionar cada vez melhor. Com base numa gigantesca montanha de dados que foram fornecidos com „etiquetas“ correspondentes por trabalhadores precários, os sistemas de IA geram as suas imagens e modelos fazendo corresponder a consulta do utilizador com o material etiquetado e oferecendo as suas variações como out-put. Este é todo o segredo da ridícula „arte da IA“ que está actualmente a transformar o conceito de arte numa frase vazia. Nada de novo pode surgir daqui; não se trata de um acto criativo e estético que se baseie em qualquer tipo de ideia que teria surgido de uma análise das facetas da existência humana – que, no sentido mais lato, é o que a arte faz.
Mas o que os sistemas de conteúdo de IA são cada vez mais capazes de alcançar são variações do que existe. O material de dados com as etiquetas correspondentes pode ser cuspido em combinações sempre novas: novas personagens, novos monstros, novas imagens, novos enredos que apenas modificam o que lhes foi dado sem se transformarem numa qualidade diferente. E é precisamente isto que torna a IA tão valiosa para a indústria cultural do capitalismo tardio.
Num artigo de opinião para o New York Times, o linguista de esquerda Noam Chomsky descreveu os limites fundamentais dos actuais sistemas de aprendizagem automática, como o ChatGPT, que podem analisar „quantidades gigantescas de dados“ em resposta a perguntas para gerar „resultados estatisticamente prováveis“ cada vez melhores, criando a impressão de „linguagem e pensamento semelhantes aos humanos“.4 No entanto, há uma diferença fundamental entre a mente humana e estas „máquinas pesadas de reconhecimento de padrões estatísticos que devoram centenas de terabytes de dados“ para dar a „resposta mais provável“ numa conversa ou num inquérito científico, fazendo „correlações grosseiras entre pontos de dados“.
A actual geração de sistemas de IA não é capaz de tirar conclusões baseadas em „mecanismos causais ou leis físicas“ da mesma forma que o raciocínio humano, um „sistema surpreendentemente eficiente e até elegante“ que é capaz de „criar explicações“ com „uma pequena quantidade de informação“. ChatGPT e companhia, como máquinas de reconhecimento de padrões estatísticos altamente sofisticados, por outro lado, não são capazes de distinguir fundamentalmente entre „o possível e o impossível“. Mesmo as respostas e previsões científicas correctas são semelhantes à „pseudociência“, uma vez que não se baseiam em explicações científicas, mas em probabilidades estatísticas. Segundo Chomsky, os sistemas de IA são, portanto, incapazes de tirar conclusões reais ou de exercer uma „crítica criativa“ e estão presos numa fase „pré-humana“ do desenvolvimento cognitivo.
No entanto, todas estas objecções do linguista não têm qualquer relevância para a produção de mercadorias pela indústria cultural. O princípio básico da indústria cultural é a variação e o reflexo multiplicado por mil da superfície da realidade. São variações do existente que confirmam o existente através da sua permanente repetição. Tudo tem de mudar na superfície para que basicamente tudo possa ficar como está. Quer se trate de ficção científica ou de fantasia, de jogos de computador AAA ou de produções de Hollywood de alta gama, os consumidores destes produtos culturais estão, de facto, a viver apenas através da sociedade fantasiada em que estes foram produzidos – e em que eles próprios vivem. A indústria cultural é como uma máquina de conteúdos que gira em torno de si própria, cuspindo constantemente um mantra no seu subtexto que mata de forma fiável todos os pensamentos de alternativas: é o que é. É constantemente necessário novo material estético para este triste reflexo da superfície da realidade em variações sempre novas.
Jogos e IA
Entremos na indústria da IA. Os sistemas de IA estão virtualmente predestinados a gerar novas formas e novos materiais para a indústria cultural. Modelos, personagens, imagens ou guiões podem ser entregues com o toque de um botão, numa fracção do tempo anteriormente necessário. A grande vantagem competitiva da IA reside precisamente no facto de lhe faltarem todas estas capacidades criativas, reflexivas e críticas que são inerentes aos fornecedores de conteúdos humanos. O sistema varia os dados acumulados em terabytes e rotulados em conformidade, a fim de produzir „novos“ conteúdos para filmes, livros, banda desenhada e jogos. Pela primeira vez, os sistemas de conteúdos de IA permitem à indústria cultural criar produtos puros, livres de qualquer subtexto ou subversão. Isto significa que o capital também vem a si na superestrutura cultural.
Até agora, este subtexto social estava sempre inevitavelmente presente. Simplesmente porque eram produzidos por membros da sociedade através do trabalho assalariado. As monstruosidades que aparecem nos jogos de terror,5 por exemplo, levantam questões simples sobre as condições – também no que diz respeito às relações laborais na indústria dos videojogos – que as produzem. Não há mais nada para decifrar nos conteúdos gerados por máquinas – são puramente variações algorítmicas. Os bens culturais gerados pela „inteligência das máquinas“ representam, assim, um triunfo ideológico final do capital na fase da sua agonia histórica mundial.
Especialmente na indústria dos videojogos, que há muito se tornou o sector dominante da indústria cultural, as possibilidades de conteúdos gerados por máquinas parecem quase ilimitadas. A Valve, operadora da maior plataforma de jogos para PC, anunciou em meados de janeiro de 2024 novas regras que permitirão que a „grande maioria“ dos jogos com IA seja colocada à venda no mercado digital Steam. As novas regras para os conteúdos de IA também tornam claro o que é actualmente possível na indústria. Os editores de jogos devem indicar se o seu jogo contém gráficos e objectos gerados por máquinas, efeitos sonoros e faixas de música, ou mesmo código de programa. Além disso, deve ser indicado se os jogos utilizam sistemas de IA durante o processo de jogo que geram conteúdos „em directo“, em tempo real.
Um pioneiro no sector dos jogos com IA foi a aventura de texto da AI-Dungeon,6 que foi lançada em 2021 e é, de facto, um simples jogo de diálogo com um sistema de conversação, em que as deficiências da inteligência artificial ainda têm de ser ocultadas por um cenário de jogo adequado. O problema habitual do „esquecimento catastrófico“ por parte da IA,7 que anula repetidamente o enredo do jogo, é encoberto pelo objectivo do jogo, que consiste em o jogador escapar de um multiverso no qual se encontra preso. A Dreamino pretende ir mais longe,8 criando enredos, gráficos e vozes em tempo real através de sistemas de conteúdos que reagem às acções do jogador. A aventura de texto deverá ser transformada numa aventura gráfica com voz e gráficos. O jogo gerará dinamicamente texto, gráficos, enredos e voz em resposta às acções do jogador.
Estão actualmente em desenvolvimento outros jogos com gráficos, modelos e efeitos sonoros gerados quase inteiramente por sistemas de conteúdos de IA. Os gráficos do jogo de aventura de apontar e clicar Zarathustra9 foram em grande parte gerados pelo sistema de conteúdos DALL-E 310 , ao passo que a voz – o maior factor de custo para projectos independentes como este – foi criada pelo sistema de conversão de texto em voz Elevenlabs.11 O designer de jogos Jussi Kemppainen também já desenvolveu o protótipo de um jogo de aventura cyberpunk cujos cenários e personagens foram gerados por sistemas de IA.12 No entanto, numa publicação no seu blogue, o designer deixou claro que o conteúdo gerado pela máquina ainda requer um pós-processamento extensivo (efeitos de iluminação, sombras).13 Mas está a ocorrer aqui uma reviravolta qualitativa no processo de produção da indústria cultural, em que os papéis da máquina e do ser humano são invertidos: O ser humano limita-se agora a corrigir os conteúdos que a máquina produz. Além disso, as transições entre o conteúdo da IA e o trabalho manual na indústria dos jogos são fluidas.
Ainda são os pobres designers independentes e os produtores de mercadorias-B na indústria dos jogos, como o fabricante de jogos para telemóveis mencionado no início, que estão a confiar nos conteúdos de IA, mas, com o tempo, esta tendência irá ganhar terreno devido às potenciais poupanças e às novas possibilidades. O segmento extremamente popular dos chamados jogos-Roguelike, como Dead Cells, Caves of Qud,14 Teleglitch,15 Risk of Rain-2, Jupiter Hell, Darkest Dungeon-2, Undermine ou Hades, é susceptível de funcionar como porta de entrada com efeito de massas.
Este género de jogo já prospera com o facto de cada novo jogo ser gerado de novo por geradores e algoritmos aleatórios, de modo que a estrutura dos níveis, os objectos do jogo e a jogabilidade variam sempre. O problema é que os criadores de jogos têm de criar um grande número de objectos de jogo (armas, armaduras, equipamento, feitiços etc.) para criar a ilusão de sequências de jogo constantemente novas. As vantagens do conteúdo gerado em massa por máquinas são óbvias logo que a tecnologia esteja razoavelmente madura. Milhões, e não milhares, de objectos poderiam ser incorporados em Rougelikes, mesmo por pequenos criadores independentes. Também poderia ser possível gerar este conteúdo em tempo real – mesmo com inimigos que mudariam a cada jogo. Até à data, as suas variações têm sido muito limitadas a algumas dezenas de tipos de inimigos, devido à quantidade de trabalho envolvido.
Hollywood, direitos de autor e IA
Ao contrário da indústria dos jogos, que sempre trabalhou com conteúdos digitais, a produção cinematográfica parecia estar a salvo de ser dominada por sistemas de IA, pelo menos em termos de conteúdos – apesar da utilização maciça de tecnologia digital e de gráficos gerados por computador. Quem é que quer admirar actores com seis dedos, vindos da incubadora de desajeitadas máquinas de reconhecimento de padrões? No entanto, a situação em Hollywood parece estar a mudar radicalmente, uma vez que os sistemas de máquinas, cada vez mais aperfeiçoados, irão provavelmente assumir uma grande parte do processo de produção neste sector da indústria cultural.
A prolongada greve dos argumentistas de 2023 já foi ensombrada pelas possibilidades de enredos gerados por máquinas, que podem facilmente imitar os enredos dos filmes de grande produção que a indústria produz. A greve terminou com cláusulas que só permitem à indústria da IA utilizar o trabalho dos argumentistas como material de dados para o treino da IA com o seu consentimento.16 No entanto, tais acordos, cheios de lacunas,17 fazem lembrar as tentativas fúteis das extintas corporações de artesãos para se protegerem da livre concorrência no final da Idade Média. Durante a greve, a Netflix fez um anúncio procurando peritos em IA para ajudar a criar „grandes conteúdos“ por uma retribuição de 900 000 dólares.18
Hollywood também está a enfrentar um desenvolvimento disruptivo que irá custar muitos postos de trabalho, alertou o actor e produtor Tyler Perry numa entrevista ao Hollywood Reporter.19 Perry estava prestes a investir 800 milhões de dólares na expansão do seu estúdio de cinema, no âmbito do qual iriam ser construídos 12 novos palcos de cinema num terreno de 133 hectares perto de Atlanta. No entanto, este enorme investimento foi agora suspenso depois de o produtor ter assistido a uma demonstração do sistema de IA Sora da OpenAI, que converte texto em imagens de vídeo. Os investimentos em estúdios de cinema estão simplesmente ameaçados de obsolescência dentro de alguns anos.
Os presentes ficaram „chocados“ com o desempenho do sistema de conteúdos. Segundo Perry, as deslocações aos locais de filmagem, a utilização de equipamento de palco e os estúdios serão supérfluos no futuro. Tudo está à distância de uma introdução de texto para ser realizado:
„Se eu quiser estar na neve do Colorado, é um texto. Se quiser criar uma cena na lua, é texto, e a IA gera-o como se não fosse nada. Se eu quiser ter duas pessoas numa sala nas montanhas, já não preciso de construir um cenário de filme nas montanhas, … posso sentar-me no meu escritório e fazê-lo no computador, o que é realmente chocante para mim“.
Até agora, a IA tem desempenhado um papel secundário na indústria, diz Perry, que, enquanto actor, tolerava retoques digitais que o faziam parecer mais velho para „poupar horas de maquilhagem“. Mas quando viu a apresentação do sistema de IA, ficou imediatamente preocupado com todos os assalariados que serão afectados por esta tecnologia disruptiva. Isto não afecta apenas electricistas, transportadores, designers de som ou editores, mas também actores. A revolução da IA vai afectar „todos os cantos da nossa indústria“, tudo „está agora no ar“, porque a tecnologia está „a avançar tão depressa“, lamenta o produtor, que faz um apelo impotente ao Estado: „Tem de haver algum tipo de regulamentação estatal para nos proteger. Se não, não vejo como é que vamos sobreviver“.
As possibilidades dos sistemas de conteúdos automáticos atingiram assim a maturidade da produção. Conseguem gerar vídeos tão bem a partir das montanhas de dados de que dispõem que até os produtores de Hollywood, com milhares de milhões de dólares, estão a entrar em pânico e a pedir a intervenção do Estado. Tendo em conta os produtos estandardizados, os enredos habituais e banais e os fundamentos básicos da indústria cultural acima descritos, que apenas reproduzem a superfície da realidade para a confirmar, este pânico dos produtores de conteúdos, que se consideram sempre „artistas“, é muito justificado. É precisamente porque a IA não produz nada de verdadeiramente novo e apenas reproduz o dado em novas variações que ela é superior ao trabalhador assalariado da indústria cultural. O ser humano é um factor de incerteza potencialmente subversivo na „produção de conteúdos“, que será eliminado para poupar custos e racionalizar o processo de produção. Precisamente devido à crise global do capital em curso, é uma vantagem essencial automatizar em grande medida a produção de mercadorias da indústria cultural.
E não são principalmente as greves em Hollywood ou as iniciativas legislativas em Washington que estão a impedir o avanço da indústria da IA. É o capitalismo que está a tropeçar em si próprio, sob a forma de direitos de autor. As empresas de TI que analisaram grandes partes da Internet para acumular as montanhas de dados de que precisavam para treinar os seus sistemas de IA estavam a operar numa zona cinzenta do ponto de vista jurídico. Simplesmente foram mais rápidas do que os legisladores. Em muitos casos, a batalha jurídica para determinar os limites da utilização legal da produção de conteúdos por máquinas ainda está a aproximar-se da indústria.20 Além disso, os tribunais dos EUA já decidiram claramente que os conteúdos de pura IA não podem ser protegidos por direitos de autor.
Uma longa série de disputas legais está a desenhar-se no horizonte, em que os actores da „velha“ indústria cultural baseada no trabalho humano estão a tomar medidas contra as criações da indústria da IA, uma vez que o seu conteúdo foi formado a partir da „matéria-prima“ dos seus bens culturais digitalizados. Até agora, há duas formas de as empresas planearem lidar com esta incerteza jurídica. A Valve deu a todos os utilizadores da plataforma de jogos Steam a opção de denunciar imediatamente conteúdos „ilegais“ que violem os direitos de autor. Isto delega a responsabilidade nos fabricantes de jogos com IA. A Microsoft, por outro lado, está a transformar a insegurança jurídica num negócio: todos os clientes que se envolvam em litígios legais através da utilização das suas próprias ferramentas de IA receberão proteção jurídica do Grupo. Isto dá à Microsoft uma importante vantagem competitiva no mercado dos sistemas de IA, uma vez que actua também como um factor de dissuasão. Quem quer ir a tribunal contra uma das maiores empresas do mundo?
No entanto, estas batalhas jurídicas e políticas – em que os grupos de pressão também lutarão pela forma concreta do quadro jurídico – são susceptíveis de atrasar o sucesso dos „conteúdos“ gerados por máquinas na esfera da indústria cultural, na melhor das hipóteses. Com a plena implementação da IA no cinema, nos jogos de vídeo, na música e na escrita – a mercadoria-B do jornalismo, o repórter fotográfico, já está a ser substituído pela IA nas tarefas quotidianas21 –, o capital vai finalmente impor-se também na superestrutura cultural. A abstração vazia do valor produzirá formas puras sem qualquer profundidade, que nem sequer podem ser o que fingem ser no exterior.
Para onde é que tudo isto vai? Em última análise, produtores como Tyler Perry ou criadores de jogos como Todd Howard também se tornarão em grande parte supérfluos, à medida que os sistemas de IA se forem entrelaçando e sintetizando com os serviços de rede estabelecidos, que há muito encerraram os utilizadores da Internet numa gaiola dourada de algoritmos. É provável que os bens altamente personalizados e diariamente gerados de novo pela indústria cultural da IA sejam para os poucos assalariados privilegiados que ainda poderão pagar a ideologia no capitalismo catastrófico do século XXI. O jogo de vídeo personalizado, o filme personalizado que é gerado depois do trabalho com base no rasto de dados que uma pessoa já deixa todos os dias na Internet, deverá ser viável a médio prazo. É provável que os diferentes sistemas de IA entrem em concorrência para fornecer ao cliente conteúdos mediáticos que ele nem sequer sabe que quer.
O meu trabalho jornalístico é financiado em grande parte por donativos. Se gosta dos meus textos, pode contribuir – através do Patreon, do Substack ou por transferência bancária direta após consulta por e-mail:
https://www.patreon.com/user?u=57464083
1 https://gnulinux.ch/ich-habe-alles-verloren
2 https://github.com/mkiol/dsnote
3 https://www.wired.co.uk/article/low-paid-workers-are-training-ai-models-for-tech-giants
4 https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html?searchResultPosition=1
5 https://doomwiki.org/wiki/Models
6 https://store.steampowered.com/app/1519310/AI_Dungeon/
7 https://hessian.ai/de/warum-neuronale-netze-katastrophal-vergesslich-sind/
8 https://store.steampowered.com/app/2795060/DREAMIO_AIPowered_Adventures/
9 https://www.gamingonlinux.com/2023/11/point-and-click-adventure-zarathustra-uses-ai-art-and-ai-voices/
10 https://openai.com/dall-e-3
11 https://elevenlabs.io/
12 https://80.lv/articles/this-adventure-game-prototype-has-ai-generated-graphics/
13 https://www.traffickinggame.com/ai-assisted-graphics/
14 https://www.youtube.com/watch?v=o_PBfLbd3zw
15 https://www.youtube.com/watch?v=nJTdwbutW9k
16 https://www.wired.com/story/hollywood-actors-strike-ai-future-distruption/
17 https://www.wired.com/story/writers-strike-hollywood-ai-protections/
18 https://www.spiegel.de/netzwelt/web/netflix-bietet-ki-experten-900-000-dollar-streikende-schauspieler-empoert-a-7bac7f4a-782a-42d3-bef3-1c3f14cc8392
19 https://www.hollywoodreporter.com/business/business-news/tyler-perry-ai-alarm-1235833276/
20 https://hbr.org/2023/04/generative-ai-has-an-intellectual-property-problem
21 https://www.forschung-und-wissen.de/nachrichten/technik/bild-zeitung-ersetzt-redakteure-durch-kuenstliche-intelligenz-13377679
Original “KI und Kulturindustrie” in konicz.info, 05.03.2024. Este texto faz parte do e-book „Krisenideologie. Wahn und Wirklichkeit spätkapitalistischer Krisenverarbeitung [Ideologia de Crise. Ilusão e realidade no processamento da crise do capitalismo tardio]“, publicado no início de março. Tradução de Boaventura Antunes
KI und Kulturindustrie