Novo livro repensa criticamente os potenciais e as funções da tecnologia e da Inteligência Artificial

Publicação é resultado do evento internacional Afetando Tecnologias, Maquinando Inteligências, realizado no Instituto de Estudos Avançados (IEA USP) e no Grupo de Arte e Inteligência Artificial (GAIA) da Universidade de São Paulo, onde pesquisadores, artistas e ativistas se reuniram para discutir tecnologia para além do Norte Global. Um lançamento online, com presença dos autores, acontecerá no dia 5 de Abril, 14:00 (São Paulo) pelo Zoom.

Em fevereiro de 2020, um mês antes do início da pandemia no Brasil, um grupo de cerca de 40 pesquisadores, artistas e ativistas se encontraram durante três dias de conferências, workshops e muito trabalho coletivo na conferência internacional Afetando Tecnologias, Maquinando Inteligências, realizada pelo Center for Arts, Design and Social Research (CAD+SR) no Instituto de Estudos Avançados (IEA) e no Grupo de Arte e Inteligência Artificial (GAIA), ambos na Universidade de São Paulo. Agora, com lançamento on-line previsto para 22 de Março de 2021, as ações e reflexões deste grupo diverso se tornaram uma publicação impressa e on-line, com projeto gráfico assinado pela designer Flávia Castanheira e webdesigner Astronauta Mecânico.

Afetando Tecnologias, Maquinando Inteligências conta com textos e exercícios experimentais realizados por cerca de 20 pesquisadores, todos autores de pesquisas e práticas críticas sobre tecnologia e Inteligência Artificial a partir de perspectivas do Sul Global, feminista, decolonial, ou antirracista. 

Como apontam os organizadores do livro, Afetando Tecnologias, Maquinando Inteligências foi pensado para ser, concomitantemente, um registro histórico de um poderoso encontro entre pesquisadores internacionais que pensam o campo tecnológico sob um ponto de vista crítico; e um material em português e em inglês que supra parte da falta de bibliografia sobre o tema para além do discurso hegemônico do Norte Global. “Muitos projetos e mudanças estão ocorrendo no campo da tecnologia e da IA em lugares como Brasil, América Latina e o continente Africano. Muitas vezes, por questões estruturais, essas pesquisas nem sempre são distribuídas para além de suas comunidades. Este livro quer ajudar a diminuir essa ausência, e criar pontes”, explica um dos organizadores, o pesquisador de mídias digitais Gabriel Pereira.

A primeira parte do livro (Imaginários e Contracorrentes) preocupa-se em desvendar os clichês por trás dos sistemas computacionais contemporâneos. Para isso, traz investigações de Katherine Ye (Carnegie Mellon University) sobre novas contraculturas computacionais ao desconstruir uma frase vinda do Vale do Silício. Na mesma seção inicial estão também as experiências de projetos colaborativos que pensam criticamente sobre o potencial da técnica e da pedagogia nos dias de hoje conduzidos por Dalida María Benfield (CAD+SR); a proposta necessária de Sabelo Mhlambi (Berkman-Klein Center and Carr Center for Human Rights, Universidade de Harvard) de superar a noção ocidental restritiva de racionalidade a partir do uso de epistemologias e ontologias da África Subsaariana; e uma prévia da pesquisa de Rodrigo Ochigame (MIT) sobre buscadores on-line divergentes que se utiliza de algoritmos alternativos para priorizar perspectivas divergentes, e não apenas aquilo que é mais popular na internet.

A parte 2 da publicação (Algoritmos do Trabalho) concentra pesquisas que evidenciam a relação entre automação mecânica e trabalho humano. Estão nesta seção discussões sobre o projeto on-line Exch w/ Turkers, dos integrantes do GAIA Bruno Moreschi, Guilherme Falcão e Bernardo Fontes, que permitiu conhecer alguns dos trabalhadores que treinam remotamente a Inteligência Artificial a partir da plataforma Amazon Mechanical Turk. Também apresenta um panorama crítico de Rafael Grohmann (Unisinos e DigiLabour) sobre a questão do trabalho no atual contexto interconectado; além de texto de Amanda Jurno (Universidade Federal de Minas Gerais) sobre as mediações humana/jornalística e a algorítmica.

a parte 3 (Imagem e Inteligências) preocupa-se em pensar sobre como as máquinas vêem o mundo. Giselle Beiguelman (Faculdade de Arquitetura e Urbanismo da USP) investiga os deepfakes e os perigos de se construir uma cultura visual a partir da lógica da eugenia e de pouca diversidade. Gabriel Pereira (Universidade de Aarhus) discute o papel da visão computacional no mundo como uma forma de ver-entender, ao mesmo tempo que pensa em alternativas possíveis. Didiana Prata (também da FAU USP) encerra a seção apresentando o Calendário de imagens dissidentes, que cria novas formas de visualizar a política no Brasil a partir de dados das redes sociais.

A última parte (Comunidade e Solidariedade) reúne três pesquisadores que trazem questões essenciais sobre comunidade, solidariedade e pedagogia na produção tecnológica. Para isso, Jennifer Lee (ACLU of Washington) apresenta uma história sobre a tecnologia e o poder nos EUA e, em seguida, discute projetos liderados pela União Americana de Liberdades Civis de Washington que focam na regulamentação de tecnologias pelas comunidades mais afetadas. Em seguida, Taís Oliveira (Universidade Federal do ABC) foca no afro-empreendedorismo no Brasil, propondo possibilidades de criação de novas economias baseadas em solidariedade e identidade. Por fim, Silvana Bahia mostra seu trabalho com o makerspace do Olabi/Preta Lab e os diversos projetos apoiados por esta organização no capítulo intitulado “Por mais diversidade na tecnologia”.

A publicação é também espaço para experiências mais artísticas como um poema de André Lemos transformado pelo uso de um software criado por Katherine Ye; e um texto experimental de Sylvain Souklaye que encerra a publicação ao se utilizar de pedaços das trocas de emails dos organizadores do livro. 

O evento e o livro Afetando Tecnologias, Maquinando Inteligências é um projeto do Center for Arts, Design and Social Research (CAD+SR), que reúne pesquisadores diversos para discutirem e trabalharem criticamente o campo das tecnologias, das artes e do ativismo. Dirigidos por Dalida María Benfield e Christopher Bratton, o CAD+SR baseia-se no princípio de que o trabalho criativo é essencial para todas as culturas humanas e é a base para a construção de sociedades globais sustentáveis e interdependentes. Os programas principais do CAD+SR incluem bolsas e residências para artistas, designers, cientistas, tecnólogos, escritores e pesquisadores. A publicação também teve o apoio do Grupo de Arte e Inteligência Artificial (GAIA), parte integrante do Centro de Inteligência Artificial (C4AI) do Inova USP, que reúne artista, engenheiros, programadores e ativistas em projetos que pensam a tecnologia a partir de uma perspectiva crítica e experimental. Já as apresentações dos pesquisadores tiveram apoio do Instituto de Estudos Avançados da USP.

Discurso de ódio e a violência política contra mulheres negras

O Instituto Marielle Franco, criado por familiares da vereadora carioca após seu brutal assassinato, lançou recentemente a pesquisa A violência política contra mulheres negras. O estudo inédito realizado com candidatas negras das eleições municipais de 2020 teve, ao todo, 142 participantes de 21 estados de todas as regiões do Brasil e de 16 partidos. Importante pontuar que todas elas estavam comprometidas com a Agenda Marielle Franco, os compromissos com práticas e pautas antirracistas, feministas e populares a partir do legado de Marielle.

A pesquisa aponta as mais recorrentes violências sofridas por mulheres negras no período eleitoral de 2020. A violência virtual foi a mais citada entre as entrevistadas, com 78%. Dentre estas violências virtuais os atos ocorridos são o recebimento de mensagens racistas, machistas, misóginas ou LGBTfóbicas nas redes sociais e por e-mail, invasão e ofensas em reuniões virtuais ou lives, as candidatas foram alvos de desinformação, hackeadas em perfis pessoais nas redes sociais ou em seus dispositivos eletrônicos.

O discurso de ódio é um problema complexo e interdisciplinar com crescimento a cada ano, Trindade (2020) analisou 506 matérias jornalísticas que continham o termo “discurso de ódio” entre os anos 1993 e 2018. O pesquisou constatou que é a partir de 2012 em que ocorre mais matérias com o termo, com 92,6% citações até 2018. Para Trindade, o fato se relaciona com a expansão das plataformas de mídias sociais e reforça a urgência do debate sobre o tema no contexto digital global.

Para o autor, há uma ‘nova ordem mundial’ a partir de 2012, onde discurso de ódio tornou-se parte do cenário digital global. No Brasil se destaca o discurso de ódio de cunho racista contra pessoas negras, principalmente em razão das plataformas de redes sociais representarem a arena contemporânea para a construção, disseminação e reforço de valores distorcidos, ou seja, outros mecanismos de perpetuação das desigualdades sociais e raciais. Trindade avalia que esse discurso de ódio é mais contundente quando se trata de mulheres negras que ascendem socialmente ou passam a ocupar ‘espaços de privilégio e poder’, suas conquistas são ridicularizadas e desqualificadas.

Para Ruha Benjamin visões de desenvolvimento são construídas a partir de formas de subjugação social e política que constantemente atualizam suas técnicas de dominação. Para a pesquisadora:

A tecnologia não é apenas uma metáfora racial, mas um dos muitos meios pelos quais as formas anteriores de desigualdade são atualizadas. Por esse motivo, é vital que os pesquisadores façam um balanço rotineiro das ferramentas conceituais que usamos para entender a dominação racial (2020, p.19).

Acesse e baixe o relatório completo aqui. 

Referências:

BENJAMNI, Ruha. Retomando nosso fôlego: estudos de Ciência e Tecnologia, Teoria Racial Crítica e a imaginação carcerária. In SILVA, Tarcízio (org). Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiapóricos. LiteraRua: São Paulo, 2020.

TRINDADE, Luiz Valério P. Mídias Sociais e a naturalização de discursos racistas no Brasil. In SILVA, Tarcízio (org). Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiapóricos. LiteraRua: São Paulo, 2020.

10 artigos sobre raça, comunicação, tecnologia e política

Apesar das incertezas de 2020, a publicação de artigos científicos foi uma das poucas instituições funcionando corretamente, rs. Segue abaixo uma lista com 10 artigos sobre raça, comunicação, tecnologia e política.

1: Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina de Tarcízio Silva.

2: Geopolitics of Power and Knowledge in the COVID-19 Pandemic: Decolonial Reflections on a Global Crisis de Sabelo J. Ndlovu-Gatsheni.

3: Raça e Racismo nos estudos em Economia Política da Comunicação: da resistência à construção de uma agenda de pesquisa de Ivonete Silva Lopes e Paulo Victor Melo.

4: Elites tecnológicas, meritocracia e mitos pós raciais no Vale do Silício uma tradução de Safiya Umoja Noble e Sarah T. Roberts.

5: From Rationality to Relationality: Ubuntu as an Ethical and Human Rights Framework for Artificial Intelligence Governance de Sabelo Mhlambi.

6: O velho Cadillac: raça, nação e supremacia branca na era Trump do Professor Flávio Thales Ribeiro Francisco.

7: O racial é propriamente comunicacional de Pâmela Guimarães-Silva.

8: As funções sociais do espaço de ensino para estudantes negros bolsistas em escolas particulares: uma análise de Malhação: Viva a diferença de Olívia Pilar.

9: Gênero e raça na comunicação de marcas: A dimensão política do consumo sob uma perspectiva interseccional de Pablo Moreno Fernandes Viana e Dalila Maria Musa Belmiro.

10: Nós, as economistas políticas da comunicação – um conto de sub-representações e apagamentos em busca de um final feliz no reino encantado da EPC brasileira de Sil Bahia, Marcia M. S. Gonçalves, Janaine Aires, Chalini Barros, Suzy dos Santos e Luanda Schramm.


Extra: Negras in tech: apropriação de tecnologias por mulheres negras como estratégias de resistência de Dulcilei Lima e Taís Oliveira.

Identificando notícias falsas e promovendo uma comunicação cidadã

A oficina “Identificando notícias falsas e promovendo uma comunicação cidadã” esteve entre as 32 oficinas do ciclo 2020 do Programa Agentes de Governo Aberto da Prefeitura Municipal de São Paulo. A atividade teve como objetivo compartilhar técnicas de checagem dos fatos e despertar no cidadão o seu importante papel na luta contra a disseminação de desinformação e discurso de ódio, além de dar insumo para o desenvolvimento de uma comunicação correta, transparente e cidadã.

Dentre os conteúdos, passamos por aspectos da comunicação e democracia, desinformação e discurso de ódio, o papel das plataformas de mídias sociais e buscadores, checagem dos fatos, contra-narrativas em rede e dicas de checagem na prática.

Passada o período do ciclo, deixo abaixo a apresentação utilizada e uma pasta de referências bibliográficas com mais de 50 artigos, livros e relatórios de institutos de pesquisa com acesso a quem tiver interesse.


Destaques da narrativa: do individual ao coletivo

A primeira tarefa de aquecimento da oficina foi a aplicação do Quiz das Fake News composta por 10 manchetes entre notícias verdadeiras e notícias do Sensacionalista para simular uma fake news (e para não reforçar o espalhamento de desinformação). Cada acerto valia 1 ponto, cerca de 340 pessoas participaram do quiz e o resultado médio ficou entre 5 e 6, como pode ser visto no gráfico abaixo.

Há determinados recortes na condução das reflexões e exemplos, sobretudo a partir da ideia de lugar de negro de Lélia Gonzalez e da concepção de que o discurso e a linguagem também são uma forma de violência. Portanto, alguns dos trabalhos utilizados como referência são:

Debates em torno de aspectos políticos e legislativos também foram abordados, a exemplo do plano de ação da ONU para o enfretamento do discurso de ódio e a discussão da PL das Fake News aqui no Brasil, sobretudo a partir dos apontamentos da Coalizão Direitos na Rede.

Além disso, ferramentas e a educação midiática são evidenciadas como importantes elementos na luta contra a desinformação e o discurso de ódio, como o Redes Cordiais e o Guia para influenciadores digitais nas eleições 2020, realizado em parceria com o InternetLab. Sobre ferramentas, foi disponibilizada a SMAT tool (Social Media Analysis Toolkit) para análise de trends e identificação de possíveis ações de bot e espalhamento de desinformação e o Disinformation Tracker que traz um mapeamento dos debates em torno do tema no continente africano.

Por fim, porém não menos importante, de que maneiras ficar atento e contribuir para a diminuição de compartilhamento de desinformação e discurso de ódio no dia-a-dia:

10 grupos e laboratórios de pesquisa sobre tecnologia, raça, gênero e comunicação

Os grupos e laboratórios de pesquisa são importantes territórios de desenvolvimento de saber, reflexões, produção e difusão acadêmica. Geralmente organizados dentro de temáticas específicas e coordenados por professores especialistas da instituição de ensino onde está alocado o grupo.

Abaixo uma lista com 10 grupos e laboratórios de pesquisa relacionados aos temas tecnologia, raça, gênero e comunicação acompanhado de links de seus respectivos sites, professores coordenadores e materiais produzidos e disponibilizados de forma gratuita, em sua maioria.

1: GIG@ – Grupo de pesquisa em Gênero, Tecnologias Digitais e Cultura

O GIG@, coordenado pela professora Graciela Natansohn, é um grupo de pesquisa associado ao Programa de Pós-Graduação em Comunicação e Cultura Contemporâneas da Faculdade de Comunicação da Universidade Federal da Bahia (PósCom/UFBA) que desenvolve pesquisa na área da interface entre a cultura, a comunicação e as tecnologias digitais. Focaliza nas relações de gênero e em como estas modelam tanto os produtos digitais, como os processos de produção, circulação, uso, consumo e transformação das inovações tecnológicas. Possui duas linhas de pesquisa principais: apropriações tecnológicas e teorias de gênero, Comunicação, representações e mídias digitais.

Conheça aqui as produções acadêmicas e baixe o livro Internet em código feminino: teorias e práticas.

2: Labic – Laboratório de estudos sobre Imagem e Cibercultura

O Labic, cujo coordenadores são os professores Adriana Ilha, Fábio Goveia, Fábio Malini e Patrick Ciarelli, é associado ao Programa de Pós-Graduação em Comunicação e Territorialidades e também ao Programa de Pós-Graduação em Ciência da Computação. O laboratório tem como missão a realização experimental de produtos digitais e a promoção de pesquisas e atividades de extensão relacionados ao impacto da cultura digital nos processos e práticas de comunicação contemporânea.

Alguns dos projetos desenvolvidos pelo Labic são o Cartografar as controvérsias na Internet e O big data dos protestos, conheça as publicações do grupo aqui.

3: LabLivre – Laboratório de Tecnologias Livres

Evento UFABC Aberta (2019) no WikLab

O LabLivre, da Universidade Federal do ABC, é um espaço de pesquisa e de articulação entre os saberes da academia e a experiência das comunidades de software livre para aprimorar processos de gestão, desenvolver e ou aperfeiçoar soluções de softwares livres para a criação e produção artística, organização e distribuição de bens culturais.

Dentre seus projetos estão o WikLab espaço físico construído no campi São Bernardo do Campo da UFABC (imagem acima), o Mapa Colaborativo das práticas de enfrentamento a Covid-19 e Governança Algorítmica.

4: DigiLabour – Grupo de pesquisa em tecnologias digitais e mundo do trabalho

O DigiLabour, que tem como coordenador o professor Rafael Grohmann, é um laboratório de pesquisa relacionado ao Mestrado e Doutorado em Comunicação da Universidade do Vale do Rio dos Sinos (UNISINOS). O grupo é focado em temas trabalho em plataformas e plataformização do trabalho; cooperativismo de plataforma, autogestão e arranjo alternativos de trabalho; perfis e condições de trabalho de profissionais de comunicação e da indústria criativa; organização coletiva de trabalhadores e tecnologias digitais; algoritmos e inteligência artificial no trabalho; dataficação e vigilância no trabalho; circulação de sentidos em relação ao mundo do trabalho; materialidades do trabalho em plataformas; relações de comunicação no mundo do trabalho; circuito produção-consumo e cultura digital.

O DigiLabour também mantém uma newsletter semanal e aqui é possível conferir uma série de entrevistas com pesquisadores e outros atores relacionados às temáticas do laboratório.

5: MIDIARS – Grupo de Pesquisa em Mídia, Discurso e Análise de Redes Sociais

O MIDIARS, coordenado pelos professores Raquel Recuero, Gabriela Zago e Marco Toledo Bastas, é um grupo de pesquisa interinstitucional que tem como objetivo unir diferentes áreas de pesquisa, como a Ciência da Computação, o Design, a Ciência Política, a Linguística Aplicada e a Comunicação dentro de uma mesma perspectiva interdisciplinar de estudos de redes.

O grupo trabalha principalmente com questões relacionadas à Democracia, Eleições e Mídia Social e à Violência e Mídia Social, disponibiliza datasets de acesso aberto e aqui é possível conferir todas as publicações acadêmicas.

6: LabCom – Laboratório de Convergência de Mídias

O LabCom, da Universidade Federal do Maranhão e coordenado pelo professor Márcio Carneiro dos Santos, desenvolve projetos na fronteira entre a Comunicação e a Tecnologia orientados à pesquisa aplicada e guiados pela proposta epistemológica da Design Science. Utilizam bases tecnológicas emergentes como Realidade Aumentada, Realidade Virtual, Internet das Coisas (IoT), Big Data e Inteligência Artificial explorando sua aplicação nas Ciências Sociais e no campo da Comunicação.

O grupo desenvolveu as ferramentas LNEWS e LTWEET para a coleta de textos de sites jornalísticos ou Twitter, além disso há uma série de vídeos sobre métodos digitais.

7: GamerLab – Laboratório de pesquisa em Games, Gambiarras e Mediações em Rede

O Gamer/Lab, coordenado pelo professor José Carlos Messias, tem como objetivo se aprofundar na criatividade como forma de educação, ativismo e também de pertencimento em redes de sociabilidade. Além de games, o grupo se organiza em três linhas de pesquisa: Cognição Corporificada, Materialidades e Tecnologias da Comunicação; Crítica Pós-colonial da Ciência e Tecnologia da Mídia; e Humanidades Digitais e Letramento Midiático.

Conheça o canal do GamerLab no Youtube que tem diversas lives, principalmente do clube de leitura.

8: Coragem – Grupo de Pesquisa em Comunicação, Raça e Gênero 

O Coragem, da Universidade Federal de Minas Gerais e coordenado pelos professores Laura Guimarães Corrêa e Pablo Moreno Fernandes, as temáticas do grupo foram convergindo para os estudos sobre comunicação, gênero e raça, e o nome CORAGEM vem explicitar a ênfase na pesquisa das práticas comunicativas, principalmente as midiáticas, a partir de uma abordagem interacional e interseccional.

Livro Vozes Negras em Comunicação: Mídia, racismos, resistências | Foto: Mayara Laila

Segundo a descrição na página do grupo “CORAGEM vem da raiz latina cor, a mesma de “coração”. O nome traz também a “cor” dos tons de pele, de corpos que carregam identidades, saberes e resistências. É preciso coragem para escrever do nosso ponto de vista na academia – sabemos que todo saber é localizado –, para pensar na primeira pessoa junto com quem veio antes, para ler autora/es contemporâneas e aquelas que estiveram excluídas das bibliografias há tempos”.

9: R-EST – estudos redes sociotécnicas

O R-EST, também da Universidade Federal de Minas Gerais e coordenado pelo professor Carlos D’Andréa, tem como foco o estudo sobre plataformas online, algoritmos, política de dados e demais temas relacionados a partir dos Estudos de Ciência e Tecnologia. O grupo tem duas principais linhas de pesquisa, a Plataformas online, algoritmos e métodos digitais e Mídias, tecnologias e controvérsias nos esportes.

Veja abaixo a live sobre o livro Engines of Order: a mechanology of algorithmic techniques com Bernhard Rieder e clique aqui para acessar outras produções acadêmicas do grupo.

10: NeoCriativa – Grupo de Pesquisa sobre Economia Criativa

O Núcleo de Estudos e Observações em Economia Criativa, da Unesp e coordenado pelo professor Juarez Xavier, estuda a economia criativa e seus desdobramentos em quatro vertentes: artes, mídias, inovação tecnológica, patrimônio material e imaterial.

Entre as produções dos participantes do grupo estão o trabalho Quem faz Grana Preta: a assessoria de comunicação como ferramenta para potencializar arranjos produtivos locais intensos de cultura negra de Ana Carolina Moraes e Cidade quebrada: terra dividida, espaço comum de Lucas Mendes.

Nos anos de 2015 e 2017, o NeoCriativa mapeou grupos que trabalham com economia criativa na cidade de Bauru, em São Paulo. Foram identificados 53 arranjos criativos, dos quais 25 foram catalogados e fazem parte deste mapeamento.