Publicado primeiramente em Bitniks.

Em dezembro do ano passado (2020) Timnit Gebru, até então colíder da equipe de ética em Inteligência Artificial do Google foi demitida de maneira bastante arbitrária. Gebru tem uma vasta e importante carreira na pesquisa e no campo de Inteligência Artificial, teceu sólidas críticas a projetos de reconhecimento facial e foi uma das fundadoras do Black In AI. A equipe de ética que desenvolveu no Google é considerada umas das mais diversas da área, tanto a respeito de especialidades quanto de pessoas.

Sua demissão gerou revolta em muitos dos próprios funcionários do Google e em uma enorme rede de profissionais e pesquisadores em tecnologia do mundo inteiro. O que se sabe é que Jeff Dean, chefe de IA do Google, forçou sua saída por não concordar com um artigo em que Gebru é coautora. Neste artigo há questionamentos sobre a atuação da corporação no processamento de grandes modelos de linguagem, sobretudo quanto aos riscos e consequências da manipulação de uma quantidade enorme de dados. 

Alguns desses riscos incluem os perigos de modelos de linguagem imitarem “muito bem” a linguagem humana o que pode gerar o uso para fins criminosos, como produção e disseminação de desinformação e discurso de ódio, por exemplo; ou ainda o desenvolvimento de um modelo de IA racista, sexista, xenófoba entre outras problemáticas, visto que a coleta ocorre de forma massiva e indiscriminada a partir de dados da Internet; e, um dos pontos que gostaria de tensionar aqui, os custos ambientais causados, principalmente, pela exacerbada energia elétrica necessária para que os computadores sejam capazes de processar a quantidade de dados destes modelos.

Isso significa que quantos mais dados processados maiores serão as emissões de carbono. Um único treinamento de uma única versão de modelo de linguagem seria equivalente à emissão de carbono de um voo ida e volta de Nova York a São Francisco (4.675km x2), por exemplo. Para as autoras, esse modelo de processamento beneficiaria somente as corporações e sem um plano de contingência de danos ambientais as consequências seriam muitas, sobretudo para populações e nações marginalizadas. Gebru levanta essas questões justamente para precaver danos que atingiriam toda a sociedade e não só a corporação. Afinal qual a função do setor de ética senão apontar e orientar a respeito desse tipo problema, não é? Seu ex-chefe, Jeff Dean, afirmou que o artigo não atendeu ao padrão de publicação do Google e então forçou sua demissão.

Corta para agosto de 2021, o IPCC (Intergovernmental Panel on Climate Changes / Painel Intergovernamental sobre Mudanças Climáticas), desenvolvido pelo o Programa das Nações Unidas para o Meio Ambiente (ONU Meio Ambiente), lançou o relatório Climate Change 2021: the Physical Science Basis (Mudanças Climáticas 2021: a base das Ciências Físicas) que informa basicamente que as mudanças climáticas causadas pela humanidade são irreversíveis e a tendência é de piorar nas próximas décadas caso nada seja feito para reduzir os danos.  Essa informação gerou uma grande conversação nas mídias sociais, na imprensa, nos ativistas, organizações da sociedade civil que tratam do tema entre outros setores da sociedade. Dentre as quais, a conversa da imagem abaixo retirada diretamente do Twitter.

            Este relatório é o maior e o mais importante documento sobre mudanças climáticas da atualidade. A pesquisa durou cerca de 3 anos e contou com a expertise de pesquisadores de 195 países que analisaram mais de 14 mil documentos. A principal mensagem: nós não temos mais tempo! Aliás, as consequências se adiantaram e a previsão é que em 2030, que está logo ali, convenhamos, nós já vamos perceber as mudanças de forma ainda mais latente. Isso implica em climas muito intensos (muito frio ou muito quente), escassez de água, oceano subindo em decorrência do derretimento das geleiras e invadindo cidades litorâneas, queimadas, fluxos migratórios em decorrência do clima (mais do que por guerras, inclusive) e assim por diante.

O relatório e as conversações a partir dele trazem um apelo individual em torno do pacto coletivo pela redução de danos ambientais. Com certeza a individualidade é importante, além disso a adoção de políticas públicas é urgente, inclusive orientar governantes quanto às decisões é o principal foco do documento. Todavia é preciso abordagens que responsabilizem os maiores detratores do meio ambiente: as mega corporações. Sabe qual é o setor que mais libera os gases responsáveis pelo efeito estufa? O consumo de energia, com 73% das emissões mundiais, na subdivisão deste setor estão a geração de calor e eletricidade (30%), seguido de transportes (15%) e fabricação e construção (12%). Lembra dos questionamentos no artigo da Timnit Gedru? Pois é.

A análise a respeito do aquecimento global tem como marco temporal o ano de 1850, que é quando tem início a Revolução Industrial e consequentemente mais queima de combustíveis fósseis. E cada década tem sido sucessivamente mais quente que a anterior desde então. Nem é necessário aguardar 2030 para entender, vimos nessas últimas semanas as Olímpiadas em Tóquio ocorrerem sob um sol de 40 graus, ilha na Grécia em chamas, escassez de água e ondas de frio históricas em diversas regiões do Brasil, Canadá alcançando temperaturas de 49º C e assim por diante. Nós presenciamos, é um fato e não é um roteiro ficcional distópico sobre o fim do mundo.

Ora, se o marco do aquecimento global é a Revolução Industrial quando vamos falar das consequências das revoluções tecnológicas contemporâneas? Quando vamos transferir as responsabilidades individuais para as corporações que danificam exponencialmente o meio ambiente? Quando haverá políticas de regulamentação e fiscalização que extrapolem os discursos bonitos de ESG (Environmental, social and corporate governance / Governança Ambiental, Social e Corporativa)? Quando as corporações serão incluídas verdadeiramente no pacto coletivo de redução de danos?

Repito: não temos mais tempo! As medidas são urgentes, se não logo em breve os bilionários vão simplesmente pegar seus foguetes e lotear terra em Marte deixando o colapso climático da Terra para nós reles mortais. Inclusive, o passeio do Bezoz à borda da atmosfera, além de um investimento de bilhões de dólares, emitiu cerca de 300 toneladas de carbono, o que equivale à produção de toda uma vida de uma pessoa comum. Se é o ser humano que têm mudado o clima do planeta, trata-se de um tipo de ser humano em específico, como os Larry Page, Jeff Dean, Mark Zuckerberg, Jeff Bezoz e similares.

Publicado primeiramente em Bitniks.

Nos últimos anos tem se popularizado eventos, disciplinas, cursos e publicações na área da tecnologia que evocam as “perspectivas do Sul Global” baseados em promessas de um olhar decolonial (ou descolonial ou pós-colonial), porém quase sempre são as mesmas referências, os mesmos nomes e as mesmas perspectivas hegemônicas de sempre.

Inclusive a própria falta de consenso e o infinito debate em relação ao conceito e aplicação dos termos “decolonial”, “descolonial” ou “pós-colonial” denuncia a falta de foco no que realmente importa. Invés de horas a fio debatendo o conceito, que tal questionar as práticas acadêmicas que seguem eurocentradas, machistas, elitistas e fincadas no sistema da branquitude?

Quando há uma singela demonstração de interseccionalidade nos eventos, disciplinas, cursos e publicações ainda prevalece a política do “único representante”. A única pessoa não-branca, a única mulher, a única pessoa LGBTQI+ e assim por diante. A homogeneização de grupos tão plurais é tão violenta quanto seu apagamento.

Permanecer com os mesmos olhares e pontos de vista em situações que provocam a reflexão sobre novos modos de sociedade leva à reflexão sobre a necessidade de questionar os representantes de sempre, pois foram esses olhares que nos trouxeram até aqui e até as nossas problemáticas contemporâneas.

A ciência e o conhecimento oriundo do continente africano quase nunca são lembrados nestas atividades do “Sul Global” que se pretendem decoloniais. Deste modo, aproveito a celebração do Dia da África (25/5) – data para recordar a luta por independência de países africanos – e este espaço para apresentar (ou relembrar) alguns pesquisadores da Ciência, Sociedade & Tecnologia que tem feito importantes contribuições para debates atuais.

Abeba Birhane (Étiópia): É doutoranda em ciências cognitivas no Complex Software Lab da University College Dublin na School of Computer Science. Sua pesquisa perpassa as relações entre tecnologias emergentes e os impactos sociais, políticos e econômicos na sociedade. Abeba também dá aulas sobre Pensamento Crítico e Ética em Dados, Inteligência Artificial para ciência de dados, Introdução à Ética e Pensamento Crítico. Entre suas principais publicações está o artigo Algorithmic colonization of Africa.

Artwell Nhemachena (Namíbia): É Doutor em Antropologia Social atua em áreas como Estudos Sociológicos e Antropológicos de Ciência e Tecnologia, Governança e Democracia, Transformações e Decoloniedades, entre outros. No livro Decolonising Science, Technology, Engineering and Mathematics (STEM) in an Age of Technocolonialism: Recentring African Indigenous Knowledge and Belief Systems do qual o professor é co-organizador, discute-se as noções de colonialidade da ignorância e geopolítica da ignorância como central para a colonialidade e colonização.

Ayodele James Akinola (Nigéria): Pesquisa, principalmente, em torno das Humanidades Digitais e a aplicação das Tecnologias de Informação e Comunicação para fins educacionais. No artigo Pragmatics of crisis-motivated humour in computer mediated platforms in Nigeria discute como o humor é mediado pela tecnologia e os impactos em aspectos sociopolíticos na Nigéria.

Edda Tandi Lwoga (Tanzania): É Professora Associada em Ciência da Informação no College of Business Education (CBE) na Tanzânia. Ela também é o Ponto Focal do País (CFP) do Acesso Digital à Pesquisa – Banco de Tecnologia das Nações Unidas na Tanzânia. Suas pesquisas têm como foco sistemas de informação, gestão do conhecimento, acesso aberto e dados abertos, TIC para o desenvolvimento, TIC e empoderamento de jovens e mulheres, ciência da informação e e-learning. Entre seus artigos mais citados está o  New technologies for teaching and learning: Challenges for higher learning institutions in developing countries.

Francis B. Nyamnjoh (Camarões): Nascido em Camarões, atualmente é Professor nas áreas de sociologia, antropologia e estudos de comunicação da University of Cape Town. Suas pesquisas tratam de temas como globalização, mídia, identidade, mobilidade e uma de suas principais obras é o livro #RhodesMustFall: Nibbling at resilient colonialism in South Africa que discute problemas sociais existentes na África do Sul pós-apartheid e tem como base de análise o movimento Rhodes Must Fall liderado por jovens universitários.

Gado Alzouma (Nigéria): Professor de Sociologia e Antropologia na American University da Nigéria. Suas pesquisas são focadas em informação, comunicação e tecnologia para o desenvolvimento social. Em seu artigo Myths of Digital Technology in Africa: Leapfrogging Development? analisa criticamente as promessas de uma sociedadde tecnocentrista em torno do contexto social da África.

Rediet Abebe (Etiópia): É cientista da computação, atua especialmente com algoritmos e inteligência artificial e seus impactos sociais e raciais. Atualmente é Junior Fellow na Harvard Society of Fellows e Professora Assistente em Ciência da Computação na University of California. É co-organizadora do Mechanism Design for Social Good  e co-fondudadora do Black in AI. Um dos seus artigos mais citados é o Using search queries to understand health information needs in africa.

Sabelo J Ndlovu-Gatsheni (Zimbabwe): Professor especialista em Epistemologias do Sul Global com ênfase em África na University of Bayreuth, na Alemanha. Sabelo é um importante teórico descolonial com diversas publicações, dentre as quais The primacy of knowledge in the making of shifting modern global imaginaries, Coloniality of power in postcolonial Africa: Myths of Decolonization, The decolonial Mandela: Peace, justice and the politics of life, entre outros.

Sarah Chiumbu (África do Sul): Professora associada na Escola de Comunicação da Universidade de Joanesburgo, seus estudos são focados em mídia, democracia e cidadania, novas mídias, estudos de políticas, movimentos sociais, pensamento político africano, teorias descoloniais e pós-coloniais. Seu artigo mais referenciado, o Exploring mobile phone practices in social movements in South Africa–the Western Cape Anti-Eviction Campaign, trata do conjunto de novas práticas dos movimentos sociais a partir da popularização dos aparelhos celulares na África do Sul.

Tanja Bosch (África do Sul): Professora Associada de Estudos e Produção de Mídia na Universidade da Cidade do Cabo, na África do Sul. Recentemente publicou o livro Social Media and Everyday Life in South Africa onde investiga como as plataformas de mídias sociais e demais tecnologias se tornaram ferramentas cotidianas para os sul africanos.

            A diversidade nas visões de mundo, a troca de experiências a partir de contextos similares, o conhecimento de referências para além do cânone padrão só tendem a agregar no urgente debate sobre Ciência, Sociedade & Tecnologia. Então, que façamos uso estratégico desta poderosa ferramenta que nos conecta. E viva à África.

Durante todo esse ano conversamos por aqui sobre ciência, tecnologia e sociedade e passamos por temas como desinformação, discurso de ódio, deepfakes, perspectivas do Sul Global, gênero e tecnologia, conectividade e educação, tecnologia e impactos no clima, entre outros.

Já é um costume pessoal de fim do ano fazer uma lista de leituras que são imprescindíveis para basear discussões e escritas futuras. Deste modo, gostaria de compartilhar com vocês uma curadoria de 10 materiais, entre artigos, relatórios, pesquisas e entrevistas com publicação em 2021 e que tratam da temática ciência, tecnologia e sociedade que precisam entrar na sua lista de leitura.

1. O relatório “Prioridades Antirracistas sobre Tecnologia e Sociedade” publicado pela Ação Educativa em parceria com a  Rede Negra em Tecnologia e Sociedade.

A partir da pergunta: quais são os consensos, dissensos, controvérsias e prioridades de pesquisadores negras e negros quando falam sobre justiça racial e tecnologias digitais de informação e comunicação? O relatório apresenta a percepção de diversos atores da sociedade a respeito tecnologia e justiça racial e a relação entre tecnologias digitais, raça e racismo no Brasil do ponto de vista de especialistas negras e negros do país.

• 2. Da pesquisadora Nana Miranda o artigo “Conectando o racismo à tecnologia: Racismo Algorítmico e produção de sentidos” no Sistema Estadual de Redes em Direitos Humanos.

Nana Miranda é Mestranda no Programa de Pós Graduação em Comunicaçã Social da PUC-Minas e neste artigo aborda diversos conceitos como dinâmicas e rastros digitais, produção de sentido, decisões maquínicas e racismo algorítmico.

• 3. O website interativo com artigos temáticos sobre “Data Capitalism: The fight begins here” do Data For Black Lives.

O Data For Black Lives é uma organização norte-americana que conta diversos pesquisadores comprometidos em usar a ciência de dados para criar mudanças concretas e mensuráveis na vida da população negra. O website Data Capitalism: The fight begins here é um compilado de três artigos que explicam o que é o capitalismo de dados, sua relação com a escravidão e histórias de resistência.

• 4. Do pesquisador Sabelo Mhlambi o artigo “Superando os limites da racionalidade em humanos e em máquinas racionais através da pessoalidade relacional do Ubuntu”, no livro Afetando Tecnologias, Maquinando Inteligências.

O livro Afetando Tecnologias, Maquinando Inteligências é uma coletânea com as falas de diversos palestrantes que participaram do evento de nome homônimo. O pesquisador Sabelo Mhlambi trata da relação entre a tecnologia e tradições africanas, como a divinação Ifá. 

• 5. A pesquisa “Afrofeminist Data Futures” publicada pela Pollicy, com versão em português.

Um projeto também focado em utilização positiva dos dados, o material busca compreender como os movimentos feministas na África Subsaariana podem ser fortalecidos por meio da produção, compartilhamento e uso de dados sobre gênero, e como esse conhecimento pode ser traduzido em recomendações viáveis para empresas privadas de tecnologia.

• 6. A entrevista “Investigando os usos sociais da internet” produzida por Ana Carolina Costa dos Anjos.

Ana Carolina Costa dos Anjos é doutoranda no Programa de Pós Graduação em Sociologia, Universidade Federal de São Carlos e nessa entrevista, para o dossiê “Interfaces sociais da internet: reflexões sobre cultura, política e diferença” da Revista Askesis, conversa com os pesquisadores Larissa Pelúcio, Tarcízio Silva e Felipe Padilha discute digitalização e plataformização da sociedade, isolamento social, digitalização das relações sociais, entre outros temas.

• 7. A coletânea de artigos “TIC, Governança da Internet e Gênero – Tendências e Desafios” publicada pelo CGI.

Organizado por Bia Barbosa, Laura Tresca e Tanara Lauschner a coletânea traz textos com temas como participação das mulheres na governança de internet no Brasil, a violência contra as mulheres na internet, cancelamento, vazamento de nudes, mulheres e mercado de trabalho, entre outras abordagens. 

• 8. Do pesquisador Tarcízio Silva o artigo “Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na Imagenet”, no livro Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal.

O livro organizado pelos pesquisadores João Francisco Cassino, Joyce Souza e Sérgio Amadeu da Silveira apresenta diversos artigos que tratam de colonialismo de dados. Dentre eles o artigo de Tarcízio Silva que discute conceitos como ordenação, colonialidade e opacidade algorítmica e dimensões humanas nas bases de dados.

• 9. De Sarah Rúbia de Oliveira Santos e Ronaldo Ferreira de Araújo o artigo “Questões étnico-raciais na base Dimensions: dados de produção, uso e atenção online“.

Os pesquisadores Sarah Rúbia (Universidade Federal de Minas Gerais) e Ronaldo Ferreira (Universidade Federal de Alagoas) trazem nesse artigo uma investigação sobre a produção e uso do conhecimento científico no campo de pesquisa dos estudos raciais por meio de indicadores bibliométricos e altmétricos. A pesquisa é realizada a partir de abordagem exploratória, quantitativa e descritiva que analisa 4 mil registros e seus dados de citação na base de dados Dimension.

• 10. A pesquisa “BlackOut – Mapa das Startups Negras” realizada pela BlackRocks Startup.

Licença para uma auto-indicação, eu tive a honra de ser a pesquisadora especialista convidada para realizar a análise dos dados desta pesquisa. A BlackOut é um mapeamento inédito, que tem como objetivo promover o fortalecimento do ecossistema de startups com dados relevantes sobre os negócios. Há alguns comparativos com recorte de raça e gênero e dados a partir de eixos como perfil do fundador, da stratup, empregabilidade, diversidade e agenda ESG.