Categoria: Aulas

IAs e diversidade
Resumo coescrito do dia 10/12/24
por Andre Stangl

Discussão Inicial: Estética e Viés Cultural nas
- A aula começou com a apresentação de uma experiência de geração de imagens usando IA, em que um participante solicitou a criação de uma “anfisbena” (serpente mitológica de duas cabeças) em diferentes estilos visuais, incluindo o cordel nordestino.
- A discussão girou em torno da tendência das IAs de reproduzirem estéticas eurocêntricas e americanizadas por padrão, mesmo quando instruídas a representar estilos regionais.
- Foram citadas experiências em que as ferramentas aproximaram-se de estéticas brasileiras, evidenciando como a base de dados influencia os resultados visuais.
Texto de Yuk Hui – “ChatGPT, ou a Escatologia das Máquinas”
- Discutimos os principais pontos do texto de Yuk Hui, que apresenta uma abordagem filosófica sobre a IA a partir do conceito de escatologia tecnológica.
- Os tópicos centrais abordados incluíram:
  - Escatologia das Máquinas: A ideia de que a IA representa o ápice de um processo de automatização técnica, levantando questionamentos sobre o fim da criatividade humana frente à automação.
  - Antropomorfismo Tecnológico: O hábito de projetar emoções e intenções humanas em sistemas de IA, muitas vezes criando ilusões de consciência e profundidade subjetiva.
  - Crítica à Integração da IA: Questionamos a crescente dependência de IA em processos criativos e culturais, refletindo sobre a perda de controle autoral e as implicações para a originalidade e a autoria.
Escatologia das Máquinas de Yuk Hui Baixar

Dinâmica Prática – Criação de Personagens e Diálogos com IA

A segunda parte da aula foi dedicada a uma atividade prática em que os alunos criaram e simularam interações entre personagens usando IA, aplicando os conceitos teóricos discutidos anteriormente.

Criação de Personagens:
- Cada aluno desenvolveu personagens ficcionais com características detalhadas, motivações e dilemas bem definidos.
Diálogo entre GPTs:
- Três instâncias do ChatGPT foram configuradas para representar os personagens criados, cada uma com ajustes distintos para refletir personalidades e motivações específicas.
- Os alunos testaram interações e diálogos entre os personagens, explorando como pequenas variações no prompt influenciavam o desenvolvimento narrativo e as tensões dramáticas.
Observações Críticas:
- Notou-se que a IA tende a suavizar conflitos e buscar resoluções pacíficas, mesmo em cenários de tensão narrativa.
- A falta de complexidade emocional e os padrões previsíveis evidenciaram como as bases de treinamento influenciam a produção textual.
Reflexões Finais e Conexões Críticas
- Autoria e Coescrita:
  - A experiência de coescrita mediada por IA evidenciou tanto o potencial quanto os desafios de compartilhar a autoria com um sistema automatizado.
  - Discutiu-se o papel da IA como catalisadora criativa, oferecendo sugestões úteis, mas ainda dependente da intervenção humana para desenvolver complexidade narrativa.
- Limitações e Viés Algorítmico:
  - Mesmo com configurações personalizadas, a IA apresentou padrões normativos e simplificados, limitando a diversidade narrativa.
  - Foi ressaltado como os datasets e algoritmos refletem contextos culturais específicos, muitas vezes reforçando valores hegemônicos.
- Encerramento e Desafios Futuristas:
  - A aula concluiu com o incentivo a continuar explorando o potencial das IAs como ferramentas de experimentação e crítica, buscando formas de utilizar esses sistemas para subverter padrões e expandir as fronteiras da criação artística.
  - Propôs-se o uso de prompts mais sofisticados e diversificados para testar os limites da ferramenta e fomentar maior complexidade nos resultados criativos.
setembro 1, 2025
Algoritmos e Estética
Resumo coescrito do dia 05/12/24
por Andre Stangl

1ª Parte: Discussão Teórica e Reflexões Filosóficas

A primeira parte da aula aprofundou o debate sobre a relação entre modelos de linguagem, contexto e filosofia da linguagem, destacando como a IA reflete e limita certos padrões culturais e interpretativos. A discussão foi conduzida de forma interdisciplinar, conectando conceitos técnicos com abordagens filosóficas e sociais.

Modelos de Linguagem e Contexto:
- Exploramos detalhadamente o funcionamento de modelos de linguagem como transformers e mecanismos de coatenção, explicando como essas arquiteturas processam grandes volumes de texto para interpretar palavras e frases com base em contextos.
- Essa abordagem foi comparada com as ideias de Wittgenstein, especialmente o conceito de que o significado de uma palavra é definido pelo uso social e contextual, e não por uma relação fixa com objetos.
- A reflexão aprofundou-se ao considerar as limitações de IAs ao interpretar expressões regionais, gírias e neologismos, destacando o desafio de representar linguagens culturalmente complexas.
Texto de Gisele Beiguelman: IA como Fármaco
- A aula focou na análise do texto de Gisele Beiguelman, que explora a IA sob o conceito de fármaco, inspirado em Platão e Derrida: ao mesmo tempo remédio e veneno. Artigo completo (link)
- Foi discutido como a IA, ao ser desenvolvida e programada por humanos, carrega viés antropocêntrico e colonial, reproduzindo estruturas de poder e exclusão.
- A metáfora do fármaco também destacou a dualidade da IA: ela amplia a criatividade, mas pode restringir ou distorcer a diversidade cultural, especialmente ao seguir padrões estéticos eurocêntricos.
Exemplo prático: Gisele recriou, usando IA, imagens de plantas tradicionalmente consideradas “daninhas”, desafiando padrões estéticos europeus de jardins e refletindo sobre exclusões simbólicas.

Phármakon Baixar

Trecho Fedro de Platão:
Ouvi dizer que em Náucratis, no Egito, existe um deus antigo chamado Thoth, cujo pássaro sagrado é a íbis. Esse deus é conhecido por ter inventado os números, o cálculo, a geometria, a astronomia, os jogos de tabuleiro e de dados e, por último, a escrita. Naquela época, o rei de todo o Egito era Thamus, que vivia na grande cidade de Tebas, no Alto Egito. Os gregos chamavam o deus dessa cidade de Ammon.

Thoth foi até Thamus para mostrar suas invenções, dizendo que elas deveriam ser compartilhadas com o povo egípcio. O rei, então, perguntou qual era o benefício de cada uma. Enquanto Thoth explicava, Thamus elogiava o que achava bom e criticava o que achava ruim. Dizem que o rei fez muitos comentários, tanto positivos quanto negativos, sobre cada invenção, mas quando chegaram à escrita, Thoth afirmou:

“Meu rei, a escrita vai tornar os egípcios mais sábios e melhorar sua memória, porque agora eles terão um remédio para isso.”

Mas Thamus respondeu: “Thoth, você é ótimo em criar coisas, mas nem sempre quem cria é bom em avaliar o impacto do que inventa. Como pai da escrita, você está tão entusiasmado com sua invenção que está exagerando os benefícios dela. Na verdade, a escrita não vai melhorar a memória das pessoas, mas enfraquecê-la. As pessoas vão parar de exercitar a própria memória, porque vão depender da escrita para lembrar das coisas. Em vez de lembrar por conta própria, vão buscar informações fora de si mesmas, em sinais externos.

Ou seja, o que você criou não é um remédio para a memória, mas sim para a lembrança. Além disso, sua invenção vai dar às pessoas uma aparência de sabedoria, mas não a verdadeira. Elas vão aprender muitas coisas superficialmente e achar que sabem muito, mas na prática vão continuar ignorantes. Isso vai torná-las mais difíceis de lidar, porque, em vez de sábias, elas vão se tornar presunçosas.” (tradução e simplificação via gpt)
1. Texto de Evgeny Morozov – “The AI We Deserve” (link)
  - Introduzimos a crítica de Morozov sobre a origem militar da IA e seu caráter teleológico, projetado para resolver problemas de forma instrumental e eficiente.
  - Destacamos a ideia do “homem organizacional” burocrático como modelo subjacente à concepção das primeiras IA, voltadas para replicar sistemas administrativos e operacionais.
Tendências em Agentes de IA e Simulações Virtuais:
- Foram abordados experimentos como o “1000 AI NPCs simulate a Civilization in Minecraft”, onde agentes virtuais criaram estruturas sociais complexas de forma autônoma.
- Esse exemplo gerou reflexões sobre o potencial dessas simulações para narrativas interativas e a criação de mundos ficcionais autogeridos, expandindo as possibilidades para narrativas emergentes e autoria distribuída.
Atividade Prática:
- Testes com DALL-E:
  - Utilizamos a ferramenta para gerar imagens a partir de prompts e observamos tendências colonialistas nas representações.
  - Analisamos como essas ferramentas reproduzem estereótipos culturais e estruturais embutidos nos conjuntos de dados que as treinam.
Reflexões e Conexões:

Discutimos como a IA, ao replicar estruturas coloniais e administrativas, limita sua capacidade de imaginar formas alternativas e mais inclusivas de inteligência e criação.

A conversa conectou as críticas de Beiguelman e Morozov, ressaltando os desafios éticos e culturais no uso de IA em processos criativos.
setembro 1, 2025