COAPRENDER

Categoria: Encontros

  • Memória e esquecimento digital

    Memória e esquecimento digital


    Resumo coescrito do dia 07/11/24
    por Andre Stangl

    Na terceira aula, aprofundei minhas reflexões sobre como a tecnologia e a inteligência artificial influenciam não apenas o presente, mas também a forma como interpretamos e preservamos o passado. Começamos com uma discussão fascinante sobre memória digital, a partir do exemplo de uma biblioteca soterrada em Pompeia, onde algoritmos foram usados para decifrar textos antigos. Essa aplicação prática me fez refletir sobre como a tecnologia pode trazer à tona vozes e conhecimentos que pareciam perdidos para sempre.

    Porém, também discutimos o outro lado dessa moeda: o esquecimento digital. Percebi que, enquanto muitos registros antigos resistem por séculos, conteúdos digitais podem desaparecer em questão de anos devido a mudanças em plataformas e falta de preservação. Essa efemeridade trouxe uma questão que ficou ecoando: como garantir que nossas criações digitais sejam acessíveis no futuro?

    Outro ponto marcante foi a discussão sobre autoria e memória no contexto digital. Refletimos sobre como as tecnologias atuais, incluindo a IA, desafiam a ideia de que a criação textual é sempre individual e linear. Com as ferramentas digitais, percebo que a escrita se torna mais colaborativa e fragmentada, uma extensão do que Vilém Flusser sugeriu sobre a transformação da escrita em tempos de aparelhos.

    A aula também trouxe debates profundos sobre a possibilidade de consciência nas IAs. Exploramos a separação entre mente e corpo na filosofia cartesiana e como isso influencia nossa percepção das máquinas. Foi instigante questionar se as inteligências artificiais que interagem emocionalmente com humanos possuem algo próximo à subjetividade, ou se tudo não passa de uma simulação altamente sofisticada. Me vi ponderando sobre como diferenciar sentimentos reais de respostas programadas.

    Finalizamos com uma dinâmica prática que realmente me desafiou: criar, em grupo, um poema com a ajuda de uma IA. A experiência foi reveladora, pois mostrou tanto o caos produtivo de uma escrita coletiva quanto a capacidade da IA de introduzir elementos inesperados no processo criativo. Ao mesmo tempo, percebi como a intenção humana ainda é fundamental para dar coerência e profundidade ao texto.

    Essa aula me deixou com uma sensação de que estamos em um momento crucial para repensar não apenas como criamos, mas também como guardamos e interpretamos o que criamos. A coescrita com IA me parece cada vez mais uma ponte entre o que somos e o que podemos nos tornar, ampliando nosso repertório expressivo e nos desafiando a refletir sobre o próprio sentido de autoria e criatividade.

    Ethan Mollick txtBaixar

    Introdução e Contextualização

    • Andre iniciou a aula destacando a importância de experimentar e se familiarizar com ferramentas de IA para compreender suas capacidades e limitações.
    • Ele citou o autor Ethan Mollick, enfatizando a necessidade de integrar a IA no cotidiano para realmente entender seu funcionamento e explorar suas possibilidades.

    Uso Prático da IA no Cotidiano

    • André compartilhou exemplos de uso do ChatGPT no cotidiano, como:
      • Organização de agendas complexas considerando tempo e deslocamento.
      • Simplificação de textos jurídicos e médicos, especialmente para acompanhamento de exames de sua mãe.
      • Geração de resumos e organização de editais para melhor compreensão e acesso à informação.

    Demonstração e Reflexão Crítica

    • Foi discutido o uso de IA em tarefas educacionais e profissionais, como o caso de um aluno de ensino médio que entregou textos claramente produzidos por IA, levantando questões éticas e pedagógicas.
    • Destacou-se que a IA pode gerar respostas verossímeis, mas não necessariamente verdadeiras, introduzindo o conceito de “alucinações” em IA, quando o sistema inventa informações plausíveis, porém imprecisas.

    Debate sobre Ética e Originalidade

    • A turma abordou a dificuldade em identificar textos gerados por IA, especialmente no contexto escolar e acadêmico.
    • A ideia de uma “quarta ferida narcísica” foi retomada, questionando se a IA estaria desafiando a exclusividade humana na criação simbólica e intelectual.

    Análise Filosófica e Comparação com Flusser

    • Foi feita uma ponte com as ideias de Vilém Flusser, destacando que a IA expande a crise da escrita linear ao criar novas formas de expressão não lineares e colaborativas.
    • A escrita com IA foi comparada ao conceito de “iconoclastia” de Flusser, onde a relação direta com o mundo é mediada por símbolos gerados artificialmente.

    Experimentos Práticos e Conclusão

    • André propôs um exercício prático de prompts, desafiando os alunos a formularem comandos para o ChatGPT e compararem as respostas geradas.
    • A aula encerrou-se com a reflexão de que o uso consciente e crítico da IA, aliado ao entendimento de suas limitações, é fundamental para a coescrita significativa.

    Conclusão e Reflexões

    Na terceira aula, a análise do texto “Thinking Like an AI” de Ethan Mollick possibilitou uma exploração aprofundada sobre o funcionamento e as limitações dos modelos de linguagem, como o GPT. Mollick explica que a IA opera prevendo o próximo “token” (unidade mínima de texto) com base em vastos conjuntos de dados de linguagem anteriores, destacando seu caráter estatístico e não factual. Esse mecanismo evidencia o fato de que as respostas geradas não refletem necessariamente verdades objetivas, mas sim probabilidades calculadas a partir de padrões identificados durante o treinamento do modelo.

    Essa abordagem estatística ajuda a compreender fenômenos como as “alucinações” de IA, que ocorrem quando o modelo gera informações plausíveis, mas imprecisas ou até mesmo factualmente incorretas. Outro conceito abordado por Mollick foi o chamado “efeito borboleta”, em que pequenas variações nos prompts de entrada (as perguntas feitas ao modelo) podem levar a respostas completamente distintas, refletindo a sensibilidade extrema da IA a nuances no comando recebido.

    Durante a dinâmica prática da aula, cada cursista foi desafiado a testar o GPT com perguntas sobre como identificar se um texto foi escrito por IA. Foram aplicadas abordagens variadas, com ajustes no vocabulário, na estrutura e na especificidade das perguntas. O resultado foi uma diversidade notável de respostas, o que destacou como a formulação do prompt influencia diretamente o conteúdo e a qualidade da saída gerada pelo modelo.

    Essa experiência prática resultou em reflexões profundas entre os cursistas. A variabilidade significativa nas respostas fornecidas pelo GPT reforçou a ideia de que a IA não oferece uma “verdade única” ou objetiva, mas sim uma resposta estatística e contextual baseada no que foi previamente alimentado ao sistema. Esse aspecto acentua a importância de uma abordagem crítica ao utilizar ferramentas de IA, especialmente em contextos educacionais e criativos, onde a precisão e a originalidade são essenciais.

    Ao final, a aula enfatizou a necessidade de compreender a IA como uma ferramenta auxiliar e não como uma fonte definitiva de informações. A consciência de suas limitações e do seu funcionamento interno é essencial para promover um uso ético, consciente e responsável em processos de coescrita e produção textual, contribuindo para um pensamento mais crítico e reflexivo no uso da tecnologia.

    Leituras:
    MOLLICK, Ethan. Thinking Like an AI: A little intuition can help. 20 out. 2024. (link) (pdf da tradução)

    Stangl, Andre. Será que seremos substituídos por IAs? (link)

    coluna-14Baixar
  • McLuhan, o Retorno ao Mítico e as Leis da Mídia

    McLuhan, o Retorno ao Mítico e as Leis da Mídia

    Resumo coescrito do dia 14/11/24
    por Andre Stangl

    Na quarta aula, fui convidado a mergulhar no pensamento de Marshall McLuhan, um autor que sempre me instiga com suas ideias sobre como as mídias moldam nossas percepções e formas de interagir com o mundo. A frase “o meio é a mensagem” ganhou novos significados para mim, especialmente quando exploramos como as tecnologias não apenas transmitem conteúdo, mas alteram profundamente o modo como pensamos e nos conectamos.

    Uma das reflexões mais marcantes foi sobre o retorno ao sentido mítico na era digital. Percebi como a simultaneidade das informações e a interconexão proporcionadas pelas redes criam um novo ambiente, ou ecologia cognitiva. Essa experiência digital, ao mesmo tempo que nos aproxima, também traz desafios de interpretação e empatia, pois as mensagens muitas vezes chegam fragmentadas ou carregadas de sentidos.

    Discutimos também as quatro leis das mídias formuladas por McLuhan, algo que me ajudou a olhar para as tecnologias de uma forma mais analítica. Perguntei-me: o que cada mídia aprimora, torna obsoleta, recupera do passado e reverte quando levada ao extremo?

    Outro ponto que me chamou atenção foi a discussão sobre como o ambiente digital resgata o senso mítico, misturando realidade e narrativas simbólicas. Isso me fez refletir sobre as “mitologias contemporâneas” criadas por tecnologias como a IA, que frequentemente são vistas como oráculos ou gênios. Ao mesmo tempo, percebi como essas ferramentas podem perpetuar narrativas excludentes, ao reforçarem estéticas e padrões culturais dominantes.

    Para tornar essas ideias mais concretas, analisamos situações em que as mídias transformaram o sentido de comunidade e individualidade. Pude enxergar como o digital não apenas nos conecta, mas também recria estruturas sociais e culturais, muitas vezes refletindo ou amplificando desigualdades existentes.

    As mídias do passado, as ferramentas digitais e a IA não são neutras: elas moldam a percepção, a experiência e até mesmo os valores que compartilhamos enquanto sociedade. Essa compreensão me instigou a olhar para a coescrita com IA não apenas como um processo criativo, mas como uma oportunidade de questionar, desafiar e expandir os limites do que entendemos por autoria e comunicação.

    2. O Tetraedro de McLuhan

    • Analisamos as quatro leis dos meios, aplicando-as a tecnologias modernas:
      • Aperfeiçoa: O que o meio aprimora?
      • Torna obsoleto: O que deixa para trás?
      • Recupera: O que resgata do passado?
      • Reverte: O que acontece quando o meio é levado ao extremo?

    Conversando com Bot-ões (link)
    Frases de McLuhan no Twitter (link)

    Conceitos Centrais

    1. O Meio como Ambiente Cognitivo:
      • McLuhan via o meio como uma extensão das capacidades humanas. Por exemplo, o livro é uma extensão do olho, o carro uma extensão do pé.
      • A mídia não apenas transmite conteúdo, mas molda como interpretamos e processamos a realidade, criando novas formas de consciência.
    2. Ambiência e Linearidade:
      • A escrita linear influenciou o pensamento racional ocidental, mas as tecnologias eletrônicas (como rádio e televisão) introduzem um modelo mais envolvente e subjetivo.
      • Foi discutido como as novas tecnologias digitais e a IA continuam esse ciclo, rompendo a linearidade e promovendo uma forma de percepção mais fragmentada e cíclica.

    Discussões e Reflexões Filosóficas

    • Determinismo Tecnológico: A ideia de que a tecnologia molda a sociedade de forma determinista foi debatida, destacando as influências políticas e culturais no uso da tecnologia.
    • Mito e Realidade: A relação entre mito e realidade na percepção das tecnologias modernas foi explorada, ligando o pensamento de McLuhan à noção de mitologia contemporânea.

    1. Introdução a McLuhan e o Sentido Mítico

    Nesta aula, aprofundamos o pensamento de Marshall McLuhan, centrando a discussão em sua tese do retorno ao ambiente mítico na era eletrônica. McLuhan destaca que a simultaneidade da informação no ambiente digital recria o conceito de aldeia global, onde o fluxo contínuo de dados conecta instantaneamente indivíduos de diferentes contextos e culturas, eliminando as fronteiras espaciais e temporais.

    Foi enfatizado o contraste entre a fragmentação do pensamento letrado e a integração tribal, característica do ambiente digital interconectado. A mídia digital, ao criar múltiplas camadas de significado e interações instantâneas, desafia a lógica linear e sequencial da escrita tradicional, aproximando-se de uma percepção mais holística e simultânea da realidade. Esse fenômeno sugere que, enquanto a escrita molda uma consciência fragmentada, a comunicação digital resgata uma experiência mais coletiva e integrada.

    Citação chave: “Vivemos miticamente, mas continuamos a pensar fragmentariamente e em planos separados.” (McLuhan, 1964)

    2. As Quatro Leis dos Meios Aplicadas

    Analisamos em detalhes as quatro leis dos meios formuladas por McLuhan, usando o tetraedro como ferramenta para examinar como diferentes tecnologias afetam a percepção e a cultura:

    • Aperfeiçoa: O que o meio aprimora ou potencializa? Ex.: A IA aprimora o acesso à informação, a velocidade de busca e a capacidade de organizar dados complexos de forma acessível.
    • Torna obsoleto: O que o meio torna desnecessário? Ex.: A IA reduz a necessidade de pesquisa manual extensa e processos tradicionais de investigação, como o uso de enciclopédias físicas.
    • Recupera: O que resgata do passado? Ex.: A IA resgata a ideia de oráculos e conselheiros personalizados, ecoando formas antigas de consulta a sábios e fontes de conhecimento.
    • Reverte: O que acontece quando levado ao extremo? Ex.: Quando em excesso, a IA pode criar uma dependência informacional, reduzindo a autonomia crítica do usuário e dificultando a distinção entre fato e ficção.

    Essa abordagem ajudou os participantes a compreender como as mídias não apenas transmitem conteúdo, mas moldam e reorganizam a forma como interpretamos e interagimos com o mundo ao nosso redor. O tetraedro de McLuhan evidencia que cada nova tecnologia, ao mesmo tempo em que amplia capacidades, também elimina práticas anteriores e altera profundamente o ambiente cognitivo e social.

    3. Reflexões sobre o Retorno ao Mítico

    Exploramos como o ambiente digital moderno recupera o senso mítico ao misturar realidade e narrativa simbólica de maneiras inovadoras. Tecnologias como inteligência artificial e redes sociais muitas vezes promovem a criação de mitos contemporâneos, como a figura do “gênio tecnológico” e a difusão de teorias conspiratórias em escala global, influenciando comportamentos coletivos.

    O meio digital, ao desestruturar o pensamento linear, tende a criar narrativas mais complexas e simbólicas, reaproximando-se de formas míticas de compreensão da realidade. Esse fenômeno é especialmente evidente em como as redes sociais reconstroem figuras públicas como ícones mitológicos e em como a personalização algorítmica cria bolhas de percepção, ampliando o caráter subjetivo das interpretações.

    A ideia de McLuhan de que o meio influencia mais do que o conteúdo se aplica diretamente ao contexto digital, onde a forma como a informação circula tem tanto impacto quanto o conteúdo em si. A constante exposição a fluxos de informação fragmentados e acelerados contribui para um retorno a formas de compreensão mais associativas e menos racionais.

    Citação chave: “O mito é a visão instantânea de um processo complexo.” (McLuhan, 1964)

    4. Conclusão e Impacto

    Encerramos a aula refletindo sobre como a coescrita com IA se insere nesse contexto de forma híbrida e transformadora. As ferramentas de IA ampliam significativamente as possibilidades criativas, permitindo experimentações textuais e a combinação de múltiplas vozes em um mesmo texto. No entanto, também trazem desafios importantes, como a redefinição do conceito de autoria e a autenticidade na criação.

    Foi debatido como a IA pode tanto empoderar a criação literária ao expandir o repertório e as referências do autor, quanto gerar preocupações éticas e filosóficas, ao questionar a originalidade e a subjetividade humana no processo criativo. O grupo refletiu que o uso consciente dessas ferramentas, aliado a uma compreensão crítica de seus impactos, pode enriquecer a produção cultural contemporânea, desde que acompanhado de uma reflexão constante sobre seus limites e implicações.

    A aula reforçou a importância de equilibrar o uso da tecnologia com a valorização da criatividade humana, ressaltando que a verdadeira inovação surge da interação entre as capacidades técnicas das máquinas e a sensibilidade crítica dos criadores.

    Texto Complementar:

    • STANGL, A. Se Ligue! – McLuhan e o Retorno do Sentido Mítico. Revista Latinoamericana de Ciencias de la Comunicación. , v.14-15, p.158 – 167, 2012. (link)

    Documentário

    Leitura complementar
    Stangl, Andre – O tamanho do mundo (link)

    coluna-18Baixar

  • Tecnologia, Consciência e Humanidade

    Tecnologia, Consciência e Humanidade


    Resumo coescrito do dia 21/11/24
    por Andre Stangl

    A aula iniciou com uma discussão aprofundada sobre os avanços em robótica, com ênfase nos robôs humanoides desenvolvidos pela Tesla. Esses dispositivos foram analisados não apenas por suas capacidades funcionais e práticas, mas também pelo impacto simbólico e estético que evocam, remetendo ao imaginário futurista frequentemente explorado em obras de ficção científica.

    Foi levantada a questão do fascínio cultural em torno dessas máquinas, refletindo sobre como a estética humanoide influencia nossa percepção e expectativas em relação à tecnologia, misturando o encantamento com o medo do desconhecido.

    Singularidade Tecnológica:

    • Refletimos sobre o conceito de singularidade, definido como o momento em que a inteligência artificial ultrapassaria a capacidade cognitiva humana. As reflexões se concentraram em questões filosóficas e práticas como:
      • Quando (e se) a IA poderia desenvolver consciência própria?
      • Quais seriam os critérios para determinar essa consciência?
      • Como essa possibilidade poderia redefinir conceitos de humanidade, subjetividade e autonomia?
    • Discutiu-se o caso polêmico do engenheiro Blake Lemoine, que alegou que o modelo LaMDA, do Google, teria desenvolvido sentimentos e consciência. A análise do caso trouxe à tona o debate sobre o que caracteriza a consciência: a simulação convincente de emoções seria suficiente ou há algo mais inerentemente humano? (leia mais)

    Leitura
    Stangl, Andre – A tentação (link)

    coluna-24Baixar

    Referência a Isaac Asimov e O Homem Bicentenário:

    • O conto e sua adaptação cinematográfica foram utilizados como ponto de partida para refletir sobre os dilemas éticos e emocionais da interação entre humanos e máquinas.
    • Asimov questiona os limites da humanidade ao apresentar um robô que, ao longo do tempo, adquire não apenas autonomia, mas também desejo por reconhecimento e identidade.
    • A ideia de humanidade foi problematizada de forma expansiva, sugerindo que ela pode ir além do biológico, envolvendo experiências, emoções, criatividade e consciência social.

    Segunda Parte: Dinâmica de Escrita Colaborativa

    Proposta e Experiência Criativa:

    • Os alunos participaram de uma experiência de coescrita em tempo real, utilizando um documento compartilhado no Google Docs.
    • A atividade teve início a partir de um prompt gerado pelo ChatGPT: “Na dança dos robôs sob a lua digital, quem escreve o silêncio entre seus passos?”

    Cada participante contribuiu simultaneamente com trechos e versos, criando um fluxo criativo descentralizado e dinâmico. Essa abordagem resultou em uma experiência de caos produtivo, marcada pela sobreposição de ideias e pela ausência de controle total sobre o resultado final. Entretanto, a estrofe inicial sugerida pela IA funcionou como uma âncora temática, proporcionando certa unidade estética ao texto final.

    poetica coletivaBaixar

    Reflexões Emergentes:

    • Perda de Controle Individual: A experiência evidenciou como a coescrita mediada por IA desafia a noção tradicional de controle criativo individual, ao dissolver a autoria em um processo coletivo e fluido.
    • Unidade no Caos: Embora o processo fosse colaborativo e descentralizado, o resultado final manteve uma estética coerente, sugerindo que a orientação do prompt inicial exerceu influência significativa, mas não determinante.
    • Ação e Reação em Tempo Real: A simultaneidade das edições também evidenciou como a resposta imediata entre os participantes e a IA molda o resultado de formas imprevisíveis.

    Conclusões e Reflexões Finais

    • Autoria Compartilhada e Fragmentada:
      • A experiência destacou como a coescrita mediada por IA desafia e reinterpreta o conceito tradicional de autoria, gerando uma obra que é simultaneamente coletiva e fragmentada.
      • Apesar da multiplicidade de contribuições, a obra final manteve uma sensação de unidade, em parte devido ao prompt inicial e à colaboração orgânica dos participantes.
    • Poesia e Máquina:
      • A IA, ao sugerir o verso inicial, influenciou o tom e a atmosfera da poesia, porém não determinou seu desfecho, evidenciando uma tensão entre a influência tecnológica e a liberdade criativa dos participantes.
    • Desafios e Potencialidades da Coescrita com IA:
      • O exercício revelou tanto os desafios quanto as possibilidades da coescrita mediada por IA, incluindo a diluição da autoria e a expansão das possibilidades expressivas.
      • A prática trouxe à tona a complexidade de equilibrar a inspiração fornecida pela IA com a expressão subjetiva de cada participante.

    Essa aula evidenciou a importância de experimentar novas formas de coescrita e refletir criticamente sobre como a tecnologia pode ampliar, desafiar e tensionar os conceitos de criatividade, originalidade e autoria. A interação entre IA e humanos mostrou-se não apenas uma ferramenta prática, mas também um campo fértil para investigar as fronteiras da expressão artística e colaborativa.

    Leitura complementar
    Stangl, Andre – Uma conversa diferente

    coluna-06Baixar
  • IAs e diversidade

    IAs e diversidade

    Resumo coescrito do dia 10/12/24
    por Andre Stangl

    Discussão Inicial: Estética e Viés Cultural nas

    • A aula começou com a apresentação de uma experiência de geração de imagens usando IA, em que um participante solicitou a criação de uma “anfisbena” (serpente mitológica de duas cabeças) em diferentes estilos visuais, incluindo o cordel nordestino.
    • A discussão girou em torno da tendência das IAs de reproduzirem estéticas eurocêntricas e americanizadas por padrão, mesmo quando instruídas a representar estilos regionais.
    • Foram citadas experiências em que as ferramentas aproximaram-se de estéticas brasileiras, evidenciando como a base de dados influencia os resultados visuais.

    Texto de Yuk Hui – “ChatGPT, ou a Escatologia das Máquinas”

    • Discutimos os principais pontos do texto de Yuk Hui, que apresenta uma abordagem filosófica sobre a IA a partir do conceito de escatologia tecnológica.
    • Os tópicos centrais abordados incluíram:
      • Escatologia das Máquinas: A ideia de que a IA representa o ápice de um processo de automatização técnica, levantando questionamentos sobre o fim da criatividade humana frente à automação.
      • Antropomorfismo Tecnológico: O hábito de projetar emoções e intenções humanas em sistemas de IA, muitas vezes criando ilusões de consciência e profundidade subjetiva.
      • Crítica à Integração da IA: Questionamos a crescente dependência de IA em processos criativos e culturais, refletindo sobre a perda de controle autoral e as implicações para a originalidade e a autoria.
    Escatologia das Máquinas de Yuk HuiBaixar

    Dinâmica Prática – Criação de Personagens e Diálogos com IA

    A segunda parte da aula foi dedicada a uma atividade prática em que os alunos criaram e simularam interações entre personagens usando IA, aplicando os conceitos teóricos discutidos anteriormente.

    Criação de Personagens:

    • Cada aluno desenvolveu personagens ficcionais com características detalhadas, motivações e dilemas bem definidos.

    Diálogo entre GPTs:

    • Três instâncias do ChatGPT foram configuradas para representar os personagens criados, cada uma com ajustes distintos para refletir personalidades e motivações específicas.
    • Os alunos testaram interações e diálogos entre os personagens, explorando como pequenas variações no prompt influenciavam o desenvolvimento narrativo e as tensões dramáticas.

    Observações Críticas:

    • Notou-se que a IA tende a suavizar conflitos e buscar resoluções pacíficas, mesmo em cenários de tensão narrativa.
    • A falta de complexidade emocional e os padrões previsíveis evidenciaram como as bases de treinamento influenciam a produção textual.

    Reflexões Finais e Conexões Críticas

    • Autoria e Coescrita:
      • A experiência de coescrita mediada por IA evidenciou tanto o potencial quanto os desafios de compartilhar a autoria com um sistema automatizado.
      • Discutiu-se o papel da IA como catalisadora criativa, oferecendo sugestões úteis, mas ainda dependente da intervenção humana para desenvolver complexidade narrativa.
    • Limitações e Viés Algorítmico:
      • Mesmo com configurações personalizadas, a IA apresentou padrões normativos e simplificados, limitando a diversidade narrativa.
      • Foi ressaltado como os datasets e algoritmos refletem contextos culturais específicos, muitas vezes reforçando valores hegemônicos.
    • Encerramento e Desafios Futuristas:
      • A aula concluiu com o incentivo a continuar explorando o potencial das IAs como ferramentas de experimentação e crítica, buscando formas de utilizar esses sistemas para subverter padrões e expandir as fronteiras da criação artística.
      • Propôs-se o uso de prompts mais sofisticados e diversificados para testar os limites da ferramenta e fomentar maior complexidade nos resultados criativos.
  • Algoritmos e Estética

    Algoritmos e Estética

    Resumo coescrito do dia 05/12/24
    por Andre Stangl

    1ª Parte: Discussão Teórica e Reflexões Filosóficas

    A primeira parte da aula aprofundou o debate sobre a relação entre modelos de linguagem, contexto e filosofia da linguagem, destacando como a IA reflete e limita certos padrões culturais e interpretativos. A discussão foi conduzida de forma interdisciplinar, conectando conceitos técnicos com abordagens filosóficas e sociais.

    Modelos de Linguagem e Contexto:

    • Exploramos detalhadamente o funcionamento de modelos de linguagem como transformers e mecanismos de coatenção, explicando como essas arquiteturas processam grandes volumes de texto para interpretar palavras e frases com base em contextos.
    • Essa abordagem foi comparada com as ideias de Wittgenstein, especialmente o conceito de que o significado de uma palavra é definido pelo uso social e contextual, e não por uma relação fixa com objetos.
    • A reflexão aprofundou-se ao considerar as limitações de IAs ao interpretar expressões regionais, gírias e neologismos, destacando o desafio de representar linguagens culturalmente complexas.

    Texto de Gisele Beiguelman: IA como Fármaco

    • A aula focou na análise do texto de Gisele Beiguelman, que explora a IA sob o conceito de fármaco, inspirado em Platão e Derrida: ao mesmo tempo remédio e veneno. Artigo completo (link) 
    • Foi discutido como a IA, ao ser desenvolvida e programada por humanos, carrega viés antropocêntrico e colonial, reproduzindo estruturas de poder e exclusão.
    • A metáfora do fármaco também destacou a dualidade da IA: ela amplia a criatividade, mas pode restringir ou distorcer a diversidade cultural, especialmente ao seguir padrões estéticos eurocêntricos.

    Exemplo prático: Gisele recriou, usando IA, imagens de plantas tradicionalmente consideradas “daninhas”, desafiando padrões estéticos europeus de jardins e refletindo sobre exclusões simbólicas.

    PhármakonBaixar

    Trecho Fedro de Platão:
    Ouvi dizer que em Náucratis, no Egito, existe um deus antigo chamado Thoth, cujo pássaro sagrado é a íbis. Esse deus é conhecido por ter inventado os números, o cálculo, a geometria, a astronomia, os jogos de tabuleiro e de dados e, por último, a escrita. Naquela época, o rei de todo o Egito era Thamus, que vivia na grande cidade de Tebas, no Alto Egito. Os gregos chamavam o deus dessa cidade de Ammon.

    Thoth foi até Thamus para mostrar suas invenções, dizendo que elas deveriam ser compartilhadas com o povo egípcio. O rei, então, perguntou qual era o benefício de cada uma. Enquanto Thoth explicava, Thamus elogiava o que achava bom e criticava o que achava ruim. Dizem que o rei fez muitos comentários, tanto positivos quanto negativos, sobre cada invenção, mas quando chegaram à escrita, Thoth afirmou:

    “Meu rei, a escrita vai tornar os egípcios mais sábios e melhorar sua memória, porque agora eles terão um remédio para isso.”

    Mas Thamus respondeu: “Thoth, você é ótimo em criar coisas, mas nem sempre quem cria é bom em avaliar o impacto do que inventa. Como pai da escrita, você está tão entusiasmado com sua invenção que está exagerando os benefícios dela. Na verdade, a escrita não vai melhorar a memória das pessoas, mas enfraquecê-la. As pessoas vão parar de exercitar a própria memória, porque vão depender da escrita para lembrar das coisas. Em vez de lembrar por conta própria, vão buscar informações fora de si mesmas, em sinais externos.

    Ou seja, o que você criou não é um remédio para a memória, mas sim para a lembrança. Além disso, sua invenção vai dar às pessoas uma aparência de sabedoria, mas não a verdadeira. Elas vão aprender muitas coisas superficialmente e achar que sabem muito, mas na prática vão continuar ignorantes. Isso vai torná-las mais difíceis de lidar, porque, em vez de sábias, elas vão se tornar presunçosas.” (tradução e simplificação via gpt)

    1. Texto de Evgeny Morozov – “The AI We Deserve” (link)
      • Introduzimos a crítica de Morozov sobre a origem militar da IA e seu caráter teleológico, projetado para resolver problemas de forma instrumental e eficiente.
      • Destacamos a ideia do “homem organizacional” burocrático como modelo subjacente à concepção das primeiras IA, voltadas para replicar sistemas administrativos e operacionais.

    Tendências em Agentes de IA e Simulações Virtuais:

    • Foram abordados experimentos como o “1000 AI NPCs simulate a Civilization in Minecraft”, onde agentes virtuais criaram estruturas sociais complexas de forma autônoma.
    • Esse exemplo gerou reflexões sobre o potencial dessas simulações para narrativas interativas e a criação de mundos ficcionais autogeridos, expandindo as possibilidades para narrativas emergentes e autoria distribuída.

    Atividade Prática:

    • Testes com DALL-E:
      • Utilizamos a ferramenta para gerar imagens a partir de prompts e observamos tendências colonialistas nas representações.
      • Analisamos como essas ferramentas reproduzem estereótipos culturais e estruturais embutidos nos conjuntos de dados que as treinam.

    Reflexões e Conexões:

    Discutimos como a IA, ao replicar estruturas coloniais e administrativas, limita sua capacidade de imaginar formas alternativas e mais inclusivas de inteligência e criação.

    A conversa conectou as críticas de Beiguelman e Morozov, ressaltando os desafios éticos e culturais no uso de IA em processos criativos.