Viva, Adolfo: Faço aqui a minha última contribuição a este fio de conversa, pois talvez ela (ou a minha contribuição a ela) já não esteja sendo muito produtiva. Recordo que entrei nela, lá no início, para tentar introduzir uma definição mais operacional de "agente epistêmico".
>> > Alguma dessas provas está mostrando os prompts, o chat inteiro e o custo >> > em tokens (quando houver)? >> >> Hummm... Por qual razão alguém deveria se preocupar em publicar todo >> o histórico de uma determinada "conversa investigativa"? Não é comum > > Ciência Aberta. Reprodutibilidade. Sei que não é muito comum na Lógica e na > Matemática, mas fazíamos muito isso na Engenharia de Software. A reprodutibilidade de uma demonstração não pressupõe a reprodutibilidade (e nem mesmo o registro) do processo heurístico que levou a ela. > A pessoa usou uma ferramenta. Não tem custo quase nenhum fazer isso que eu > disse: cria os links, coloca num apêndice os links (não o texto completo dos > chats - ninguém merece). Easy peasy. Eu não esperaria um link para as conversas que um autor tem com os interlocutores que contribuíram para o seu trabalho. Se decerto não estamos falando de um "colega", ainda podemos falar de um "simulador de performances discursivas situadas" (ou, neste caso, de um "simulador de atividade matemática discursivamente articulada"), ou mais precisamente de um "simulador generativo de possíveis continuações discursivas, condicionado pelo contexto". >> em absoluto na Matemática relatar todos os tombos que alguém levou >> enquanto tateava para encontrar a porta de saída... > > Não antropomorfizar, por favor. É uma ferramenta. Nesta parte da *analogia* eu estava antropomorfizando humanos, mesmo... Sei que nem todos "merecem" isso, mas é um hábito que eu tenho! >> Claro, pode cumprir um bom papel pedagógico tornar públicas as >> interações com a LLM que tiveram papel epistêmico relevante na >> obtenção ou na justificação do resultado. É disto que estamos >> falando? > > Mais do que isso, mas Isso também. > > Registro. Eu aprendi que é importante registrar o que a gente faz com > ferramentas que é relevante pra obter o resultado, a menos que seja algo > muito básico (usar uma planilha). O histórico completo da conversa poderia ser de algum interesse para aqueles que estão interessados na proveniência epistêmica de um determinado resultado. A divulgação do mesmo seria oportuna na medida em que sua omissão impeça a comunidade de compreender, avaliar ou reproduzir adequadamente aquilo que está sendo alegado. > Pelo que conheço da arquitetura de LLMs, como são "treinados" como é feita a > "inferência", não faz sentido algum chamar um humano escrevendo prompts e > recebendo saídas de um LLM de > > sistema epistêmico híbrido Registro que você não gostou da terminologia sugerida. Reitero que o objetivo era diferenciar "sistema epistêmico híbrido" (no qual, em particular, a responsabilidade epistêmica e autoral continua recaindo principalmente sobre o humano que está [está, mesmo?] no comando) de "agente epistêmico". Mas talvez você estivesse esperando uma integração mais iterativa e uma distribuição mais funcional do trabalho? Não tenho como saber, pois não foi apresentado um argumento... > Observem que a possibilidade de qualquer coisa que lembre "pensamento" não > faz parte da nossa conversa pois somos duas pessoas que sabemos o básico de > como LLMs funcionam. Se eu usei a palavra "pensamento", certamente foi por deslize meu. Não era relevante para a discussão original sobre "agentes epistêmicos". >> Muita gente ainda publica e publicará! (e muita gente vai ganhar >> dinheiro vendendo dicas sobre "engenharia de prompt") Mas papers *de >> Matemática* escritos em colaboração entre humanos raramente registram >> as conversas que eles tiveram enquanto faziam suas tempestades de >> ideias, não é? > > É, por que humanos não são ferramentas Bem, muita gente se diz "instrumento da paz divina" (ver Oração de São Francisco de Assis, no original francês ou em qualquer uma de suas traduções). 🙏🏽 > Quando a gente usa ferramentas, principalmente ferramentas com um grau de > aleatiriedade como LLMs, é uma boa prática incluir os prompts, os chats, se > algo de relevante foi obtido na saída. > > Se não saiu nada relevante, não precisa. Mas neste caso nem existiria esta > conversa aqui, imagino. Já falei sobre isso nas minhas respostas anteriores. > Da mesma forma que dizer Papagaio Estocástico não é xingar (só gente > desinformada diz isso > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-questions-49c2e7d22d11 > ), uma ferramenta pode trazer resultados muito interessantes. > De avião a gente consegue ir em horas a lugares que levariam dias, meses. Não segue daí que seja preciso registrar cada martelada, cada vôo, ou cada conversa com o papagaio da vizinha. []s, João Marcos -- LOGICA-L Lista acadêmica brasileira dos profissionais e estudantes da área de Lógica <[email protected]> --- Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google. Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para [email protected]. Para ver esta conversa, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CAO6j_LjZXBMf_evY6QtGuEKRdiFYmCeR%2Bv6AcNQuqNNAGHNvqQ%40mail.gmail.com.
