Flávio Luis de Mello <flavioluis.me...@gmail.com> escreveu: > Saiu um statement da ACM > (http://www.acm.org/media-center/2017/january/usacm-statement-on-algorithmic-accountability) > tratando da preocupação deles com eventuais resultados tendenciosos de > algoritmos voltados para a tomada de decisão. > > Penso que a IA é uma das áreas contempladas por essa preocupação. Além > disso, ainda que a preocupação seja válida, me pergunto se realmente é > viável auditar o processo neste contexto. Gerar dados ou informações > tendenciosas é uma característica do algoritmo ou o reflexo daqueles > que produzem o algoritmo? Entendo que é o segundo.
Eu entendo que é o primeiro. Note que as tendências e preconceitos dos programadores, ou da organização que desenvolve o algorítimo, não se refletem necessariamente no algorítimo (se este fosse o caso, obter um algorítimo não tendencioso seria praticamente um milagre). Como o problema está nos resultados tendenciosos dos *algorítimos*, então são estes que devem passar pelo crivo. Ademais, com o emprego crescente de métodos algorítmicos mais opacos, como redes neurais artificiais em combinação com aprendizado de máquina, resultados tendenciosos podem surgir a despeito das intenções (conscientes ou não) dos desenvolvedores, pois, como observa bem o documento publicado pela ACM, eles podem ser causados pelo dados que alimentam o algorítimo. Por exemplo, se um algorítimo, usado para alguma tomada de decisão, digamos, a ordenação dos resultados de alguma busca, é alimentado com dados coletados dos próprios usuários, pode-se esperar que tendências e preconceitos dos usuários se reflitam nos resultados do algorítimo. Dependendo do contexto, algo assim pode ser bastante problemático. -- Hermógenes Oliveira "There are two ways of constructing a software design: One way is to make it so simple that there are obviously no deficiencies and the other way is to make it so complicated that there are no obvious deficiencies." C. A. R. Hoare -- Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google. Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscr...@dimap.ufrn.br. Para postar neste grupo, envie um e-mail para logica-l@dimap.ufrn.br. Visite este grupo em https://groups.google.com/a/dimap.ufrn.br/group/logica-l/. Para ver esta discussão na web, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/877f5xb9re.fsf%40camelot.oliveira.
