Como uma máquina aprende e falha – uma gramática de erro para inteligência artificial

Resumo

Trabalhando na convergência entre as ciências humanas e a informática, este texto visa delinear uma gramática geral de aprendizagem de máquinas e fornecer sistematicamente uma visão geral de seus limites, aproximações, enviesamentos, erros, falácias e vulnerabilidades. O termo convencional Inteligência Artificial é mantido, embora tecnicamente falando, seria mais preciso chamá-lo de aprendizagem mecânica ou estatística computacional, mas estes termos não seriam atraentes para as empresas, universidades e o mercado de arte. É feita uma revisão das limitações que afetam a IA como uma técnica matemática e cultural, destacando o papel do erro na definição da inteligência em geral. O aprendizado da máquina é descrito como consistindo de três partes: conjunto de dados de treinamento, algoritmo estatístico e aplicação do modelo (como classificação ou previsão) e três tipos de vieses são distinguidos: mundo, dados e algoritmo. Argumenta-se que os limites lógicos dos modelos estatísticos produzem ou amplificam o viés (que freqüentemente já está presente nos conjuntos de dados de treinamento) e levam a erros de classificação e previsão. Por outro lado, o grau de compressão da informação por modelos estatísticos utilizados na aprendizagem de máquinas causa uma perda de informação que resulta em uma perda de diversidade social e cultural. Em última análise, o principal efeito da aprendizagem mecânica na sociedade como um todo é a normalização cultural e social. Há um certo grau de mitologia e preconceito social em torno de suas construções matemáticas, onde a Inteligência Artificial deu início à era da ficção científica estatística.