Por Marcelo Andrade de Barros e Walmor Cristino Leite Junior |
Algoritmos que foram treinados para analisar o comportamento normal das pessoas pela internet foram afetados após interpretarem o novo estilo de vida das pessoas originado pela pandemia. Produtos recomendados pela Inteligência Artificial de uma loja na internet já não correspondiam aos que estavam sendo vendidos antes da Covid-19. Segundo a CEO da empresa de consultoria de marketing algorítmica Nozzle, a situação ficou tão volátil que a análise de sentimentos de notícias também ficou confusa. Empresas que detectam fraudes de cartões de crédito foram igualmente afetadas pela mudança abrupta. A intervenção das empresas para ajustes no seu algoritmo, para demonstrar os novos interesses dos clientes, se tornou mais intensa e complexa.
Impactos em Segurança e Defesa: Os modelos de aprendizagem de máquina são projetados para responder às mudanças. Mas a maioria também é frágil; eles têm um desempenho ruim quando os dados de entrada diferem muito dos dados em que foram treinados. A pandemia revelou que mudanças no comportamento humano mudam a forma como a IA funciona.
Fonte: HEAVEN, Will Douglas. Our weird behavior during the pandemic is messing with AI models. MIT Technology Review, 11 Mai. 2020. Disponível em: https://www.technologyreview.com/2020/05/11/1001563/covid-pandemic-broken-ai-machine-learning-amazon-retail-fraud-humans-in-the-loop/