Algoritmo pode ser definido como uma sequência de regras dentro de uma finitude de dados que leva a raciocínios e decisões baseados na sua própria programação, ou seja, na prática, robôs que tomam decisões baseados nos dados imputados a eles.
Tais ferramentas já são usadas para vários serviços no ramo empresarial, judicial e da própria advocacia.
Todavia, um debate interessante se dá quando falamos da gigante Amazon, posto que a mesma usa este tipo de serviço desde 2014 e tem dois casos emblemáticos que aconteceram pelo seu uso.
Vejamos:
Caso 1: Em 2015, ao usar algoritmos no seu processo seletivo, a Amazon percebeu que o robô não fazia seleção de mulheres, apenas de homens. Ao validar o porquê, descobriu que como o banco de dados tinha a maioria de cadastros de currículos de homens, portanto, o algoritmo entendeu que deveria deixar as mulheres em segundo plano, já que estatisticamente elas não eram relevantes (conforme banco de dados da época).
Caso 2: Em Julho de 2021, um homem de 63 anos foi demitido do serviço de entregas da Amazon por telegrama enviado por computador sem nenhuma ingerência humana, posto que o algoritmo entendeu que as entregas feitas por ele (rastreadas pelo máquina e inteligência artificial da Amazon) não estavam a contento do padrão da empresa, então, enviou a demissão automática ao empregado.
A própria empresa declarou em ambos os casos que são verídicos e que no primeiro corrigiu os dados para que o algoritmo não se tornasse sexista, e que no segundo caso, se trata de procedimento normal, posto que a ferramenta tem parâmetros para tomadas de decisão como esta e que não haveria nada de errado nisto.
A preocupação não é com o uso da tecnologia ou de algoritmos para tomada de decisão. O fato é de tais decisões não serem validadas por humanos antes de aplicadas, posto que envolvem pessoas no seu decisório.
Por mais que a tecnologia possa evoluir e ajudar o ser humano em diversos aspectos, ela não substitui o ser humano, seja por unicamente levar em conta dados, seja por não perceber aspectos subjetivos que somente o olhar crítico até mesmo emocional do ser humano pode compreender.
De toda sorte, tais casos nos levam a pensar no futuro que teremos diante do presente que estamos vivendo.
Queremos máquinas nas tomadas de decisões estratégicas e de pessoas? Ao meu sentir, perderemos mais do que ganhamos com esta possibilidade.
Vamos deixar as máquinas com o repetitivo e decisão de questões lógicas, já está de bom tamanho.
#PraPensar
#FraternoAbraço #GustavoRocha
(51) 98163.3333 | gustavo@gustavorocha.com | www.gustavorocha.com
@ConsultorGustavoRocha | Instagram | Facebook | LinkedIn
#Consultoria GustavoRocha.com | Gestão, Tecnologia e Marketing Estratégicos
Robôs | Inteligência Artificial | Jurimetria | Marketing Jurídico | Fluxos Internos | Plano de Carreira | Financeiro
@GustavoRochaCom | Twitter | Facebook | LinkedIn | Youtube
#Comitê LGPD | Implementação de adequação a Lei Geral de Proteção de Dados