Apesar dos avanços da inteligência artificial, um detalhe chamado “bias” importuna a tecnologia e continua a desafiar aqueles que buscam escalar essa tendência para resolver os problemas dos negócios. Para avançar, a indústria vai precisar resolver questões relacionadas à discriminação que sempre aparecem quando o assunto é inteligência artificial, em especial no que diz respeito ao reconhecimento facial.
“Todos os dias nós ouvimos relatos de tecnologias de reconhecimento facial que discriminam pessoas, especialmente pessoas de cor, e isso é um problema”, disse Rana el Kaliouby, co-founder e CEO da Affectiva, em uma sessão do Dell Technologies World, que aconteceu em Las Vegas no começo do mês.
Mas como as empresas podem trabalhar para corrigir esses “bias” dos algoritmos? A executiva deu algumas dicas.
“Primeiro, precisamos garantir que nossos dados são diversos, não só no gênero mas também na perspectiva étnica. Isso significa buscar dados de todas as qualidades”.
E aí vem o treinamento do algoritmo. “A tecnologia ainda não é perfeita, mas pelo menos estamos de olho nesse problema e organizando os dados de uma maneira que possamos garantir que não estamos discriminando acidentalmente uma ou outra população”.
A cientista também comentou sobre a importância de se ter um time diverso para criar e treinar as ferramentas de inteligência artificial de uma maneira completa. “Se estamos desenhando esses sistemas de IA para serem usados globalmente em diferentes cenários e casos de uso, precisamos de pessoas com diferentes backgrounds para entendermos como desenhar e desenvolver esses sistemas”, completou.
Desenvolvendo a confiança entre humanos e máquinas
Kaliouby também comentou que, para se desenvolver, a inteligência artificial precisa de um toque de humanidade. “Nós tomamos várias decisões baseadas em confiança todos os dias, mas como os humanos confiam em outros humanos? Muito frequentemente, a confiança está implícita e é manifestada em comunicação não-verbal – seja pelo tom de voz, gestos ou expressões faciais”, explica.
Com isso em mente, ela está trabalhando no desenvolvimento de uma tecnologia para treinar algoritmos de inteligência artificial que identificam expressões humanas. E, à medida que a inteligência artificial evolui, ela quer que a indústria pense na IA não só como uma ferramenta, mas como uma relação de troca entre o humano e a tecnologia.
“Nós sempre conversamos sobre a falta de confiança na inteligência artificial, mas será que a inteligência artificial pode acreditar nos humanos? Nós precisamos de um novo contrato social entre máquinas e homens!”, concluiu.
* O jornalista viajou para o Dell World a convite da Dell.
