Desafios da governança no uso da inteligência artificial

O uso da inteligência artificial aliado à governança corporativa é uma realidade recente. Assim como qualquer novidade, esta tecnologia deve lidar com desafios e alguns dilemas ligados à ética e segurança de dados.

Atualmente, os algoritmos estão cada vez mais precisos e, acima de tudo, presentes nos produtos e serviços oferecidos aos públicos e às empresas. Até mesmo o streaming já une criatividade e máquinas para produzir conteúdos que agradem o público.

Porém, à medida que a tecnologia evolui, alguns dilemas éticos e morais surgem. Por exemplo, até pouco tempo o algoritmo do Twitter dava preferência para fotos com pessoas brancas ao invés de negras. Este é apenas um desafio de tantos outros que devem surgir nos próximos anos.

Para entender melhor os desafios da governança no uso da inteligência artificial, a Auditeste preparou este artigo e reuniu todas as informações que você precisa para entender este novo e complexo assunto!

 

O que é a governança com uso de inteligência artificial?

A governança com uso de inteligência artificial é um conceito ainda recente que se trata do uso de algoritmos no processo de tomada de decisão.

O conceito de governança corporativa reúne todos os propósitos, desafios e dilemas éticos de uma empresa. Assim, as instituições que utilizam uma política de governança contam com leis internas, costumes e organogramas de processos claros.

Já a inteligência artificial, trata-se de um conceito que utiliza robôs e softwares para automatizar processos, cruzar dados, padronizar informações e auxiliar no processo de tomada de decisão.

Porém, conforme novas soluções surgem, os robôs ficam mais complexos e processam mais informações, que podem ser usados para tomar decisões mais assertivas ou reforçar ainda mais os erros.

Justamente por isso, a governança com uso de inteligência artificial enfrenta tantos desafios.

Na prática, as soluções que surgem a partir da IA precisam considerar toda a sociedade para que nenhuma pessoa seja prejudicada. Indo além do exemplo do algoritmo do Twitter, os robôs devem ter em mente o fator humano.

Por exemplo, os futuros carros autônomos não devem apenas saber quando seguir, virar ou frear, mas também reconhecer que as pessoas atravessam ruas às cegas, animais cruzam a pista de surpresa e há riscos de outros motoristas furarem o sinal.

Outro dilema da inteligência artificial está na sua concepção. Atualmente, a área da TI é formada majoritariamente por homens. Mais precisamente, 75% dos profissionais de TI do Brasil são homens, enquanto apenas 25% são mulheres, de acordo com a Microsoft.

Isso faz com que a falta de pluralidade faça com que a pouca representação aumente ainda mais a desigualdade da sociedade e afaste soluções digitais para determinados grupos de pessoas.

 

Quais os desafios da governança ao adotar a inteligência artificial?

Os desafios enfrentados por governanças que decidem adotar a inteligência artificial são reflexos diretos da própria sociedade. Ou seja, as máquinas são estimuladas involuntariamente desde a sua programação para repetir problemas já conhecidos.

Em países que investem em reconhecimento para prever riscos e encontrar indivíduos com “características suspeitas”, a tecnologia se destaca negativamente por considerar estereótipos discriminatórios, como país de origem e cor da pele.

Neste exemplo em especial, o aprendizado de máquina (machine learning ou ML na sigla em inglês) utiliza informações do sistema carcerário e padrões criados por desenvolvedores que, caso não entenda a complexidade do tema, pode utilizar informações enviesadas.

A partir disso, ao invés de solucionar um problema, a inteligência artificial funciona como um agente de desigualdade, provocando mudanças negativas e gerando dilemas entre as autoridades que defendem o uso da tecnologia.

Fora o reconhecimento artificial, a IA também enfrenta desafios ao apresentar informações que tornam as pessoas mais suscetíveis à fraude ou aos vícios na infância.

Ao tomar decisões com base nas informações cedidas por algoritmos, as empresas encontram fórmulas para facilitar o engajamento das pessoas. Deste modo, é possível criar jogos que viciam as crianças e produzir notícias falsas que chamam atenção dos leitores.

Entre todos os exemplos, o mais negativo e conhecido é o escândalo do uso político de dados de mais de 50 milhões de usuários, que levou o empresário americano Donald Trump a defender ideais e assuntos que o levaram a vencer a corrida presidencial.

Atualmente, o principal desafio é a criação de diretrizes que defina um consenso de como regular a inteligência artificial e utilizá-la entre as empresas e os governos.

 

Como superar os desafios da inteligência artificial?

Para superar todos os desafios da inteligência artificial, o esforço de empresas e do governo é necessário.

O primeiro passo está na regulamentação e na criação de diretrizes de uso em relação aos algoritmos. Por exemplo, a China já conta com regras recomendadas tendo em mente o uso de algoritmos na hora de tomar decisões.

No gigante econômico, o país tem como principal justificativa a busca por mais transparência.

Em 2021, os chineses se revoltaram quando descobriram que os aplicativos de transporte contavam com tabelas de preço diferentes de acordo com gostos, empregos e outras informações pessoais.

Assim, o mesmo trajeto tinha dois preços distintos que variam conforme os dados pessoais do passageiro.

Além das diretrizes do uso dos algoritmos, a regulamentação da China também cria restrições em relação à tomada de decisão baseada em inteligência artificial. Com isso, as empresas ficam proibidas de criar conteúdos viciantes, especialmente entre crianças.

Fora a regulamentação, também é preciso diversificar ainda mais a área da tecnologia, garantindo uma perspectiva mais plural e um ambiente digital mais democratizado.

Este acesso mais completo faz com que as expressões e estereótipos não sejam encarados como regra entre os robôs. Assim, dificilmente as mazelas sociais são transportadas ao ambiente digital.

 

Gostou do conteúdo ou quer saber mais sobre os desafios da inteligência artificial? Então não deixe de escrever a sua opinião nos comentários!

Deixe um comentário

Seu e-mail não será publicado. Campos obrigatórios são marcados com *
Você pode usar estas tags e atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>