Rometty sugere que empresas de IA “oculta” se retirem desse mercado

Há preocupações crescentes de que os sistemas de inteligência artificial se estão a tornar “caixas pretas” que não explicam processos de tomada de decisão.

Ginni Rometty, presidente e CEO da IBM

A presidente e CEO da IBM, Ginni Rometty, considera que as empresas incapazes de explicar as decisões tomadas pela inteligência artificial (IA), nas suas ofertas, devem sair desse mercado de algoritmos e analítica de dados.

Esses equipamentos deviam dessa forma retirados do mercado. Num artigo publicado como parte do Fórum Económico Mundial, cuja cimeira decorre até à próxima sexta-feira em Davos, Rometty pediu uma “nova era de responsabilidade sobre os dados”, caracterizada por maior transparência em torno da IA.

“Quando se trata de novas capacidades de IA, devemos ser transparentes sobre quando e como ela está a ser aplicada e sobre quem a treinou, com que dados e como”, escreve a presidente e CEO da IBM.

“[Os resultados de IA] Reflectem conhecimentos profissionais? As parcialidades não intencionais estão incorporadas? Devemos explicar porque os algoritmos usam tomam as decisões. Se uma empresa não consegue fazer isso, os seus produtos não devem estar no mercado”.

A Google, questionam o valor da AI explicável, argumentando que as pessoas também não são muito boas a explicar as suas tomadas de decisão.

Há preocupações crescentes de que os sistemas de IA ‒ na sua aplicação em redes neurais de aprendizagem hierarquizada, algoritmos complexos e modelos gráficos probabilísticos ‒ se tornem-se “caixas pretas”, incapazes de fornecer explicações nos seus processos de tomada de decisão. Já Manuela Veloso, investigadora portuguesa na Universidade Carenegie Mellon, alertou para o problema em conferência da APDSI, durante 2017.

A IBM “apoia políticas de transparência e governo de dados capazes de garantir o entendimento sobre como um sistema de IA chegou a uma determinada conclusão ou recomendação”, segundo a sua política.

Vários fornecedores de TIC, entre os quais a Oracle e a Amazon Web Services estão a explorar formas de tornar os resultados da actividade dos sistemas de AI “explicáveis”. Mas outros, como a Google, questionam o valor da AI explicável, argumentando que as pessoas também não são muito boas a explicar as suas tomadas de decisão.

“A economia da AI conjugada com os dados esta a preparar o caminho para novas inovações, ampliando o acesso a oportunidades e soluções para alguns dos problemas mais prementes da sociedade. É por isso que exorto todos os meus colegas de negócio e os governos a adoptarem princípios de administração e transparência de dados, como aqueles que mencionei. A IBM vive à sua luz, e acreditamos serem críticos para ganhar a confiança do público “, acrescentou Rometty.

Executiva pede transparência na propriedade sobre os dados

Rometty também pediu aos seus pares para serem transparentes sobre práticas de governo sobre dados.

“Devemos ser claros sobre quem possui dados e os ‘insights’ exclusivos que ele gera. As empresas devem ser claras com os seus clientes e os governos com os seus cidadãos, quando eles pedem à pessoas que prescindam da posse dos seus dados”, defende.

“A IBM, por exemplo, não fornecerá dados de clientes a qualquer programa de vigilância do governo”, garantiu.




Deixe um comentário

O seu email não será publicado