De acordo com um relatório do Platformer.news, a Microsoft despediu a equipa responsável pela “ética e sociedade” na sua organização de IA.
Dizia-se que os afetados se encontravam entre os 10.000 empregados que a Microsoft tinha posto na rua no decurso de uma grande redução de efetivos. A empresa de software está assim a despedir-se dos peritos que deveriam assegurar a conceção eticamente correta dos produtos, numa altura em que as ferramentas de IA estão a atingir o mainstream.
No entanto, o Platformer também escreve que a Microsoft continua a manter o seu Office of Responsible AI, que desenvolve regras e princípios para as iniciativas de IA da empresa. O gigante do software afirma mesmo estar a investir mais do que nunca na investigação de IA responsável.
Foco na integração da tecnologia OpenAI
No entanto, os funcionários despedidos da equipa “Ética e Sociedade” tinham desempenhado um papel importante para assegurar que os princípios éticos da IA não fossem apenas tratados teoricamente, mas também implementados com base em regras claras a nível do produto. Isto está agora a faltar. Mais recentemente, diz-se que a equipa trabalhou para identificar os riscos colocados pela adoção pela Microsoft da tecnologia OpenAI na sua gama de produtos.
A equipa atingiu cerca de 30 no seu auge em 2020, incluindo engenheiros de software, designers e filósofos. Em outubro de 2021, já tinha sido reduzida para apenas sete funcionários no decurso de uma reestruturação. Estes sete já não eram aparentemente capazes de lidar com as muitas tarefas de forma atempada e cada vez mais se revelavam um travão.
O Platformer tem uma gravação de vídeo interna da Microsoft segundo a qual John Montgomery, vice-presidente corporativo de IA, explica aos empregados que a direção da empresa espera dele mais rapidez na implementação. “A pressão de Scott Kevin (CTO) e Satya Nadella (CEO) é muito grande para conseguir os últimos modelos OpenAI, e também os que vêm depois, nas mãos dos clientes a alta velocidade”, diz-se que Montgomery disse numa reunião com os empregados.
Aspetos empresariais vs. sociais
Alguns membros da equipa aparentemente resistiram: “Sou tão ousado que vos peço que reconsiderem esta decisão”, um membro do pessoal terá dito no telefonema. “Embora compreenda que há aqui aspetos empresariais envolvidos, o que esta equipa sempre se preocupou foi como estamos a afetar a sociedade e o impacto negativo que estamos a ter. E estes são significativos”. Montgomery tinha declinado, dizendo que a pressão para entregar rapidamente era demasiado grande.
Um funcionário disse ao Platformer que os despedimentos deixarão um vazio fundamental em termos de experiência do utilizador e de conceção holística dos produtos de IA. “O pior é que isso coloca a empresa e as pessoas em risco”, explicou ele.
O conflito mostra como é difícil para os responsáveis pela ética nas grandes empresas de tecnologia neste momento. Na melhor das hipóteses, eles ajudam as equipas de produtos a detetar o potencial uso indevido da tecnologia cedo e a resolver problemas antes de chegarem ao mercado. Mas dentro das organizações também têm a tarefa de dizer “não” ou “abrandar” em casos de dúvida – mesmo que ninguém na empresa queira ouvir isso.