Kate Darling é uma investigadora e cientista do MIT que dedicou a sua vida a estudar os laços emocionais que as pessoas criam com os robots e as suas consequências éticas e sociais. Eis as suas conclusões (e advertências).
Por Francisca Domínguez Zubicoa
“Consequências aterradoras”, “riscos profundos para a humanidade”, “o fim do jogo para os humanos”, “pode levar à extinção da humanidade”. Com o avanço vertiginoso da inteligência artificial (IA) nos últimos meses, surgiram também mensagens e avisos apocalípticos de especialistas e grandes empresas sobre o futuro da humanidade. O aviso traz à memória ficções como 2001: Uma Odisseia no Espaço, Exterminador do Futuro ou Matrix, onde as máquinas, evoluídas ao ponto de pensarem por si próprias, assumem o controlo e subjugam a raça humana.
Se este cenário acabará por se concretizar, só o tempo o dirá. Mas a presença quotidiana de máquinas e robôs em casa suscita uma preocupação diferente para Kate Darling, investigadora e cientista do MIT Media Lab. A sua linha de investigação é também informada pelo cinema. Filmes como Her, A.I. Artificial Intelligence ou The Bicentennial Man mostram o outro lado da moeda, o da relação emocional entre humanos e máquinas, e enquanto estes filmes provocam ternura entre os espectadores, esta ligação e as suas consequências sociais e éticas tornaram-se para Darling o foco dos seus estudos académicos.
No âmbito da sua próxima visita a Espanha, convidada pela consultora Seidor para participar no Sónar +D em Barcelona, Darling falou com a ComputerWorld sobre a forma como nos devemos relacionar com as máquinas, as implicações sociais e interpessoais que estes laços geram e as suas preocupações sobre a manipulação destas relações por empresas e governos.
Como é que a nossa relação emocional com as máquinas evoluiu, especialmente com a ascensão da IA?
Muito do meu trabalho tem-se centrado em como e porque é que as pessoas desenvolvem relações emocionais com as máquinas, e há muita investigação neste campo que há muito mostra que gostamos de tratar as máquinas automatizadas como se estivessem vivas, apesar de sabermos que são apenas máquinas, e mesmo com as tecnologias mais primitivas, os primeiros chatbots, ou o aspirador Roomba, as pessoas davam-lhes nomes e falavam com elas. Há muito tempo que sabemos que isto está a acontecer e é um fenómeno que não vai desaparecer. Penso que o que está a acontecer agora, com modelos de aprendizagem de línguas mais avançados e aplicações mais complexas e interessantes para ter conversas reais, penso que vamos ver isto acontecer muito na prática e a sociedade vai estar mais consciente de que isto está a acontecer. Vai acontecer, não são apenas alguns malucos, são todos. Adoramos interagir com estas máquinas e vamos ter de descobrir como lidar com isso, porque levanta algumas questões éticas, também levanta muitas possibilidades, mas não podemos ignorar que está a acontecer.
Estamos a ver a IA a ser utilizada para preencher algumas lacunas emocionais, por exemplo, muitos sítios Web oferecem serviços de conversação com namoradas de IA. Será que a IA alguma vez será capaz de substituir um ser humano como apoio emocional ou social? Deverá fazê-lo (em casos excecionais, como pessoas idosas sem família, por exemplo)?
Não creio que venha a ser um substituto direto, mas há muita investigação que demonstra que pode ajudar as pessoas quando se sentem sozinhas. Mesmo que voltemos às relações das pessoas com objetos, que nem sequer são animados, que não podem falar connosco, quando as pessoas se sentem muito sozinhas desenvolvem mais relações com os objetos que as rodeiam, antropomorfizam-nos e projetam neles qualidades humanas, ofícios e emoções, o que pode realmente ajudá-las a sobreviver nesses casos. Atualmente, os robôs e a IA são muito interessantes porque imitam muitos comportamentos que associamos automaticamente a sinais sociais, pelo que as pessoas os antropomorfizam muito mais facilmente. Isso pode ser muito útil nalgumas circunstâncias. No entanto, não creio que seja um bom substituto para as pessoas, porque existem muitas diferenças entre a forma como os humanos comunicam e a forma como a IA comunica, e não creio que deva ser utilizado ou comercializado como um substituto direto. Gosto sempre de utilizar a analogia dos animais e dos animais de estimação com os quais desenvolvemos relações emocionais, e eles não substituíram as relações humanas, mas ofereceram algo diferente que pode realmente ajudar as pessoas. É esse o verdadeiro potencial desta tecnologia, oferecer algo diferente que pode fazer a ponte ou que pode ajudar as pessoas, mas não é um ótimo substituto individual.
Será que este tipo de relações com as máquinas, a que assistimos atualmente ou que iremos assistir no futuro, deve ser regulamentado, para que não se crie um cenário do tipo Westworld?
É complicado e penso que é necessário refletir e regulamentar cuidadosamente esta questão. A violência contra objetos robóticos é uma coisa, mas também uma das grandes diferenças entre robôs e animais é que os robôs podem contar os seus segredos às pessoas ou podem ser controlados por empresas, e as pessoas podem ser manipuladas emocionalmente quando se encontram num espaço muito vulnerável. Precisamos de regulamentação que proteja o consumidor, precisamos de ser muito cautelosos sobre a forma como as empresas estruturam os modelos de negócio em torno das relações com a IA e os robots.
Além disso, existem muitas questões sobre o comportamento humano face a objetos que imitam o comportamento real. Mencionou o filme Westworld: é correto ser violento com um objeto robótico que se parece muito com um ser vivo, é algo que pode realmente ajudar as pessoas porque é uma saída saudável para o comportamento violento, ou é algo que dessensibiliza e precisamos de algumas regras sobre o que é correto e o que não é? Do ponto de vista da investigação, não sabemos realmente, por isso é algo que requer muita reflexão e muita investigação para garantir que estamos a criar políticas públicas baseadas em provas.
Recentemente, entrevistei um executivo sénior da Microsoft que me disse que, sempre que pedia ao chatbot para fazer alguma coisa, dizia “por favor”, por precaução. Como deve ser o tom das nossas interações com robôs, máquinas ou IA?
Sei que muitas pessoas, especialmente os pais, têm estado preocupados com a forma como os seus filhos interagem com os assistentes de voz digitais que temos em casa, como a Alexa ou o Google Home, e tem havido queixas e preocupações suficientes sobre isso para que algumas empresas, como a Amazon e a Google, tenham lançado funcionalidades que podem ser ativadas para encorajar a dizer “por favor” e “obrigado”, porque estavam preocupados que os seus filhos estivessem a aprender maus padrões. É uma questão de investigação muito interessante porque não sabemos se as pessoas e as crianças, que também são inteligentes, distinguem na sua mente “oh, isto é uma IA e não é assim que eu interajo com um humano” ou se isso se mistura no seu subconsciente e se tem um efeito no seu comportamento. Penso que devemos ser um pouco cautelosos, porque não sabemos exatamente que efeito a interação com a IA pode ter no comportamento das pessoas. Gosto da ideia de ter estas interfaces que nos incentivam a dizer “por favor”, especialmente para as crianças que são muito maleáveis e ainda estão a desenvolver-se. Mas, sinceramente, não sabemos e este é um domínio que necessita de muita investigação.
Quais são as implicações éticas do facto de as máquinas se tornarem cada vez mais parecidas com os seres humanos?
Há muitas implicações éticas, mas o que mais me preocupa é o facto de as pessoas desenvolverem relações com as máquinas e de essas relações poderem ser exploradas para fins comerciais ou pelos governos para fins de vigilância. Penso que até agora as pessoas não levaram muito a sério esta questão de que as pessoas irão desenvolver estas ligações e que muitos de nós irão desenvolver estas ligações, e não apenas algumas pessoas à margem, por isso penso que precisamos de prestar muito mais atenção à questão ética de as pessoas se tornarem muito ligadas às máquinas e ao que isso pode significar num ambiente comercial.
Claro, porque o discurso a que assistimos em relação à IA está mais relacionado com um cenário de ficção científica em que a IA vai assumir o controlo e eliminar os humanos, mas esta é uma questão mais atual, é algo que já está a acontecer e que vai piorar com o tempo.
As aplicações atuais ainda geram muitos erros ou mesmo informações prejudiciais, pelo que quanto mais as pessoas confiarem nestas máquinas para lhes darem respostas ou conselhos corretos, mais problemas éticos e danos podem surgir. Sabemos que alguns destes sistemas podem produzir resultados racistas, sexistas ou prejudiciais. Houve um caso em que a Alexa da Amazon disse a uma criança para colocar uma moeda numa tomada. As empresas não têm controlo total sobre o que é divulgado e, por isso, penso que temos de ser um pouco mais cautelosos, e estas são coisas que estão a acontecer neste momento. Sim, penso que há pessoas inteligentes a pensar no futuro, no que vai acontecer quando as máquinas ficarem ainda mais inteligentes. Penso que essa é ainda uma questão filosófica, porque não sabemos exatamente como vai ser, mas há coisas que estão a acontecer neste momento que requerem a nossa atenção.
E quais são as consequências sociais ou interpessoais? Se já vemos as gerações mais jovens a interagir cada vez menos cara a cara com as redes sociais, o que acontecerá quando a IA se tornar omnipresente?
O que me agrada nos robôs físicos é que, quando comunicamos apenas com um ecrã, perdemos muito da forma como nós, humanos, comunicamos, a linguagem corporal, a expressão, e é uma comunicação mais plana do que comunicar com algo no nosso espaço físico ou com alguém, por isso, o que me agrada nos robôs físicos é que acrescentam este elemento físico de novo. Na verdade, estou menos preocupado com o facto de os meus filhos brincarem com robôs do que com o facto de estarem sentados em frente a um ecrã o dia todo sem se mexerem, mas não sabemos qual será o efeito nas novas gerações. Penso muito nisso porque tenho filhos e tento educá-los, não só sobre o funcionamento dos robôs, mas também sobre algumas das implicações sociais dos robôs, e tento levá-los a refletir um pouco sobre o assunto. Penso que é um trabalho muito importante. No MIT e noutros locais estão a trabalhar com crianças e robôs sociais para estudar os efeitos das interações, mas de uma perspetiva social mais ampla, não sabemos realmente o que vai acontecer.