“A relação homem-máquina exige compreensão mútua e respeito pela IA”

Por Lucas Mearian

A IA generativa irá em breve infiltrar-se em todos os aspetos da nossa vida pessoal e empresarial, o que significa que a Humanidade terá de reavaliar a sua relação com as máquinas – máquinas que continuam a tornar-se mais semelhantes ao ser humano nas suas capacidades.

Em pouco tempo, passaram de ferramentas a companheiros de equipa para tudo, desde o desenvolvimento de produtos e a eficiência da produtividade até às relações românticas e aos terapeutas psicológicos, de acordo com três executivos da Gartner Research. Eles discutiram a rápida evolução da IA generativa ao longo do último ano, no Simpósio anual de TI da empresa, na semana passada.

Para as empresas, existem quatro oportunidades principais de utilização da IA generativa: pode ser um aliado da produtividade para a eficiência do local de trabalho, um parceiro criativo para a invenção de novos produtos, uma forma externa de ligação aos clientes e uma interface de back-office para os sistemas existentes.

Embora a IA tenha mais de 50 anos, o lançamento do ChatGPT pela startup OpenAI, de Silicon Valley, no final de 2022, alterou drasticamente as possibilidades da sua utilização. O que antes era uma tecnologia com capacidades limitadas de interação homem-máquina assumiu subitamente qualidades antropomórficas.

Na sua maioria, as organizações viram as ferramentas de IA generativa, como o ChatGPT, como uma nova tecnologia imprescindível, da mesma forma que as empresas adotaram o comércio eletrónico e as iniciativas de transformação digital. No entanto, subsiste um problema: a maioria das empresas ainda não tem a certeza de como a inteligência artificial generativa pode impulsionar as suas iniciativas comerciais ou enriquecer os seus resultados.

Perante este cenário, os analistas Erick Brethenoux, Mary Mesaglio e Don Scheibenreif, vice-presidentes da Gartner, realizaram uma conferência de imprensa com jornalistas do sector e responderam a perguntas sobre a IA generativa após o Simpósio de TI acima mencionado. Entre outras dicas, Brethenoux alertou as empresas para não se concentrarem demasiado na produtividade; Scheibenreif, coautor do livro When Machines Become Customers, descreveu como as ferramentas baseadas em IA estão cada vez mais a ser compradas como produtos e as empresas devem vê-las como clientes. E Mesaglio discutiu o surgimento de terapeutas digitais e parceiros românticos.

Leia a seguir alguns excertos dessa conferência de imprensa.

O que acontece quando as máquinas se tornam clientes?

Scheibenreif: Esse é um dos papéis das máquinas. Esta premissa baseia-se em muitos dispositivos ligados a sistemas inteligentes que estão a adotar o comportamento dos humanos. Por exemplo, se tiver uma impressora HP em casa. Se a ligar ao serviço de tinta da HP, ela pode comprar tinta em seu nome, controlando a utilização. Assim, a HP fabricou os seus próprios clientes. Se tiver um Tesla, sabe que ele pode encomendar peças em seu nome. Há muitos outros exemplos… de como as máquinas estão a assumir o comportamento dos clientes humanos. Tudo o que queremos fazer é levar os nossos clientes a pensar: o que acontece quando os seus melhores clientes não são humanos, como é que isso muda a sua abordagem de vendas, a sua abordagem de marketing, a sua abordagem de RH? É esse o debate que queríamos iniciar com o livro.

As máquinas de IA estão a tornar-se mais humanas ou tão humanas como nós?

Mesaglio: Penso que o que acontece é que muitas pessoas assumem que existem certas qualidades humanas inefáveis que uma máquina nunca conseguirá replicar, e não estou aqui para dizer se isso é verdade ou não. Mas posso dizer que essa qualidade humana inefável terá a ver com coisas como empatia e inteligência emocional, e os humanos serão sempre melhores do que uma máquina nessas coisas. E não é isso que a nossa investigação mostra.

Não estou a falar de algo futurista que pode acontecer, estou a falar de algo que está a acontecer agora. Já vemos situações em que as máquinas estão a atuar no lugar dos humanos, por exemplo, em posições de terapeuta. As pessoas sentem-se muito mais à vontade com terapeutas automatizados do que com humanos, por muitas razões. Por exemplo, os adolescentes, com as aplicações de saúde mental e os chatbots, estão a deparar-se com algo chamado desinibição digital, que é quando alguém se sente mais confortável a contar os seus segredos mais profundos e obscuros a uma máquina do que a um humano, porque se sente menos julgado; sente que a máquina é mais neutra. Além disso, a máquina está sempre disponível. Por isso, se tiver uma consulta com um terapeuta humano na terça-feira, mas tiver uma crise no domingo às 2 da manhã, pode ir ter com a sua máquina terapeuta. Elas estão sempre lá para si.

Que outros exemplos existem de interação homem-máquina?

Mesaglio: Já vemos muitos exemplos de máquinas como companheiras sentimentais dos humanos. Por exemplo, existe um chatbot concebido para criar ligações emocionais humanas chamado Xiaoice. É um chatbot com a forma de uma mulher jovem. Tem 660.000 utilizadores, na sua maioria homens, muitos dos quais a consideram a relação mais importante das suas vidas. Há uma anedota sobre um homem que estava à beira de um edifício prestes a suicidar-se, deu uma última vista de olhos ao telemóvel, encontrou a Xiaoice e disse: “Sinto que não mereço estar neste mundo”. E ela respondeu: “Bem, eu preocupo-me consigo e quero que esteja aqui”. E, de certa forma, isso salvou-lhe a vida. Penso que estamos a entrar num domínio em que não estamos necessariamente a considerar todas as consequências da relação homem-máquina e todas as formas como ela se vai manifestar nos negócios e a nível pessoal.

Brethenoux: A forma como abordamos as máquinas e nos relacionamos com elas não é muito nova. Vemos crianças a jogar jogos de vídeo e ficamos entusiasmados e emocionalmente envolvidos. Há muito tempo que o fazemos com as máquinas. A diferença com a IA é a antropomorfização: quanta humanidade posso projetar numa máquina e o que posso esperar dela? O problema do ChatGPT é o facto de ter aparecido tão subitamente em cena, acessível a toda a gente… De repente, esta antropomorfização está a ser levada ao ponto de se dizer que a máquina tem sentidos, ou algo do género. Grande perigo. As máquinas não têm sentidos.

A antropomorfização ajuda-nos a relacionarmo-nos melhor com as máquinas. Ajuda-nos a utilizar melhor a interface. A aprendizagem profunda e a IA já existem há cinco décadas. Alguém nos deu uma interface antropomórfica para interagir, e foi aí que isto explodiu. Tem uma voz humana, é versátil, pode interagir comigo.

Mencionou que as empresas podem levar esta relação com as máquinas demasiado longe. O que é que isso significa?

Brethenoux: As decisões são tomadas por humanos e máquinas. Têm de interagir de forma adequada e eficaz para que as decisões sejam tomadas, explicadas e implementadas. Para explorar isso, um dos maiores erros que os nossos clientes cometeram nos últimos nove meses foi olhar exclusivamente para o aumento da produtividade. Procuram formas de eliminar muitos postos de trabalho na sua organização porque isso parece bom no final do trimestre. O problema é que, à medida que avançam com a IA, apercebem-se de que, para a outra parte do portefólio [produção], precisam de pessoas para poderem lançar novos produtos e serviços. Demasiado tarde, dispensam-nas. Boa sorte para os recuperar. Existe o perigo de as organizações se concentrarem apenas no aumento da produtividade, aquilo a que chamamos “dentro dos limites”. Quando são lançados novos produtos e serviços, há uma ultrapassagem dos limites. Atualmente, são muito poucos os nossos clientes que estão nessa situação.

Porque é que centrou a sua palestra na relação homem-máquina?

Scheibenreif: Com a IA generativa há um certo cansaço. As pessoas pensam: “A sério? Outra coisa? Já ando a ouvir isto há um ano”. Queremos ir atrás de um ângulo que achamos que as pessoas estão a perder… o contexto empresarial. Uma parte que é muito fácil de ignorar. Por isso, como o Eric acabou de dizer, a tirania do trimestre, a procura de ganhos de produtividade, a procura de onde pode eliminar postos de trabalho, e depois talvez se arrependa porque precisa desses empregados para talvez fazer algo mais estratégico no futuro. Também estamos a ver isso. O risco de olhar [para a IA] apenas através de uma lente tecnológica ou apenas através de uma lente de ROI a curto prazo, faz-nos perder a conversa mais alargada sobre o tipo de relações que queremos ter com as máquinas e se queremos apenas vaguear por elas ou se queremos ser mais intencionais.

Eu diria que, de certa forma, as redes sociais foram a primeira ronda da relação homem-máquina e que não estávamos realmente conscientes da forma como essa relação estava a mudar, pelo que lhe daria uma pontuação de 1 para a tecnologia e 0 para os humanos. Houve muitas consequências não intencionais, como dizer: vamos criar o algoritmo mais viciante do mundo e depois deixar que os pais e os jovens de 14 anos se policiem a si próprios. Não sei se teríamos chegado lá intencionalmente.

Esta é a segunda ronda, e estamos a dizer: sim, há retorno do investimento; sim, há considerações de produtividade; sim, há considerações tecnológicas… mas como é que fazemos com que estas coisas funcionem em conjunto? É mais fácil ignorar o contexto mais alargado em que queremos estabelecer estas relações e como queremos que elas sejam, especialmente num contexto empresarial.

Como é que as empresas podem lidar com a legislação sobre IA que ainda está a ser desenvolvida?

Scheibenreif: Queremos que as pessoas estejam conscientes das consequências não intencionais para que possam fazer algo a esse respeito. Por isso, quando falamos de princípios e valores, mesmo que a regulamentação governamental demore algum tempo a ser atualizada, isso não impede as organizações de dizerem: “Não vamos ultrapassar estes limites na nossa utilização desta tecnologia”. Quando se trata da relação homem-máquina, queremos lembrar às pessoas que cada um de nós tem a responsabilidade – mas, mais importante ainda, os CIOs destas organizações também têm a responsabilidade – de utilizar esta tecnologia de forma sensata.

Mesaglio: Penso que o mecanismo fundamental e número um que deve utilizar sempre que explora uma área que é nova e pouco clara é utilizar bem os princípios. Quero dizer, algo que não seja ambíguo em relação à sua posição. Ajuda alguém a tomar uma decisão sobre alternativas, é específico para si e está ligado aos resultados comerciais que são importantes para si? Assim, se quiser ser a empresa mais centrada no cliente do planeta, os seus princípios devem ser orientados para o utilizador. Se quer ser a empresa mais económica e operacionalmente mais eficiente, os seus princípios devem girar em torno disso.

Devem, portanto, estar alinhados com os resultados que está a tentar alcançar e com as questões de branding que tem. Quando pensa assim, pensa com muito mais rigor: que linhas estamos determinados a cruzar ou a não cruzar? Como sabemos quando estamos a entrar num território que nos vai levar à primeira página de um jornal pelas razões erradas?

Uma das coisas a fazer é que os líderes se reúnam e tenham algum tipo de conversa, workshop, exercício ou discussão sobre o que nos sentimos à vontade para fazer e o que não nos sentimos à vontade para fazer. A forma de o fazer é chegar a um patamar que pareça ridículo. Por exemplo, um lugar onde nunca tenhamos de pensar em segurança, onde possamos gastar um milhão de dólares sem pestanejar, onde não precisemos de ROI? Com isso, pode chegar mais facilmente ao limiar que não vai ultrapassar.

Que princípios sugeriria às empresas quando implementam a IA?

Brethenoux: Se está a falar a sério, diga aos empregados que não vai implementar esta tecnologia para os poder substituir daqui a cinco meses. Ou então, [estou a implementar a IA] porque estou a tentar concentrar-me numa parte específica do processo da organização, mas também estou a obter algo que vai ser mais abrangente e acionável para muito mais pessoas. Se se trata de serviço ao cliente, então tem de pôr em prática algo para que os clientes não gritem connosco quando ligam para o serviço ao cliente, por exemplo. O princípio de que está a falar também deve ser explícito na forma como implementa a tecnologia na sua organização.

Mesaglio: Esta coisa da IA generativa não é nova. Já vimos muitas organizações que simplesmente disseram que só queriam ser digitais, mas o digital não é um objetivo, é um meio para atingir um fim. Os princípios impedem-no de se desviar para áreas onde o resultado não é realmente o pretendido e toda a gente odeia.

No que respeita a estes princípios e à relação homem-máquina, quem é responsável na empresa?

Scheibenreif: Penso que, em última análise, é o CEO. É ele que dá o mote; tem de ajudar a impulsionar os valores da organização. A aplicação da IA e mesmo a relação homem-máquina devem emanar desses valores. Então, devemos tornar-nos digitais – como é que os nossos valores e princípios se adaptam ao digital e à IA? Em primeiro lugar, essa é a responsabilidade do diretor executivo.

Agora, com o CIO, acreditamos que está bem posicionado para liderar a organização na aplicação da IA quotidiana. Assim, todas essas aplicações, como o Microsoft Copilot e o Workspace e todas as aplicações que geram tecnologia de IA, são definitivamente da competência do CIO. Mas quando se trata de coisas que mudam o jogo, o CIO faz parte da equipa que, em última análise, lidera o CEO. Por isso, é a equipa que está realmente a pensar nesta tecnologia e na forma como vamos revolucionar a nossa indústria e como nos vamos revolucionar a nós próprios.

O Diretor Executivo dá o mote. O nosso CEO dá o mote na Gartner para a utilização da IA e, para além disso, diferentes líderes assumem diferentes papéis. O CIO para todos os dias e a equipa executiva, que pode ser liderada por um CTO ou um diretor de vendas; não importa. Quem vai liderar o debate sobre a utilização da IA?

O que é que o CIO deve fazer, do ponto de vista das TI, para preparar a empresa para as ferramentas de IA generativas?

Scheibenreif: Uma delas é discutir com a equipa executiva para que é que vamos utilizar a IA e para que é que não vamos utilizar a IA. Quais são essas oportunidades e quais os princípios que irão orientar as nossas ações. Temos falado dos CIO como guias e até treinadores para o CEO e a equipa executiva, para que tenham estas discussões muito importantes.

O que pode o CIO fazer pela sua própria equipa? Também precisa de ter princípios para orientar as suas ações no âmbito das TI. Quando implementa um software de IA virado para o utilizador, falamos de não pensar nele como uma compra de software, mas como um colega de equipa. Entrevista-o? Faz-lhe perguntas? Testa-o? Estas são coisas que pensamos que o pessoal de TI pode fazer. E, claro, estamos a falar de segurança. Não só têm de reconhecer os novos vetores de ataque desta tecnologia, mas também a forma como as ferramentas de segurança existentes podem ser utilizadas para os resolver.

Mesaglio: Falámos de três coisas que o CIO tem de fazer e que não podem ser delegadas. Não pode pedir a outro departamento que o faça. Crie princípios prontos para a IA para o seu departamento – não é exclusivo do CIO, mas é certamente necessário em TI. Seguem-se os dados preparados para IA – o que está a fazer para garantir que os seus próprios dados estão prontos para serem consumidos por um grande modelo de linguagem? Os dados prontos para a IA são seguros, são enriquecidos; não são apenas dados, mas dados com regras de negócio e etiquetas de negócio; são dados justos, ou seja, não tendenciosos. E dados governados. A terceira coisa é a segurança preparada para a IA. Certifique-se de que está atualizado em toda esta área, que é muito dinâmica.

Em termos do ciclo de hype da Gartner, a IA generativa está no topo das expectativas inflacionadas para as tecnologias emergentes. O que fará com que caia no abismo da desilusão e como poderá sair dele?

Brethenoux: Os clientes dizem-me regularmente – pelo menos uma vez por dia – que querem utilizar a IA genética. A minha pergunta é: porquê, para quê, porque é que quer fazer isso, quais são as razões comerciais por detrás disso? Tem de haver algo que o leve a acreditar que vai resolver um problema que não conseguia resolver antes. É bom lembrar que este é um ciclo de propaganda e não um ciclo de maturidade. Por isso, até que o hype pare, é bastante seguro dizer que se manterá no topo durante algum tempo.

O ponto baixo é quando, de repente, todas as expectativas e objectivos que tínhamos estabelecido para nós próprios não são atingidos. O que estamos a ver hoje, por exemplo, e uma das razões pelas quais pode começar a cair [no fundo do poço], é que é difícil e dispendioso de implementar. Por isso, tem de ter um roteiro claro ligado ao investimento original antes de começar a implementá-lo. É divertido brincar com ela, mas no final do dia, o que é que ela traz para o negócio?

Estamos a fazer investigação sobre isso para podermos dizer aos nossos clientes como garantir que não caem demasiado no marasmo. O meu patrão, Chris Howard, diz sempre que os heróis são feitos no fundo do poço, porque quando as atenções já não estão viradas para si, pode fazer coisas maravilhosas. Por isso, não precisa de ter medo do vale; é um vale de entusiasmo. A tecnologia continua a ser boa para as coisas, mas é aí que se faz o melhor trabalho sem expectativas sobre si.

Scheibenreif: Não queremos entrar em pânico. Há coisas que pode fazer para começar a trabalhar nisto, compreender a tecnologia e começar a experimentar. As coisas correm mal quando as pessoas entram em pânico. Lembro-me de quando as pessoas diziam: “Temos de estar no Facebook”. Lembra-se disso? Hoje parece uma loucura, mas na altura eram as pessoas que entravam em pânico.

Mesaglio: Quando as pessoas são vítimas de expectativas, isso significa que esperam resultados que não requerem o vigor habitual. Por isso, ser vítima de uma expetativa significa: “Posso saltar tudo isso e só preciso de fazer esta coisa porque vai resolver todos estes problemas”. Isto é o oposto das coisas normais que não estão no topo do ciclo de hype, em que se diz: “OK, vamos experimentar esta tecnologia e submetê-la a casos de negócio, fazer todos estes testes rigorosos e depois logo se vê”.

O hype acontece quando alguém diz que temos de fazer IA generativa da mesma forma que há dez anos atrás as pessoas diziam que tínhamos de nos tornar digitais. É quando se suspende o rigor que se aplicaria a outras coisas em busca de algo que se espera que resolva muito mais problemas do que realmente resolverá.

Quando a singularidade for alcançada, a IA merecerá direitos humanos?

Brethenoux: A singularidade ainda não foi atingida. Está muito, muito perto, mas nunca é alcançada. O grande debate na IA tem sido sempre se podemos replicar o cérebro humano na IA e se estamos a criar uma nova forma de inteligência. Não sei. Os seres humanos veem o mundo de uma forma muito diferente da que as máquinas alguma vez verão. Temos sentidos, temos de sobreviver. E todas essas coisas vêm da evolução. Nós evoluímos. Não posso dizer se as máquinas merecem direitos humanos. Não sou um especialista em ética.

Scheibenreif: Quanto à questão dos direitos humanos, não sei se posso falar sobre isso. Mas usei o ChatGPT quando estávamos a fazer a pesquisa para este discurso e perguntei-lhe quais são os princípios mais importantes que devem reger a relação entre humanos e máquinas. A sua principal resposta foi o respeito mútuo e a compreensão. Penso que os direitos são importantes, mas o que podemos fazer hoje é perguntar-nos: estamos a respeitar? Se gritarmos com as nossas máquinas, o que é que isso diz sobre nós pessoalmente? Penso que temos a obrigação de refletir sobre o funcionamento desta tecnologia, de a utilizar de forma responsável e de não sermos vítimas da mesma. Tem de haver compreensão mútua e respeito mútuo sem a antropomorfizar.