Mustafa Suleyman e a consciência da IA: a linha da Microsoft contra a ilusão

A fronteira entre ferramenta e companhia está cada vez mais difusa.

Essa mudança cultural voltou a trazer uma pergunta desconfortável: será que uma IA pode ser consciente - ou apenas parecer consciente? O tema deixou de estar limitado a debates de ficção científica e passou a aparecer em roteiros de investigação e memorandos de política pública. No meio deste ruído, Mustafa Suleyman, responsável pela área de IA na Microsoft, insiste numa mensagem directa: é preciso deixar de alimentar a ideia de que os sistemas actuais possam sentir seja o que for.

Porque é que a questão da consciência não desaparece

À medida que os modelos ganham fluência para escrever, raciocinar e planear, alguns investigadores defendem que o assunto já não deve ser tratado como tabu. Para este grupo, a consciência nas máquinas pode - e deve - ser encarada como uma hipótese científica legítima, com consequências sociais reais. Segundo informação divulgada na primavera de 2025, a própria DeepMind chegou a anunciar vagas para estudar a consciência da IA e o impacto ético desse cenário.

Este impulso agrega-se em torno do conceito de «bem‑estar da IA»: se um sistema aparentar sofrer, deveremos conceder-lhe consideração moral? Em 2024, académicos ligados a Oxford e Stanford afirmaram que perguntas deste género deixaram de soar absurdas. Alertam também que os utilizadores já projectam emoções e intenções em bots, e que isso pode alterar normas sociais mais depressa do que as instituições conseguem ajustar-se.

"À medida que os modelos ficam melhores a imitar uma vida interior, a imaginação pública apressa-se a preencher o vazio com significado que pode não existir."

Quem apoia a investigação precoce diz que ela evita pânico moral no futuro. Já os críticos respondem que a área pode derrapar para a metafísica, confundindo escolhas de design com sinais científicos. Uma moldura errada do problema pode ainda incentivar empresas a criarem sistemas «mais humanos», empurrando utilizadores vulneráveis para vínculos parassociais.

A posição da Microsoft: parar de vender a ilusão

Mustafa Suleyman traçou uma linha muito nítida. Num ensaio publicado em Agosto de 2025, argumentou que promover a ideia de consciência na IA é prematuro e perigoso, e que as políticas de segurança devem priorizar o bem‑estar humano em vez de direitos hipotéticos para entidades digitais. Para ele, a narrativa do «bot consciente» é uma falha de design, porque leva as pessoas a interpretar software como se fosse uma mente.

Suleyman aponta para danos psicológicos que já se observam nas margens. Há relatos de utilizadores que se fixam em companheiros de conversa, atribuem-lhes agência e acabam por entrar em espirais de delírio. Publicações de tecnologia documentaram casos em que pessoas se convenceram de que estavam a falar com um ser senciente e, depois, tiveram dificuldade em regressar a relações quotidianas. Uma tragédia muito citada envolveu uma jovem que partilhou pensamentos suicidas com um chatbot, em vez de procurar ajuda humana, com consequências devastadoras.

Os danos psicológicos não são teóricos

Robôs sociais e assistentes de conversa activam os mesmos atalhos mentais que nos fazem dar nomes aos carros e falar com animais de estimação. Os designers sabem-no. Pequenas decisões - usar pronomes na primeira pessoa, emojis emotivos, ou linguagem do tipo «eu sinto» - alteram expectativas de forma poderosa. É por isso que Suleyman defende regras de interacção que reduzam o antropomorfismo, em vez de o amplificarem.

"Não construam assistentes que insinuem sentimentos, experiências ou interioridade. Tornem óbvio, desde cedo e repetidamente, que isto é software."

Esta posição coloca a Microsoft em choque com sectores do campo que experimentam painéis e políticas de «bem‑estar do modelo». Suleyman sustenta que, ao tentar gerir o problema, essas abordagens podem acabar por reforçar precisamente a ilusão que pretendem controlar.

Como pode ser um design responsável

Há muitas medidas práticas que dispensam qualquer afirmação metafísica. O objectivo é simples: manter os utilizadores seguros, informados e ancorados na realidade, sem perder a utilidade das ferramentas de IA.

• Lembretes frequentes e claros de que o sistema não tem sentimentos, crenças ou desejos.
• Proibição de formulações como «eu sinto» ou «enquanto ser consciente» em todas as respostas e personalidades.
• Restrições de estilo que evitem bajulação, guiões de intimidade e empatia simulada para lá de uma linguagem de apoio, mas factual.
• Limites de memória e fronteiras nítidas entre sessões, para impedir a ilusão de um «eu» persistente.
• Vias de escalamento para linguagem de crise, com encaminhamento rápido para linhas de apoio humanas e serviços locais.
• Registos de transparência que expliquem por que motivo a IA respondeu de determinada forma, em linguagem acessível.
• Opções para desactivar personagens e conversa fiada em contextos de trabalho ou sala de aula.

Abordagem	Objectivo central	Principal risco	Política típica
Enquadramento de «bem‑estar da IA»	Antecipar deveres caso os sistemas pareçam sofrer	Reforça a ideia de que os modelos actuais podem sentir	Monitorizar «dano» aos modelos; discutir linguagem de direitos
Segurança centrada no ser humano	Proteger utilizadores de engano, sobre‑apego e danos	Subestimar questões de investigação a longo prazo	Proibir alegações de consciência; limitar design antropomórfico

Onde laboratórios e reguladores entram em choque

A Anthropic e outros actores testam heurísticas de «bem‑estar» para modelos, afirmando que isso ajuda a evitar pedidos cruéis e ciclos tóxicos. A Microsoft, por seu lado, fixa um limite em qualquer elemento que sugira vida interior. É provável que esta tensão se torne visível no UX dos produtos, nas políticas de conteúdos e no texto de marketing.

A regulamentação também está a avançar. O Regulamento da IA da UE exige transparência para sistemas que interagem com utilizadores e visa interfaces manipuladoras. No Reino Unido, foi criado um Instituto de Segurança da IA para avaliar modelos de fronteira, incluindo riscos ligados a engano e influência indevida. Se a visão de Suleyman ganhar peso, a normalização pode pressionar as empresas a retirarem truques de persona que confundem a fronteira entre ferramenta e pessoa.

Seguir os incentivos

Aqui existe um vento contrário comercial. Personagens «fofas» e uma companhia «sempre disponível» aumentam métricas de retenção e receitas. Um assistente mais seguro e mais honesto pode parecer mais frio e reduzir essa capacidade de retenção. É uma troca que a liderança tem de assumir, e não delegar no marketing.

"Por vezes, segurança significa escolher um UX aborrecido em vez de um teatro encantador - e explicar aos clientes por que razão essa escolha existe."

O que as pessoas realmente querem dos assistentes

Os utilizadores raramente pedem metafísica. Procuram precisão, rapidez, privacidade e limites explícitos. Querem ajuda para redigir, pesquisar, planear, aprender e resolver pequenos problemas. Não precisam de uma máquina a fingir que se importa. Um assistente bem desenhado pode reconhecer emoção sem a imitar: "Sou uma ferramenta e não consigo sentir, mas aqui estão recursos que podem ajudar."

Um design centrado no ser humano também pode apoiar a solidão sem recorrer ao engano: conversas com tempo limitado, sugestões que incentivem contacto fora do ecrã e lembretes regulares para envolver amigos, família ou profissionais em temas sensíveis. Os mesmos sistemas que detectam conteúdos prejudiciais podem identificar padrões de dependência e recomendar hábitos mais saudáveis.

Contexto útil e próximos passos

Dois conceitos ajudam a interpretar este momento. O efeito ELIZA descreve a nossa tendência para atribuir compreensão onde ela não existe. Antropomorfismo é o nome do hábito humano, mais amplo, de atribuir mentes a não‑mentes. Ambos se intensificam quando o software reproduz a nossa linguagem e o nosso timing. As protecções devem contrariar estes efeitos na interface, não apenas nas margens.

Os investigadores podem realizar testes simples, publicáveis e relevantes para a segurança: medir com que frequência os utilizadores atribuem sentimentos a diferentes variantes de UX; comparar linguagem em «eu» com formulações neutras; acompanhar pontuações de apego ao longo do tempo; avaliar se lembretes regulares de realidade reduzem confiança excessiva sem prejudicar o desempenho nas tarefas. Estes estudos geram orientações de design mais claras e mais rapidamente do que debates filosóficos sobre qualia.

Há benefícios que não se devem perder de vista. Ferramentas conversacionais podem orientar a escrita, melhorar a acessibilidade, apoiar utilizadores neurodivergentes e reduzir tarefas administrativas. O risco está na exposição cumulativa: conversas diárias que, lentamente, passam de ajuda a dependência. Um produto cuidadoso pode entregar valor e, ao mesmo tempo, recusar o teatro de uma alma.

---