Da automação à autonomia: supervisão, dados e confiança na era dos agentes de IA

 

Minhas Senhoras e meus Senhores,

Permitam-me começar por saudar o Jornal PT50 pela organização desta Conferência e pelo tema escolhido, que dificilmente poderia ser mais atual.

Agradeço igualmente o convite que me foi dirigido para participar nesta sessão de abertura.

Gostaria de vos convidar a viajar até 2030.

Imaginem um cidadão que pretende contratar um seguro, rever a sua carteira de investimentos e avaliar se está a poupar o suficiente para a reforma.

Não contacta o seu banco, a sua seguradora ou o seu mediador. Nem sequer consulta comparadores online. Entrega essa tarefa a um agente de inteligência artificial.

Esse agente conhece as suas preferências, compreende os seus objetivos financeiros, analisa a sua situação patrimonial, consulta centenas de produtos disponíveis no mercado e inicia negociações com os agentes digitais das instituições financeiras.

Em poucos minutos apresenta uma recomendação, o cidadão valida e a operação é executada.

A questão já não é saber se esta realidade será tecnologicamente possível. Tudo indica que será.

A questão decisiva é outra.

Quem é responsável por essa recomendação? Quem responde por eventuais enviesamentos? Quem garante que os interesses do consumidor são protegidos? Quem assegura a transparência, a equidade e a confiança?

Esta é, provavelmente, uma das questões mais importantes para o futuro dos serviços financeiros.

E talvez o primeiro erro que possamos cometer seja pensar que estamos perante uma simples evolução tecnológica.

Creio que estamos perante algo bem mais profundo. Estamos perante o possível nascimento de um novo participante do sistema financeiro.

Ao longo das últimas décadas assistimos ao aparecimento de novos intervenientes: fintechs, plataformas digitais, insurtechs e big techs.

Mas, pela primeira vez, poderá emergir um participante que não é uma pessoa nem uma instituição.

É um agente de inteligência artificial.

Um agente que poderá influenciar decisões de crédito, de investimento, de poupança, de contratação de seguros e, potencialmente, milhões de decisões económicas individuais.

Em muitos casos, a questão deixará de ser a interação entre consumidor e instituição financeira.

Passará a ser a interação entre agentes de inteligência artificial que representam consumidores e agentes de inteligência artificial que representam instituições financeiras.

E isso altera profundamente a natureza do sistema que supervisionamos.

Da IA que executa tarefas à IA que executa processos

Durante muitos anos associámos a transformação digital à automação.

Digitalizámos documentos, automatizámos fluxos de trabalho, reduzimos custos operacionais. A primeira vaga da inteligência artificial permitiu automatizar tarefas. A segunda vaga poderá permitir automatizar processos inteiros.

Os chamados modelos de fronteira (frontier models) e a evolução da agentic AI representam precisamente esta mudança.

Já não estamos perante sistemas que apenas respondem a perguntas.

Estamos perante sistemas capazes de analisar informação, formular hipóteses, definir estratégias, tomar iniciativas e executar ações para atingir objetivos específicos.

Em termos organizacionais, isto poderá representar uma transformação ainda mais disruptiva do que a introdução da internet.

O impacto mais relevante poderá nem ser tecnológico. Poderá ser organizacional.

Durante mais de um século, as empresas foram desenhadas em torno de departamentos inteiramente compostos por pessoas. Nos próximos anos veremos cada vez mais equipas híbridas constituídas por profissionais humanos e trabalhadores digitais.

Pela primeira vez na história moderna, os conselhos de administração terão de gerir não apenas pessoas e sistemas, mas também agentes autónomos capazes de executar atividades complexas com graus crescentes de autonomia.

É uma mudança que terá consequências profundas ao nível das competências, dos modelos de governação e da própria supervisão.

 

A questão da responsabilidade na era dos agentes autónomos

Mas o surgimento dos agentes de IA levanta uma questão ainda mais fundamental.

Durante décadas, a supervisão financeira foi construída em torno de um princípio simples: para cada decisão relevante existe uma entidade claramente identificável responsável por essa decisão.

Sabemos quem é o banco, quem é a seguradora, quem é o intermediário, quem é o prestador de serviços.

Mas será que esse princípio continuará a ser tão claro na era dos agentes autónomos?

Se uma seguradora utilizar um agente de IA para apoiar processos de subscrição ou gestão de sinistros, a resposta parece simples. A responsabilidade permanece na seguradora.

Se um banco utilizar agentes para apoiar decisões de crédito, a responsabilidade continua a pertencer ao banco.

Mas imaginemos um cenário diferente.

Imaginemos um agente de inteligência artificial desenvolvido a partir de modelos de fronteira, capaz de evoluir através de processos de aprendizagem contínua e adaptação autónoma, disponível livremente na internet e utilizado por milhões de cidadãos para escolher produtos financeiros, contratar seguros, tomar decisões de investimento ou planear a sua reforma.

Quando esse momento chegar, estaremos apenas perante uma nova tecnologia? Ou estaremos perante o surgimento de uma nova camada de intermediação financeira?

Um agente que pesquisa, compara, recomenda, negoceia e executa decisões em nome dos seus utilizadores.

Nesse cenário, quem responde pelas suas decisões? O utilizador? O criador do modelo? O fornecedor da infraestrutura? A plataforma que o disponibiliza?

Note-se que o problema não é a ausência de alguém identificável. O criador do modelo tem nome. A plataforma que o disponibiliza tem nome.

Existem, são conhecidos e têm sede.

O problema é outro. Nenhum deles é um banco, uma seguradora ou um mediador. Nenhum deles está, hoje, dentro do perímetro da supervisão financeira.

E, no entanto, um agente que compara e recomenda seguros a milhões de pessoas desempenha, na prática, a função de um mediador. Sem estar sujeito aos deveres de um mediador.

E há uma pergunta que o cenário de 2030 deixa em aberto. Quem paga esse agente? Se é gratuito para o cidadão, alguém o financia. E se quem o financia são os produtores, a recomendação pode não ser neutra.

Conhecemos bem este problema. É a velha questão dos incentivos na mediação. A diferença é que, desta vez, não existe um mediador autorizado a quem possamos impor deveres de transparência.

O desafio, portanto, não é de anonimato. É de perímetro.

E é um desafio para o qual os conceitos tradicionais de responsabilidade e supervisão ainda não oferecem respostas inteiramente satisfatórias.

Esta não é apenas uma questão jurídica ou tecnológica. É uma questão de legitimidade e confiança.

Porque a confiança exige algo muito simples: que saibamos sempre quem é responsável quando as coisas correm bem, mas sobretudo quando correm mal.
 

Antes da inteligência artificial, temos de reinventar as organizações

Perante todas estas possibilidades, muitas organizações perguntam-se hoje como podem implementar inteligência artificial. Mas talvez estejam a fazer a pergunta errada.

A pergunta mais importante é saber se estão preparadas para a inteligência artificial.

Porque a adoção bem-sucedida de IA não começa com modelos. Começa com transformação organizacional.

Durante décadas construímos processos para um mundo onde a informação era escassa, os fluxos de trabalho eram sequenciais e a intervenção humana era necessária em praticamente todas as etapas.

Mas colocar inteligência artificial sobre processos concebidos para outra época raramente produz verdadeira transformação. Limita-se a automatizar ineficiências.

O verdadeiro potencial da IA só emerge quando existe disponibilidade para redesenhar processos, simplificar procedimentos e eliminar etapas que deixaram de acrescentar valor.

E existe uma segunda condição igualmente importante. Os dados.

Muitas vezes fala-se da inteligência artificial como se o fator decisivo fossem os modelos. Não são. A verdadeira matéria-prima da inteligência artificial são os dados.

A qualidade dos resultados de qualquer sistema de IA nunca será superior à qualidade da informação que o alimenta.

Dados fragmentados produzem análises fragmentadas. Dados incorretos produzem decisões incorretas. Dados enviesados produzem resultados enviesados. A inteligência artificial não elimina estas fragilidades. Amplifica-as.

Por isso, a governação dos dados deixa de ser uma preocupação tecnológica para se tornar uma prioridade estratégica.

Não haverá inteligência artificial fiável sem dados fiáveis. Não haverá supervisão eficaz de sistemas inteligentes sem governação robusta dos dados.

E não haverá confiança sem transparência sobre a origem, qualidade e utilização da informação.

Há ainda uma terceira dimensão, que o cenário de 2030 pressupõe sem o dizer: o acesso.

Aquele agente só funciona se puder ler os dados do cidadão e as ofertas de todo o mercado. Isso exige dados portáveis, interfaces abertas e regras claras sobre quem autoriza o quê. É a agenda do open finance, que o regulamento europeu FIDA vem concretizar. E é também a fronteira com a proteção de dados pessoais.

Quem controlar o acesso aos dados controlará, em larga medida, quem pode construir agentes. E essa é uma questão de concorrência tanto como de tecnologia.

Inovação com responsabilidade: a nova fronteira da confiança

É precisamente por tudo isto que a ASF tem vindo a defender o conceito de inovação com responsabilidade.

Num momento em que a velocidade da evolução tecnológica é sem precedentes, torna-se essencial preservar aquilo que constitui o principal ativo dos serviços financeiros: a confiança.

Para a ASF, inovação com responsabilidade assenta numa ideia simples: quanto maior for a autonomia atribuída aos sistemas de inteligência artificial, maior deve ser a responsabilidade assumida pelos seres humanos.

Podemos delegar tarefas, delegar análises, delegar recomendações. Mas não podemos delegar responsabilidade.

A responsabilidade continuará a pertencer às instituições, aos seus órgãos de administração e às pessoas.

Isto exige novos modelos de governação, responsabilização clara e supervisão humana significativa.

Exige capacidade para compreender, monitorizar e desafiar os resultados produzidos pelos modelos, mecanismos robustos de controlo e testes permanentes.

Exige preocupação com ética, transparência, não discriminação e proteção dos consumidores.

Permitam-me deter-me numa destas expressões: supervisão humana significativa. E sublinho a palavra significativa.

Recordem o cidadão de 2030 com que comecei. O agente recomenda, o cidadão valida. Mas quando o agente acerta em noventa e nove por cento dos casos, a validação tende a transformar-se num simples clique. A pessoa continua formalmente no circuito. Deixa de estar, de facto, no controlo.

A supervisão humana significativa não é, por isso, um dado adquirido. É um problema de desenho. Tem de ser construída nos processos, nos incentivos e na cultura das organizações.

E permitam-me deter-me numa segunda expressão da mesma lista: não discriminação. Porque, nos seguros, tem um significado muito próprio.

O seguro assenta num princípio antigo: a mutualização do risco. Pagamos todos um pouco para que ninguém pague tudo.

Ora, quanto mais precisa for a inteligência artificial a prever o risco de cada pessoa, menor será o espaço para essa partilha. Levada ao limite, a personalização perfeita significa que cada um paga exatamente o seu risco. E que alguns deixam, simplesmente, de ser seguráveis.

Não é uma questão técnica. É uma escolha de sociedade: o que queremos continuar a partilhar e o que aceitamos individualizar. E essa escolha não pode ser delegada num modelo.

A grande questão já não é saber se um modelo funciona: é saber se o podemos governar.

A fronteira da inovação deixou de estar apenas na capacidade computacional. Está, cada vez mais, na capacidade institucional.

E acredito que as instituições que melhor sucederão nesta nova era não serão necessariamente aquelas que adotarem mais rapidamente a inteligência artificial. Serão aquelas que desenvolverem mais rapidamente mecanismos credíveis para a governar.

Os novos riscos sistémicos da era dos modelos de fronteira

A inteligência artificial traz oportunidades extraordinárias.

Mas seria ingénuo ignorar os riscos.

Tradicionalmente, os supervisores concentravam-se sobretudo nas instituições financeiras. Hoje temos de olhar também para modelos, infraestruturas tecnológicas e agentes autónomos.

Uma parte significativa da economia digital depende atualmente de um número relativamente reduzido de fornecedores tecnológicos e de modelos de fronteira.

Isto significa que uma falha, vulnerabilidade ou enviesamento poderá propagar-se simultaneamente por milhares de entidades.

Durante muitos anos discutimos instituições demasiado grandes para falir.

No futuro poderemos ter de discutir modelos demasiado relevantes para falhar.

A Europa não parte do zero. O Regulamento DORA criou um regime de supervisão dos prestadores terceiros críticos de serviços TIC. O Regulamento da Inteligência Artificial classifica como de risco elevado utilizações no crédito e nos seguros de vida e de saúde.

São passos importantes. Foram, porém, pensados para instituições e fornecedores identificáveis. Não para milhões de agentes autónomos a interagir entre si em tempo real.

Mas existe uma preocupação ainda mais desafiante.

Os supervisores financeiros estão habituados a analisar fenómenos de comportamento coletivo. Sabemos que investidores seguem tendências, que mercados podem reagir em excesso e que períodos de stress tendem a aumentar a correlação dos comportamentos de mercado.

Contudo, no futuro poderá emergir uma nova realidade. Milhões de agentes de inteligência artificial poderão estar simultaneamente a analisar a mesma informação, a utilizar modelos semelhantes e a executar decisões praticamente em tempo real. O desafio passará a ser a sincronização de decisões algorítmicas em larga escala.

O problema passará a ser os fenómenos de elevada correlação e sincronização entre decisões algorítmicas. E numa escala e velocidade sem precedentes.

Uma decisão inadequada poderá propagar-se em segundos e uma reação excessiva poderá amplificar-se de forma automática.

Uma vulnerabilidade poderá produzir efeitos simultâneos em múltiplos segmentos do sistema financeiro.

A verdade é que ainda temos poucas respostas para estas questões.

E talvez uma das interrogações mais importantes para reguladores, supervisores e decisores políticos seja precisamente esta: dispomos hoje das ferramentas necessárias para identificar, monitorizar e responder a fenómenos sistémicos gerados por milhões de decisões autónomas?

Creio que a resposta honesta é que estamos apenas a começar a construir essas capacidades.

Acrescem ainda os riscos associados à fraude, à manipulação e aos ciberataques, aos deepfakes, à engenharia social e à automação de ataques.

Mas existe uma dimensão frequentemente ignorada.

A melhor defesa contra a inteligência artificial maliciosa será, muitas vezes, mais inteligência artificial.

Os mesmos modelos que podem ser utilizados para criar ameaças podem e devem ser utilizados para as identificar, prevenir e neutralizar.

A próxima corrida tecnológica não será apenas uma corrida à inovação.

Será também uma corrida à resiliência.

A resposta da ASF: transformar o mercado e transformar a supervisão

É neste contexto que se enquadra a estratégia da ASF.

Por um lado, procuramos criar condições para que a inovação possa desenvolver-se de forma segura.

A iniciativa “Inovação com Responsabilidade” permitiu aprofundar a compreensão dos desafios sentidos pelo mercado. A futura Zona Livre Tecnológica representa o passo seguinte.

Não pretendemos supervisionar a inovação à distância. Pretendemos acompanhá-la de perto. Criar ambientes controlados de experimentação, reduzir incerteza e promover aprendizagem conjunta.

Garantir que a inovação evolui em sintonia com a proteção dos consumidores e a estabilidade do sistema.

Mas existe uma segunda transformação igualmente importante.

A transformação da própria supervisão.

Porque não é possível supervisionar um mercado moldado por inteligência artificial utilizando exclusivamente instrumentos concebidos para uma realidade anterior.

É precisamente esse o propósito do nosso programa INOVAsup, através do qual lançamos desafios concretos de supervisão ao ecossistema de inovação, incentivando o desenvolvimento de soluções para necessidades identificadas pela ASF.

Queremos cada vez mais recorrer à inteligência artificial, à análise avançada de dados e às tecnologias SupTech para aumentar a nossa capacidade de supervisão.

Não para substituir supervisores, mas para potenciar o seu trabalho, analisar maiores volumes de informação, identificar riscos emergentes e detetar padrões invisíveis à análise tradicional.

E, muito importante, para libertar recursos humanos para atividades onde o julgamento, a experiência, a capacidade crítica e a ponderação continuam a ser insubstituíveis.

O objetivo é simples: uma supervisão mais inteligente para um mercado mais inteligente.

Conclusão

Quando olharmos para trás, daqui a uma década, talvez concluamos que a grande transformação não foi a chegada da inteligência artificial.
A grande transformação foi a passagem de um sistema financeiro assistido por tecnologia para um sistema financeiro onde uma parte crescente da atividade passou a ser executada por agentes autónomos.

Talvez descubramos que, pela primeira vez, tivemos de aprender a supervisionar não apenas instituições e mercados, mas também comportamentos emergentes de sistemas inteligentes.

Mas, mesmo nesse mundo, haverá algo que não mudará.

A confiança continuará a ser a base do sistema financeiro. E a confiança não é produzida por algoritmos. É produzida pela forma como escolhemos governá-los.

O futuro dos serviços financeiros não dependerá apenas da inteligência das máquinas. Dependerá sobretudo da inteligência com que as instituições, os reguladores e a sociedade decidirem enquadrar essa tecnologia.

O desafio da próxima década não será construir sistemas mais poderosos. Será assegurar que continuamos capazes de os compreender, supervisionar e responsabilizar.

Porque, no final, a verdadeira inovação não será a autonomia das máquinas. Será a nossa capacidade de garantir que essa autonomia permanece alinhada com os interesses das pessoas.

De todas as pessoas. Incluindo as que não terão um agente, ou não saberão usá-lo. Um mercado cada vez mais desenhado para quem delega não pode deixar para trás quem continua a decidir por si.

E essa continuará a ser, acredito, a missão fundamental dos supervisores financeiros numa era cada vez mais inteligente.

Permitam-me terminar com uma nota mais leve.

No fim de preparar esta intervenção, perguntei ao Claude se este era um discurso ponderado e se a audiência iria gostar.

Respondeu que, sobre a primeira questão, tinha um elevado grau de confiança.

Sobre a segunda, preferia não emitir previsões sem dados suficientes.

Fiquei descansado.

Afinal, parece que a inteligência artificial já aprendeu algumas das virtudes fundamentais da supervisão financeira: prudência, proporcionalidade e alguma humildade perante a incerteza.

Muito obrigado.

A Autoridade de Supervisão de Seguros e Fundos de Pensões (ASF), na pessoa do seu Presidente, Dr. Gabriel Bernardino, foi ouvida no dia 7 de outubro de 2026 em sede de Comissão Eventual para a Resiliência Nacional, Prevenção de Catástrofes Naturais e Acompanhamento do PTRR.

Assista à gravação da audição:

 

O Presidente da Autoridade de Supervisão de Seguros e Fundos de Pensões (ASF), Dr. Gabriel Bernardino, publicou recentemente um artigo na revista O Economista: Anuário da Economia Portuguesa, no qual partilha uma reflexão sobre as lacunas de proteção na sociedade portuguesa e qual deve ser o papel dos seguros e dos fundos de pensões nesse contexto.

Consulte o artigo na revista O Economista