Construindo confiança na IA: perspectivas da MDIA na AIBC Euro-Med
No palco da AIBC durante a conferência Euro-Med, realizada hoje no Mediterranean Maritime Hub (MMH), Gavril Flores, Chefe de Estratégia, Políticas e Governança da Autoridade de Inovação Digital de Malta (MDIA), apresentou uma palestra sobre o futuro da Inteligência Artificial confiável e a abordagem de governança adotada por Malta.
Ao falar sobre segurança em IA, ele enfatizou a importância de questionar: por que isso é relevante e por que precisamos de governança sobre o tema?
Observando o ritmo de progresso — do GPT-1 ao GPT-3, e agora ao GPT-5 — os ciclos de desenvolvimento estão acelerando de forma impressionante, afirma Flores. A IA está sendo aplicada em cenários variados: desde descobertas de medicamentos e pesquisas sobre câncer, até agricultura inteligente e inovações científicas mais amplas. Esses avanços tornam a IA não apenas mais poderosa, mas também mais barata e acessível.
Isso traz tanto oportunidades quanto, como ele alerta, desafios.
No lado positivo, a IA está impulsionando significativamente a saúde e a pesquisa científica, tornando tecnologias antes inalcançáveis mais acessíveis e escaláveis, e reduzindo drasticamente os custos de desenvolvimento.
Por outro lado, desafios como preocupações com privacidade, deslocamento de empregos, vieses, confiabilidade e risco de erros reforçam a necessidade de transparência e responsabilidade.
“Muitos erros em IA podem ser evitados se testarmos vieses antes de implementar soluções, garantirmos supervisão e aplicarmos salvaguardas adequadas antes do uso efetivo.”
O panorama global da IA
- US$ 252 bilhões: esse foi o montante investido por empresas em IA em 2024.
- 69 países já desenvolveram estratégias nacionais para IA.
- Em Malta, 50% da população afirma ter algum conhecimento sobre IA.
- 24% dos malteses dizem confiar fortemente em IA.
Mas Flores fez um alerta: confiança não deve ser dada de forma cega, ela precisa ser conquistada. “Construir confiança exige um arcabouço de governança sólido e um ecossistema no qual as pessoas tenham certeza de que a IA está sendo desenvolvida de maneira responsável.”
O AI Act: a resposta regulatória da Europa
Flores também abordou o chamado “elefante na sala”: o AI Act da União Europeia, que ele descreveu como uma das legislações mais importantes dos últimos anos. Esse marco regulatório classifica os sistemas de IA de acordo com o nível de risco:
Sistemas proibidos (2024/2025)
Exemplos: social scoring, sistemas manipulativos (como no iGaming, quando dados são usados para criar simulações que incentivam comportamentos compulsivos ou ansiosos).
Penalidades: multas de até 7% do faturamento global ou € 35 milhões.
Sistemas de alto risco
Exemplos: tomada de decisão automatizada em setores críticos, biometria, saúde e recrutamento.
Requisitos: gestão de riscos, governança de dados, cibersegurança, avaliações de conformidade (marcação CE), transparência, registros, documentação e supervisão humana.
Sistemas de risco limitado
Examplo: chatbots.
Exigência: informar claramente ao usuário que está interagindo com uma IA.
Sistemas de risco mínimo
Aproximadamente 90% das aplicações de IA estão nessa categoria.
Flores ainda mencionou o tema polêmico dos deepfakes, que devem ser obrigatoriamente rotulados como tal, exceto quando forem claramente satíricos ou óbvios ao público médio.
O papel de Malta: MDIA como regulador e fomentador
A Autoridade de Inovação Digital de Malta (MDIA) atua tanto como reguladora quanto como promotora da inovação. Entre suas funções, estão: supervisão de mercado e avaliações de conformidade, criação de ecossistemas de inovação (bootcamps, summer camps e bolsas de estudo para jovens), infraestrutura de suporte como computação de alto desempenho e espaço e recursos para start-ups.
AI Sandbox (lançado em 2021):
Ambiente seguro para testar sistemas de IA antes da implantação em larga escala
Orientação, feedback e apoio regulatório
Modelo que está sendo replicado em toda a União Europeia (obrigatório a partir do próximo ano)
Canal de atendimento para dúvidas sobre o AI Act e conformidade regulatória
Flores reforçou que Malta foi um dos primeiros países da União Europeia – e até do mundo – a lançar um AI Sandbox, combinando regulação e incentivo à inovação.
Encerrando sua fala, Flores destacou que a confiança em IA deve ser construída com base em transparência, responsabilidade e governança robusta. Com o arcabouço regulatório adequado, a IA pode prosperar enquanto protege pessoas, empresas e a sociedade como um todo.
