AICeBlock: o projeto que vai certificar inteligência artificial através de blockchain foi distinguido no Prémio IN3+

Pelo segundo lugar obtido no Prémio IN3+, a equipa recebeu cerca de 250 mil euros numa cerimónia que contou com a presença de, entre outros, António Costa, Primeiro-Ministro português, e de Marcelo Rebelo de Sousa, Presidente da República.

A UPTEC esteve à conversa com André Carreiro, investigador e coordenador do projeto AICeBlock.

O que é o AICeBlock?

O projeto AICeBlock prevê o desenvolvimento de uma plataforma modular, assente em blockchain, que permita, através de um processo de certificação dinâmica, aumentar a confiança em aplicações baseadas em Inteligência Artificial.

Através dos diferentes módulos, permite responder a limitações atuais que dificultam a adoção destes modelos em áreas críticas como a saúde ou segurança. A plataforma permite melhorar, por exemplo a rastreabilidade e auditabilidade (de dados e modelos), a interpretabilidade e transparência (para suporte à decisão), a autenticidade e segurança (dos dados e previsões), ou ainda o desenvolvimento colaborativo, com definição de papéis desde os fornecedores de dados aos desenvolvedores dos modelos de IA.

E quais são as aplicações práticas do projeto?

Esta plataforma poderá servir para suportar qualquer tipo de aplicação baseada em IA, quer ao nível de treino, quer em produção. No entanto, a sua necessidade é mais evidente em áreas críticas como a Saúde ou de elevados requisitos de segurança. Além disso, em casos de desenvolvimento colaborativo ganha especial relevo também — como na Administração Pública, por exemplo. Estes domínios têm requisitos sensíveis e inflexíveis. Ao dotar um novo produto de IA com um selo que garante que este pode ser auditado, com as suas decisões individuais rastreadas, ao mesmo tempo que facilita o cumprimento de normas como o RGPD, ou a inclusão de camadas de interpretabilidade, o AICeBlock aumenta a confiança dos utilizadores no produto.

E é por causa desta falta de confiança que estas aplicações ainda não são muito utilizadas?

Como exemplo, podemos pensar num modelo de suporte ao diagnóstico do Glaucoma. Com os dados fornecidos por alguns serviços de saúde e modelos de IA desenvolvidos por um centro de investigação como o Fraunhofer Portugal AICOS, várias versões, quer dos dados, quer dos modelos, poderiam ser utilizados para auxiliar profissionais de saúde nesta tarefa. Para cada previsão do modelo, saber-se-ia exatamente que versão de dados havia sido usada para treinar uma versão específica do modelo. Além disso, tratando-se de um modelo baseado em imagem da retina, poder-se-ia juntar à previsão uma camada de interpretabilidade que realçaria as regiões da imagem mais influentes nessa decisão do algoritmo.

Apesar de ter um impacto muito grande de forma indireta em toda a população, a grande maioria de nós nem saberá que esta tecnologia está a ser utilizada.

No fundo, para o utilizador final ou para a população em geral, esta tecnologia poderá não ser facilmente identificável, mas a verdade é que o seu impacto vai ser enorme e vai representar uma evolução significativa para a ciência. Resumidamente, haverá uma maior confiança e suporte para os profissionais e isso vai traduzir-se numa melhoria de diagnósticos, de carros autónomos, algoritmos de recomendação, ou seja, de praticamente todas as soluções e tecnologias que recorrem à Inteligência Artificial.

E quais são os próximos passos do AICeBlock?

Independentemente de o projeto ser ou não premiado e dado o potencial que identificámos, a decisão seria inevitavelmente de avançar para o seu desenvolvimento. Obviamente, este prémio garante um arranque com maior suporte, não só financeiro, mas também por envolver um parceiro que pensamos ser o ideal para a sua implementação. Acreditamos que nos próximos meses começaremos a implementar os módulos base da plataforma, que permitam a curto prazo ter uma prova de conceito para demonstrar que a sua concretização é viável.

O valor financeiro obtido no Prémio IN3+ vai ser investido no projeto?

Embora seja um prémio, o seu montante é de facto um investimento para o desenvolvimento do projeto. Assim, e embora o plano de trabalhos acarrete necessidades de maior financiamento, já prevemos a priorização dos módulos a investir em primeiro lugar para atingir rapidamente o estágio de prova de conceito. Para tal, iremos investir em alguma infraestrutura para criar a primeira rede assente em blockchain e recursos humanos especializados para reforço da equipa, nomeadamente na área de Segurança em Blockchain.