O Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) coordena um projeto que vai colocar humanos e sistemas de inteligência artificial a trabalhar em conjunto para desenvolverem uma ferramenta “confiável e compreensível”.
“À medida que as técnicas de inteligência artificial (IA) influenciam cada vez mais as decisões, o seu raciocínio passa por etapas demasiado abstratas e complexas para serem compreendidas pelos utilizadores. Estamos a falar de ‘caixas pretas’, que encontram soluções factualmente excelentes, sem saberem explicar como as conseguem. Isso levanta questões éticas à medida que a IA orienta mais e mais escolhas”, explica Gonçalo Figueira, investigador e coordenador do projeto.
“Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente? E o consumidor, não terá o direito de saber como é que os modelos de previsão de consumo de energia decidem as tarifas que paga?”, questiona o INESC TEC.
O projeto, intitulado TRUST-AI, vai assim procurar “explicar os sistemas de inteligência artificial, tornando-os mais transparentes e confiáveis”.
Humanos e IA vão trabalhar em conjunto para encontrar melhores soluções, ou seja, “modelos que são eficazes, compreensíveis e generalizáveis”. O resultado será uma ferramenta transparente, inteligente, confiável e imparcial, aplicada em três casos de estudo: na área da saúde (tratamento de tumores), no retalho online (para selecionar horários de entrega de encomendas) e na energia (para apoiar previsões de procura em edifícios).
O projeto pode ser aplicável a outros setores, assegura o instituto, dando como exemplo a indústria, a administração pública, o setor bancário e o dos seguros.
Para Gonçalo Figueira, “entender o porquê de determinada escolha dá confiança e ajuda a melhorar o processo de decisão. Este projeto vai desenvolver soluções de IA que sejam mais transparentes, justas e explicáveis e, portanto, mais aceitáveis”.
O projeto TRUST-AI (Transparent, Reliable and Unbiased Smart Tool for AI) é financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia.
Além do INESC TEC, o projeto conta com a participação da portuguesa LTPLabs e de mais cinco parceiros: Tartu Ulikool (Estónia), Institut National De Recherche Eninformatique Et Automatique (França), Stichting Nederlandse Wetenschappelijk Onderzoek Instituten (Holanda), Applied Industrial Technologies (Chipre) e TAZI Bilisim Teknolojileri A.S. (Turquia).
