CIN - Branco Perfeito

INESC TEC quer tornar inteligência artificial mais compreensível, transparente e confiável

INESC TEC quer tornar inteligência artificial mais compreensível, transparente e confiável

O Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) coordena um projeto que vai colocar humanos e sistemas de inteligência artificial a trabalhar em conjunto para desenvolverem uma ferramenta “confiável e compreensível”.

“À medida que as técnicas de inteligência artificial (IA) influenciam cada vez mais as decisões, o seu raciocínio passa por etapas demasiado abstratas e complexas para serem compreendidas pelos utilizadores. Estamos a falar de ‘caixas pretas’, que encontram soluções factualmente excelentes, sem saberem explicar como as conseguem. Isso levanta questões éticas à medida que a IA orienta mais e mais escolhas”, explica Gonçalo Figueira, investigador e coordenador do projeto.

“Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente? E o consumidor, não terá o direito de saber como é que os modelos de previsão de consumo de energia decidem as tarifas que paga?”, questiona o INESC TEC.

O projeto, intitulado TRUST-AI, vai assim procurar “explicar os sistemas de inteligência artificial, tornando-os mais transparentes e confiáveis”.

Humanos e IA vão trabalhar em conjunto para encontrar melhores soluções, ou seja, “modelos que são eficazes, compreensíveis e generalizáveis”. O resultado será uma ferramenta transparente, inteligente, confiável e imparcial, aplicada em três casos de estudo: na área da saúde (tratamento de tumores), no retalho online (para selecionar horários de entrega de encomendas) e na energia (para apoiar previsões de procura em edifícios).

O projeto pode ser aplicável a outros setores, assegura o instituto, dando como exemplo a indústria, a administração pública, o setor bancário e o dos seguros.

Para Gonçalo Figueira, “entender o porquê de determinada escolha dá confiança e ajuda a melhorar o processo de decisão. Este projeto vai desenvolver soluções de IA que sejam mais transparentes, justas e explicáveis ​​e, portanto, mais aceitáveis”.

O projeto TRUST-AI (Transparent, Reliable and Unbiased Smart Tool for AI) é financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia.

Além do INESC TEC, o projeto conta com a participação da portuguesa LTPLabs e de mais cinco parceiros: Tartu Ulikool (Estónia), Institut National De Recherche Eninformatique Et Automatique (França), Stichting Nederlandse Wetenschappelijk Onderzoek Instituten (Holanda), Applied Industrial Technologies (Chipre) e TAZI Bilisim Teknolojileri A.S. (Turquia).

PUB
www.pingodoce.pt/campanhas/sabor-do-mes/?utm_source=vivaporto&utm_medium=banner&utm_term=banner&utm_content=092022-carnepicadaangus&utm_campaign=sabordomes