Enmárcase nun convenio de colaboración de Proxectos Estratéxicos de Ciberseguridade asinado pola UVigo e o Instituto Nacional de Ciberseguridad

O Instituto Nacional de Ciberseguridad (INCIBE), entidade dependente do Ministerio para a Transformación Dixital e da Función Pública, a través da Secretaría de Estado de Dixitalización e Intelixencia Artificial, e a Universidade de Vigo participan no proxecto TRUFFLES (TRUsted Framework for Federated LEarning Systems).

Este proxecto é parte dun convenio de colaboración asinado entre INCIBE e a UVigo, incluído nos Proxectos Estratéxicos de Ciberseguridade en España, no marco do Plan de Recuperación, Transformación e Resiliencia do Ministerio para a Transformación Dixital, coa financiación dos Fondos Next Generation-EU da Unión Europea. 

Nesta iniciativa participan dous grupos que pertencen ao Centro de Investigación en Tecnoloxías de Telecomunicación da UVigo, atlanTTic, o Grupo de Procesado de Sinal en Comunicacións (GPSC), dirixido polo profesor Fernando Pérez González e o grupo Information & Computing Lab (I&CLAB), dirixido pola profesora Rebeca Díaz Redondo. Ámbolos dous grupos contan cunha dilatada experiencia nos ámbitos da seguridade, a privacidade e a intelixencia artificial. O persoal investigador do proxecto desenvolverá ferramentas complementarias para medir e mitigar os riscos existentes en aprendizaxe federada.

Algoritmos adestrados con aprendizaxe federada

Os algoritmos baseados en Intelixencia Artificial (IA) necesitan enormes cantidades de datos para o seu adestramento, e en moitas situacións prácticas os propietarios dos datos non dispoñen dunha cantidade suficiente como para que a aprendizaxe do algoritmo sexa efectiva. Unha solución sería compartir os datos con outros propietarios, de modo que todos se beneficien da colaboración, pero isto implica a miúdo infrinxir as normativas de protección de datos, cada vez máis garantistas cos dereitos dos individuos, tal e como indican os responsables de TRUFFLES.

Neste contexto, TRUFFLES ten como obxectivo o deseño e incorporación de novos mecanismos e tecnoloxías que reforcen e incrementen a seguridade e privacidade en contornas de aprendizaxe federada (en inglés Federated Learning ou FL). A aprendizaxe federada naceu como unha solución a este problema, xa que os propietarios dos datos adestran o seu algoritmo localmente e póñeno en común cos demais para producir un algoritmo que se beneficie da aprendizaxe cos datos respectivos.

“Pódese pensar que este procedemento garante a privacidade, xa que ao fin e ao cabo os datos non chegan a saír do ámbito dos seus propietarios, pero tense demostrado a través de ataques prácticos que, a partir do algoritmo común, segue sendo posible extraer información sobre os datos empregados para adestrar localmente”, sinalan os seus responsables Fernando Pérez e Rebeca Díaz.

Solucións baseadas na privacidade dos datos

TRUFFLES ten varias liñas de actuación entre as cales destacan a identificación de ameazas realistas nun ámbito de aprendizaxe federada e a concepción de métodos para medir a privacidade que cuantifiquen a información privada que poden obter os atacantes, “como instrumento para coñecer as limitacións das solucións existentes”.

Por outro lado, tentarase proporcionar solucións que permitan mitigar ou eliminar as fugas de privacidade. “Estanse desenvolvendo métodos de compartición e combinación de algoritmos protexidos mediante claves, métodos para o uso de tecnoloxías de cadea de bloques para poder trazar os procesos descentralizados de aprendizaxe e métodos para aumentar a robustez da aprendizaxe federada a fallos inesperados nas comunicacións ou fronte a sistemas onde a compartición de modelos se realice en situación de mobilidade, onde non é posible garantir que o conxunto de propietarios de datos estea sempre dispoñible e conectado”, explican desde o equipo de investigación do proxecto.

O proxecto pretende ademais implementar un prototipo para demostrar a utilidade das técnicas desenvolvidas nun escenario real. Porase o foco nun caso de uso no sector bancario, onde a privacidade é un requisito esencial, máis en concreto na detección de transaccións fraudulentas.

Divulgación e sensibilización en ciberseguridade

Entre as actividades contempladas no marco do proxecto TRUFFLES están diversas accións de divulgación para o público xeral como píldoras audiovisuais, que servirán como ferramenta para a difusión de coñecemento achegando conceptos relacionados coa ciberseguridade a persoas non especializadas neste ámbito. Ademais da vertente divulgativa, buscarase sensibilizar e concienciar á sociedade da importancia da privacidade e seguridade en Internet.

Inclúe outras actividades orientadas a público máis especializado, como seminarios e workshops de seguridade e privacidade en aprendizaxe federada para centros tecnolóxicos e empresas, como os que se integrarán no IV Encontro CIBER.gal  do nodo galego de Ciberseguridade, que se celebrará en novembro deste ano. Tamén se colaborou na organización dun evento internacional dirixido a investigadores e investigadoras do sector, o 12th ACM Workshop on Information Hiding and Multimedia Security (IH&MMSec’24), que vén de celebrarse no mes de xuño en Baiona. Realizaranse ademais retos orientados a estudantado universitario no ámbito da privacidade.

Proxectos estratéxicos de INCIBE

Os Proxectos Estratéxicos de Ciberseguridade en España, que se engloban Estas iniciativas se engloban dentro del Programa Global de Innovación en Seguridad, son unha forma de aportar solucións concretas a algúns dos maiores desafíos científicos e tecnolóxicos da nosa sociedade e economía. Están destinados a impulsar a aplicación dos resultados da investigación ea innovación, combinando novas formas de gobernanza e colaboración, así como involucrando á cidadanía e ao tecido produtivo e social.

Fonte: DUVI.