Accessibility Tools

Autores
Tipo Autor ou Orientador
Autor
Thais Luca Marques de Almeida
Orientador
Gerson Zaverucha
Co-orientador
Aline Marins Paes Carvalho
Teses, Dissertações e Outros
id
3306
Similarity-based Source Selection for Transfer Learning in Symbolic and Neural Relational Representations
Inteligência Artificial
Tese de Doutorado
28/8/2026
tituloi
Algoritmos de aprendizado relacional combinam aprendizado de máquina e representação de conhecimento para aprender com dados estruturados e relações entre entidades. O Aprendizado Estatístico Relacional (SRL) usa representações lógicas enquanto Redes Neurais de Grafos (GNNs) aprendem dados modelados como grafos. Apesar de promissoras, ambas compartilham uma limitação: se mudanças na distribuição entre os conjuntos de treinamento e teste, um novo modelo deve ser treinado com novos dados. A transferência de aprendizado busca superar essa limitação ao reutilizar conhecimento de modelos pré-treinados, reduzindo a necessidade de grandes volumes de dados. Contudo, a literatura foca principalmente em como e o que transferir, deixando pouco explorada a questão de de onde transferir conhecimento. Portanto, domínios são frequentemente pareados de forma ad hoc. Nesta tese, propomos o SMART-TL, que indica previamente de onde transferir conhecimento, dado um conjunto de modelos pré-treinados, para aprender um novo domínio. Este baseia-se nas probabilidades subjacentes de domínios para calcular suas divergências. Para tal, utiliza-se proposicionalização para representar domínios relacionais em um espaço de alta dimensão, o que facilita comparar distribuições. O método proposto é avaliado através do desempenho de três algoritmos estado-da-arte em transferência de aprendizado: dois baseados em SRL e um em GNN. As distribuições de dados são comparadas usando a divergência de Kullback-Leibler. Os resultados mostram que os algoritmos apresentam melhor desempenho ao transferir conhecimento entre os pares mais semelhantes. Contudo, para GNNs, nosso método pode exigir mais tempo de processamento do que a abordagem de força bruta.
Relational learning algorithms combine machine learning and knowledge representation to learn from structured data and relationships between entities. Two prominent approaches are Statistical Relational Learning (SRL), which uses logical representations, and Graph Neural Networks (GNNs), which learn from graph-structured data. Although both are promising for handling more complex data, they share a problem with traditional approaches: when there is a distribution shift between the training and test sets, a new model must be trained on new data. Transfer learning addresses this limitation by leveraging knowledge from pre-trained models, enabling faster, less data-intensive adaptation to new tasks. However, most research focuses on what knowledge to transfer and how to transfer it, while from where to transfer remains largely unexplored. As a result, source–target domain pairs are often chosen ad hoc. In this thesis, we propose SMART-TL, which indicates beforehand from where to transfer, given a set of pre-trained source domains to learn a new target domain. It relies on the underlying probabilities of both domains and computes their divergences. To do this, it relies on propositionalization, a method for representing relational domains in a high-dimensional feature space to more easily compare distributions. To evaluate our proposed method, we analyze the performance of three state-of-the-art transfer learning-based algorithms, two SRL-based and one GNN-based, and compare data distributions using Kullback-Leibler (KL) divergence. Our results show that algorithms perform best when transferring between the most similar pairs of source and target domains. However, our method can be more time-consuming in the GNN context than the brute-force approach.
url
Topo