A Utility-Driven Approach to Instance-Based Transfer Learning for Boosted Relational Dependency Networks
Authors:
Autores
| Person role | Person | |
|---|---|---|
|
7474 |
3238,250,2729
|
|
|
7475 |
3238,250,2729
|
|
|
7476 |
3238,250,2729
|
Informations:
Pesc publication
Aprendizado Estatístico Relacional explora um espaço de busca complexo de objetos, relações e parâmetros probabilísticos para otimizar um modelo. Para reduzir a complexidade da busca e os requisitos de disponibilidade de dados, trabalhos relacionados exploraram a transferência de um modelo aprendido em um domínio de origem para um domínio de destino. No entanto, esses modelos nem sempre estão disponíveis, e um aprendizado imperfeito no domínio de origem pode prejudicar o desempenho no domínio de destino. Este trabalho propõe utilizar as instâncias de um domínio de origem ao invés de um modelo aprendido nesse domínio. Uma solução simples, como concatenar instâncias de ambos os domínios, pode ser ineficaz devido ao impacto potencial de instâncias irrelevantes ou de baixa qualidade. Para abordar essa questão, nós tratamos a seleção de instâncias como sendo uma tarefa de alocação justa de recursos, onde as utilidades associadas às instâncias são parametrizadas para capturar a relevância de cada instância. Nós introduzimos o método chamado UTIL-BRDN, que aplica essa abordagem baseada em utilidades às Redes de Dependência Relacional com Boosting (RDN-Boost). Nossos resultados experimentais mostram que o UTIL-BRDN transfere conhecimento de forma eficaz reutilizando instâncias de outros domínios e é robusto contra negative transfer. Nossas contribuições incluem a introdução do aprendizado por transferência baseado em instâncias no contexto do aprendizado estatístico relacional, o desenvolvimento de uma abordagem baseada em utilidades para a seleção de instâncias, a extensão do RDN-Boost para lidar com múltiplos domínios e utilidades, e a realização de uma extensa avaliação empírica do método proposto.
Statistical Relational Learning explores a complex search space of objects, their relationships, and probability parameters to find an optimal model. To reduce search complexity and data availability requirements, previous work has explored taking advantage of a learned model in a source domain and transferring it to a target domain. However, these models are not always available and imperfect learning in the source domain can hinder the performance in the target domain. This work proposes to leverage the instances of a source domain instead of its learned model. A simple solution, such as concatenating instances from both domains, is likely ineffective due to the potential negative impact of irrelevant or poor-quality instances. We address this by framing instance selection as a task of fair resource allocation, where utilities associated with instances are parameterized to capture the relevance of each instance. We introduce a method called UTIL-BRDN, which applies this utility-driven approach to Boosted Relational Dependency Networks (RDN-Boost). Our experimental results show that UTIL-BRDN effectively transfers knowledge by reusing instances from other domains and is robust against negative transfer. Our contributions include introducing instance-based transfer learning to statistical relational learning, developing a utility-driven approach to instance selection, extending RDN-Boost to handle multiple domains and utilities, and conducting an extensive empirical evaluation of the proposed method.