< 上一个 | 内容 | 下一个 >

2.5.3 神经符号系统的挑战及未来研究方向

前文详细介绍了神经符号系统的研究现状,在此基础上,本节尝试分析目前的神经符号系统面临的主要挑战,以及未来的研究方向。

1.推断方法

从概率图的角度建模神经符号系统时,计算阶段依然存在推理困


难的问题。例如,基于 MLN 模型,如果逻辑规则数量多且实体规模较大,那么实例化的数量将呈“指数级”增长,导致模型推理的速度迅速下降。例如,实体的数量是 n,一个 m 元谓词实例化,需要 nm 种方式。针对该问题,尽管已经提出了一些改进方法[196] [197] ,但其仍然存在局限性,例如常用的近似推断是以减少数据的使用率和牺牲推理准确性为代价提高推理速度的。因此,结合深度学习模型的特征,为 MLN 等统计关系学习模型设计规则实例化的选取方法及快速推理算法是神经符号系统亟需解决的一个问题。

2.规则自动构建

上述神经符号系统模型使用的规则通常都是领域专家人工构建好的,这种构建方式费时费力且不具有可扩展性。如何从数据中端到端的学习出刻画先验知识的规则,也是神经符号系统面临的一个挑战问题。目前,人们探索并扩展基于 ILP 的方法解决规则的自动构建问题,但该类方法存在推理过程复杂且发现的规则比较简单(只能发现单链式规则)等问题。为此,端到端的规则自动构建也是神经符号系统未来需要关注的方向。

3.符号表示学习

好的符号表示能够使看似复杂的学习任务变得更加容易和高效。例如,在零次图像分类任务中,引入符号知识对提升模型的分类能力至关重要,如果学得的符号表示包含较少所需的语义信息,那么分类模型将不胜任复杂的分类任务。目前,多数符号表示方法都不能很好地处理具有强相似性的谓词(语义相似但字面意思不同)。若两个谓词语义相似,但逻辑公式形式不同,当前的符号表示学习方法就不能捕获到一致的语义,从而损害了模型的推理能力。因此,如何设计更加鲁棒和高效的符号表示学习方法是神经符号系统面临的一个重要挑战。随着图表示学习的发展,将节点映射为低维、稠密、连续的向量,可以灵活的嵌入到各类学习和推理任务。很多符号知识都可以建


模为异质、多关系、甚至多模态的有向图或无向图,如何发展和利用异质图表示学习方法解决神经符号系统面临的挑战也是一个值得探索的方向。

4.应用领域扩展

目前,神经符号系统主要应用于计算机视觉与自然语言处理领域,并取得了不错的效果。此外,一些工作还探索了如何利用神经符号系统解决推荐系统的可解释性问题[198] 和网络节点的分类问题[199]

[200] 。因此,一个很自然的想法是,神经符号系统还能有效解决哪些领域的问题,如何针对共性和特点(特殊性)设计相应的模型和方法。