基于图神经网络的图异常值检测库介绍

描述

文章具体介绍了图神经网络的基本机制,以及图上无监督节点异常值检测的概念和方法。同时他还分享了在这方面的一些发现和想法。最后,我们将介绍一个基于 GNN 的图异常值检测库 (PyGOD) 及其与 TigerGraph机器学习工作台的集成。

图神经网络 (GNN)

我们先简单了解一下现在热门的图神经网络 (GNN),这已经成为图数据挖掘的一种主导且强大的工具。与图像数据的 CNN 相似,GNN 是一种神经网络,旨在对图结构进行编码并通过迭代聚合其邻居的嵌入来学习节点的嵌入 (见图 1)。大多数 GNN 都持有同源性假设,即相连的节点是相似的;因此,聚合邻居的信息将有助于学习信息量更大的中心节点表示。中心节点表示可用于节点分类、链接预测和异常值检测 (OD) 等下游任务。

神经网络

图1:图神经网络

图上的异常值

异常值是与其余数据显著不同的样本。作为数据挖掘研究的主流方向,异常值检测在行业中也至关重要。现实世界数据中的异常值通常表示欺诈行为、系统错误、网络入侵或网络故障。这些异常值可能导致重大的财务损失和安全问题。

除了传统表格数据中的异常值外,图模型还可以提高异常值检测的性能,特别是当数据实例具有共同的属性和接近性时。社交平台的机器人账户单个看可能没什么问题(如图 2 所示),但它的转发行为密集相连,从图的角度来看容易发现其中的异常。

神经网络

图2:图上的异常值

在图异常值检测中,以前的文献已经定义并研究了两种典型的异常值类型。(1) 结构异常值是指密集相连的节点,相反则是稀疏连接的常规节点,例如前面提到的社交网络问题(图 2 所示)。(2) 上下文异常值是其属性与相邻节点明显不同的节点。它的定义与经典的基于接近度的异常值检测方法中的异常值假设相似。上下文异常值描绘了与图中邻居不同的节点,例如计算机网络中的受损设备。

神经网络

图3:两种典型的异常值类型

基于 GNN 的节点异常值检测

在 GNN 取得进展之前,大家就已经利用矩阵分解、密度聚类和关系学习方法来编码图信息并识别异常值。其他异常值检测方法大家可以参考文中链接(https://arxiv.org/abs/1404.4679)。

回到 GNN,在获得节点表示之后,GNN 会使用不同的损失函数(目标函数)进行优化,用于不同的任务。例如,使用交叉熵损失来优化 GNN 用于节点分类任务。

对于节点异常值检测,常规做法是将 GNNs 集成到自动编码器中,将 GNN 用作编码器和解码器。这种神经网络架构称为图自动编码器(简称:GAE)。与香草自编码器一样,GAE 通过重建图数据来编码图信息,即重建节点特征和边。在异常值检测方面,GAE 可用于编码正常图信息,具有高重构误差的节点将表明其异常程度。图4就是使用 GAE 进行节点异常值检测的第一种模型。

神经网络

图4:The OD framework of DOMINANT (SDM’ 19)

需要注意的是,使用 GAE 进行异常值检测对图数据有两个隐含假设:(1)异常值仅占据少量数据,而大部分数据是正常的;(2)正常数据具有共同的属性和结构特征。在此假设下,GAE 可以用来检测结构和上下文异常值,近两年来也已经有了许多 GAE 的变体。

基准测试的发现

接下来,跟大家分享一些基于 GNN 的节点异常值检测方法进行基准测试的一些发现:

1. 许多现有的基于 GNN 的异常值检测方法都是基于合成异常值的相对朴素的假设来开发的;因此,许多方法在检测有机异常值时效果并不理想。有机异常值通常非常复杂,其分布也可能多种多样。但是,我们的基准测试表明,如果有机异常值遵循预定义的异常类型,则基于 GNN 的异常值检测方法将是有效的。

2. 和大多数深度学习方法一样,基于 GNN 的异常值检测方法在小图中效果都不是最优的。与此同时,大多数基于 GNN 的异常值检测方法在拥有数千万个节点的大图中都不具有可伸缩性。

3. 无监督的基于 GNN 的异常值检测方法的性能严重依赖于超参数,而在无监督学习中的超参数调整仍然是机器学习研究和实践中的挑战。

4. 大多数基于 GNN 的异常值检测方法更倾向于特定类型的异常值。平衡和优化每种异常值类型的检测性能并不容易。同时,在预期中没有方法具有一致的性能或者在不同的数据集上优于其他方法。

基于图的异常值检测指南

基于上述发现,由于其可扩展性约束,我们认为基于 GNN 的异常值检测与工业应用之间仍存在差距。开发基于 GNN 的自动化、可扩展和任务导向的异常值检测方法将是一个具有发展潜力的方向。至于到底是应用基于 GNN 的异常值检测或基于图的异常值检测,作者也给出了应用指南(图5),以方便从业者参考。我们简单跟大家分享几点,例如,是否采用图?可以看异常实体是否具有共同的特性,异常实体是否具有集群行为,还有就是成本与效益之间的权衡。而是否采用GNN?则需要考虑基础设施,功能可用性和功能类型,还有与其他模块和任务集成。具体指南图大家可以关注我们的微信公众号查看正文。

神经网络

图5:基于图的异常值检测指南

从上述指南中,作者强调了数据探索分析和精确问题定义对于应用基于图的异常值检测是至关重要的。

PyGOD 和TigerGraph ML Workbench

最后,作者还跟大家介绍了 PyGOD,这是一个与图异常值检测基准测试一起开发的 Python 库。该库基于 PyTorch 和 PyTorch Geometric (PyG) 开发,其 API 样式遵循流行的机器学习库 scikit-learn,可以很容易地使用五行代码检测图中的异常点:

神经网络

PyGOD是一个不断发展的Python库,旨在涵盖更多的检测功能和更高的可扩展性。TigerGraph ML Workbench能够将图数据从TigerGraph DB转换为PyG数据对象,因此PyGOD可以在TigerGraph中轻松安装和测试。

神经网络

 

审核编辑:郭婷

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分