随身听第38期： 基于图神经网络GNN的图异常值检测
我们今天要介绍的是由伊利诺伊大学芝加哥分校正在攻读博士学位的博士生窦英通撰写的基于图神经网络的图异常值检测文章，作者致力于图数据挖掘、欺诈检测和安全机器学习。文章的内容基于他最近的论文和 在KDD 2022 机器学习在金融领域workshop的分享。 其中具体介绍图神经网络的基本机制，以及图上无监督节点异常值检测的概念和方法。同时他还分享了在这方面的一些发现和想法。最后，我们将介绍一个基于 GNN 的图异常值检测库 (PyGOD) 及其与 TigerGraph ML Workbench的集成。

图神经网络 (GNN)

图神经网络 (GNN) 最近已成为图数据挖掘的一种主导且强大的工具。与卷积神经网络 CNN 相似，GNN 是一种神经网络，设计用于编码图结构，并通过迭代地聚合节点的邻居的嵌入来学习节点的嵌入 (见图 1)。大多数 GNN 都持有同源性假设，即相连的节点是相似的；因此，聚合邻居的信息将有助于学习信息量更大的中心节点表示。中心节点表示可用于节点分类、链接预测和异常值检测 (OD) 等下游任务。
图神经网络 (GNN)

图上的异常值

异常值是与剩余数据显著不同的样本。作为数据挖掘研究的主流方向，异常值检测在行业中也至关重要。现实世界数据中的异常值通常表示欺诈行为、系统错误、网络入侵或网络故障。这些异常值可能导致重大的财务损失和安全问题。

除了传统表格数据中的异常值外，图模型还可以提高异常值检测的性能，特别是当数据实例具有共同的属性和接近性时。社交媒体的机器人账户单个看没什么可疑的（如图 2 所示），但它的转发行为密集相连，从图的角度来看容易被发现。
在图异常值检测中，以前的文献已经定义并研究了两种典型的异常值类型。(1) 结构异常值是密集相连的节点，相反则是稀疏连接的常规节点，结构异常值如前面提到的社交网络问题（图 2 所示）。(2) 上下文异常值是其属性与相邻节点显著不同的节点。上下文异常值描绘了与图中邻居不同的节点，例如计算机网络中的受损设备。它的定义与经典的基于接近度的 OD 方法中的异常值假设相似。
图异常值检测

基于 GNN 的节点异常值检测

在 GNN 取得进展之前，已经利用矩阵分解、密度聚类和关系学习方法来编码图信息并识别异常值。其他异常值检测方法大家可以参考文中链接（https://arxiv.org/abs/1404.4679）。

回到 GNN，在获得节点表示之后，GNN 会使用不同的损失函数（目标函数）进行优化，用于不同的任务。例如，使用交叉熵损失来优化 GNN 用于节点分类任务。

对于节点异常值检测，常规做法是将 GNNs 集成到自动编码器中，将 GNN 用作编码器和解码器。这种神经网络架构称为图自动编码器（简称：GAE）。与香草自编码器一样，GAE 通过重建图数据来编码图信息，即重建节点特征和边。在异常值检测方面，GAE 可用于编码正常图信息，具有高重构误差的节点将表明其异常程度。图4显示了使用 GAE 进行节点异常值检测的第一种模型。
基于 GNN 的节点异常值检测
需要注意的是，使用 GAE 进行异常值检测对图数据有两个隐含假设：（1）异常值仅占据少量数据，而大部分数据是正常的；（2）正常数据具有共同的属性和结构特征。有了这个假设，GAE 可以用来检测结构和上下文异常值，近两年来已经有许多 GAE 的变体。

Benchmark基准测试的发现

接下来，跟大家分享一些基于 GNN 的节点异常值检测方法进行基准测试的一些有价值的发现：
  1. 许多现有的基于 GNN 的异常值检测方法都是基于合成异常值的相对朴素的假设来开发的；因此，许多方法在检测野外的有机异常值时效果并不理想。有机异常值通常非常复杂，其分布也可能多种多样。但是，我们的基准测试表明，如果有机异常值遵循预定义的异常类型，则基于 GNN 的异常值检测方法将是有效的。
  2. 和大多数深度学习方法一样，基于 GNN 的异常值检测方法在小图中效果都不是最优的。与此同时，大多数基于 GNN 的异常值检测方法在拥有数千万个节点的大图中都不具有可伸缩性。
  3. 无监督的基于 GNN 的异常值检测方法的性能严重依赖于超参数，而在无监督学习中的超参数调整仍然是机器学习研究和实践中的挑战。
  4. 大多数基于 GNN 的异常值检测方法更喜欢特定类型的异常值。平衡和优化每种异常值类型的检测性能并不容易。同时，在预期中没有方法具有一致的性能或者在不同的数据集上优于其他方法。

基于图的异常值检测指南

基于上述发现，由于其可扩展性约束，我们认为基于 GNN 的异常值检测与工业应用之间仍存在差距。开发基于 GNN 的自动化、可扩展和任务导向的异常值检测方法将是一个有前途的方向。至于应用基于 GNN 的异常值检测或基于图的异常值检测，我给出下图的指南，以方便从业者。

我们简单跟大家分享几点，例如，是否采用图？可以看异常实体是否具有共同的特性，异常实体是否具有集群行为，还有就是成本与效益之间的权衡。而是否采用GNN？则需要考虑基础设施，功能可用性和功能类型，还有与其他模块和任务集成。

从下面的指南中，我想强调数据的探索分析和精确的问题定义对于应用基于图的异常值检测是至关重要的。
A Guideline for Graph-based OD/基于图的异常值检测指南

PyGOD 和 TigerGraph ML Workbench

最后，我想介绍一下 PyGOD，这是我们一起开发的基于 Python 的图异常值检测基准测试库。该库基于 PyTorch 和 PyTorch Geometric (PyG) 开发，其 API 样式遵循流行的机器学习库 scikit-learn，我们可以很容易地使用五行代码检测图中的异常点。
PyGOD，基于 Python 的图异常值检测基准测试库
PyGOD是一个不断发展的Python库，旨在涵盖更多的检测功能和更高的可扩展性。由于TigerGraph ML Workbench能够将图数据从TigerGraph DB转换为PyG数据对象，因此PyGOD可以在TigerGraph中轻松安装和测试。 请参考教程（https://github.com/TigerGraph-DevLabs/mlworkbench-docs/tree/main/tutorials/gnn_pyg）和这个jupyter notebook（https://github.com/pygod-team/pygod/blob/main/docs/tigergraph_pygod_demo.ipynb），了解如何在TigerGraph环境下运行PyGOD。
TigerGraph ML Workbench （机器学习工作台）

TigerGraph GNN课程一直播：图数据切分与GNN模型数据加载实践

为了帮助大家学习和实践，我们准备了一系列针对图神经网络的直播课程。最新一期将于12月8日上线，主题为“图数据切分与GNN模型数据加载实践”，参与直播与讲师互动，还能获得TigerGraph定制的虎牌保温杯。欢迎大家来我们直播间学习互动。
报名直播
TigerGraph GNN课程一：图数据切分与GNN模型数据加载实践

TigerGraph 机器学习工作台（ML Workbench）

在此，我们也欢迎大家试用TigerGraph 机器学习工作台（ML Workbench），借助机器学习工作台，数据科学家，人工智能和机器学习从业者可以快速开发图神经网络 (GNN) 模型。借助TigerGraph 的大规模并行图数据计算引擎和 55 种以上开源图算法，数据科学家可以无缝地启动TigerGraph内置的高性能图特征生成、采样和训练。使用TigerGraph 机器学习工作台建立的模型被证明比传统的机器学习方法更准确和有效，因为它包含了最先进的图神经网络功能。
借助TigerGraph ML Workbench（ 机器学习工作台），加速企业BI

3分钟认识TigerGraph

相关资源

TigerGraph Blog

分类

最新帖子