旅游机票网站建设,php用户管理系统,今天体育新闻直播,dede5.7模板 新闻文章网站源码深度学习#xff08;DL#xff09;虽然在日志异常检测中得到了不少应用#xff0c;但在实际轻量级运维模型选择中#xff0c;必须仔细考虑异常检测方法与计算成本的关系。具体来说#xff0c;尽管深度学习方法在日志异常检测方面取得了出色的性能#xff0c;但它们通常需…深度学习DL虽然在日志异常检测中得到了不少应用但在实际轻量级运维模型选择中必须仔细考虑异常检测方法与计算成本的关系。具体来说尽管深度学习方法在日志异常检测方面取得了出色的性能但它们通常需要更长的时间来进行日志预处理、模型训练和模型推断从而阻碍了它们在需要快速部署日志异常检测服务的在线分布式云系统中的采用。
本文对现有的基于经典机器学习和深度学习方法的日志异常检测方法进行了实证研究并提出了一种自动化日志异常检测评估框架LightAD。
1. 日志异常检测介绍
日志是AIOps领域需要处理的常见数据是程序运行过程中由代码打印出的一些非结构化的文本信息日志通常由时间戳和文本信息组成。日志实时记录了系统的运行状态包括正常运行状态和故障发生时的状态。因此通过收集和分析日志可以快速检测和定位出系统中存在的异常。
本文研究了深度学习方法在日志异常检测中与更简单技术相比的优越性在五个公共的日志异常检测数据集上对轻量级传统机器学习方法如KNN、SLFN和深度学习方法如CNN、NeuralLog进行了全面的评估。
本文的研究结果表明通过合适的数据处理方式轻量级机器学习方法能够在时间效率和准确性方面都优于深度学习方法。为了评估深度学习方法的必要性本文提出了一种自动化的日志异常检测模型评估框架LightAD。LightAD是一种基于贝叶斯优化器的优化训练时间、推断时间和性能得分的评估框架。通过自动化超参数调优LightAD可以实现在日志异常检测模型之间进行公正的比较使运维工程师能够针对不同的在线异常检测目标来选择合适的异常检测模型。
2. 对现有方法的全面评估 深度学习方法除了本身拥有更多的参数量外其使用的数据处理方式通常也比较耗时。例如CNN方法需要使用日志解析工具对日志进行解析NeuralLog需要用深度语言模型BERT来对日志进行处理。本文对轻量级传统机器学习方法采用了更高效的日志处理方式。
具体而言本文在处理以日志块来聚合的数据集如HDFS时从每个文本日志消息中提取标记以空格分隔并删除包含数字的标记。本文使用每个块的ID将日志消息分组成日志序列并用事件频率对其进行编码。整个预处理工作流程如下图所示。 3. 全新的日志异常检测评估框架LightAD
为全面综合评估日志异常检测算法本文提出了基于贝叶斯优化起的自动化算法优化和评估框架LightADLightAD结构如下图所示。本文首先准备了一组简单的基准模型及其初始的超参数空间对于每个模型本文会自动化的优化模型的超参数。通过综合考虑三个维度的模型收益打分
1准确性
2每个日志序列的训练时间
3每个日志序列的推断时间
最终抉择出模型收益分数最高的异常检测算法。 模型收益的多目标优化公式如下 下图是在去除重复数据的HDFS数据集上使用LightAD进行异常检测方法优化和评估的结果最高模型收益的分数由黑色加粗标识。从图中可以看出LightAD挑选出的模型都是轻量级的机器学习方法。 4. 总结
本文来自华为云PaaS技术创新Lab和香港中文大学深圳贺品嘉助理教授团队合作项目成果产出相关研究成果已被软件工程领域顶会ICSE 2024CCF A类正式录用文章详细内容即将公开敬请关注。
