第一篇:Machine Learning: Algorithms, Real‑World Applications and Research Directions

阅读时间:2022-06-29

期刊: SN Computer Science 作者: Iqbal H. Sarker 发表日期:22 March 2021

Abstract:

在当前第四次工业革命(4IR或工业4.0)时代,数字世界拥有丰富的数据,如物联网(IoT)数据、网络安全数据、移动数据、商业数据、社交媒体数据、健康数据等。为了智能地分析这些数据并开发相应的智能和自动化应用,人工智能(AI)的知识,特别是机器学习(ML)是关键。该领域中存在各种类型的机器学习算法,如监督、无监督、半监督和强化学习。此外,深度学习是一个更广泛的机器学习方法家族的一部分,可以大规模地智能分析数据。在这篇文章中,我们对这些机器学习算法提出了一个全面的观点,这些算法可以应用于增强智能和应用程序的能力。因此,这项研究的关键贡献是解释了不同的机器学习技术的原则和它们在各种现实世界应用领域的适用性,如网络安全系统,智能城市,医疗保健,电子商务,农业等。我们还强调了基于我们的研究的挑战和潜在的研究方向。总之,本文旨在为学术界和工业界的专业人士以及决策者提供一个参考点,在各种现实情况和应用领域,特别是从技术的角度。

Keywords:

Machine learning · Deep learning · Artificial intelligence · Data science · Data-driven decision-making · Predictive analytics · Intelligent applications

Article skeleton:

画板

Facing the challenges

① 一般来说,基于机器学习的解决方案的有效性和效率取决于数据的性质和特征,以及学习算法的性能。因此,准确预处理来自不同来源的不同数据是一项具有挑战性的任务。 ② 选择一个适合目标应用的合适的学习算法是具有挑战性的。 ③ 现有的一些算法可以直接用于解决一些现实问题,然而,混合学习模型,如方法的集成、对现有学习技术的修改或改进或设计新的学习方法,可能是该领域未来的一个潜在工作。

Conclusion

1)本文简要地讨论了各种类型的机器学习方法如何用于制定各种现实问题的解决方案。一个成功的机器学习模型既依赖于数据,也依赖于学习算法的性能。 2)复杂的学习算法需要通过收集到的真实世界数据和与目标应用程序相关的知识进行训练,才能帮助系统进行智能决策。 3)我们还讨论了基于机器学习技术的几个流行应用领域,以突出它们在各种现实问题中的适用性。

Personal feelings

正如作者所说本文是一篇综述类文章,首先,可以为学术界和工业界的专业人士提供潜在的研究和应用的参考指南。 其次,也非常适合准备学习机器学习的初学者阅读,因为这篇文章对机器学习的算法和应用领域介绍的非常全面,很多算法和应用领域都是当今最流行的,初学者通过阅读可以对机器学习这门课的框架有个大致的了解,当深入的学习完一些算法再回过头来阅读,可能会有不一样的收获。

Related images

不同类型的ML算法(有监督的、无监督的、半监督的和强化的)在0 (min)到100 (max)的范围内随时间变化的全球流行度得分,其中x轴代表时间戳信息,y轴代表相应的得分

AI综述类论文笔记 - 图2

AI综述类论文笔记 - 图3

AI综述类论文笔记 - 图4

可以发现,深度学习适合处理大数据,而数据量比较小的时候,用传统机器学习方法也许更合适。

第二篇:Deep Learning: A Comprehensive Overview on Techniques, Taxonomy, Applications and Research Directions

阅读时间:2022-07-06

期刊: SN Computer Science 作者: Iqbal H. Sarker 发表日期:29 May 2021

Abstract:

机器学习(ML)和人工智能(AI)的分支——深度学习(DL)被认为是第四次工业革命(4IR或工业4.0)的核心技术。DL技术起源于人工神经网络(artificial neural network, ANN),由于其对数据的学习能力,已成为计算领域的热门话题,并被广泛应用于医疗保健、视觉识别、文本分析、网络安全等多个应用领域。然而,由于现实问题和数据的动态性和变动性,建立一个合适的DL模型是一项具有挑战性的任务。此外,缺乏核心理解将DL方法变成了妨碍标准级别开发的黑盒机器。本文介绍了DL技术的一个结构化和全面的观点,包括考虑到现实世界中各种类型的任务(如有监督或无监督)的分类法。在我们的分类中,我们考虑了深度网络的监督或鉴别学习,无监督或生成学习,以及混合学习和其他相关的。我们还总结了可以使用深度学习技术的真实应用领域。最后,我们指出了未来DL建模的十个潜在方向和研究方向。总的来说,这篇文章的目的是绘制DL建模的大图,可以作为学术界和行业专业人士的参考指南。

Keywords:

Deep learning · Artificial neural network · Artificial intelligence · Discriminative learning(判别学习) · Generative learning(生成学习) · Hybrid learning(混合学习) · Intelligent systems

Article skeleton:

画板

Facing the challenges:

Conclusion:

Personal feelngs:

Related images:

AI综述类论文笔记 - 图6

AI:将人的行为和智慧融入到机器或系统中。

ML:则是从数据或历史经验中学习的方法,实现分析模型的自动化构建。

DL:也是从数据中学习的方法,其中的计算是通过多层神经网络和处理完成的。

在深度学习方法论中,术语“深度”指的是对数据进行处理以构建数据驱动模型的多个层次或阶段的概念。

可见DL是“更聪明的人工智能”,也是AI的最前沿,所以说ML的地位是非常高的。

AI综述类论文笔记 - 图7

图4解决现实世界问题的深度学习工作流, 包括三个顺序的阶段:(i)数据理解和预处理 (ii)分布式学习模型构建和训练 (iii)验证和解释 DL与ML建模的不同之处是:DL模型中的特征提取是自动的,而不是手动的。

AI综述类论文笔记 - 图8

一个典型的深度神经网络包含多个隐藏层,包括输入层和输出层。 图5显示了深度神经网络(隐层= N, and N>=2)和浅层神经网络(隐层= 1)的大致结构。

AI综述类论文笔记 - 图9

我们将DL技术大致分为三个主要类别:(i)用于监督或鉴别学习的深度网络;(ii)用于无监督或生成学习的深度网络;和(ii)混合学习的深度网络,并结合两者和相关的其他网络,

AI综述类论文笔记 - 图10

AI综述类论文笔记 - 图11

如图9所示,GANs由两个神经网络组成,一个是生成器G,它创建具有与原始数据相似属性的新数据,另一个是判别器D,它从实际数据而不是生成器提供的数据中预测后续样本的可能性。因此,在GAN建模中,生成器和鉴别器都被训练以相互竞争。生成器试图通过创建更真实的数据来欺骗和混淆鉴别器,鉴别器则试图区分G产生的真实数据和虚假数据。

AI综述类论文笔记 - 图12

一个迁移学习过程的一般结构,将预先训练好的模型中的知识迁移到新的DL模型中

第三篇 卷积神经网络的发展及其在计算机视觉领域中的应用综述

阅读时间:2022-07-14

期刊: 计算机科学 作者:陈 超 齐 峰 发表日期:8 March 2019

Abstract:

近年来,深度学习在计算机视觉、语音识别、自然语言处理和医疗影像处理等领域取得了一系列显著的研究 成果.在不同类型的深度神经网络中,卷积神经网络得到了最广泛的研究,这不仅体现在学术研究领域的繁荣,更体 现在对相关产业产生了巨大的现实影响和商业价值上.随着标注样本数据集的快速增长和图形处理器(GPU)性能 的大幅度提高,卷积神经网络的相关研究得到了迅速的发展,并在计算机视觉领域的各种任务中成效卓然.首先,回 顾了卷积神经网络的发展历史;其次,介绍了卷积神经网络的基本结构及各组件的作用;然后,详细描述了卷积神经网 络在卷积层、池化层和激活函数等方面的改进研究,总结了自1998年以来比较有代表性的神经网络架构:AlexNet, ZFGNet,VGGNet,GoogLeNet,ResNet,DenseNet,DPN和SENet;在计算机视觉领域,重点介绍了卷积神经网络在图 像分类/定位、目标检测、目标分割、目标跟踪、行为识别和图像超分辨率重构等应用方面的最新研究进展;最后,对卷 积神经网络研究中亟待解决的问题与挑战进行了总结.

Keywords:

人工智能,深度学习,卷积神经网络,计算机视觉

Article skeleton:

画板

Facing the challenges:

Conclusion:

Personal feelngs:

Related images:

第四篇 深度学习相关研究综述

阅读时间:2022-07-22

期刊: SN Computer Science 作者: Iqbal H. Sarker 发表日期:22 March 2021

Abstract:

随着大数据时代的到来,深度学习技术已经成为当前人工智能领域的一个研究热点,其已在图像识别、语音识别、自然语言处理、搜索推荐等领域展现出了巨大的优势,并且仍在继续发展变化,为了能够及时跟踪深度学习技术的最新研究进展,把握深度学习技术当前的研究热点和方向,本文针对深度学习技术的相关研究内容进行综述。首先介绍了深度学习技术的应用背景、应用领域,指出研究深度学习技术的重要性;其次介绍了当前重要的几种神经网络模型及两种常用大规模模型训练并行方案,其目的在于从本质上理解深度学习的模型架构和及其优化技巧;接着对比分析了当下主流的深度学习软件工具和相关的工业界研究平台,旨在为神经网络模型的实际使用提供借鉴;最后详细介绍了当下几种主流的深度学习硬件加速技术和最新研究现状,并对未来研究方向进行了展望。

Keywords:

深度学习; 神经网络; 算法模型; 软件工具; 硬件加速

Article skeleton:

画板

Facing the challenges:

Conclusion:

Personal feelngs:

Related images:

第五篇 卷积神经网络研究综述

阅读时间:2022-08-03

期刊: 计算机学报 作者:周飞燕 金林鹏 董军 等级:中文核心A类 发表日期: March 2017

Abstract:

深度学习是包含多级非线性变换的层级机器学习方法,深层神经网络是目前的主要形式,其神经元间 的连接模式受启发于动物视觉皮层组织,而卷积神经网络则是其中一种经典而广泛应用的网络结构。卷积神经网络的局 部连接、权值共享及池化操作等特性使之可以有效地降低网络的复杂度,减少训练参数的数目,使模型对平移、扭曲、 缩放具有一定程度的不变性,并具有强鲁棒性和容错能力,且也易于训练和优化网络结构。基于这些优越的特性,它在 各种信号和信息处理任务中的性能优于标准的全连接神经网络。

本文首先概述了卷积神经网络的发展历史,然后分别描 述了神经元模型、多层感知器的结构。接着,详细分析了卷积神经网络的结构,包括卷积层、取样层、全连接层,它们 发挥着不同的作用。然后,讨论了网中网结构、空间变换网络等改进的卷积神经网络。同时,还分别介绍了卷积神经网 络的监督学习、无监督学习训练方法以及一些常用的开源工具。此外,本文以图像分类、人脸识别、音频检索、心电图 分类及目标检测等为例,对卷积神经网络的应用作了归纳。卷积神经网络与递归神经网络的集成是一个途径。为了给读 者以尽可能多的借鉴,本文还设计并试验了不同参数及不同深度的卷积神经网络以图把握各参数间的相互关系及不同参 数设置对结果的影响。最后,给出了卷积神经网络及其应用中待解决的若干问题。

Keywords:

卷积神经网络;深度学习;网络结构;训练方法;领域数据

Article skeleton:

画板

第六篇 基于卷积神经网络的图像分类算法综述

阅读时间:2022-08-15

期刊: 计算机应用 作者: 发表日期:2021-08

Abstract:

卷积神经网络(CNN)是目前基于深度学习的计算机视觉领域中重要的研究方向之一。它在图像分类和分割、目标检测等的应用中表现出色,其强大的特征学习与特征表达能力越来越受到研究者的推崇。然而,CNN仍存 在特征提取不完整、样本训练过拟合等问题。针对这些问题,介绍了CNN的发展、CNN经典的网络模型及其组件,并 提供了解决上述问题的方法。通过对CNN模型在图像分类中研究现状的综述,为CNN的进一步发展及研究方向提供了建议。

Keywords:

深度学习;卷积神经网络;图像分类;特征提取;过拟合

Article skeleton:

画板

No.7 基于深度学习的目标检测研究综述

阅读时间:2022-09-28

期刊:电子学报 作者: Iqbal H. Sarker 发表日期:2020-06

Abstract:

目标检测是计算机视觉领域内的热点课题,在机器人导航、智能视频监控及航天航空等领域都有广泛的应用.本文首先综述了目标检测的研究背景、意义及难点,接着对基于深度学习目标检测算法的两大类进行综述,即基于候选区域和基于回归算法.对于第一类算法,先介绍了基于区域的卷积神经网络(Region with Convolutional Neural Network,R-CNN)系列算法,然后从四个维度综述了研究者在R-CNN系列算法基础上所做的研究:对特征提取网络的改进研究、对感兴趣区域池化层的改进研究、对区域提取网络的改进研究、对非极大值抑制算法的改进研究.对第二类算法分为YOLO(You Only Look Once)系列、SSD(Single Shot multibox Detector)算法及其改进研究进行综述.最后根据当前目标检测算法在发展更高效合理的检测框架的趋势下,展望了目标检测算法未来在无监督和未知类别物体检测方向的研究热点.

Keywords:

目标检测; 深度学习; 特征提取; 计算机视觉; 视频监控; 图像处理; 卷积神经网络;

Article skeleton:

画板

Facing the challenges:

Conclusion:

Personal feelngs:

Related images:

AI综述类论文笔记 - 图18

AI综述类论文笔记 - 图19

AI综述类论文笔记 - 图20

AI综述类论文笔记 - 图21

In the end

阅读时间:2022-06-29

期刊: SN Computer Science 作者: Iqbal H. Sarker 发表日期:22 March 2021 Abstract: Keywords: Article skeleton: Facing the challenges: Conclusion: Personal feelngs: Related images: