检索结果-内蒙古大学图书馆

计算机科学与探索 2017年第10期11卷 1662-1671页

作者：鲁淑霞周谧金钊河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室河北保定071002

随机梯度下降(stochastic gradient descent,SGD)方法已被应用于大规模支持向量机(support vector machine,SVM)训练,其在训练时采取随机选点的方式,对于非均衡分类问题,导致多数类点被抽取到的概率要远远大于少数类点,造成了计算上的... 详细信息

随机梯度下降(stochastic gradient descent,SGD)方法已被应用于大规模支持向量机(support vector machine,SVM)训练,其在训练时采取随机选点的方式,对于非均衡分类问题,导致多数类点被抽取到的概率要远远大于少数类点,造成了计算上的不平衡。为了处理大规模非均衡数据分类问题,提出了加权随机梯度下降的SVM在线算法,对于多数类中的样例被赋予较小的权值,而少数类中的样例被赋予较大的权值,然后利用加权随机梯度下降算法对SVM原问题进行求解,减少了超平面向少数类的偏移,较好地解决了大规模学习中非均衡数据的分类问题。

关键词：随机梯度下降(SGD) 权非均衡数据大规模学习支持向量机(SVM)

来源：评论

学校读者我要写书评

暂无评论

三支区间集半概念的代数结构及覆盖粗糙近似算子

引用

郑州大学学报（理学版） 2024年第6期56卷 84-90页

作者：毛华牛振华马经泽王刚张植明杨兰珍河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室河北保定071002

针对在一个形式背景中以区间集为底集,考虑一个属性集(对象集)拥有的对象集(属性集)和不拥有的对象集(属性集)的知识表述而进行知识提取的问题,采取将区间集概念与三支决策、经典半概念相结合的方法,产生AE-区间集半概念和OE-区间集半... 详细信息

针对在一个形式背景中以区间集为底集,考虑一个属性集(对象集)拥有的对象集(属性集)和不拥有的对象集(属性集)的知识表述而进行知识提取的问题,采取将区间集概念与三支决策、经典半概念相结合的方法,产生AE-区间集半概念和OE-区间集半概念两种形式的三支区间集半概念,同时发现AE-区间集半概念与OE-区间集半概念的纯双布尔代数结构。进一步深入讨论可知,AE-区间集半概念可分为AE1-区间集半概念与AE2-区间集半概念,利用粗糙集理论分别挖掘与AE1-区间集半概念和AE2-区间集半概念有关的近似算子的结构性质,对偶地可得OE-区间集半概念的相关结果。所得三支区间集半概念拓广了已有的三支决策集分别与区间集概念和半概念相结合的相关成果,成为一个新的知识表述。

关键词：形式概念分析半概念三支决策区间集概念近似算子

来源：评论

学校读者我要写书评

暂无评论

集成重复训练极限学习机的数据分类

引用

数据采集与处理 2018年第6期33卷 962-970页

作者：翟俊海周昭一臧立光河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室保定071002 河北大学计算机科学与技术学院保定071002

极限学习机是一种随机化算法,它随机生成单隐含层神经网络输入层连接权和隐含层偏置,用分析的方法确定输出层连接权。给定网络结构,用极限学习机重复训练网络,会得到不同的学习模型。本文提出了一种集成模型对数据进行分类的方法。首先... 详细信息

极限学习机是一种随机化算法,它随机生成单隐含层神经网络输入层连接权和隐含层偏置,用分析的方法确定输出层连接权。给定网络结构,用极限学习机重复训练网络,会得到不同的学习模型。本文提出了一种集成模型对数据进行分类的方法。首先用极限学习机算法重复训练若干个单隐含层前馈神经网络,然后用多数投票法集成训练好的神经网络,最后用集成模型对数据进行分类,并在10个数据集上和极限学习机及集成极限学习机进行了实验比较。实验结果表明,本文提出的方法优于极限学习机和集成极限学习机。

关键词：极限学习机随机化方法重复训练泛化能力

来源：评论

学校读者我要写书评

暂无评论

中智模糊半概念知识提取研究

引用

郑州大学学报（理学版） 2023年第6期55卷 84-90页

作者：毛华郑博雅胥德华张植明杨兰珍河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室河北保定071002

在中智模糊形式背景下,将三支中智模糊概念与经典半概念相结合,提出面向属性的中智模糊半算子与面向对象的中智模糊半算子,进一步得到面向属性的中智模糊半概念与面向对象的中智模糊半概念。在此基础上,讨论了它们在形式概念分析理论中... 详细信息

在中智模糊形式背景下,将三支中智模糊概念与经典半概念相结合,提出面向属性的中智模糊半算子与面向对象的中智模糊半算子,进一步得到面向属性的中智模糊半概念与面向对象的中智模糊半概念。在此基础上,讨论了它们在形式概念分析理论中的核心结构——格,并得到构造其格结构的算法。通过实际案例说明了中智模糊半概念的应用价值,为知识提取提供了一种新方法。

关键词：中智模糊形式背景中智模糊半算子中智模糊半概念知识提取

来源：评论

学校读者我要写书评

暂无评论

基于集成重要性采样的随机梯度下降算法

引用

南京理工大学学报 2024年第3期48卷 342-350页

作者：张浩鲁淑霞河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室河北保定071002

许多机器学习和深度学习问题都可以使用随机梯度优化算法求解,目前流行的算法大多通过均匀采样从样本集中抽取样本计算梯度估计。然而,随机采样的梯度估计会带来较大的方差,这个方差会随着优化的进行而累积,降低算法收敛速度。为缓解这... 详细信息

许多机器学习和深度学习问题都可以使用随机梯度优化算法求解,目前流行的算法大多通过均匀采样从样本集中抽取样本计算梯度估计。然而,随机采样的梯度估计会带来较大的方差,这个方差会随着优化的进行而累积,降低算法收敛速度。为缓解这一现象,可以为每个样本赋予不同的采样概率。该文基于集成学习的思想,提出了一种新的选取非均匀采样分布的算法。算法的主要目的是选取一个采样器权重,使梯度估计的方差尽可能小。所提算法由多个简单采样器组成,采样权重为每个简单采样器分配贡献权重,从而得到最终的采样分布。集成重要性采样算法可以和以往的随机梯度优化方法任意结合,该文给出了使用集成重要性采样的随机梯度下降算法。在试验中,可以直观地看到算法起效的原因。在真实数据集中,展示了所提算法减小方差的效果,与其他算法相比具有一定优势。

关键词：集成学习重要性采样采样器随机梯度下降方差减少

来源：评论

学校读者我要写书评

暂无评论

对象格产生概念格

引用

计算机工程与应用 2009年第8期45卷 39-40,79页

作者：毛华杨蕾窦林立河北大学数学与计算机学院河北保定071002 河北省数学研究中心石家庄050016 河北省机器学习与计算智能重点实验室河北保定071002

通过在对象集内引入两个偏序关系≤′和■′及一种新的交运算∩′来建立改进的对象格,然后通过此对象格产生概念格。此概念格与由通常对象集合的交运算∩产生的概念格相比,其产生的概念节点不仅包括由通常对象集合的交运算∩产生的概念... 详细信息

通过在对象集内引入两个偏序关系≤′和■′及一种新的交运算∩′来建立改进的对象格,然后通过此对象格产生概念格。此概念格与由通常对象集合的交运算∩产生的概念格相比,其产生的概念节点不仅包括由通常对象集合的交运算∩产生的概念格的子节点的对象,还包括产生的新对象。

关键词：对象格偏序关系概念格

来源：评论

学校读者我要写书评

暂无评论

基于行列式点过程的变分拉普拉斯自编码器

引用

南京大学学报（自然科学版） 2022年第4期58卷 629-639页

作者：敦瑞静鲁淑霞张琦翟俊海河北省机器学习与计算智能重点实验室河北大学保定071002 河北大学数学与信息科学学院保定071002

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variat... 详细信息

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variational Laplace Autoencoders-Determinantal Point Process,VLAE-DPP)模型,将行列式点过程方法引入变分拉普拉斯自编码器模型,在原始目标函数的基础上添加一项无监督惩罚损失,以此来提高生成图像的质量.VLAE-DPP模型利用行列式点过程来捕获一个与真实数据类似的多样性,然后通过从编码器中提取特征来学习核.最后,训练解码器优化核的伪、实、特征值和特征向量之间的损失,以鼓励解码器模拟真实数据的多样性,从而生成高质量的图像.在Fashion-MNIST,SVHN,CIFAR10数据集上的实验结果表明,VLAE-DPP模型能提高生成图像的质量.

关键词：变分自编码器行列式点过程变分推断拉普拉斯近似生成模型

来源：评论

学校读者我要写书评

暂无评论

采用二叉树结构生成概念格的算法

引用

计算机工程与应用 2009年第33期45卷 35-37页

作者：毛华张智星河北大学数学与计算机学院河北保定071002 河北省数学研究中心石家庄050016 河北省机器学习与计算智能重点实验室河北保定071002

概念格是数据分析的一种有力工具。而二叉树在数据结构中具有简单的存储结构。给出了一类具有特殊结构的概念格,针对这种类型的概念格,采用二叉树的结构对概念格的节点进行重新的组织,研究了基于添加对象的渐进式生成概念格的算法。利... 详细信息

概念格是数据分析的一种有力工具。而二叉树在数据结构中具有简单的存储结构。给出了一类具有特殊结构的概念格,针对这种类型的概念格,采用二叉树的结构对概念格的节点进行重新的组织,研究了基于添加对象的渐进式生成概念格的算法。利用这种二叉树的结构,在某些情况下可以减少判断不变概念或更新概念的范围,同时,结合实例说明了这种算法的有效性。

关键词：概念格二叉树渐进式算法对象

来源：评论

学校读者我要写书评

暂无评论

基于MapReduce和上采样的两类非平衡大数据集成分类

引用

数据采集与处理 2018年第3期33卷 416-425页

作者：翟俊海张明阳王陈希刘晓萌王耀达河北省机器学习与计算智能重点实验室保定071002 河北大学数学与信息科学学院保定071002 河北大学计算机科学与技术学院保定071002

提出了一种基于MapReduce和上采样的两类非平衡大数据分类方法,该方法分为5步:(1)对于每一个正类样例,用MapReduce寻找其异类最近临;(2)在两个样例点之间的直线上生成若干个正类样例;(3)以新的正类样例子集的大小为基准,将负类样例随机... 详细信息

提出了一种基于MapReduce和上采样的两类非平衡大数据分类方法,该方法分为5步:(1)对于每一个正类样例,用MapReduce寻找其异类最近临;(2)在两个样例点之间的直线上生成若干个正类样例;(3)以新的正类样例子集的大小为基准,将负类样例随机划分为若干子集;(4)用负类样例子集和正类样例子集构造若干个平衡数据子集;(5)用平衡数据子集训练若干个分类器,并对训练好的分类器进行集成。在5个两类非平衡大数据集上与3种相关方法进行了实验比较,实验结果表明本文提出的优于这3种方法。

关键词：大数据非平衡分类上采样最近邻

来源：评论

学校读者我要写书评

暂无评论

基于注意力机制的语义对比学习算法

引用

山西大学学报(自然科学版) 2024年第1期47卷 81-92页

作者：陈俊芬吕巧莉谢博鋆孙劲松河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室

对比学习中不合适的数据增强会导致语义信息的失真，同一图像在不同类型的数据增强下语义信息有巨大的语义差距；此外，卷积神经网络（CNN）对纹理有强烈偏好，无法精准学习到下游任务所需的深层语义特征表示，针对以上问题，本文提出... 详细信息

对比学习中不合适的数据增强会导致语义信息的失真，同一图像在不同类型的数据增强下语义信息有巨大的语义差距；此外，卷积神经网络（CNN）对纹理有强烈偏好，无法精准学习到下游任务所需的深层语义特征表示，针对以上问题，本文提出一种基于注意力的语义对比学习方法（Semantic attention contrastive learning method,SACL）。SACL首先利用卷积神经网络提取特征，然后注意力模块挖掘全局特征，获得更高级的语义特征，实现了对低级特征的补充和深层特征的语义融合。其次使用截然不同的数据增强方式构造正负样本对，将弱增强（几何增强）生成的正样本和强增强（纹理增强）生成的负样本进行对比，获得差异更为显著的图像输入。网格化增强视图增加了正样本的个数，加快网络收敛速度。在四个数据集上验证了所提出的语义对比学习算法的有效性，结果表明在ImageNet-100数据集上平均精度可以达到78.3%，可以有效提高模型的分类准确率。

关键词：对比学习注意力机制语义特征表示数据增强纹理网格化

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：