检索结果-内蒙古大学图书馆

计算机学报 2024年第10期47卷 2247-2273页

作者：袁牧张兰姚云昊张钧洋罗溥晗李向阳中国科学技术大学计算机科学与技术学院合肥230026

从智慧城市到工业自动化,智能物联网在越来越多的场景中得到了广泛应用.模型推理作为实现智能决策和响应的核心技术,在智能物联网系统中扮演着举足轻重的角色.然而,智能物联网设备通常在计算能力、通信带宽、内存容量和电池寿命等资源... 详细信息

从智慧城市到工业自动化,智能物联网在越来越多的场景中得到了广泛应用.模型推理作为实现智能决策和响应的核心技术,在智能物联网系统中扮演着举足轻重的角色.然而,智能物联网设备通常在计算能力、通信带宽、内存容量和电池寿命等资源上高度受限.这使得智能物联网中的模型推理资源开销成为一个关键技术挑战.本综述总结了在智能物联网场景中优化模型推理资源开销的相关技术,对当前在智能物联网应用中使用的主流模型推理优化技术进行概述,并深入分析它们在资源效率方面的优势和不足.本文从推理涉及的三大模块(传感器数据、智能模型、物联网硬件)和五类关键资源的角度出发设计新的技术分类,并首次提出了一套针对智能物联网模型推理的通用的优化流程,能够帮助相关研发人员定位和优化推理效率瓶颈.最后,本文讨论了智能物联网推理效率相关的四个未来研究方向.

关键词：智能物联网模型推理资源效率输入过滤协同推理

来源：评论

学校读者我要写书评

暂无评论

基于异构图学习的新能源出力预测模型推理方法

引用

电力建设 2023年第8期44卷 41-51页

作者：杨家俊邓星朱克东吴毓峰余涛董崇武华南理工大学电力学院广州市510610 国网江苏省电力有限公司南京供电分公司南京市210008 中国电力科学研究院有限公司(南京) 南京市210003

双碳目标背景下,具有区域特征和性能特点的新能源出力预测模型层出不穷,如何甄别利用当前存在的海量预测模型是当前实际应用中预测人员关注的问题。因此,提出了基于异构图学习的新能源出力预测模型推理方法,将新能源出力预测分为基础模... 详细信息

双碳目标背景下,具有区域特征和性能特点的新能源出力预测模型层出不穷,如何甄别利用当前存在的海量预测模型是当前实际应用中预测人员关注的问题。因此,提出了基于异构图学习的新能源出力预测模型推理方法,将新能源出力预测分为基础模型层和模型推理层。在基础模型层中,基于不同区域特征数据集对具有不同特点的预测模型进行训练。而在模型推理层,设计了“输入信息节点-输入边-模型节点-潜在联系边-预测结果”的异构图表示方法以完成异构信息的融合,并通过异构图注意力网络实现最优模型推理,从而获得精准的新能源预测结果。以中国西南某省风电场为算例对所提方法进行验证,结果表明所提方法风电预测误差低于9%,且直接迁移于无数据新建场站上的预测表现优于其他方法。

关键词：新能源出力预测异构图学习模型推理多预测模型信息融合

来源：评论

学校读者我要写书评

暂无评论

运用数据与数学模型推理提升高中生化学间题的解决能力——以解决相关化学平衡问题为例

引用

中学化学 2022年第9期 12-15页

作者：李砚耘湖北省武汉外国语学校高中部 430022

从定性描述到定量分析,再到用数学模型研究微观结构,化学科学与“数”和“数学”的联系越来越密切。在中学化学教学中适当地运用数据,可以使学生更具象化一些“大”“小”概念,利用数学推理,使许多分析性、经验性的结论更有说服力。

关键词：中学化学教学数学推理具象化模型推理定性描述定量分析高中生化学数学模型研究

来源：评论

学校读者我要写书评

暂无评论

可支撑深达近百层的模型推理

可支撑深达近百层的模型推理

引用

工人日报

作者：刘友婷

近日，中广核AI大模型完成DeepSeek的全面接入，实现了DeepSeek模型的本地化部署。“中广核AI大模型基于国产算力底座，全面接入DeepSeek后，运行稳定，可支撑深达近百层的模型推理，大幅提升模型计算能力与数据处理速度。”中广核智科... 详细信息

近日，中广核AI大模型完成DeepSeek的全面接入，实现了DeepSeek模型的本地化部署。“中广核AI大模型基于国产算力底座，全面接入DeepSeek后，运行稳定，可支撑深达近百层的模型推理，大幅提升模型计算能力与数据处理速度。”中广核智科公司数字化应用主任工程师姚全兵谈到，通......

关键词：模型推理中广核核电站

来源：评论

学校读者我要写书评

暂无评论

蚂蚁集团开源算法实测提升大模型推理速度2至6倍

蚂蚁集团开源算法实测提升大模型推理速度2至6倍

引用

IT时报

作者：孙妍

近日，蚂蚁集团开源了一套新算法，实测可以帮助大模型提升推理速度2至6倍。这套新算法名为Lookahead推理加速框架，即插即用，已在蚂蚁大量场景落地，大幅降低推理耗时。以Llama2-7B-chat模型与Dolly数据集为例，实测token生成速度可由... 详细信息

近日，蚂蚁集团开源了一套新算法，实测可以帮助大模型提升推理速度2至6倍。这套新算法名为Lookahead推理加速框架，即插即用，已在蚂蚁大量场景落地，大幅降低推理耗时。以Llama2-7B-chat模型与Dolly数据集为例，实测token生成速度可由48.2个/秒升至112.9个/秒，提速2.34......

关键词：模型推理加速算法

来源：评论

学校读者我要写书评

暂无评论

基于神经网络模型的成员推理防御算法

引用

太原理工大学学报 2023年第5期54卷 763-772页

作者：吕彦超杨玉丽陈永乐太原理工大学信息与计算机学院太原030024

【目的】针对机器学习模型在训练过程中可能泄露训练数据隐私,为成员推理攻击所利用,进而窃取用户敏感信息的问题,提出了一种基于神经网络的期望均衡优化算法(EEO).【方法】采用对抗训练并优化的策略,分为内外两层循环来实现:内层循环... 详细信息

【目的】针对机器学习模型在训练过程中可能泄露训练数据隐私,为成员推理攻击所利用,进而窃取用户敏感信息的问题,提出了一种基于神经网络的期望均衡优化算法(EEO).【方法】采用对抗训练并优化的策略,分为内外两层循环来实现:内层循环假设一个足够强大的对手,其目标为最大化攻击模型期望;外层循环有针对性地进行防御训练,其目标为最大化目标模型期望。利用小批量梯度下降法使内外两层循环的损失值都达到最小,从而既保证模型精度,又降低对手成员推理的能力。【结果】采用3个有代表性的图像数据集MNIST、FASHION、Face,将EEO应用于优化后的神经网络模型进行成员推理攻击实验,3个数据集的测试精度分别损失了2.2%、4.7%和3.7%,而攻击模型的精度分别下降了14.6%、16.5%和13.9%,并且已接近50%,即随机猜测。【结论】实验结果表明该算法较好地兼顾了模型的高可用性与高隐私性,尽管仍会不可避免地产生隐私泄露,但训练出的神经网络模型对成员推理攻击有很强的防御效果,且对目标模型的影响可以忽略。

关键词：机器学习神经网络成员推理攻击数据安全隐私保护模型推理

来源：评论

学校读者我要写书评

暂无评论

加速模型推理助力AI落地

引用

软件和集成电路 2021年第6期 74-75页

作者：袁丽雅中兴通讯

我给大家带来的分享是关于我们发起的开源项目如何加速模型推理、助力AI落地的。在机器学习应用落地的过程中,主要分为两个阶段,第一,数据处理阶段,包括数据采集、数据预处理和数据存储等。经历过这个阶段之后,就得到了我们所要训练的样... 详细信息

我给大家带来的分享是关于我们发起的开源项目如何加速模型推理、助力AI落地的。在机器学习应用落地的过程中,主要分为两个阶段,第一,数据处理阶段,包括数据采集、数据预处理和数据存储等。经历过这个阶段之后,就得到了我们所要训练的样本,有了样本,就能进行最重要的机器学习训练。这个过程中有很多工作要做,包括采样、特征提取、模型优化、模型评估以及在评估的基础上的调优工作,才会得到准确率比较高的深度学习或者机器学习模型。

关键词：机器学习模型推理数据预处理数据采集特征提取开源项目数据存储数据处理

来源：评论

学校读者我要写书评

暂无评论

云天励飞14nm Chiplet大模型推理芯片重磅发布

引用

中国集成电路 2023年第12期32卷 80-80页

近日,在中国国际高新技术成果交易会(高交会)开幕式上,云天励飞重磅发布新一代AI芯片DeepEdge10。DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。该芯片具有SoC... 详细信息

近日,在中国国际高新技术成果交易会(高交会)开幕式上,云天励飞重磅发布新一代AI芯片DeepEdge10。DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。该芯片具有SoC主控集成度;采用D2D Chiplet技术和C2C Mesh扩展架构,可实现算力的灵活扩展,内置云天励飞最新的第四代神经网络处理器。

关键词：模型推理 Mesh 神经网络自主可控

来源：评论

学校读者我要写书评

暂无评论

面向机器学习模型的成员推理攻击研究

面向机器学习模型的成员推理攻击研究

引用

作者：吕彦超太原理工大学

学位级别：硕士

随着互联网的不断发展与大数据时代的到来,机器学习与我们日常生活之间的联系日益紧密。众多互联网公司如Google、Amazon等先后推出了机器学习即服务的功能,可供用户上传数据并进行预测,实现其想要的功能。然而,随着用户越来越多地将其... 详细信息

随着互联网的不断发展与大数据时代的到来,机器学习与我们日常生活之间的联系日益紧密。众多互联网公司如Google、Amazon等先后推出了机器学习即服务的功能,可供用户上传数据并进行预测,实现其想要的功能。然而,随着用户越来越多地将其私有数据上传至服务器,用户数据中的隐私及敏感信息也很容易泄露,如身份信息、个人照片、医疗记录等。此类信息极易被不法分子获取,进而损害机器学习模型的安全性,威胁用户隐私。本文主要研究一种特定的攻击,即成员推理攻击,其利用机器学习模型存在的固有缺陷,判断某条数据记录是否位于该模型的训练数据集中,从而掌握用户的个人信息。本文的创新点在于提出了防御机器学习模型成员推理攻击的新方法——基于神经网络的期望均衡优化算法(EEO),并通过模拟实验证实了该方法的有效性。本文首先介绍了机器学习模型及成员推理攻击的相关概念和应用实例,阐明研究背景及意义,而后对相关文献进行了全面的综述和总结,深入对比了同类文献的优缺点。现有文献有关防御成员推理攻击的研究较多,但普遍存在的不足之处是难以兼顾模型效能与成员推理攻击的防御性能。因此,本文提出了在保证模型效能的基础上防御成员推理攻击的有效方案,即EEO。该算法采用对抗训练并优化的策略,分为内外两层循环来实现:内层循环假设一个足够强大的对手,其目标为最大化攻击模型期望;外层循环有针对性地进行防御训练,其目标为最大化目标模型期望。利用小批量梯度下降法使内外两层循环的损失值都达到最小,从而既保证模型精度,又降低对手成员推理的能力。采用三个有代表性的图像数据集MNIST、FASHION、Face搭建神经网络模型,从学习率出发,探究了优化神经网络的必要性,并利用五种不同的优化器对神经网络进行优化,对不同优化器的优化效果进行对比。将EEO应用于优化后的神经网络模型进行成员推理攻击模拟实验,三个数据集的测试精度分别损失了2.2%、4.7%和3.7%,而攻击模型的精度分别下降了14.6%、16.5%和13.9%,并且已接近50%,即随机猜测。对比实施防御方案前后模型性能及成员推理攻击精度的变化,从实验上证明引入相应改动后的新方案在真实数据集上的有效性和广泛性,并有针对性地给出该领域未来新的研究方向。

关键词：机器学习成员推理攻击数据安全隐私保护模型推理神经网络

来源：评论

学校读者我要写书评

暂无评论

基于模型推理的化学教学设计研究

基于模型推理的化学教学设计研究

引用

作者：晁艳娜山东师范大学

学位级别：硕士

化学在帮助人们认识和改造世界的过程中,常常通过分析推理、抽象概括、构建模型等方法来认识和研究问题,其中推理与模型都是重要的思维方法,在科学学习中作用显著。科学推理不仅包括对数据的观察和解释,还包括基于事件或现象的理论或模... 详细信息

化学在帮助人们认识和改造世界的过程中,常常通过分析推理、抽象概括、构建模型等方法来认识和研究问题,其中推理与模型都是重要的思维方法,在科学学习中作用显著。科学推理不仅包括对数据的观察和解释,还包括基于事件或现象的理论或模型的推理。我国的化学教学也逐渐开始重视科学推理的教学,并将“证据推理与模型认知”纳入化学学科核心素养体系。本文研究的模型推理,介于推理与模型之间,可以解释最原始的科学家的认知活动,使学生感受科学家的思维过程,帮助学生掌握各种推理技能与建模过程。本文对有关推理研究、模型研究、模型推理研究进行了文献综述,追溯模型推理的理论来源。通过系统的研究推理与模型相关内容,总结模型推理的理论基础,分析模型推理的教学价值,建构了基于模型推理的教学设计思路。教学设计思路分为四个步骤:创设情境,提出问题;分析推理,理清联系;综合分析,建构模型;运用模型,解决问题。依据所建构的教学思路,论文选取《氧化还原反应》为教学内容进行教学设计和实践,最后用实验班和对照班的测试成绩检验教学效果。实践结果显示实验班和对照班的成绩具有显著差异,说明基于模型推理的教学具有明显效果,有利于发展学生的模型意识,促进学生推理能力和问题解决能力的提高。

关键词：模型推理教学设计高中化学

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：