几何学 搜索术语几何学在里面任何字段.查询是与案件无关.
 搜索澳大利亚雷神和ti公司tle公司. Theand运算符&是默认值,可以省略.
切比雪夫 这个or运算符|允许搜索切比雪夫或切比雪夫.
"准地图", 结果文件有p出版是的耳朵 1989.
so:欧元*J*材料*Soc*cc:14 搜索特定出版物所以乌尔奇用一个数学学科C分类c颂歌(复写的副本)在里面14.
 这个d文件t类型设置为书本;或者:j对于期刊文章一对于书籍文章.
洛杉矶:中国人 在给定的洛杉矶语言.ISO 639标准也可以使用语言代码.
摘要:导数,主要以梯度和黑森函数的形式存在于机器学习中.自动微分(Automatic differentication,AD)也称为算法微分或简称为"autodiff",是一系列与反向传播类似但比反向传播更为通用的技术,用于高效,准确地计算以计算机程序表示的数值函数的导数.AD是一个小而成熟的领域,应用领域包括计算流体力学,大气科学和工程设计优化.直到最近,机器学习和广告领域基本上还没有相互了解,而且在某些情况下,已经独立地发现了彼此的结果.尽管通用AD具有相关性,但它在机器学习工具箱中一直缺失,这种情况随着其以"动态计算图"和"可微程序设计"的不断采用而慢慢改变.我们调查了广告和机器学习的交叉点应用程序广告具有直接的相关性,并解决了主要的实现技术.通过精确定义主要的微分技术及其相互关系,我们的目的是使术语"autodiff","auto differentication"和"symbol differentication"的用法变得清晰,因为这些术语在机器学习环境中越来越多地遇到.
[2] D, S.亚当森和C.W.温南特.对无限区域变化下游初始强冲击波的俚语模拟.连续系统模拟语言应用会议记录,第231-401969页.27
[3] 纳曼·阿加瓦尔,布莱恩·布林斯和埃拉德·哈桑.线性时间的二阶随机优化.技术报告arXiv:1602.03943,arXiv预印本,2016年·Zbl 1441.90115
[4] R, K.Al-Seyab和Y.Cao.基于连续时间递归神经网络和自动微分的预测控制非线性系统辨识.过程控制杂志,18(6):568-5812008年.
[5] 布兰登·阿莫斯和J·齐科·科尔特.OptNet:神经网络中可微优化的一个层次.
[6] Marianna S.Apostolopoulou,Dimitris G.Sotiropoulos,Ioannis E.Livieris和Panagiotis Pintelas.一种无记忆BFGS神经网络训练算法.在2009年第7届IEEE国际工业信息学会议上,第216-221页,2009年6月.
[8] Dzmitry Bahdanau,Kyunghyun Cho和Yoshua Bengio.神经机器翻译联合学习对齐和翻译.
[12] 在ılım gune¸s Baydin,Barak A.Pearlmutter和Jeffrey Mark Siskind.Diffsharp:一个广告库.网络语言.第七届算法微分国际会议,英国牛津基督教堂,2016年9月12-15日,2016a.另见arXiv:1611.03423.
[13] 在ılım gune¸s Baydin,Barak A.Pearlmutter和Jeffrey Mark Siskind.深入学习的技巧.第七届算法微分国际会议,英国牛津基督教堂,2016年9月12-15日,2016b.另见arXiv:1611.03777.
[14] 在贝丁,罗伯特·科尼什,大卫·马特·内兹·鲁比奥,马克·施密特和弗兰克·伍德.具有超梯度下降的在线学习速率适应.2018年4月30日至5月3日在加拿大温哥华举行的第六届学习表征国际会议(ICLR).
[15] 五十, 贝达,科罗列夫,苏基赫和弗罗洛娃.机器自动微分程序BESM(俄语).技术报告,科学院精密力学和计算技术研究所,莫斯科,苏联,1959年.28
[16] 布拉德利·M·贝尔和詹姆斯·V·伯克.隐函数与最优值的算法微分.在C.H.Bischoff,H.M.Bucker,P.Hovland,U.Naumann和J.Utke编者,自动微分的进展,计算科学与工程课堂讲稿第64卷,第67-77页.斯普林格柏林海德堡,2008年. 7·Zbl 1152.65434
[17] 克劳斯·本特森和奥勒·斯塔宁.对于灵活的C++软件包来说,这是一个糟糕的软件包.技术报告IMM-REP-1996-17,丹麦林格比技术大学数学建模系,1996年.
[38] 鲍勃卡彭特,马修D霍夫曼,马库斯布鲁贝克,丹尼尔李,彼得李,和迈克尔贝当古.Stan数学库:C++中的反向模式自动微分.
[41] 伊莎贝尔·夏彭蒂埃和穆罕默德·盖米尔斯.有效伴随导数:在中NH气象模式中的应用.优化方法和软件,13(1):35-632000·Zbl 0983.76067
[42] 陈丹琪和克里斯托弗·曼宁.一种基于神经网络的快速准确的依赖关系分析器."2014年自然语言处理经验方法大会论文集",第740-750页,2014年.[48] 马克和杰罗恩.基于cuda的快速双精度cfd程序.并行计算流体力学:最新进展和未来方向,第414-4292009页.
[51] 马修·库布里奥,约舒亚·本吉奥和让·皮埃尔·大卫.二进制连接:在传播过程中用二进制权重训练深层神经网络.神经信息处理系统的进展,第3123-3131页,2015年.
[52] Navneet Dalal和Bill Triggs.用于人体检测的定向梯度直方图.2005年IEEE计算机学会计算机视觉与模式识别会议论文集(CVPR'05),886-93页,华盛顿特区,美国,2005年.IEEE计算机协会.
[54] 丹尼斯·施纳贝尔和丹尼斯·施纳贝尔.无约束优化和非线性方程组的数值方法.应用数学经典.工业和应用数学学会,费城,1996年.31个·Zbl 0847.65038
[57] 约翰·杜奇,埃拉德·哈桑和约兰·辛格.在线学习和随机优化的自适应次梯度方法.机器学习研究杂志,12(7月):2121-21592011·Zbl 1280.68164
[59] 杰里·埃里克森,阿滕·古利克森先生,佩尔·林德斯特罗姆先生和佩尔·阿克·韦丁.使用自动微分法训练大型前向神经网络的正则化工具.优化方法和软件,10(1):49-691998. 0913.68177
[61] 詹妮·罗丝·芬克尔,亚历克斯·克莱曼和克里斯托弗·D·曼宁.高效,基于特征的条件随机域解析.计算语言学协会第46届年会论文集(ACL 2008),第959-672008页.
[63] 肖恩A.福斯.一种在MATLAB中实现前向模自动微分的高效重载实现.ACM数学软件交易,32(2):195-2222006·Zbl 1365.65053
〔65〕 布莱恩·科恩和大卫·科恩.AMPL:一种用于数学规划的建模语言.杜克斯伯里出版社,2002年·Zbl 0701.90062
[66] 大卫·M·盖伊.非线性规划问题中部分可分结构的自动发现与开发.技术报告,贝尔实验室,莫里希尔,新泽西州,1996年.[71] 凯文·吉佩尔,迪潘詹·达斯和诺亚·A·史密斯.面向自然语言处理的分布式异步在线学习.第十四届计算性自然语言学习会议论文集,第10届,第213-222页,美国宾夕法尼亚州斯特劳德斯堡,2010年.计算语言学协会.
[78] 威尔·格拉斯沃尔,崔大美,吴玉怀,杰夫·罗德和大卫·杜文诺.穿过空洞的反向传播:用于黑箱梯度估计的优化控制变量.
[84] 安德烈亚斯·格里万克.谁发明了逆向分化模式?Mathematica文献集, 1293.65035
[85] 安德烈亚斯·格里万克和安德烈·沃尔特.求导:算法微分的原理和技术.工业与应用数学学会,费城,2008年. 1159.65026
[89] 沃尔夫·哈尔瓦德和杜鲁尔.使用AD优化工业结构力学问题的尺寸.自动微分算法,181-188页.斯普林格,2002年.
[94] 露丝·L·辛金斯.应用于磁场计算的自动微分并行计算.技术报告,劳伦斯伯克利实验室,加利福尼亚州,1994年.
[96] 马修·霍夫曼和安德鲁·盖尔曼.不掉头取样器:哈密顿蒙特卡罗自适应设置路径长度.机器学习研究杂志,15:1351-13812014·Zbl 1319.60150
[100] 贾阳青,埃文·谢尔哈默,杰夫·多纳休,谢尔盖·卡拉耶夫,乔纳森·朗,罗斯·吉尔希克,塞尔吉奥·瓜达拉玛和特雷弗·达雷尔.Caffe:快速特征嵌入的卷积体系结构.第22届ACM国际多媒体会议论文集,第675-678页.ACM,2014年.
[101] 马修·约翰逊,大卫·K·杜文诺,亚历克斯·威尔特施科,瑞安·P·亚当斯和桑德普·R·达塔.用神经网络构造图形模型进行结构化表示和快速推理.神经信息处理系统的进展,第2946-29542016页.
[103] 西蒙·佩顿·琼斯和约翰·劳恩布里.非严格函数语言中的一等公民的无价值.在函数式编程语言和计算机体系结构会议上,第636-666页.斯普林格,1991年.
[105] 阿尔芒·朱林和托马斯·米科洛夫.利用堆栈增强递归网络推断算法模式.神经信息处理系统的进展,第190-198页,2015年.[107号] D, 金马和巴.亚当:一种随机优化方法.2015年在圣地亚哥举行的国际学习代表大会(ICLR).
用深卷积神经网络进行图像网络分类.神经信息处理系统的进展,第1097-11052012页.
[112] Tejas D.Kulkarni,Pushmete Kohli,Joshua B.Tenenbaum和Vikash Mansinghka.图片:一种用于场景感知的概率编程语言.在IEEE计算机视觉和模式识别(CVPR)会议上,2015年6月.
[113] 安基特·库马尔,奥赞·伊尔索伊,彼得·翁德鲁斯卡,莫希特·伊耶,詹姆斯·布拉德伯里,伊沙安·古拉贾尼,维克托·钟,罗曼·保卢斯和理查德·索彻.问我任何问题:用于自然语言处理的动态记忆网络.Maria Florina Balcan和Kilian Q.Weinberger,编辑,"第33届机器学习国际会议论文集",机器学习研究论文集第48卷,1378-1387页,美国纽约,纽约,2016年6月20-22日.PMLR.
[115] 团安乐,在贝丁,弗兰克·伍德.推理编译和通用概率规划."第20届国际人工智能与统计会议论文集"(AISTATS),机器学习研究论文集第54卷,1338-1348页,美国佛罗里达州劳德代尔堡,2017年.PMLR.
[118] G, 莱布尼茨.机器算术是一种非加法,减法和乘法运算,它是一种简单的运算方法.汉诺威,1685年.[120] 塞波林奈马.将算法的累积舍入误差表示为局部舍入误差的泰勒展开式.赫尔辛基大学硕士论文,1970年.
[第123号] 麦克劳林.可组合可微过程的建模,推理与优化.哈佛大学工程与应用科学学院博士论文,2016年.
[124] Dougal Maclaurin,David Duvenaud和Ryan Adams.基于梯度的可逆学习超参数优化.国际机器学习会议,2113-2122页,2015年.
[127号] 弗拉基米尔·马祖里克.将自动微分集成到PC的数字库中.a.Griewank和G.F.Corliss,编辑,"算法的自动微分:理论,实现和应用",第315-29页.工业与应用数学学会,费城,宾夕法尼亚州,1991年·Zbl 0782.65031
[129] 五十, 米歇洛蒂.MXYZPTLK:一个实用的,用户友好的微分代数的C++实现:用户指南.技术备忘录FN-535,费米国家加速器实验室,伊利诺伊州巴达维亚,1990年.
[130] Tom'aˇs Mikolov,Martin Karafi'at,Luk'aˇaˉs Burget,JanˇCernock'y和Sanjeev Khudanpur.基于递归神经网络的语言模型.2010年国际言语传播协会第十一届年会.
[134号] 雷德福德·M·尼尔.用马尔可夫链蒙特卡罗方法进行概率推理.技术报告CRG-TR-93-1,多伦多大学计算机科学系,1993年.
[138] 大卫·B·帕克.学习逻辑:用硅铸造人脑皮层.技术报告TR-47,经济和管理科学计算研究中心,麻省理工学院,1985年.
[139号] Val'erie Pascual和Laurent Hasco¨et.TAPENADE for C.自动微分的进展,计算科学与工程课堂讲稿,199-210页.斯普林格,2008年.第1008-948页.
[142号] 巴拉克·A·珀尔穆特和杰弗里·马克·西斯金德.功能框架中的反向模式广告:终极反向传播者Lambda.ACM编程语言与系统事务(TOPLAS),30(2):1-362008年3月. 1175.68104
[144] 约翰·彼得森.标记环境中的未标记数据:在编译时选择最佳表示.第四届函数式编程语言与计算机体系结构国际会议论文集,第89-99页.ACM,1989年.38
[151] 贾勒特·瑞维斯,迈尔斯·鲁宾和西奥多·帕帕马库.Julia中的正向模式自动微分.
[152] 丹尼洛·希门尼斯·雷泽德,夏克尔·穆罕默德和达安·维尔斯特拉.深层生成模型中的随机反向传播和近似推理.国际机器学习会议,第1278-1286页,2014年.
[155] 伊丽莎白·罗林斯.利用自动微分优化神经网络反馈控制系统.麻省理工学院航空航天系硕士论文,2009年.
[159] 蒂姆·萨利曼斯,迪德里克·金马和马克斯·韦林.马尔可夫链蒙特卡罗和变分推理:填补差距.第32届国际机器学习会议论文集(ICML-15),第1218-1226页,2015年.39
[161] 汤姆绍尔,张思欣,杨乐春.不再有令人讨厌的学习率.国际机器学习会议,第343-351页,2013年.
[163] 尼科尔·N·施劳多夫.随机梯度下降中的局部增益自适应.国际人工神经网络会议记录,569-74页,苏格兰爱丁堡,1999年.伦敦国际机场.
[164] 尼科尔·N·施劳多夫和托尔·格雷佩尔.结合共轭方向法和随机梯度近似.2003年第九届人工智能与统计国际研讨会论文集·Zbl 1013.68699
[165] 弗兰克·塞德和阿米特·阿加瓦尔.CNTK:微软的开源深度学习工具包.第22届ACM SIGGDD知识发现与数据挖掘国际会议论文集,KDD'16,第2135-2135页,美国纽约,2016年.ACM公司.国际标准书号978-1-4503-4232-2.
[166号] 诺姆·沙泽尔,阿扎莉亚·米霍塞尼,克尔兹托夫·马齐亚尔兹,安迪·戴维斯,库克·勒,杰弗里·辛顿和杰夫·迪恩.大得离谱的神经网络:专家层的稀疏门控混合体.参加2017年,2017年国际学习代表大会.
[170] 帕特里斯·西马尔,扬·莱昆,约翰·登克和伯纳德·维克多里.模式识别中的变换不变性,切线距离和切线传播.在G.Orr和K.Muller,编辑,神经网络:交易的技巧.斯普林格,1998年.
[第172条] 杰弗里·马克·西斯金德和巴拉克·A·珀尔穆特.扰动混淆和参照透明:前向模式广告的正确功能实现.安德鲁·巴特菲尔德,编辑,功能语言的实施和应用第17届国际研讨会,IFL'05,第1-9页,爱尔兰都柏林,2005年.都柏林三一学院计算机科学系技术报告TCD-CS-2005-60.
[173] 杰弗里·马克·西斯金德和巴拉克·A·珀尔穆特.利用多变量联合自由流分析,将一类导数算子的高阶函数程序设计语言编译成高效的类Fortran代码.技术报告TR-ECE-08-01,普渡大学电气与计算机工程学院,2008a·Zbl 1156.68335
[175] 杰弗里·马克·西斯金德和巴拉克·A·珀尔穆特.利用内置广告高效实现高阶语言.第七届算法微分国际会议,英国牛津基督教堂,2016年9月12-15日.另见arXiv:1611.03416·Zbl 1295.65028
[176] 杰弗里·马克·西斯金德和巴拉克·A·珀尔穆特.无用户注释的任意程序的分而治之检查点.在NIPS 2017 Autodiff研讨会:基于梯度的机器学习软件和技术的未来,加利福尼亚州长滩,美国,2017年12月9日.另见arXiv:1708.06799·Zbl 1455.65037
[178] 伯特·斯佩尔彭宁.快速编译算法给定函数的偏导数.博士论文,计算机科学系,伊利诺伊大学香槟分校,1980年.
[180度] 菲利普·斯拉杰,祖扎娜·库克洛娃和安德鲁·菲茨吉本.机器学习和计算机视觉中的一些问题的算法微分工具的基准.AD2016:第七届算法微分国际会议,2016年9月12日星期一至15日星期四,英国牛津基督教堂:课程和摘要,181-184页.工业与应用数学学会(SIAM),2016年·Zbl 1453.65050
[181号] 阿克谢·斯里尼瓦桑和伊曼纽尔·托多罗夫.图解牛顿.技术报告arXiv:1508.00952,arXiv预印本,2015年.
[183] 菲利佩·彼得罗斯基,瓦希什特·马德哈万,爱德华多·孔蒂,乔尔·雷曼,肯尼斯·O·斯坦利,杰夫·克伦.深层神经进化:遗传算法是训练深层神经网络强化学习的一种有竞争力的选择.
[186] 乔纳森·泰勒,理查德·斯特宾,瓦伦·拉玛克里希纳,塞姆·凯斯金,杰米·肖顿,沙赫拉姆·伊扎迪,亚伦·赫茨曼和安德鲁·菲茨吉本.基于单目深度序列的用户特定手模型."IEEE计算机视觉与模式识别会议论文集",第644-651页,2014年.
[187] 杰弗里·P·托马斯,厄尔·H·道威尔和肯尼斯·C·霍尔.利用自动微分法建立计算流体动力学求解器的非线性降阶模型.AIAA论文,7115:2006,2006.
[189] 西娅·托奎,肯塔·奥诺,秀喜和贾斯汀·克莱顿.Chainer:一个下一代的用于深度学习的开源框架."神经信息处理系统(NIPS)第二十九届年会机器学习系统研讨会论文集",2015年.
[194号] 亚历山大韦尔巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴恩巴顿.切线:在Python中使用源代码转换自动区分.
[205] Ilker Yildirim,Tejas D.Kulkarni,Winrich A.Freiwald和Joshua B.Tenenbaum.视觉综合的高效稳健分析:计算框架,行为测试和神经元表征建模.2015年认知科学年会.
[206] 于浩楠和杰弗里·马克西斯金德.从用句子描述的视频学习语言."计算语言学协会第51届年会论文集",第53-63页,保加利亚索非亚,2013年.计算语言学协会.
[207] 扎勒巴,米科洛夫,朱林,费格斯.从例子中学习简单的算法.国际机器学习会议,第421-429页,2016年.
此参考列表基于出版商或数字数学图书馆提供的信息.它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误.它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性.