案例:谷歌人工智能算法Dropout申请专利

发布于: 雪球转发:0回复:0喜欢:0

2019年6月26日,谷歌对Dropout算法提出的专利申请正式生效,专利有效期为15年,2034年9月3日到期。Dropout算法最早由Hinton于2012年提出,是一种在深度学习、训练神经网络时被普遍使用的算法,可以有效解决过拟合现象,由于Dropout是人工智能最底层算法,使用范围十分广泛,此次专利申请在人工智能领域引起轩然大波。

一、背景

Dropout 算法可以有效解决深度学习中的过拟合陷阱。

Dropout最早于2012年被图灵奖获得者Hinton提出,由Alex首次用于卷积网络的图像分类。由于神经网络拟合能力过强,在实际的训练情况中极易出现“过拟合”,“过拟合”情况一旦出现会导致训练完成后的神经网络模型无法用于训练集之外的其他数据。Dropout算法的作用便是在神经网络训练过程中以一定概率丢弃部分神经元来防止“过拟合”现象,在深度学习领域中的应用极为普遍,现在主流的卷积、循环神经网络训练都会用Dropout技术作为正则化器。基于Dropout的广泛应用,Dropout的变形例如Targeted Dropout、 Sample Dropout等陆续被开发问世。

深度学习基础算法类专利凤毛麟角。

从全球范围看,深度学习专利集中在产业下游。2018年全球深度学习领域新增专利数量为7429项,虽然专利数量呈现爆发式增长,但从分布情况来看主要集中在产业中下游,即对深度学习神经网络的使用及人工智能应用模式的创新。目前, 计算机视觉创新热度最高,2018年相关专利数量超过4000个,占比超过全部专利数量的一半;另外,自动驾驶和自然语言处理应用领域的专利数量也在迅速飙升。但是深度学习基础算法的专利占比较低,一是由于深度学习基础算法研发技术要求高,只有 谷歌等实力强劲的科技巨头才有在深度学习上游布局的可能。二是基础算法前期研究周期太长,回报率低,许多企业不愿涉足。

谷歌历来对基础领域专利布局高度重视。

从专利数量来看,2016年至2018年 谷歌总共发布专利数量为1659项,在全球企业排名中仅次于 IBM和 微软,位列第三位,其中以发明专利居多。谷歌善于通过基础算法进行生态构建,持续地注重基础算法专利的储备和布局,在此次对Dropout申请专利之前,谷歌已经多次对基础算法进行专利申请,如自然语言处理中的word2vec和视频压缩中的ANS等。近年来,谷歌在深度学习基础算法领域专利布局进一步深化,其专利申请相较之前呈明显增加的趋势,并在2013年呈现爆发式增长,其布局重点领域为自动驾驶汽车基础技术,如环境感知、操作控制等。谷歌在基础领域的专利布局使其得以牢牢把控产业上游“闸口”。

二、案例介绍

事件描述。2016年8月2日, 谷歌对Dropout算法提出了专利申请,该项专利于2019年6月26日正式生效,专利有效期为15年,2034年9月3日到期。在专利申请的文档主体中,谷歌提供了神经网络的结构图和训练流程图,并介绍了专利申请的背景,对专利进行了简要概括,提供了专利分类,并描述了专利的实施原理。谷歌在Dropout专利申请成功后还没有后续动作,该专利目前仍然处于免费状态,但是谷歌对于业界的讨论并没有给出正面回应,深度学习开发者、AI初创企业和AI科研机构等都仍旧面临谷歌对于Dropout算法进行收费或者限制的风险。

后续发展。业界对 谷歌申请Dropout专利主要存在两种意见。乐观者认为此次不是谷歌第一次进行基础算法的专利申请,并且谷歌没有对算法进行限制或者收费的先例,此次谷歌针对Dropout申请专利有较大概率是为了防止在进行技术开发中被其他公司起诉,是一种自我保护行为,谷歌不会对Dropout使用者进行限制。悲观者认为谷歌对深度学习底层算法进行专利申请,握住了整个深度学习领域的命脉,所有Dropout算法使用者都面临“卡脖子”的风险。

三、简评

我国深度学习领域以企业为主体的专利数量占比较低。

近几年,我国深度学习专利增长迅速,但是以企业为主体的专利数量较少,企业创新主体的地位没有得到充分体现。从总体构成上看,我国深度学习领域的研发力量集中于科研院所,而美国主要集中于企业。2018 年,美国以企业为申请主体的新增专利数占到其专利总申请数量的 81.5%,而我国此项比重仅为 40.8%。科研院所在深度学习领域研发创新中戏份较重体现出一定弊端,一是各个院所之间相对独立,并且科研院所研发经费相较大型企业略显窘困,导致研究力量比较分散,研发方向不够聚焦,难以真正解决基础领域重点难点问题。二是科研院所与产业、市场的应用需求衔接不足,研发创新成果难以实现真正的应用落地,研发到应用之间存在断层。

我国应当高度关注人工智能基础算法专利布局。

我国人工智能代表企业聚焦语音识别、图像识别、端到端自动驾驶系统、图像分割神经网络、视线追踪等领域开发应用产品,但是与美国科技巨头如 IBM、 谷歌、 微软等相比,我国在人工智能基础算法布局处于空白,在未来发展中略显乏力。此次谷歌对 Dropout 技术申请专利应当引起行业管理部门重视,鼓励企业在新兴领域原始创新上加大资金、人才等投入力度,在底层架构、基础理论等方面勇于做先行者和开拓者。同时相关企业应当增强知识产权意识,通过专利布局对未来新兴领域的产业生态构建进行超前谋划,积极在基础算法领域进行专利布局,打好行业发展根基。

赛迪智库系列专题文章,请在公众号后台回复以下关键词查看:转型升级:高质量发展|供给侧改革|工业强基|先进制造业集群|京津冀一体化 | 一带一路  |长江经济带 |产能过剩 |产能合作 |新动能 |全要素生产率  |工匠精神|并购重组工业创新:双创| 制造业创新中心| 颠覆性创新 |协同创新| 知识产权|工业标准|公共服务平台新兴产业: 数字经济|互联网+|工业互联网|智能制造|服务型制造|增材制造|人工智能|虚拟现实|区块链|机器人|集成电路|光伏|新能源汽车|无人驾驶|大数据|分享经济|高端装备|  新材料信息化:5G|信息化|两化融合|物联网|智慧城市|信息消费|政府数据开放|网络安全|数据跨境流动节能环保:气候变化|污染治理|能源利用|节能环保|清洁生产|绿色发展|   用能权交易|循环经济传统产业:食品|医药|船舶|纺织|钢铁|电子信息制造|航空航天| 安全产业|危化品国际贸易:贸易壁垒|贸易协定更多精彩内容陆续更新,敬请期待!

看都看完了,还不点这里试试

天下网标王优化网站排版教程西安优化网站公司济阳网站优化优化排名网站别错过易速达sem网站优化清远企业网站优化公司消防员网站优化清远网站优化如何山东教育网站优化网站代码如何优化莱山商城网站优化公司仙桃市网站关键词优化排名汕尾网站优化价格表温州 网站优化江门网站首页关键词优化推广网站产品优化前五易速达网站建设优化顶火16星程序代码优化网站百度优化网站莲花网站优化方案汕尾网站优化开发成都网站优化系统管城回族区信息化网站搭建优化铜陵网站优化公司费用淘宝网站功能优化台州网站seo优化公司荔湾seo网站优化推广价格新都网站优化有什么用公司高端网站优化怎么推新都网站优化如何香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

天下网标王 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化