深度学习算法有望在FPGA和超级计算机上运行

机器学习在过去的几年里取得了很大的进步,在很大程度上归功于计算密集型工作负载扩展新技术的发展。NSF最新的资助项目似乎暗示我们看到的可能只是冰山一角,因为研究人员试图将类似深度学习的技术扩展到更多的计算机和新型的处理器上。

由纽约州立大学石溪分校团队实施的一个特别有趣项目,该项目旨在证明FPGA(现场可编程门阵列)优于GPU,他们发现深度学习算法在FPGA上能够更快、更有效地运行,这突破了当前传统的认识。

根据项目概要:

研究人员预计在GPU上算法的最慢部分,运行在FPGA上将实现明显的加速,同时,在GPU上算法最快的部分在FPGA上将有类似的运行性能,但是功耗会极低。

实际上,除了不同于GPU,在硬件上运行这些模型想法并不新奇,例如,IBM最近凭借一个新的brain-inspired芯片轰动一时,它声称可以完美支持神经网络和其他cognitive-inspired工作负载。微软在今年7月演示了它的Adam项目,这个项目是重新修改了一个流行的深度学习技术使其在通用英特尔 CPU处理器上运行。

由于其可定制的特点,FPGA有着独特的优势,今年6月,微软解释它如何通过卸载某些进程部分到FPGA来加快Bing搜索。当月晚些时候,在Gigaom的Structure大会上,英特尔宣布即将推出的混合芯片架构将FPGA在CPU共置在一起(实际上它们会共享内存),这主要针对专业大数据负载与微软必应这样的案例。

然而,FPGA对于深度学习模型来说并不是唯一的、潜在的基础架构选择。NSF还资助纽约大学的研究人员,让他们通过基于以太网远程直接内存访问技术来测试深度学习算法以及其他工作负载,这在超级计算机上广泛使用,但现在要将它带到企业系统,RDMA连接器通过直接发送消息到内存,避免了CPU、交换机和其他组件给进程带来的延迟,从而加快计算机之间传输数据速度。

说到超级计算机,另一个新的NSF资助项目,由机器学习专家斯坦福大学(百度和Coursera)的Andrew Ng和超级计算机专家田纳西大学的Jack Dongarra以及印第安纳大学的Geoffrey Fox领导,旨在使深度学习模型利用Python可编程,并且将它带到超级计算机和扩展云系统。据悉,这个得到了NSF将近100万美元的资助的项目被称为Rapid Python Deep Learning Infrastructure。

RaPyDLI将被构建成一套开源的模块,可以从Python用户界面访问,但是可以放心地在最大规模超级计算机或云的C / C++或Java环境中通过互动分析和可视化执行。RaPyDLI将支持GPU加速器和英特尔Phi协处理器以及广泛的存储技术包括Files、NoSQL、HDFS和数据库。

目前做的所有工作都是让深入学习算法更容易并且改善它们的性能,这三个项目只是一小部分,但是如果这些技术能够被科技巨头用到商业领域,或者进入研究中心以及国家实验室利用计算机解决真正的复杂问题将是非常有益的。

亚马逊、微软、谷歌和SoftLayer将掀托管市场变革狂潮

未来几年,四个超大规模云平台供应商(Amazon、Microsoft、Google和SoftLayer)将要从本质上改变公有云托管市场。托管行业一直以来专注于Amazon,而如今是时候开始关注即将占领大部分市场的四大平台了。

四大平台的共同点

 

  • 资金充裕
  • 有其它赚钱项目
  • 价格通常会在几天内统一(SoftLayer除外)
  • 大规模合作伙伴生态系统
  • 迎合终端用户
  • 投入大笔资金为客户和合作伙伴提供培训项目

 

比如在培训方面,AWS认证的专业人才已经成千上万,我确信其它几个云平台在接下来几年也会有类似的培训项目。与现在的本地数据中心服务供应商存在着本质区别,云平台服务商能够促使云业务与其它赚钱业务交互补贴发展,云业务以一种免费增值的商业模式运作,也就是说一旦客户开始向云平台转移数据,就不太可能更换服务商了。

 

底价不上涨的原因(计算、存储和网络价格)

四大云平台都使用较低的(底层)价格来扩展市场份额。一旦客户使用该平台,客户就能够获得更大的升级几率,以及/或者追加更高的服务利润率,这些都属于高价值服务、类似于正在持续发展的AWS Cacao和RDS。

去年互联网巨头们共投资270亿美元,一些供应商每季度投资10亿美元。

 

其主要扩展区域之一是销售和运营:

 

  • AWS团队去年增加了上千名员工。扩大AWS基础设施、企业和公共部门销售能力,允许团队持续加速创新,是亚马逊2014年的第二季度指导。

 

关于如何计算四大云平台收入的问题一直争论不休。比如,微软有Office365,Google有云产品,IBM有云服务, 如果你主要关注IaaS&PaaS,那么AWS显然位居第一,微软Azure位居第二,Google和Softlayer次之。看下图:

 

 

公有云的机遇

你的客户询问过公有云吗?如果没有,那么他们要么已经落后要么问了别人。越来越多的服务供应商开始意识到“是的,我们能够为你提供公有云”这句话的魅力。

公有云是复杂的,Bob Darrow最近表示AWS的致命弱点是其复杂性。然而这也是服务供应商为客户减负的机会。据Gartner分析,巨变和一场信任危机将重塑服务供应商的现有局面。

云服务定价混乱

AWS价格选择有按需、预留和竞价,Azure价格有即付即用和期付计划,Google有持续使用和HR付费模型。

盈利模式有许多种,主要包括以下三个部分:

 

  • 推广价值
  • 减轻客户负担
  • 投资组合产品化

 

总之,大规模服务供应商将在未来几年占据主要市场份额,他们将致力于创建更大的生态系统、实现服务平台更多的价值。

云平台复杂性的问题可能会被某个独立平台或者托管服务供应商克服。云服务代理商将管理多种云服务并为客户提供便捷。

想对付AWS不妨努力提升这三点

近年来,AWS一直被公认为是最大、最好的云计算平台。不过随着谷歌和微软等竞争对手的加入,市场竞争愈加激烈,一些人也开始质疑AWS的旧习惯对于商业的影响。Foundry集团的执行合伙人及TechStars的创始人之一Brad Feld作为质疑人群中的一名评论家,用形象的比喻方式描述了AWS的现状:蝎子的本性是蜇人,即使这不会给它带来最佳利益。

本周,Feld接受了Structure节目的采访,作为本期节目的重点,他不仅介绍了他公司旗下公司的基础设施趋势,同时详细的解释了他对AWS的比喻,重点说明了AWS和所有的云供应商如果想保持在IT基础设施候选榜中的位置应当占据的三个领域。本期节目内容都很有价值,你可以更多的了解云计算经济现状,以及创业公司在面对大公司消费者和合作伙伴时的调整策略。

当扩展发生时,每一分钱都有意义

“传统服务的扩展持续增长……你的网络服务的卓越运营,或任何围绕基础设施的商业行为都会成为商业中的重要特征。”Feld解释说:“基于AWS云服务平台,你没有享受到你所认为的成本降低服务,而且还需要别人来管理你的资源……因此,以前炒作公有云服务但没有运维的人们沉默了。”

他还补充到,在这之前,一些对AWS价格和体验服务失望的公司已经开始测试SoftLayer、Rackspace等其他公司的云服务,这些公司能使客户在使用云服务的同时对自身的资源具有更多的掌控权。越来越多的用户开始尝试其他公司的云服务,尽管他们只是在colo云中心安装装置,但是他们却看到了令人印象深刻的结果:

“当你体验到另外的服务时,就会感觉很棒。因为在你直接控制的情况下,所有纠结的问题都消失了,只剩下一个原始的经济学视角……我们见到了20%的利润提升……这意味着33%的毛利润提升。所有的成本都似乎直接跌到了底线。”

不过,Feld说道,进行价格竞争,成为最低成本的供应商是亚马逊的优势之一,这也会为他带来益处。也就是说,AWS使用低成本来避免Google过多、过快的扰乱亚马逊经济,虽然不久前Google就这么扰乱了微软。“要站在一个非常强有力的位置才有资格说:‘我们将改变这场定价游戏的局面,’”他说:“如果你回顾15年前,微软的Office可以获得很多利润……但是好像一下子之间,今天的人们开始质疑‘为什么我们要为这个东西付费?’”

自服务和昂贵服务之间的妥协

Feld承认近年来AWS的服务已经变得越来越好了,但是这些进步是以增加用户的AWS账单为代价的,许多创业公司认为AWS的价格太高了。如果越来越多的公司觉得他们为服务支付了高额成本,那么他们也应该理所当然的认为应该得到顶级服务:

“这种挑战对AWS是很失败的。也就是,AWS感觉很良好,但是用户实例化的某些地方出现了问题,而且这些问题是消费者无法解决的,这就是一个黑盒子,即使服务人员在努力的尽快解决问题,但是他们在这种情况下找到问题的所在之处就是延迟。这种情况真的很糟……试想你有14万的付款用户,此时出现了一个离你很远很抽象的问题时,虽然你支付了高额的服务费,但服务还要延迟,这真的很不爽。这种情况即使出现的不是很频繁,我也会觉得‘这不适用于我们公司’”。

当服务中断发生后公司不得不以支付赔偿或者某种形式进行售后服务,此时公司高管就开始寻求替代方案。Feld说这种情况发生在“我们所投资的70家公司中的部分公司,至少是多于1家少于10家”。

市场上的声誉至关重要,管理市场上的声誉

Feld说,随着这种抱怨公司的增多,公司的声誉开始受到影响。突然间为其它公司开辟道路的那家公司开始受到用户的不满回应,因为用户有其它IT供应商可以选择:

“有趣的是,一些有规模的公司开始给亚马逊施压了。他们一边付着高昂的费用,一边说:‘我们真的,真的,真的不需要这些。’这是一个转折点,这些公司不再是高兴的消费者了,也不再是那些由衷赞扬AWS的消费者了。他们是那些你不想要的消费者,他们虽然被迫接受你,却是满腹怨言。”

大公司和他们的小公司合作伙伴也可能落入挑拨合作伙伴生态系统的陷阱——AWS被控告参与其中的一部分。Feld在90年代初是微软的早期合伙人,对这种情况十分了解。也可能是客户需求或者只是贪婪的原因,不过大公司仿照小公司合作伙伴提出廉价、次的产品可不是什么好事。

“渐渐地,创业公司开始互相交流:‘你要小心点,因为我们和亚马逊进行了管理层会话,结果是这样的’”Feld说:“两个月后他们推出了一款有竞争力的产品,就像这样,我们觉得这对我们非常不利,我们花费了很多时间告诉他们我们所做的一切,准备和他们进行深层次的合作,但是他们却推出类似的产品与我们竞争。”