强信心·走进百企｜软件定义AI算力助推人工智能行业进步

  编前语：面对新冠疫情的持续冲击、世界经济的持续疲弱，过去一年，我国经济仍然实现同比3%的增长，经济总量再上新台阶。这殊为不易的成绩，是我们开拓前进的信心所在。信心，比黄金更宝贵。2023年，我们面对的需求收缩、供给冲击、预期转弱三重压力仍然较大，动荡不安的外部环境给我国经济带来的影响也在加深。然而，中国经济韧性强、潜力大、活力足，长期向好的基本面依然未变，人民的信心正不断增强。

  今年是全面贯彻党的二十大精神的开局之年，新华网推出融媒体栏目“强信心·走进百企”，通过深入的采访调研、丰富的融媒形式，与您一同见证广大企业开拓进取的蓬勃活力，见证中国人民拼搏奋斗的坚定信心。

  新华网北京4月14日电（记者凌纪伟）算力就是生产力，无处不在的算力成为驱动数字化转型的新引擎。

(相关资料图)

  在本轮数字化转型浪潮中，人工智能（AI）发挥出关键作用。如何用好AI算力资源，软件定义AI算力技术有何独特价值？近日，记者专访趋动科技创始人兼CEO王鲲。他表示，软件定义AI算力的重要性体现在能够实现数据中心级的算力资源池化管理和弹性调度，提升整个算力资源池的利用率和管理灵活度，最大化地发挥出每张GPU卡的价值，从而提高用户的物效和人效，达到降本增效、节能环保的效果。

图：趋动科技算力池化商业价值

  软件定义提升AI算力利用效率

  OCR、人脸识别、语音识别……AI技术催生出一系列新兴应用，各行各业也都积极拥抱AI，通过AI技术及应用提高生产、运营、销售等活动的效率。

  新基建大潮下，算力作为AI发展的技术底座，已成为数字经济时代的关键生产力。“AI算力是推动AI应用发展的一个核心动力。”为何需要软件定义的AI算力呢？王鲲认为，这与当前AI算力利用率太低有关。

  AWS公布的一项数据显示，企业GPU利用率大约在10%—30%；而国内的GPU利用率大多低于15%，损失严重。造成巨大浪费的原因是用户对GPU的使用和管理太粗放。“软件定义算力就是要去解决芯片利用率低的问题，趋动科技做的事情就是通过创新的下一代软件定义算力技术，来帮助客户高效利用算力资源。”王鲲说。

  软件定义AI算力具体指什么，又是怎么解决算力利用率低的难题？王鲲打了个比方。

  如果把芯片比作固定座位的大巴车，把AI任务比作旅行团，过去是来了一个13人的旅行团需要派一辆车，来3人旅游团还是派这辆车，从而导致大量座位（资源）浪费。软件定义算力，就是通过资源的池化，把大巴车的座位变成一个池子，根据对算力的不同需求，在池子中划出精确的需求部分，从而让用户对于算力的使用和管理，实现了从车辆级别的粗放型变成座位级别的精细化管理。

  “我们在算力的硬件层和应用层之间，加入了一层算力池化层。”据王鲲介绍，用户可以按照应用的需求来精准分配算力，最大化的使用芯片的计算能力，这种方式还能够实现远程的分离部署。这可以给客户带来一些具体的好处，尤其是在降本增效、提升管理水平和节能减排等方面。

  据了解，趋动科技现在平均每年可以将AI资源利用率提高4倍，将算法工程师的人效提高50%，让客户的总体运营成本下降55%，并减少75%的用电量，可以说是以软件的形式实现了硬件的功能。

  打造各行业的通用“操作系统”

  目前，AI算力已经在智能制造、智慧交通、金融科技、航空航天等多个领域得到广泛应用。在普通人看来，这些行业间存在一定差异，如何通过软件定义AI算力满足不同行业的需求？

  “不同行业有自己的特点，但是跑在不同行业上的应用，在我们看来其实都是一样的，都是AI的应用。”王鲲表示，趋动做的软件定义算力本质上是兼容不同芯片的操作系统，而操作系统本身是没有行业限制的，它是一个通用的解决方案。

  不同行业都有自己的AI应用，而这些上层的AI应用对算力的需求是不同的。

  据王鲲介绍，有些应用在白天比较活跃，在夜晚对算力的需求很小，有明显的潮汐效应。有些应用对算力的需求较小，而有些AI训练任务则对算力需求较大，经常需要使用多张卡以及分布式部署。“我们针对客户应用的不同场景、不同行业，提供的是标准化的基础软件，客户应用无需改动。”

  除软件业务，趋动科技也有自己的SaaS云服务。王鲲说，公司把客户分为两类，一类是有服务器、有算力的客户，另一类是需要租用算力的客户。针对前者，趋动科技提供软件服务，帮助它们提升算力利用效率；而针对后者，趋动利用在算力池化和开发训练平台领域的积累，面向企业、科研和个人的AI开发者，构建了开发和训练的服务。相比当前市场上已有的GPU算力服务，其优势是成本低、使用便捷。

  趋动科技打造的是基础架构层的软件，这也为公司未来开启国际化奠定了基础。

  “我们向各行各业提供的服务都一样，没有太多的定制化需求，是一个标准软件，所以未来我们的软件一定会走出去，帮助海外客户提升他们的算力使用效率，降低成本。”王鲲说。

  合作共赢助推整个AI行业进步

  如今，趋动科技服务的客户遍布金融、电信、互联网、自动驾驶等众多行业，这些领域对算力的需求旺盛，对提升算力使用效率的需求也非常迫切。

  王鲲认为，中国市场对算力的需求存在巨大增长潜力，这个市场需要人工智能技术的加持，也需要创新的解决方案满足行业需求。“作为本土公司，我们了解这个市场，了解这些客户，所以我们的机会很多。”

  之所以坚信软件定义AI算力的发展前景，坚定在这一领域创新创业，源于王鲲内心的三个核心“假设”。他认为，首先人工智能未来一定会进入千家万户，其次人类社会对于算力的需求一定会持续高速增长，第三任何一个用户都期望算力成本越低越好。正是基于这样的三个“假设”，王鲲坚守软件定义AI算力这条创业赛道不放弃，“从信息时代到AI时代，变化的是劳动生产率的提高，这个趋势不会停止”。

  趋动的软件在整个AI行业处于一个相对特殊的位置，对下是芯片基础架构层，对上是AI技术、AI应用层。这就意味着趋动科技可以发挥自身优势，推动整个产业链协同创新。

  王鲲说，AI是技术驱动的行业，各种前沿技术和应用层出不穷，建立企业间的战略伙伴关系，不仅可以在技术上紧密配合，还可以在商务上彼此互补，同时提高彼此的竞争力和营销能力，有效整合资源，达到双赢的局面，推动整个AI行业的进步。

图：算力池化技术在电网行业的应用

  算力是数字经济发展的重要底座。“算力在我看来是新时代的电力，它是不可或缺的，它是一个核心的动能。而趋动的价值，是让用户充分用好每一度电，而不是说我有一度电，但我其实只用了其中的10%。我个人觉得其实未来这个意义可能会越来越大。”王鲲说。

  早在2019年成立趋动科技之前，王鲲与公司核心成员先后在CPU虚拟化、FPGA虚拟化领域从事了十多年的相关工作，AI这股浪潮的到来，把他们推到了时代的浪尖。在王鲲看来，他们是一支有经验的登山队，之前已经攀登过CPU虚拟化、FPGA虚拟化的大山，现在进入人工智能时代，他们同样可以通过持续创新，成为勇立AI时代的弄潮儿。

关键词：