+86 010-62352535
当前位置:
AIoT开发界冲出“黑马”
来源:转载自36氪四川 | 作者:王涵@36氪四川 | 发布时间: 2022-03-23 | 476 次浏览 | 分享到:
基于ARM架构的跨生态(Android/鸿蒙+Linux)一站式AIoT应用快速开发和部署平台AidLux 1.0上线

天下苦AI开发和部署久矣。


由于x86和ARM架构的不兼容性,AIoT开发和部署企业往往只能选择单一生态进行应用,否则就需要采用两套系统,难以进行快速的开发和部署。


打造跨生态的、能兼容Android、鸿蒙和Linux的、一站式AIoT应用快速开发和部署平台的呼声不绝。


2020年,一个从教学出发的AI开发项目“AidLearning”在不增加硬件成本投入的情况下,还能解决产品受制于Android单一生态、缺乏强大AI支持能力的问题,并扩展Linux系统服务功能,引起了北京裕兴软件有限公司(下称“北京裕兴”)注意。他们深入了解后发现,除了这些功能,这款产品还能在泛AI的场景中进行多样开发。伴随着北京裕兴对该项目商业化的强烈需求,成都阿加犀智能科技有限公司(下称“阿加犀”)在成都高新区诞生了。 


2021年12月17日,由AidLearning进阶而来的智能物联网(AloT)应用开发和部署平台AidLux1.0版本,在官网及国内各大应用商城上线,首个基于ARM架构的跨生态(Android/鸿蒙+Linux)一站式AIoT应用快速开发和部署平台正式亮相。该平台除了保持对个人用户免费使用的特性,在支持商业化的大型项目使用、开发和部署上更加完善。 


AIoT开发和部署产品赛道出现了一匹黑马。



ARM架构下的跨生态平台

AI开发最初的桎梏,来自于底层框架“二选一”的软件生态环境。


目前的开发设备以PC端的X86架构为主,搭载的Linux系统生态成熟、兼容软件多,但X86平台硬件往往功耗高、便携性差、价格昂贵;移动端的ARM架构处理器功耗低、效能高、便携性强、价格便宜,但搭载的Android系统开发功能受限,AIoT应用开发门槛高、生态碎片化,且支持度相对落后,应用部署困难。


ARM曾发布两款针对移动终端的AI芯片架构,但由于生态不完整、软件系统不完善,以及对Linux系统不兼容,企业只能“望ARM兴叹”。


阿加犀基于ARM架构,推出能同时支持Linux和Android的跨生态平台AidLux:打破以往借用虚拟机实现跨系统的模式,通过共享 Linux 内核实现Android 和 Linux 系统融合,形成可独立使用又能相互通信的跨 Android和Linux系统平台,实现了1+1﹥2的效果,兼具了ARM架构的便捷、高性价比和低成本。


同时,AidLux带来了Android+Linux生态优势叠加,兼具Android系统应用丰富、交互性强和Linux系统安全性、稳定性好的优势,实现了跨生态无缝交互。无需开发者手动对系统进行切换,就能带来Android和完整的原生Linux使用体验。 


基于ARM架构的跨生态平台


此外,AidLux在终端部署方面也具有优势。Android与鸿蒙系统支持的ARM 64位智能终端,都能通过APK包安装方式,快速部署AidLux到ARM架构的手机、平板、电脑和板卡等智能终端,避免了复杂的安装步骤,也不需要根据不同的品牌或机型选择复杂的安装包。


AidLiux支持多种智能终端


安装后的使用操作方面,AidLux平台不仅保留了ARM的低功耗,同时由于自己内部的系统完备,能支持多终端协同访问,保证不同框架的指令能自动适配其他终端应用,只需要在PC端通过浏览器即可实现手机、平板和ARM智能终端的远程使用与管理。


AidLux支持多终端协同访问


多元共生的独特ARM架构,解决了AI开发的第一道门槛。 


阿加犀首席科学家顾实教授的学生还曾反馈“AI开发准备工作太过繁琐冗长”,这引起了他的思考:“要是有平台能自动配置好编程工具、AI框架及科学计算依赖库等各种必要软件就好了。” 


第二道门槛出现了。


速效双增的集成式应用

Valorem Reply的全球创新、研究与孵化总监、前微软MVP&RD René Schulte(雷内舒尔特)曾表示,AI开发的代码前置与调用解决方案将成为顶级技术趋势之一。


顾实对此表示:“持续降低AI应用开发技术门槛是阿加犀的首要任务。”因此,AidLux在实验过程中,就定下了目标:从框架、语言库、应用系统包、外接设备、硬件组织等方面进行系统提升。


首先解决的是语言的选用问题:无论是只擅长一种语言的程序员,还是多语言协作开发的团队,都能在AidLux上进行操作。


常规Al应用开发需要C++、Java、Python、Linux等不同工程师相互配合,而在AidLux平台,开发者仅需使用Python一种编程语言即可进行开发,并支持将其他平台(PC、服务器)上使用Python开发的AI应用直接迁移至AidLux调试运行。同时,AidLux也支持多种开发语言及对应编程框架,如C/C++、Python、Java、JavaScript、Ruby、PHP、Go、Shell等。


AidLux便捷的使用过程


应用软件部分,AidLux支持上百万个Android软件和数万个Linux软件,既可以使用应用中心安装,也可以使用命令行安装。这些软件既包括用户熟知的微信、QQ、计算器、相册、相机和音乐等,也包括Linux常用的git、mysql、hadoop、nginx、Apache、Vim、ssh、wizard、vscode、jupyter、chromium、ROS等。


顾实教授表示:“像使用应用商城一样调用语言和软件,是我们接受最多的需求,也是我们测试下来最符合当代开发者习惯的调用方式。这种体量的软件库,能满足99%的开发需求,不再到处寻找未知风险的应用。” 


AidLux支持上百万个Android软件和数万个Linux软件


除了语言和应用,AI开发还极其依赖开发环境和框架,AidLux集成了全球10大主流AI框架(TensorFlow、PyTorch、Caffe、MXNet、MNN、NCNN、MindSpore、PaddlePaddle、TNN、OpenCV),并做了全面的环境部署和适配,开发者无需配置,开箱即用。 


AidLux集成的全球10大主流AI框架

解决了复杂的开发工具和环境,另一道难题也随之出现:模型封装。 


不同模型格式文件和外设驱动文件,都有各自对应封装与解析的编码和框架,往往造成“系统功能一小半,封装工具千千万”的情况。


对此,AidLux推出了aidlite接口,对各种深度学习框架统一封装,对于pb、h5、pt、tflite、onnx、ncnn等模型格式文件,开发者只需调用统一接口解析推理,AidLux提供智能匹配,为用户适配最合适的AI框架,解决开发者必须针对不同框架编写不同版本推理代码的烦恼。


同时,内置外设极速互连模块,支持丰富的接口与外设,如USB、LAN、WiFi、4G/5G、蓝牙、GPS、陀螺仪、RS232、RS485、Arduino、机械臂、高清摄像机、深度相机和网络相机等。对不同外接设备的高容纳,意味着满足更多的设备适配和需求场景,对不同行业的兼容度更好。


AidLux的内置外设极速互连模块


在功能上,AidLux封装的aidlite还实现了模型加密的功能,使用Fernet算法对模型进行的加密,消除了开发者对于模型外泄、被第三方私自使用的担忧。


aidlite的模型加密功能

当然,简化的不只是开发和封装,还有AI示例和图形化“零”代码开发的过程。 


AidLux内置了丰富的AI应用示例,开发者们可以根据自己的需求,借鉴参考使用,启发无限灵感。以及内置全新打造的图形化开发工具Wizard,支持拖拽式AI应用开发,自动生成代码,提供了设计、编码、测试全流程支持,使用户聚焦于业务逻辑的实现,节省开发时间。

AidLux的AI应用示例

AidLux的图形化开发工具Wizard


然而,随着采用AidLux进行AI开发应用越来越深入,对边缘端算力的要求也越来越加码,很多慕名而来的客户却面临着无法承载过高能耗的痛点,“算力需求过高的开发系统犹如销金窟”。


阿加犀又开始了新的技术攻关,这一次他们选择从算力下手。


“每个FLOP,都是客户的成本”

硅谷知名投资顾问公司A16Z曾表示:“看一个产品能否落地,除了看功能,还需要看它的算力成本是否过高。”这和顾实教授的看法不谋合而:“每个FLOP,都是客户的成本,我们除了在软件上要做到精而全,还希望软硬结合来释放更多算力,节约更多成本。”


普遍意义的AI开发,意味着极高的算力需求:算法的先进性,算法的复杂度(每多一个过程,所需算力增加),构成AI的区块数量等因子,都决定了算力的高低。但阿加犀却认为,可以通过智能加速来解决这个问题。


对此,阿加犀着手进行自主AI智能加速技术研发,可实现CPU+GPU+NPU智能加速,运行量化后的AI工程文件整体性能提升15%-30%,可以充分调用和发挥设备的AI计算能力。

AidLux的CPU+GPU+NPU智能加速


从技术层面和特性层面解读,AidLux是一个划时代的独特产品,背后承载着阿加犀团队对于简化AI开发流程、降低AI开发门槛、改变AI开发世界版图的想法。 


从底层框架看,AidLux选择了在CPU里披襟斩棘的ARM架构,而非传统AI开发工具常用的x86架构;从操作系统看,AidLux率先提出并构建了Android/鸿蒙+linux的融合架构,并已经实现了在多智能终端的远程使用与管理;从应用场景来看,AidLux已经应用在智能工业、物联网、通信质检、视频终端、智能家居、教育等场景。


移远通信是全球领先的物联网整体解决方案供应商,在模组产品智能化生产过程中,AidLux平台助力其打造全球更先进的模组质检整体解决方案。较传统的质检方案,AidLux平台提供的跨OS融合、 AI视觉、自监督算法等先进技术,助力移远智能工厂实现突破,打造更高效、更经济的自研质检整体解决方案。同时,AidLux平台也助力移远高端智能模组在工业智能制造领域顺利落地应用,实现了移远高端智能模组检测自有工厂生产的物联网模组。


划时代“吃螃蟹的人”

阿加犀不是第一个提出做跨生态的ARM架构开发者平台,却是第一个做到的企业。


 “2018年,我们几个极客朋友在一起头脑风暴,从第一性原理出发,顺着逻辑推演未来AI产业的场景。物联网业未来的趋势必然是移动终端越来越多,对接设备越来越丰富多样,从熵的角度来看,如果是一个封闭的生态系统,支持他们的系统复杂性就会越来越高,稳定性会越来越差。因此我们必须做一个开放的生态,就像地球支撑生命一样,有海洋,有陆地,还有空气,让这些元素能够便捷为生命所用。对应到AI的开放生态,就是“敏捷”适应各种开发需求,最好能够自动转码,让开发者们更便捷地释放他们的创造性。”顾实教授一边展示如何用AidLux快速生成扫地机器人的程序,一边感叹:“但我们当时怎么也找不到能解决这个问题的产品,就想着干脆就自己做一个。”


顾实教授和他的几个极客朋友成立了研发小分队,分别从架构、框架、语言方面下手,搭建早期的AidLearning平台。


“发了几个月就有300万次使用量,迭代反馈都爆了。好多人发邮件说,有了MindSpore也要上PaddlePaddle框架才行、能用hadoop那也要能用jupyter才公平。这里要感谢一直支持我们的用户小伙伴们,正是因为他们的热情和层迭不断的需求,催着我们以一种打鸡血的状态不断更新版本,应用兼容性上也做得非常全面。后来北京裕兴找到我们说要商务合作的时候,我们出去(在行业里)一看,原来在AIOT落地敏捷开发痛点这个产业需求方向上,我们已经跑得比谁都快了。”


对阿加犀而言,除了当“第一个吃螃蟹的人”,未来AidLux还要做泛AI的更多场景开发功能。“不只是智能家居和工业检测,AI教育、智慧城市、智慧物流、智慧交通、智慧零售和机器人都会是我们生态的发展方向。”


AI教育、无人机、机器人相关行业的意向客户纷至沓来,投资机构也争相面谈下一步机会。


毕竟对业界来说,AidLux的普及,意味着基础的框架和语言可能逐渐被“零”代码代替。


时代变化,AIoT开发和部署产品赛道冲出一匹黑马!