在今天举办的天玑开发者大会2024(MDDC 2024)上,联发科发布了全新的天玑AI开发套件,以期打造出一个终端生成式AI应用开发一站式解决方案,向合作伙伴提供一站式的专业开发体验。
联发科天玑AI开发套件包含四大模块:快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境。
GenAI最佳实践是利用模型量化、模型编译和模型推理技术加速大模型的终端部署,可实现从数周加速到一天的高效部署。该模块可让开发人员更快地将算法部署到终端设备中。
GenAI Model Hub适配行业前沿主流的大模型,可为开发者提供丰富的大模型资源,为开发生成式AI应用提供了佳的支持。目前,Model Hub已经支持的模型数量相当可观,是许多算法工程师的最爱。
GenAI优化技术包括推测解码加速、LoRA Fusion等先进的技术,为生成式AI应用提供了高效提升性能的方法。
Neuron Studio集成了开发环境,提供一站式可视化的开发环境,从而使开发者更容易地构建终端生成式AI应用。Neuron Studio通过代码外观设计器的方式,让开发者更易于设计和开发生成式AI应用程序。
目前,天玑AI开发者套件已经覆盖了智能手机、智能汽车、物联网、个人电脑等智能终端设备,可为生成式AI应用开发赋能,使开发者不必因为设备类型而受阻。
天玑AI开发套件的发布,将有利于提升AI新生态建构从云端到终端的速度。这一解决方案的出现,为生成式AI技术在智能终端上的应用普及和万物AI时代的到来铺平了道路。
如果您对联发科的这一产品有任何疑问或意见,欢迎在下方评论区留言。
感谢您阅读本文,如果您认为本文对您有所帮助,也请您点赞、分享和关注我们。