联发科今天在天玑开发者大会2024上发布了其最新的人工智能开发套件。这个套件旨在为合作伙伴提供一种终端生成式AI应用开发的全方位解决方案。
该套件包含四个主要模块:GenAI最佳实践、GenAI Model Hub、GenAI优化技术和Neuron Studio。这些模块能够帮助开发者实现“快、全、强、易”的专业开发体验,从而赋能终端生成式AI应用的全流程。
其中,GenAI最佳实践利用模型量化、模型编译和模型推理技术,将大模型的部署时间从数周缩短至一天。而GenAI Model Hub则提供了行业前沿主流的大模型资源,让开发者可以高效构建生成式AI应用。此外,套件还支持推测解码加速和LoRA Fusion等先进的GenAI优化技术;而Neuron Studio集成开发环境则带来更易于使用的可视化开发体验。
目前,该套件已经覆盖了智能手机、智能汽车、物联网和个人电脑等多个智能终端设备,并为全场景的生成式AI应用开发提供了技术支持。
联发科的陈冠州表示,他们将融合产业生态伙伴的力量,高效地赋能开发者,并加速建构从云端到终端的人工智能新生态。他们希望能够推动生成式AI技术在智能终端上的应用普及,让更多用户享受到这种新的高端人工智能体验。
评论