logo

天玑9300:硬件生成式AI引擎引领移动计算新时代

作者:da吃一鲸8862024.08.14 11:16浏览量:26

简介:联发科发布的天玑9300移动芯片,搭载首款硬件生成式AI引擎,实现强悍AI算力,图片生成仅需1秒。本文将深入解析其技术特点、应用场景及对行业的影响。

天玑9300:硬件生成式AI引擎引领移动计算新时代

引言

在移动计算领域,联发科一直以其创新的技术和卓越的性能引领行业发展。近期,联发科发布了旗舰级5G生成式AI移动芯片——天玑9300,这款芯片搭载了业界首款硬件生成式AI引擎,以强悍的AI算力为用户带来前所未有的使用体验。本文将深入解析天玑9300的技术特点、应用场景及其对行业的影响。

技术特点

1. 硬件生成式AI引擎

天玑9300搭载了联发科第七代AI处理器APU 790,这是业界首款专为生成式AI设计的硬件引擎。该引擎深度适配Transformer模型,特别在Softmax+LayerNorm算子上,处理速度较上一代提升8倍。这一特性使得天玑9300在文本生成、图像创作等生成式AI任务中展现出卓越的性能。

2. 强大的AI算力

APU 790的整数运算和浮点运算能力均是上一代的2倍,同时功耗降低45%。在苏黎世ETHZv5.1 AI-Benchmark Mobile SoC测试中,天玑9300的AI性能跑分高达2109分,成功霸榜。这意味着天玑9300能够在短时间内完成复杂的AI计算任务,为用户带来流畅的使用体验。

3. 创新的全大核CPU架构

天玑9300采用了创新的全大核CPU架构,包含4个Cortex-X4超大核和4个Cortex-A720大核。这一设计使得天玑9300的峰值性能相较上一代提升40%,功耗节省33%。全大核架构的采用,进一步提升了芯片的算力,为生成式AI任务提供了坚实的性能基础。

4. 领先的内存压缩技术

为了解决大模型在端侧运行时的内存占用问题,联发科开发了混合精度INT4量化技术和特有的内存硬件压缩技术NeuroPilot Compression。这些技术能够大幅减少AI大模型占用终端内存,使得更大参数的模型能够在端侧落地。例如,天玑9300已率先实现在移动芯片上成功运行330亿参数的AI大语言模型,领跑业界。

应用场景

1. 文本生成与创作

天玑9300支持70亿参数模型下每秒20 Tokens的文本输出速度,能够支持文本创作、摘要生成等任务。用户几乎无需等待即可获得AI生成的文本内容。

2. 图像生成与编辑

天玑9300的强悍AI算力使得图片生成时间控制在1秒以内。用户可以通过手机轻松实现“文生图”、“图生GIF动图”等功能,创作出丰富多样的图像内容。

3. 实时数字分身视频通话

基于天玑9300的APU边缘计算能力,用户可以实时生成虚拟数字分身并应用于视频通话中。这一功能不仅提升了视频通话的趣味性还为用户提供了更加个性化的交流方式。

行业影响

天玑9300的发布标志着移动计算领域进入了一个新的发展阶段。其强大的AI算力和丰富的应用场景不仅为用户带来了更加便捷和高效的使用体验还推动了整个行业的技术进步和生态发展。

首先天玑9300的硬件生成式AI引擎为生成式AI在端侧的普及提供了可能。随着用户对生成式AI应用需求的日益增长端侧生成式AI的便捷性和安全性优势逐渐凸显出来。天玑9300的发布将加速这一趋势推动生成式AI在更多场景下的应用。

其次天玑9300的创新技术也为行业树立了新的标杆。其全大核CPU架构、内存压缩技术等先进技术为其他芯片厂商提供了有益的借鉴和参考。

最后天玑9300的发布还促进了整个AI生态的发展。联发科通过与众多AI公司的深度合作在手机端形成了丰富的AI生态。这将有助于推动生成式AI技术的进一步发展和普及。

结语

天玑9300作为联发科

相关文章推荐

发表评论