中国台湾AI关键组件的发展现况与布局

时间:2024-06-13来源:CTIMES

就人工智能(AI)装置的硬件来看,关键的零组件共有四大块,分别是逻辑运算、内存、PCB板、以及散热组件。他们扮演着建构稳定运算处理的要角,更是使用者体验能否优化的重要辅助。而随着AI大势的来临,中国台湾业者也已做好准备,准备在这些领域上大展拳脚。

逻辑组件扮枢纽 中国台湾IC设计有商机
对整个AI运算来说,最关键就属于核心处理组件的部分。尽管中国台湾没有强大的CPU与GPU技术供货商,但在AI ASIC芯片设计服务与IP供应方面,则是拥有不少的业者,而且其中不乏领头羊的先进业者。
在AI ASIC芯片设计方面,中国台湾主要提供客制化的AI芯片设计服务(NRE)、硅智财(IP)、SoC设计,以及相关系统整合与生产等服务。主要的业者包含晶心科技、世芯-KY、智原科技、创意电子、联咏科技与凌阳科技等。

以世芯-KY为例,由于庞大的AI市场需求,该公司的先进AI ASIC设计业务已有十分耀眼的成长,尤其是在云端服务器的应用上。世芯总经理沈翔霖在今年第一季的法说会就指出,世芯-KY业绩将会有很强势的成长,且将续创新高。
目前世芯-KY最主要的客户就是云端服务大厂AWS,该公司的云端服务器的处理芯片多数交由世芯-KY来设计,并由台积电进行生产制造,芯片的节点制程也高达5/3奈米。
至于IC设计服务商智原科技与创意电子,也正积极发展AI芯片的设计,以响应市场与客户的需求。在智原方面,近期已加入Arm Total Design的设计服务合作伙伴,来提供创新的先进云端、HPC和AI芯片。日前更宣布,携手ARM与英特尔,共同开发基于英特尔18A制程的64核SoC,布局大规模数据中心、边缘基础架构和先进5G网络应用。
至于创意电子,近期则是在高速传输技术颇有斩获。该公司日前宣布,已顺利设计定案 8.6Gbps HBM3 控制器、物理层与GLink 2.3LL的测试芯片,将可运用在AI、HPC/xPU及网络应用。此测试芯片同样采用台积电 3 奈米制程,并以台积电 CoWoS技术封装。
晶心科技则是中国台湾的RISC-V核心供货商,过往已经智能物联装置上有十分卓越的表现,近几年也切入AI云端服务器的市场,并获得Meta(Facebook母公司)的青睐,将其核心运用在自行开发AI芯片中,用来加速模型训练与推论。
值得注意的是,中国台湾的IC设计服务业者除了本身的技术十分杰出外,更与中国台湾的半导体制造业与封装业者紧密合作,包含台积电、联电、力积与日月光等,能够提供从设计到量产的一条龙服务,这也是目前全球鲜见的半导体生态系统。

总结来说,中国台湾的IC设计服务与IP产业在AI应用上的发展正如火如荼的进行,主要有以下四点:
1.AI芯片设计服务:
‧ 中国台湾IC设计服务公司积极投入AI芯片设计,提供从架构设计、算法开发到芯片验证的完整服务。
‧ 与国际大厂合作,参与AI芯片开发,提升技术能力并拓展市场。
2.AI加速器IP开发:
‧ 开发各种AI加速器IP,如神经网络加速器、计算机视觉加速器等,提供给IC设计公司使用。
‧ 这些AI加速器IP可以大幅提升AI运算效能,缩短产品开发时程。

3.AI应用领域拓展:
‧ 积极拓展AI应用领域,如智能医疗、智能制造、智能城市等。
‧ 透过提供客制化的AI芯片与IP解决方案,协助客户实现各种AI应用。
4.AI生态系建立:
‧ 中国台湾IC设计服务与IP产业积极参与AI生态系建立,与上下游厂商合作,共同推动AI产业发展。
‧ 中国台湾在半导体产业链上的完整性,有助于建立完整的AI生态系。

图片.png 
图一 : AWS的AI芯片就由中国台湾业者设计制造。(source:AWS)

HPC需求节节高升PCB板与散热组件成要角
AI应用为中国台湾PCB板卡业带来了新的发展机遇,最主要就是受惠于生成式AI的运算需求,让AI服务器成为PCB板卡商的新蓝海。这类型的服务器是属于高阶、高价值的PCB终端应用,因此制程技术门坎高,同时产品的单价也高,成为目前中国台湾PCB产业积极进军的领域。
就技术端来看,由于AI服务器皆搭载高性能的处里核心,以及针对AI运算加速的GPU与AI芯片,这篇处理芯片组都采用特殊的布线与导线架,因此对于所用的PCB规格也有不同的需求。而其中最主要的就是ABF载板及HLC需求增加。 AI服务器推升ABF载板和高多层板(HLC)的需求,成为PCB产业少数的成长亮点。


AI服务器PCB的技术发展
有别于以往的运算架构与环境,AI服务器也需有新的PCB板卡技术来支持,以下就是几个PCB板技术的发展趋势:
‧ ABF载板朝高层数、大面积发展: AI算力需求提升,推动ABF载板朝高层数与大面积发展,良率为载板厂获利关键。
‧ PCB板朝高密度、多层化发展: 服务器平台升级,PCB板朝布线更多、更密集,及更多层数发展,例如从10层以下增加到16层以上。
‧ PCB板高速传输需求提升: 平台升级带动PCB板高速传输需求,铜箔基板等级也从Mid-Loss升级至Low Loss、与Ultra Low Loss。

图片.png
 
图二 : AI算力需求提升,推动ABF载板朝高层数与大面积发展。(source:Unimicron)

中国台湾AI服务器PCB板供货商概况
而中国台湾有许多PCB板卡供货商在AI领域扮演重要角色,包含欣兴电子 (Unimicron)、金像电子 ( Kinsus Interconnect)、华通计算机 ( Compeq Manufacturing)、南电 (Nan Ya PCB)、景硕科技 ( Kinsus Interconnect )、瀚宇博德与臻鼎科技等。
其中欣兴电子布局AI服务器有成,目前已是NVIDIA的主要供货商之一,并在ABF载板技术方面有领先地位;金像电子是中国台湾最大的PCB制造商之一,专注于高阶服务器PCB板,包括AI服务器用板,而在AI大势驱动之下,业绩呈现逐步成长的局面。
至于华通计算机是HDI板龙头厂商,专门提供AI服务器所需的高密度连接板;
而南电主要生产BT载板,在ABF载板技术上也有所布局,并也陆续发展AI服务器的业务;景硕同样也以BT载板为主要的产品,但近年来积极投入ABF载板开发,以响应市场对于AI服务器的需求。
同样受惠于AI服务器需求的,则是散热组件供货商。主要的原因,就是AI服务器的运算能力强大,散热需求也大幅提升,是整体效能能否稳定发挥的关键所在。由于AI服务器搭载大量高效能运算芯片,例如GPU、TPU等,且需进行复杂的AI运算。当这些芯片在高负载运算时会产生大量热能,若无法有效散热,将导致芯片过热,影响运算效能,甚至造成硬件损坏,也因此需要搭配更效能的散热模块和组件。
另一方面,过高的温度也会影响AI服务器的稳定性,导致系统当机或运算错误。因此高效能的散热组件能确保AI服务器在长时间高负载运算下保持稳定运作。再者,优异的散热组件也有助于延长硬件寿命,良好的散热系统能降低芯片的工作温度,延长硬件寿命,降低维护成本。
而在环保节能的要求之下,高效能散热组件能更有效地将热量排出,进而减少能源消耗,提升AI服务器的能源效率,符合节能减碳的趋势。


AI服务器散热技术发展趋势
也由于AI服务器对散热性能有不同以往的要求,因此也刺激了散热技术开始出现新的发展趋势,以下就是三种主要的技术进展:
‧ 从气冷走向液冷: 传统的气冷散热技术已无法满足AI服务器的高散热需求,因此液冷散热技术逐渐成为主流。液冷散热效率更高,能更有效地带走芯片产生的热量。
‧ 浸没式液冷技术: 将整个服务器浸泡在特殊的冷却液中,直接接触所有发热组件,提供更均匀、高效的散热效果。
‧ 复合式散热方案: 结合气冷、液冷、均温板等多种散热技术,针对不同发热组件提供最佳散热方案。

图片.png 
图三 : 从气冷走向液冷是AI伺服散热技术的重要趋势。图为工研院的液体伺服散热系统。(source:ITRI)

中国台湾AI散热组件概况
从PC产业起家,并一路拓展至服务器应用,目前中国台湾已拥有完整的散热产业供应链,从上游的材料、零组件到下游的模块组装,且具备一定的竞争力。尤其是在散热技术方面,中国台湾厂商拥有相当的竞争力,在长期的研发投入下,已拥有多项专利和技术优势。再者中国台湾业者的客制化能力强,能够根据客户需求,提供客制化的散热解决方案。
目前中国台湾主要散热组件供货商包含双鸿、超众、奇鋐、建准 与泰硕。总结来说,高效能散热组件是AI服务器不可或缺的一部分,能确保其稳定性、效能和寿命,同时提升能源效率。随着AI技术的发展,散热技术也将持续演进,以满足未来更高阶AI服务器的散热需求。


处理器与内存推动AI浪潮
在当今科技发展的浪潮中,人工智能(AI)已成为推动创新的关键力量。AI的应用范围广泛,从智能手机、自动驾驶汽车到数据中心,无不依赖于先进的处理芯片与内存组件。这些组件不仅是AI系统的核心,更是实现高速运算与大量数据处理的基石。
处理芯片,如CPU和GPU,是AI运算的大脑,负责执行复杂的算法和模型。随着AI模型的日益复杂,对处理芯片的性能要求也随之提高。例如,联发科技推出的AI处理芯片,以其高效能和低功耗的特性,正逐渐成为智能装置中不可或缺的部分。耐能则以其创新的AI芯片KL730,提供了强大的运算能力和能效比,驱动轻量级GPT解决方案的大规模应用。而鑫创智能则以其AI芯片在能效上的突破,成功击败国际大厂,展现了中国台湾企业在AI芯片领域的竞争力。
内存组件,如DRAM和Flash内存,则负责储存和快速存取数据。在AI应用中,内存的速度和容量直接影响整体系统的效能。华邦电子和旺宏都积极开发针对AI市场的内存解决方案,以满足市场对高速和大容量内存的需求。钰创则推出了MemoriaLink高效AI内存平台,提供了一个整合硬件和软件的解决方案,以加速AI应用的开发和部署。


联发科聚焦AI体验 打造旗舰级处理平台
在AI处理器领域,联发科技与辉达合作开发了基于Arm架构的AI PC处理器,这是一个重大的突破,因为它将AI的运算能力带到了个人计算机领域。

近期联发科发表了天玑9300+旗舰处理器,这是一款专为AI训练大模型而设计的行动处理器。天玑9300+的CPU配置包括一个3.40GHz Cortex-X4超大核心、三个2.85GHz Cortex-X4大核心,以及四个2.00GHz Cortex-A720效能核心,这样的组合使其在运算过程中更加迅捷。它还内建了12核心Immortalis-G720 GPU,能够执行多款AI大模型。

联发科的这些进展不仅提升了AI处理器的性能,也为开发者和使用者提供了更佳的AI体验。例如,天玑9300+支持广泛的大型语言模型(LLM),并整合了LoRA技术,这使得生成式AI应用的开发和部署变得更加容易。

图片.png 
图四 : 联发科技天玑9300处理器

耐能科技解决边缘AI三大问题
耐能科技推出了KL730 AI芯片,这款芯片在能效方面取得了显着进步,相比以往的产品提升了3至4倍的能效。KL730提供每秒0.35至4 tera的有效计算能力,支持最先进的轻量级GPT大语言模型,如nanoGPT等。
KL730芯片的技术优势在于其高能效轻量级可重构神经网络架构,这解决了边缘AI设备所面临的三个主要问题:延迟、安全性和成本。此外,该芯片整合了车规级NPU和影像讯号处理器(ISP),使其能够在各种应用场景中,如边缘服务器、智能家居及汽车辅助驾驶系统等,提供安全且低能耗的AI能力。
耐能科技的KL730芯片还具有多信道接口,可以无缝接入图像、视频、音频和毫米波等各种数字讯号,支持多种产业的人工智能应用开发。


鑫创智能打造低能耗、高性能AI加速芯片
鑫创智慧(NEUCHIPS)最近在MLPerf v3.0 AI推论效能基准检验中,公布了其RecAccel N3000 AI加速器的测试数据,该数据在服务器领域的能源效率上超越了NVIDIA。这项成就不仅展现了鑫创智慧在技术上的突破,也展现了其对于环境友好解决方案的承诺。
鑫创智能的AI芯片在低耗能上的优势得到了国际认证,其每瓦可处理1,060次查询的能效是对手NVIDIA H100的1.7倍,这一成绩在数据中心系统领域中位居榜首。这一突破源自于公司在边缘AIoT领域的投入,该领域对省电的要求极高。
此外,鑫创智能的AI芯片采用台积电7奈米制程生产,这不仅保持了超低功耗,也大幅降低了内存需求,这些特色使其在AI时代下的计算机升级AI规格中占有一席之地。该公司的AI芯片主打推荐模型应用,可加速数据中心、社群平台的推荐模型效能,并已完成工程验证,陆续开发客户中。


锁定边缘AI应用 华邦推出创新内存方案
华邦电子在AI内存领域推出了创新的CUBE架构,这是一种专为边缘AI运算设计的内存解决方案,目的在提供超高带宽和低功耗的内存技术。
CUBE架构利用3D堆栈技术和异质键合技术(hybrid bonding),能够提供单颗256Mb至8Gb的高带宽低功耗内存。这种内存技术特别适用于那些需要高效能运算能力的AI应用,如穿戴设备、边缘服务器设备、监控设备、ADAS及协作机器人等。
CUBE的主要特点包括节省电耗、更好的性能和较小的尺寸。例如,CUBE提供的电源效率极高,功耗效能低于1pJ/bit,这有助于延长运行时间并优化能源使用。
华邦电子的这些进展不仅提升了AI内存的性能,也为开发者和使用者提供了更佳的AI体验。随着AI技术的不断进步,华邦电子无疑将继续在全球半导体市场中扮演重要角色,推动AI技术的发展和应用。此外,华邦还正在积极与合作伙伴公司合作建立3DCaaS平台,该平台将进一步发挥CUBE的能力。


着眼CIM技术 旺宏为AI打造全新内存产品
旺宏电子为AI应用量身打造了FortiXTM系列3D NAND/NOR闪存,这些内存不仅提供高储存容量和稳定质量,还兼具储存及运算功能,支持实时数据处理、高传输带宽与低功耗。
FortiXTM系列产品具备内存内搜寻(In-Memory Search;IMS)与内存内运算(Computing-In-Memory;CIM)功能,这些功能是兼有数字与模拟架构的运算功能,能够大量减少内存与CPU/GPU之间的数据传输,进而提升速度、降低功耗,并降低整体系统成本。
FortiXTM的IMS功能可以直接从内存的既存数据中进行数据搜寻与比对,支持平行输入,而CIM功能则可在深度神经网络(DNN)推论任务中,执行所需的MAC运算。这些功能使得FortiXTM系列产品在AI应用中,特别是需要快速数据处理和高速传输的场景中,具有显着优势。
此外,旺宏电子与IBM合作,将其相变化内存(PCM)产品应用在IBM的新模拟AI芯片上。


钰创整合子公司技术 打造AI次系统
钰创科技致力于AI技术的研发,特别是在机器视觉感测、边缘运算以及隐私保护等方面的应用。钰创科技开发「AI+」次系统方案,这些方案包括室外机器人在农业的创新应用、服务型机器人的领先技术、内视镜市场的AI+创新以及新兴视频会议方案的推进。
钰创科技的子公司eYs3D透过边缘运算引擎eCV系统芯片,提供了创新的「AI+」次系统方案,这些方案已经在多个领域实现了AI的创新。
在产品进展方面,钰创科技推出了全新平台MemoraiLink,这是一个整合内存与内存控制器支持系统芯片AI SoC平台。MemoraiLink原本仅限集团内部使用,现在将正式对外开放,使合作伙伴在前期导入设计时,即能以高效开发创新AI终端应用。该平台提供多样化的内存选择,满足SoC设计的容量和带宽需求,并结合钰创擅长的异质整合,进一步优化SoC的整体性能和成本。

结语
从处理芯片到内存技术,再到PCB与散热组件等,中国台湾在整个AI关键组件上的术上不断推动创新,并为AI应用提供强大的支持。中国台湾半导体厂商如联发科、耐能、鑫创智能等在AI处理芯片方面的创新,以及华邦、旺宏、钰创等在内存技术上的进步,将持续推动AI技术的发展。
目前中国台湾已在全球半导体市场中占有一席之地,未来将进一步巩固其市场地位,特别是在AI和5G等高成长领域。而跨领域的合作,如与车辆制造商、医疗设备公司和农业技术企业的合作,将开启新的市场机会。展望未来,中国台湾在AI领域充满机遇,但也面临挑战。透过持续的技术创新、市场开拓、人才培养和国际合作,中国台湾有望在AI时代扮演更加重要的角色。

关键词: IC设计 PCB 散热 处理器 内存 AI

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版