
架构特点:
采用独创的 GP-DSA 计算架构,该产品实现了训练与推理一体化设计。该架构基 于图灵完备的 RISC-V 指令集,兼具出色的通用性与强大的 AI 计算能力,在整体性能上可媲美主流 GP-GPU 方案。
性能特点:
业界领先的算力:集成 32 个高性能 AI 计算核,提供卓越的浮点计算能力, 满足大规模模型训练与推理需求。
高效灵活的数据处理:全面支持浮点、定点及原生 FP8 混合精度计算,结合分块量化技术,显著提升算力利用率和计算精度,优化带宽与存储开销。
高带宽片上内存系统:配备大容量 L1/L2 片上内存,提供超高访存带宽,支 持子网乃至整网模型数据的片上高效驻留。并集成四维数据引擎(4D Data Engine),支持多层次数据交互与随路张量变换,最大化数据复用。
硬件级流水并行:计算单元与数据搬移引擎支持硬件级粗粒度流水并行,将向量计算与数据搬移隐藏在张量计算过程中,最大化资源利用率,消除计算气泡。
低延迟设计:通过全路径数据传输与计算流程优化,显著降低芯片内外部传输延迟,满足高实时性应用需求,提升系统响应速度与可靠性。
互联及扩展特点:
高速主机互联:配备 1 组 PCIe Gen5 x16 接口,提供超高主机通信带宽。
多卡高速互联:基于 RoCEv2 协议的RDMA 高速互联接口,支持多路400G/200G 接口进行卡间互联组网,充分满足大模型张量并行(Tensor Parallel)等分布式计算需求。
完善的软件生态:
我们提供一套完整的软件栈,其中包含具备独创性的多层次 AI 编译器,该编译器集成了先进的图编译技术与自动算子生成功能。此外,还配备了一整套功能丰富的工具链,涵盖调试、精度分析、性能分析、监测工具链。本软件栈已与主流深度学习框架实现深度适配,用户能够轻松地将现有模型迁移至本平台运行。同时提供面向高级语言的模板化自定义算子编程界面,并配套提供的详尽开发文档 与丰富示例代码,显著降低您的学习成本与部署门槛。
|
规格 |
说明 |
|
产品名称 |
AI加速卡 |
|
产品型号 |
YH-S100E |
|
算力 |
FP32 (vector): 2 TFLOPS FP32 (matrix): 64 TFLOPS TF32(matrix): 256 TFLOPS FP16/ BF16(vector): 8 TFLOPS FP16/ BF16 (matrix): 256 TFLOPS FP8(matrix): 512 TFLOPS INT8(vector): 16 TOPS INT8(matrix): 512 TOPS INT4(matrix): 1024 TOPS |
|
内存规格 |
48 GB GDDR6 带宽1TB/s |
|
总板功率 |
最大350 W |
|
散热方式 |
被动散热,支持风冷或液冷 |
|
外形尺寸 |
全高3/4 长双槽位(268.6mm x 111.15mm x 40.14mm) |
|
PCI设备ID |
设备ID: 0x2128 供应商ID: 0x9101 子系统ID: 0x2128 子供应商ID: 0x9101 |
|
PCIe接口 |
PCIe Express Gen5 x 16 |
|
卡间互联接口 |
总带宽:672 GB/s(双向) |
|
高速互联接口 |
6 x 400G 或 12 x 200G RDMA 高速互联接口,支持 RoCEv2 |
|
电源连接器 |
PCIe 12VHPWR(12+4Pin) |
|
重量 |
约 1770 g |
电话支持:
指派专门售后服务人员以电话形式为客户提供项目咨询、故障诊断等技术服务,不论本市或远程均做到即时响应,售后服务工程师必须在1小时内受理并回应。
技术支持:
售后工程师分析原因,8小时内必须拿出解决方案,现场或远程支持解决客户所有的问题,包括软硬件的系统升级、配件更换等各方面。
维修服务:
我公司承接的项目均实行终身的售后服务。保修期凡是设备及系统出现质量问题,我们负责免费更换产品及系统调试,直至达到要求。保修期结束后,我们对项目实施终身维保服务,同时对客户提出的系统扩展等需求,提供软件的免费升级支持和最优的技术方案。
回访服务:
我们除了对项目实行“保质、保用、保修”之外,还建立了长期用户档案,定期对工程进行回访,记录详情。遇用户有重大活动或特定需求,均对系统进行全面检查,确保万无一失。