云创数据:cVector并不能完全替代GPU的功能,在大模型训练等环节仍离不开GPU的支持

12-04 汽车 投稿:喜牧歌

云创数据在接受调研时表示,公司cVector向量计算一体机是一款软硬件一体化的产品,主要通过自主研发的高维向量计算硬件加速算法软件、分布式并行计算框架软件等,从而实现由优化的CPU代替GPU实现基于硬件加速的向量计算,相当于是从硬件层面实现向量数据库的功能。

该产品主要用于当前大模型的推理及知识库环节,减少对GPU的依赖度,在一定程度上缓解算力不足的问题。cVector并不能完全替代GPU的功能,在大模型训练等环节仍离不开GPU的支持,cVector的定位主要是通过算法+CPU的价格优势,以更优的性价比实现向量计算功能。

文章转载自:界面新闻网 非本站原创

声明:生活头条网所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系admin@gdcyjd.com