云创数据的cVector 向量计算一体机到底是什么

公司于2022 年 6 月 20 日正式发布 AI 算力产品“cVector 向量计算一体机”,该产品是公司于 3 年前推出的“超大规模人脸向量比对一体机”产品的迭代产品。

当时公司发现面向大规模人脸比对场景时,如果采用业内常规的特征向量计算方法,需要大量的 GPU 卡支撑,开销十分巨大。

公司通过将人脸特征向量数据,存放在委托硬件厂商定制的一体机上,并通过研发的分布式并行计算架构和向量计算硬件加速的方式,用优化后的 CPU 计算代替 GPU 进行高维向量计算比对,大幅提升搜索性能、降低成本。

cVector向量计算一体机”基于大数据分布式实时计算框架,结合定制化高密度计算硬件,实现大规模 AI 任务的分发与计算结果汇聚,保证计算任务执行的高效和稳定。

可广泛应用于人工智能大模型、机器学习、计算机视觉、自然语言处理等领域,致力于满足亿级以上规模的向量计算性能需求和使用场景。

目前向量数据库遇到的主要瓶颈问题:一是规模,当数据量达到千万级以上规模,入库和检索效率会大幅降低;二是漏检,由于采用了聚类方法提升速度,会出现分类标准引起检索遗漏等情况。

公司“cVector 向量计算一体机”采用硬件加速的方式进行向量计算,可以实现高效的向量计算,较之向量数据库有着明显先进性。

“cVector 向量计算一体机”预计将于 2023 年 6 月份报送中国软件评测中心进行技术鉴定测试。

公司自主研发了高维向量计算算法,能够将通过软件需要几千个时钟周期的向量计算缩短至几个时钟周期,同时公司自主设计了分布式并行计算架构,包括:Kafka、Spark、Strom、Redis 等,以实现最大化并行计算,进一步提升处理效率,能够协同调度一体机中的每个计算单元。

cGPT 系列产品是公司基于“cVector 向量计算一体机”及自身在人工智能、自然语言理解等领域的技术积累,面向生成式 AI 行业应用场景,规划并将陆续推出的系列产品,除“cVector 向量计算一体机”外,还包括:“云创 AI 智能机器人”、“自然语言搜索一体机”、“敏感信息过滤一体机”、“大模型训练一体机”、“大模型推理一体机”和“cGPT 云平台”等。

cGPT 系列产品属于公司大数据智能处理业务方向,契合全球火热的 AIGC 发展趋势和市场需求,能够进一步丰富和完善公司在向量计算算力和生成式 AI 领域的产品体系。

以下信息于2023年6月12日补充:

我们并不能评判使用CPU的cVector 向量计算一体机的是否能战胜使用GPU的英伟达产品,目前该公司一直被炒作。在阅览数据时,我们发布已经从新三板转板到科创板的浩瀚深度(688292.SH)在其IPO发行文件中披露了CPU与GPU的算力及功耗情况,希望给大家一个参考:

公司自产高性能DPI探针设备主要采用专用硬件架构,并基于FPGA芯片增强计算力,属于资源独占型的硬件设计

专用硬件是指为网络智能化产品专门设计的硬件平台,用于进行流量处理,其形式通常为盒式、ATCA机箱与插卡形式、CLOS机箱与插卡形式等。专用硬件与通用硬件相比,设计更为紧凑,在体积、容量密度、功耗、接口密度等指标方面具有优势,可靠性和稳定性也相对更高。

在高速网络流量的计算处理方面,行业内主要存在基于FPGA以及基于通用CPU的两种技术路径。通常而言,基于FPGA的系统在可靠性、稳定性、计算密度方面具有较大优势,能够在满足大规模高速网络对于高性能、高密度需求的同时,提供更高的实时性、可靠性与稳定性,而基于通用CPU的系统在设计难度、成本、灵活性方面具有相对优势。FPGA与CPU以及其他技术路径的关键参数指标对比情况如下:

相关文章

发表评论

相关文章

没有相关文章!

新三板报法律顾问

李明燕
北京高文律师事务所 合伙人
李明燕律师,北京高文律师事务所合伙人,毕业于中国政法大学,执业律师,注册会计师,执业18年,并兼任中央财经大学金融专业硕士生导师,著有《企业大合规》一书。李明燕律师曾供职金融机构多年,精通金融市场领域业务,成功代理多起证券索赔案件。
邮箱:limingyan@globe-law.com
电话:+86 18610810467

李元
北京高文律师事务所 合伙人
李元律师,北京高文律师事务所高级合伙人,毕业于中央民族大学、美国天普大学,获得L.L.M学位。李元律师曾就职于全国先进法院,并曾在北京市高院任职,专注刑事审判、辩护领域15年。李元律师在刑民交叉,尤其是金融犯罪、犯罪索赔领域经验丰富。
邮箱:liyuan@globe-law.com
电话:+86 13917539507

  1. 刘 子沐
  2. 刘 子沐
  3. 刘 子沐