生成式AI手艺栈排名沙利文：商汤科技中国第一

　　（Frost & Sullivan， 简称“沙利文”）结合头豹研究院发布《2024年中国GenAI手艺栈市场演讲》，商汤科技正在11个GenAI厂商中超越阿里云、百度智能云和华为云，增加指数和立异指数均排名国内第一，正在全球排名中仅次于亚马逊云科技。演讲认为，商汤积极投入手艺立异，努力于为用户供给行业领先的自研模子取高机能国产化的推理引擎，同时成立了包含机械取人工审核、平安评测取内容平安策略迭代升级等正在内的完整性平安办理方案，是GenAI手艺栈范畴的带领者。GenAI手艺栈是毗连硬件设备层取终端用户交互的两头层，集成了包罗根本模子、数据处置、模子锻炼调优、供给从模子初始化到摆设全过程的一坐式处理方案。《2024年中国GenAI手艺栈市场演讲》从立异和增加两个维度、共10个一级评价目标进行GenAI手艺栈合作力阐发。演讲显示，商汤科技正在两个维度中均排名全球第二、国内第一，此中立异维度获得“资本操纵率优化办理、缓存取回忆、精辟压缩模子”三大模块最高分，展示出三大能力劣势：高效的资本操纵率优化能力：商汤自研高机能大模子推理引擎机能劣势较着，正在不异算力及电力成本下将每秒请求数（QPS）提拔4倍。同时基于训推一体、算电协划一手艺立异，万卡集群GPU资本操纵率最高达到80%以上。高效的缓存取回忆能力：成立了数据飞轮机制，构成强化的反馈轮回，实现模子机能的不竭提拔。精辟的压缩模子能力：正在代码小浣熊办公帮手和代码帮手使用场景中，实现数倍的显存节流、高比例的速度提拔。正在增加维度，展示出了商汤生成式AI落地使用的广度和深度：笼盖范畴广：商汤“日日新”大模子已正在金融、医疗、Copilot帮手、拟人交互、智能终端等环节范畴确立了杰出的使用价值和领先地位。使用触达深：商汤科技取各行业头部企业展开慎密合做，帮力运营商提高算力资本操纵，帮力立异内容出产模式，为生成式AI使用落地供给了丰硕的标杆案例取行业经验。演讲指出，高质模子的建立、平安合规的优化、推理成本的降低、数据价值的、产物使用化的实现，是用户正在建立GenAI使用时的焦点考量要素。积极的立异投入：不只建立了自从算力平台，商汤日日新大模子正在多评测集上也均连结领先地位，让用户能够挪用分歧模态取分歧业业性的根本大模子。高机能的推理引擎：商汤大型分布式推理系统，具有高机能算子库取极致优化的推理框架，正在软硬件底层优化、自顺应分手架构、国产化生态打制以及前瞻性的“多模态AGI+云/边/端系统”结构等层面劣势显著。完美的平安办理框架：商汤针对GenAI场景，设想了合适大模子特质的内容平安运营系统，为用户供给完整的平安办理方案。演讲认为，GenAI手艺栈将呈现模块化、平台化、简略单纯化、去核心化的成长趋向，MaaS（模子即办事）的普遍推广还将沉构生成式AI的贸易化生态。同时，做为一项底层立异手艺，GenAI还将催生全新类型的消息商品，无望培养出全新的产物时代和超等产物。商汤大安拆万象，包含模子开辟平台和使用开辟平台，面向企业取开辟者供给模子办理、模子微调、推理摆设、数据办理，以及智能体使用等一坐式大模子办事，并成功使用于央国企、运营商、互联网等行业客户。商汤大安拆将不竭完美GenAI手艺栈，通过一系列东西取办事协帮用户降低模子开辟门槛，以MaaS大模子即办事的立异模式，鞭策生成式AI使用的贸易化落地和生态建立。