9游 九游体育弗若斯特沙利文（Frost & Sullivan，简称“沙利文”）联合头豹研究院谨此发布《2024年中国GenAI技术栈市场》。本旨在跟踪GenAI技术栈的技术和市场发展现状，用户核心需求洞察，明晰市场需求，并结合市场发展前景判断GenAI技术栈领域内各类竞争者所处地位。
GenAI技术栈旨在提升AI应用开发效率、提供完善的系统级支持和解决新需求挑战
生成式AI技术栈的设计在协助开发者提升生成式AI应用开发效率、给予生成式AI任务系统级的完善支持以及探索解决新需求挑战层面起到至关重要的作用。
对于开发者，GenAI技术栈可以提升应用的开发效率，更直观的编辑、调试工具，且可以直观监测AI周期的全部环节。
对于生成式AI任务，GenAI技术栈提供了系统级的完整支持。首先针对大数据和大模型的挑战，技术栈需要支持更大的模型以及更多模态的输入，提供更强大和可扩展的计算能力。其次，面对云与集群场景，将AI任务扩展与部署进而支撑分布式计算、弹性计算，让用户按需使用资源也是生成式AI技术栈需要考虑和支持的。
最后，新需求的拓展也带来了诸多挑战。首先，针对多组织、多用户共享集群资源以等日益增长的需求，提供公平、平稳以及高效的环境是技术栈的首要考量因素。其次，面对割裂的边缘侧硬件与软件栈，如何使模型通过一次训练即可实现跨平台部署到不同软硬件平台也是有待解决的问题。最后，模型本身的重要信息为权重更容易产生安全问题，对于企业级或公有云环境，技术栈需提供更高的安全和隐私保护举措。
构建完整的端到端GenAI应用涉及到复杂丰富的模块组件与流程，从用户交互至可落地应用的结果输出，涉及了AI模型的准备、调优、服务、以及治理等相关关键模块。在支持GenAI应用构建过程中，用户应依据项目、业务线以及组织成熟度等因素在这些模块组件中进行选择组合，并非每个应用均涉及到所有组件模块。
RAG——构建更懂业务的生成式AI应用：在各行业领域专向模型涌现的环境下，大语言模型在特定领域与企业知识缺失的局限性暴露，因此基于外部数据库，可及时调用最新数据和专有领域知识进行补充的RAG显得至关重要。此外，基于外部权威数据信息的整合及数据源的控制，RAG可提升模型回答准确性及可解释性，数据与模型本身的分离也给予了更好的数据隐私管理。
MAS——提供更高效的复杂任务解决方案：多智能体系统是分布式AI的重要分支，其将“大而杂”的任务分解给多个互相服务的单个智能体，通过相互通信、信息与资源共享，以及协作以实现共同的整体目标。在复杂任务下，多智能体系统弥补了单智能体的视角单一难点，在鲁棒性与容错性、灵活性与可扩展性等层面具备核心优势。
提示工程——指引更精准的模型输出：提示工程通过提示词的优化设计，引导模型生成符合预期的回答。提示质量直接影响语境和输出，且具备效率提升、训练成本低、灵活性高等优势，因此对于模型尤为关键。但过于具体的提示也存在限制模型创新性的可能，因此用户需依据平衡点对该模块进行取舍。
防护栏——构建更安全的应用：防护栏的重要性在AI技术动态发展中不可被低估，防护栏在防止AI技术滥用、确保内容公平性、维持公众信任以及遵守法规标准等层面起到核心作用。防护栏是抵御与AI技术部署相关的潜在风险的堡垒，是构建安全可靠应用不可或缺的部分。
API服务——助推更流畅的应用集成：大模型API服务提供了一种强大、灵活且易于集成的方式协助用户快速将AI功能无缝集成到程序和服务中，进而降低用户的开发门槛，提升开发效率。API服务核心优势体现在促进软件集成、实现数据共享、提高可扩展性以及增强系统安全性等层面。
MLOps——实现更快速可靠的应用发布：MLOps整合了机器学习的应用开发、系统部署与运维，通过在整个机器学习生命周期中实现自动化和标准化以实现更快速的产品开发上市，更高效的团队合作以及模型的持续性改进优化，是协助企业用户将模型高效部署到生产环境中的重要组件。
针对不同领域的用户，高质量模型的构建、安全合规的优化、推理成本的降低、数据价值的释放与产品应用化的实现均为构建GenAI应用的主要考量因素。
高质模型的构建：大模型是生成式AI应用构建的核心，针对不同领域的用户，特定场景的适配性与生成内容质量可控性为模型质量的主要考量因素。模型适配性为用户提供专业领域更具针对性的决策建议，提升相关领域解决方案的灵活性，质量可控性则为用户提升领域内容生成效率。针对不同业务场景的模型适配性，用户可结合计算资源成本、效果呈现以及数据量级等考量因素最优化模型专属化路径，较为常见的模型专属化包含应用层的直接调优、外挂知识库、参数微调与继续与训练等方式。此外，模型选择与模型评估为提升模型生成内容质量可控性的常用方式，模型选择是理解问题的核心，其依据验证误差最小等原则筛选出业务场景下的最优模型。模型评估则通过准确率等一些列评估指标对模型性能进行量化与优化，决定了模型的预测精度与实用性。
安全合规的优化：生成式AI应用构建的过程涉及到数据、模型等安全合规问题，为用户带来隐私泄露、错误决策等潜在风险，安全合规优化在用户权益与隐私保护、市场秩序与企业责任维护等方面至关重要，因此安全合规性为构建生成式AI应用的主要考量因素之一。在应用构建到业务部署过程中构建完善的安全防御链路是优化安全合规的基础框架，根据已知风险攻击、模型安全以及应用部署架构三个层次，可分别针对性地设计防御检测机制，平台可以为用户提供全流程安全管理工具以实现全面的安全保障。
推理成本的降低：模型推理是将联结终端场景需求的关键环节，随着生成式AI所融合的业务场景愈发多样化，推理在未来市场的发展潜力巨大，但目前AI支出的主要部分仍集中在推理部分，因此推理成本的降低是助推AI技术发展、提升用户对于生成式AI可及性的重要因素。模型推理优化技术可从数据层、模型层与系统层全方位展开，其中模型层优化措施使用较为广泛，其包含知识蒸馏、模型剪枝、模型量化等在保证模型性能前提下，减小模型大小和计算难度的一系列技术。
数据价值的释放：大模型发展带来了数据架构新需求，生成式AI应用在用户企业内部落地过程中，企业与模型的数据协同以及数据价值的释放成为了“数据驱动决策”过程中的重要考量因素，数据资产的统一、自动化工具的操作以及高校计算能力均对数据价值释放的有效性产生影响。生成式AI应用数据价值的释放可通过算力、模型以及决策三层形成完整的数据优化闭环。其中模型优化与决策优化路径较为轻量灵活，模型层，用户主要通过RAG等方式将专向数据与大模型进行结合产生独特价值；决策优化可通过“AI+BI”工具实现智能决策支持。
产品应用化的实现：生成式AI产品应用化包含产品应用目标设立、生成式AI工具选择、产品流程整合以及用户体验反馈等步骤，其中生成式界面设计以及与用户的交互方式等为最直接影响产品应用反馈与迭代的因素。产品应用化是推动生成式AI技术从实验理论迈向实践应用的关键过程。生成式AI产品应用化可从最为直接的用户交互体验进行优化，平台可以对用户操作界面设计创新，例如融合了LUI与GUI交互的CUI对话式用户界面，通过更加直观和自然的语言交互以降低用户的操作难度，为用户提供更智能便捷的交互方式，进而优化产品的用户体验。
在新技术、新服务模式下，GenAI技术栈将向模块化与标准化、平台化与简易化、去中心化等方向发展。
模块化与标准化：目前生成式AI技术栈工具与系统存在碎片化与不兼容性等难题，模块化与标准化将成为未来重要发展方向。通过将技术栈划分为一系列的模块和标准化接口，进而更方便地进行组件替换与升级，提高系统的灵活性与可扩展性。
平台化与简易化：生成式AI技术栈基于模型开发、场景适配、推理部署以及产品应用将进一步完善应用开发生态，形成一站式的开发服务平台。此外，与平台化并行的是平台的简易化，通过易用工具与开放式API的提供，降低用户开发门槛，为用户提供操作性强的完整的开发解决方案。
去中心化：目前AI系统仍多依赖于中心化架构以便高效的管理与控制，但随之带来了数据隐私等风险。AI去中心化旨在将AI的开发、部署以及控制权分散到多个实体或用户之间，以提高透明度、减少滥用风险，是未来发展的一大趋势。
MaaS模式下的商业模式重构：旨在通过一系列工具与服务协助用户降低模型开发门槛的MaaS模式将成为未来大模型的主流商业模式，并对生成式AI应用在商业化生态、产品落地等方面产生连带影响，反向重构生成式AI商业模式。
GenAI下的信息商品变革：GenAI作为底层创新技术，对于信息商品各环节产生了全面的、革命性的影响，此外，GenAI孕育着创造新信息商品类型的巨大空间，这也助推了全新产品时代与超级产品诞生的可能性。
所有转载不得对原文进行任何篡改、曲解、诠释和改编。沙利文保留对所有原创文章的版权及解释权。如有违反，沙利文保留依法追究相应法律责任的权利。
全球增长咨询公司，弗若斯特沙利文（Frost & Sullivan，简称“沙利文”）融合全球63年的咨询经验，26年来竭诚服务蓬勃发展的中国市场，以全球化的视野，帮助超10,000家客户加速企业成长步伐，助力客户在行业内取得增长、科创、领先的标杆地位，实现融资及上市等资本运作目标。
沙利文深耕全球资本市场及企业咨询服务，通过创新性提出的“全域投资管理 (Total Investment Management, TIM）”为企业提供全方位的投融资及其他各类专业咨询服务，包括投融资CDD、估值服务、技术顾问、财务顾问、ESG、募投可研、债券发行行业顾问、行业顾问、评估服务、奖项服务、行业白皮书、战略及管理咨询、规划咨询、技术洞察等。
沙利文大中华区的投融资业务实现了对中国国民经济的全行业覆盖，包括对新经济、新基建等所有经济热点的高度关注，涵盖数字基础设施、消费电子、双碳新能源、医疗与生命科学、餐饮与新零售、半导体与集成电路、智能家居、汽车与出行、康养服务、食品与饮料、信息通信技术、金融科技、地产与物业、矿业冶炼、美容时尚、大数据与人工智能、物流与供应链、建筑科技与装饰装潢、特种新材料、文化娱乐、企业级服务、跨境电商贸易、基础设施建设、环保节能科技、教育与培训等。
沙利文团队为企业领袖及其管理团队开展投融资顾问咨询服务以来，已帮助近千家公司成功在香港及境外上市，是国内投融资战略咨询领域的领军企业。近10年来，沙利文连年蝉联中国企业赴香港及境外上市专业行业顾问市场份额的领导地位；且近年来，沙利文也被广泛引用于业内领先的A股、科创板等上市公司的招股文件、一级和二级市场研究及其他资本市场公示文件中。
63年以来，沙利文通过其遍布全球的近50个办公室，利用强大的数据库和专家库、运用丰富的专业知识和咨询工具，帮助大量客户（包括全球1,000强公司、国内外顶级金融机构以及其他各类领先企业等）完成了包括但不限于尽职调查、估值分析和第三方评估工作等工作，达成了战略目标；创立市场地位确认体系，创新性提出“FSBV沙利文品牌价值模型”，已向超1,000家企业提供市场地位确认及品牌估值服务，持续助力大量中国品牌实现国内与出海增长战略。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
国家监委主任作，武汉市政协原副主席陈邂馨等黑恶势力“保护伞”被点名
以媒爆：内塔尼亚胡计划出席特朗普就职典礼，将是以领导人被发逮捕令后首次外访
Ray-Ban Meta卖爆、国内玩家涌入，AI眼镜进入大小厂混战时代
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律