技术合集｜企业AI应用落地的关键问题和应对方法

目录

一、生成式AI助力数字化转型的关键

二、用大模型来做什么

三、AI应用如何落地

四、写在最后

---

2022年11月，OpenAI正式推出ChatGPT，短短一年的时间里，人类被迫重温了文字语言在人类文明中的重要作用——承载着一切的思维表达与沟通实现。

这一年，ChatGPT在自然语言领域的发展以不可抵挡之势席卷了全球，基于大模型研发的生成式人工智能，它能够对复杂的任务进行拆解，自我学习，不断与其它工具集成（插件和API）。

很快我们发现，创作小说、诗歌、剧本乃至于商业分析报告都仅仅是它的基础技能，阅读、分析、总结、翻译一切与文字所相关的任务都不在话下。

当ChatGPT能够与人类开展深入、逻辑严谨的对话时，人类便开始憧憬一个能够理解业务或专业、思考解答专业问题，甚至能够组织、管理和创新业务的机器的可能性。对企业的数字化转型进程而言，生成式AI技术带来的潜在影响很容易让人将之类比于交通史上铁路系统的发明、亦或动力系统中对交流电的引入。

在生成式AI技术的崭露头角之前，数字化转型已成为企业在新的商业环境中保持竞争优势、创造新的商业机会的重要战略。早在2011年，Gartner便提出了数字化转型的概念，其涵盖了从IT现代化到利用数字技术进行业务优化或业务模式创新的广泛战略举措。近年来，数字化转型的重心已逐渐转向企业数据资产的建立。

然而，企业在日常经营活动中产生了大量无法被结构化处理的数据。这些数据蕴含着极高的价值和知识，但传统的数据处理和分析方法对其束手无策，导致高价值的信息无法被有效提取。这也意味着企业可能错过了重要的决策依据、市场洞察和创新机会。

生成式AI技术的发展问世，让这些数据有望得到更好的利用。具有泛化能力的生成式AI技术可以对其进行加工处理，系统化地提炼出散落在员工脑中的知识体系，甚至提取出人工难以觉察和萃取的更高价值的知识。这些是之前的大数据分析、建模技术、Specific AI技术等所无法实现的技术创新。随着生成式 AI技术的不断的进步和完善，它对企业知识的处理能力会从精度、广度和深度这三个维度上不断提升。

生成式AI技术的出现，为企业数字化转型，注入了强大且更为直接的新动能。

另外一方面，云计算+互联网、大数据+BI/SAI（SpecificAI），以及生成式AI+企业知识治理三股技术浪潮在大多数企业内部是交织叠加在一起的，在数字化转型的节奏中，企业不会按照这三股技术浪潮的先后顺序逐一实现。

因此，企业需要从后天的视角来审视今天的现状，从而规划明天的行动。比如对云能力的引入，需要考虑算力资源和 MaaS战略选择；数据治理，则需要扩展到对非结构化数据的治理、管理和利用；而 MLOps的探索，需要立刻思考和 LLMOps的整合；至于业务需求的满足，场景的创新，生成式 AI的相关技术尝试和引入，则成为一项重要的举措。

而支持生成式AI技术的应用开发框架和平台，则需要提早设计。

总体来说，逐步构建出数据/语料和业务智能之间的飞轮效应，将是企业在即将到来的数字化转型的智能时代中，获取决胜竞争力的关键举措。

一、生成式AI助力数字化转型的关键

企业的 AI战略不仅仅关注技术的开发和应用，而更应强调在整个组织中实施人工智能，需要确保其实现在业务战略制定和运营过程中保持有协同和兼容。生成式 AI的核心特征，有助于我们理解对人才和组织的要求。它有这样的一些特征：

●数据驱动：

大模型依赖于大量的数据进行训练和优化，实现深度学习。数字化的能力既是要求人，也是要求组织的。

●成长性：

自我迭代能够不断优化自己的模型，提高决策和预测的准确性。这是一种演化机制，自适应机制。

●多领域应用：

不局限于特定的行业或任务，可适用于多个领域和场景。生成式 AI适应领域多，带来的变革是从点状创新到平台化创新。

在生成式 AI的战略实施过程中，人才的角色和需求正经历显著的变革。这主要体现在以下三个方面：

●多学科交叉人才需求：

AI的应用价值发挥，需要结合多个领域的知识，因此需要拥有跨学科知识和经验背景的人才。

● AI与业务融合能力要求：

人才需要能够深刻理解业务，并在其中发掘 AI技术的应用场景。

●人才持续学习能力要求：

鉴于技术的快速发展，员工需要具备持续学习和掌控新技能的能力。

AI技术的引入还可能会对现有的组织结构和协作模式形成冲击。比如：扁平化管理要求，推动组织更加灵活，加强跨部门协作；敏捷发展要求，要求快速响应市场变化，及时调整战略和产品方向等。

二、用大模型来做什么

企业在落地生成式 AI应用时，面临的第一个问题就是“用大模型来做什么？”，也就是场景选择的问题。在下图中我们可以看到，生成式AI的技术能力从问答会话到文本生成，再到智能体、多模态，可以用的地方很多。这时我们需要一个思考框架，在企业选择场景的时候，做出决定。

“场景-痛点-方案-价值”就是这样一个结构化的框架，可以帮助企业更系统、更有效地进行生成式AI应用的场景选择。

●场景(Scene)：

确定业务场景，明确生成式 AI可以在哪些领域或部门中应用，如销售预测、客服、产品推荐等。并且这需要对于每个潜在的应用场景，收集相关的数据和信息，以便更好地理解该场景。以及基于企业的业务目标和策略，为每个场景设置优先级。

●痛点(PainPoint):

在每个潜在的应用场景中，识别和分析主要的业务问题或痛点。这些痛点可能是流程繁琐、成本高昂、效率低下等。并与业务部门沟通，确认识别的痛点是否真实存在，是否真正影响业务效果。

●方案(Solution):

根据每个痛点，选择或设计合适的生成式 AI解决方案。考虑模型的技术可行性、数据需求等因素。为每个痛点设计完整的解决方案，包括数据准备、模型训练、系统集成等步骤。通常也会在小范围内进行项目试点，验证所设计方案的有效性和可行性。

●价值(Value):

对于每个方案，预估其潜在的商业价值，如预期的收益、成本节省、效率提升等。对比不同方案的预期价值，确定哪些方案可以为企业带来最大的价值。最后还需要在方案实施后，定期跟踪和评估其实际效果，与预估的价值进行对比，以便进行调整和优化

通过这个“场景-痛点-方案-价值”的框架，企业可以更系统、更有目的地选择和实施生成式 AI应用项目，确保每个项目都能为企业带来实际的商业价值。

三、AI应用如何落地

随着生成式AI技术的蓬勃发展，许多企业表现出强烈的兴趣并积极采用这一新兴技术。尽管市场上出现了各种生成式AI模型在企业中的实践应用，但至今仍未出现所谓的“爆款”应用。同时，建设的方法论和技术架构也在不断变化和调整中。

这部分原因归因于生成式AI技术的固有限制，如token的经济性、可控性和准确性问题；另一部分原因是生成式AI技术的快速迭代更新，企业需要组建专门的研究团队跟进最新的技术进展。

更为关键的是，生成式AI项目的落地实施面临许多挑战。在生成式AI技术的实施过程中，企业面临从模型选择与定制、场景价值挖掘到成本优化、算力配置、知识权威、用户体验优化、安全合规保障、现有技术整合利用和学习成本控制等一系列挑战。

因此，企业急需一个全面的生成式AI架构，该架构应具备快速搭建模型、算力、数据和场景四大层面的能力，并能通过持续迭代实现高业务价值和低技术边际成本的效果。同时，该架构应展示大模型相关的协作架构和职责角色区隔，以在企业内有效打通从生成式AI技术到业务场景的通道。

为解决生成式 AI落地企业的一系列问题，神州数码推出了一站式大模型集成平台：神州问学。

神州问学（参考下图）在一个平台上，为企业提供模型、算力、数据和应用的连接能力，它既是企业的大模型集成平台也是企业的大模型运营平台。神州问学从模型、数据、算力、应用四个角度打通各项资源，屏蔽繁缛的技术细节，协助企业投产和运营自己的大模型应用。

神州问学——企业生成式AI应用落地参考架构示意

神州问学着眼解决企业生成式AI落地过程中的六大核心问题，打通生成式AI技术落地到企业应用的最后一公里。

四、写在最后

正如我们一直所强调的，生成式AI技术的到来，是一场无法阻止的范式变革，人工智能领域的征程才刚刚开始。新的时代，企业正面临着巨大的机遇，也面临着重大的挑战。

虽然生成式AI所引发的技术变革和应用场景的爆发还处于早期阶段，但企业数字化转型中应用生成式AI已经成为一个不可逆转的趋势。作为中国IT生态的核心参与者，神州数码始终致力于促进先进技术在企业的系统化应用，助力企业更好地实现数字化转型，把握生成式AI技术带来的无限机遇。

--- 神州数码《生成式 AI 企业应用落地技术白皮书 》

---

2024年度技术合集

开放下载，免费领取！

云基地作为神州数码集团的技术能力中心，一直秉承着开源、开放、创新的初心在专业技术领域不断探索和力求进步。在这4年多的时间里，我们一直行走在数字化转型实践的道路上，致力于用技术帮助企业实现数字转型。

本次技术合集我们从过去一年神州数码云基地服务的企业项目案例和项目中切实遇到过的问题与思考，精选了80+篇技术文章，内容覆盖AI人工智能、云原生、数据库、开源企业应用、项目管理等多个领域专业知识与具体实践。

●AI发展全面加速，智能时代引领技术变革
●大模型时代下，数据牵引人工智能的未来
●云原生与AI的双轮驱动，加速企业数字化转型
●智能化企业资源管理，实现业务流程自动化
●AI与前端技术的融合，塑造智能用户体验
●人工智能助力高效协同创新管理新模式

希望能在开源生态力所能及，在创新技术领域与大家共同构建完整的技术生态，一起更好的行进企业数智化转型之路上。

公众号搜索【神州数码云基地】回复关键词【技术合集2024】

获取【600页AI+数字化转型干货】FY24神州数码云基地年度技术合集