|
2025年帆软第七届智数大会上,宁德新能源科技有限公司大数据平台负责人乐志清进行了《敏捷数据开发,驾驭海量数据》的主题分享,本文根据演讲内容进行整理:
宁德新能源(ATL)成立于1999年,是一家专注于聚合物锂离子电池研发与制造的高科技企业,逐步发展成为消费类电池领域的全球领导者。到2019年,ATL已累计出货50亿颗电芯。目前,ATL在印度、马来西亚、新加坡等地积极布局海外生产基地,持续扩大全球影响力。
数据挑战浮现
尽管在消费类电池市场占据领先地位,ATL很早就意识到数据整合与分析在企业运营中的关键作用。早期,ATL内部存在数十套业务系统,包括BIS、WIP、MES、SAP等,形成数据孤岛问题。各部门拥有独立报表体系,但由于统计口径和计算方法不一致,同一指标在不同报表中差异显著。由于涉及KPI考核,部分部门可能对数据进行修饰,导致管理层在月度经营分析会中耗费超过三分之二的时间用于数据核对与争议处理,严重影响决策效率。
初期探索ETL工具的困境
为应对这一挑战,ATL在2012年引入某款海外ETL工具。该工具在初期一定程度上改善了数据展示效果,但随着业务复杂度提升,其局限性日益凸显。由于当时缺乏更合适的工具,它被迫承担了从数据抽取、清洗、计算到展示的全流程任务。该工具基于脚本语言开发,执行效率低下,运维成本极高。任何字段或逻辑的调整都需要修改代码,响应速度缓慢。此外,作为海外产品,其技术支持体系存在明显短板,问题反馈需经过印度、新加坡、美国等多地转接,往往耗费数小时才能联系到相应工程师,实际解决问题仅需十分钟。用户提出的功能需求大多石沉大海,无法得到有效响应。
与此同时,ATL的数据量持续快速增长,每日新增数据量超过20GB,主要来源于自研的MES系统。该公司每年生产十余亿颗电芯,每颗电芯需采集上千个参数。在检测工序中,单道工序即涉及百余项参数采集,且数据交互必须在100毫秒内完成,否则会导致生产线停机。这种高频率、大体量的数据环境对数据处理系统提出了极高要求。
同时,ATL的数据团队与业务部门互相不太熟悉,对于开发有不同的想法:数据团队倾向于简化开发,而业务部门期望获得更灵活、体验更佳的分析工具。由于平台限制,交互功能体验较差,需求交付效率低下,IT满意度调查中持续收到相关投诉。
全面转型
携手帆软构建新体系
基于这些痛点,ATL开始寻求更优解决方案,并于2020年与帆软结缘。在初步试用后,ATL发现帆软提供从数据抽取到前端展示的完整解决方案,能够有效应对现有挑战。
在建设层面,通过数据指标体系与数据资产结合的方式推进;在前端展示方面,全面采用帆软BI;在ETL环节,以帆软FineDataLink产品取代Talend;同时大力推进人才建设,与HR部门合作成立数字化学院,建立初、中、高级认证体系,并通过竞赛激励培养数字化人才。
显著成果
FDL集群采用四节点配置,日均处理数据量达85亿条。在开发规范方面,ATL特别强调标准化管理,包括脚本命名、存储规范等,避免重蹈“先污染后治理”的覆辙。FDL的低代码特性大幅提升了开发效率,通过可视化拖拽即可完成多数配置工作。其版本管理功能解决了以往靠人工备份、版本比对困难的问题,确保开发过程有序可控。数据一致性和完整性通过图形化事务管理保障,有效杜绝脏数据产生。
ATL基于业务需求自研数据资产地图,集成数据字典、元数据管理、血缘分析、数据集市和权限管理等功能。权限申请流程与内部办公系统飞书深度集成,用户可通过消息卡片快速审批,极大提升效率。
通过引入帆软系列产品,ATL在运维效率方面取得显著提升:单人运维任务管理能力从300个增至1000个;开发效率提高约三分之二,原本需要半小时的任务现在十分钟内即可完成。
在具体应用场景中,财务部门的月度滚动预测和合并报表实现重大突破。此前合并报表完全依赖海外BI产品脚本开发,任何逻辑调整都需要大量代码修改和测试。现在基于帆软BI和FDL的配置化、模块化方案,财务人员可自主完成多数调整,推广至子公司时仅需简单配置即可。该方案成功替代了原计划采购的300万元外部合并报表系统。
核心经验与未来展望
目前,ATL内部报表日均访问量超过1万人次,覆盖各个业务场景。回顾数据建设历程,ATL认识到工具选择固然重要,但数据治理才是基础前提。必须建立完善的数据标准、指标体系和安全规范,同时注重人才培养,才能真正发挥数据价值。
展望未来,ATL将持续深化AI技术应用。公司已组建AI团队,包含多位博士研究员,正构建自有大语言模型,计划通过AI技术进一步挖掘数据价值,推动企业向智能化运营持续迈进。 |