大模型在金融领域的实践：同花顺的智能转型与优化之路

大模型落地实践：同花顺大模型技术应用及优化

引言

随着人工智能技术的飞速发展，大模型因其强大的通用性和综合性能在金融领域展现出巨大的潜力。同花顺作为国内领先的金融信息服务提供商，积极拥抱大模型技术，通过技术创新提升金融服务的智能化水平。本文将深入探讨同花顺大模型技术的应用及优化实践。

同花顺大模型技术概述

同花顺大模型是基于Transformer的decoder-only架构，提供7B、13B、30B、70B和130B五种版本选择，支持最大32k文本输入，并具备API接口调用、网页嵌入、共建、私有化部署等能力。同花顺通过独特的金融领域数据优势与长期以来的AI技术研发投入，实现了大模型在金融领域的精准应用。

大模型在金融业务中的应用

1. 智能投顾

同花顺的智能投顾业务——问财，是大模型技术的重要应用场景。问财能够实时解析用户输入的问句，如股票标的、指标、时间等条件，并从后台海量金融数据中提取信息，生成回答和表格。问财不仅涵盖A股、基金、ETF、港股、美股、债券、宏观等15个业务矩阵，还提供查询、分析、对比、解读、预测、建议等50余类技能，为用户提供全面精准的投资决策支持。

优势分析：

• 实时金融数据：问财能够实时获取全球数百万个金融数据指标，确保用户获取最新信息。
• 强大语义理解：结合大模型自我进化能力，准确理解用户意图和需求。
• 专业投顾建议：模拟真人投顾服务逻辑，提供科学合理的投资建议。

2. 自然语言处理

同花顺在自然语言处理（NLP）方面也取得了显著进展。传统的问答系统往往依赖大量人工规则，但同花顺通过引入大模型技术，提升了通用语义识别和领域语义识别的准确率。例如，在通用语义识别中，使用孟子Mengzi轻量化预训练模型后，准确率显著提升至94.16%。在领域语义识别方面，如命名实体识别（NER）任务，大模型的应用也带来了显著的性能提升。

技术亮点：

• 数据覆盖：同花顺利用自身积累的金融数据以及市场公开数据，预训练金融语料达到万亿级tokens。
• 模型训练优化：通过数据配比实验方案、scaling law实验体系等，提升大模型训练效率。
• 推理优化：应用无损自适应选层剪枝、通信及底层算子优化等技术，提高模型推理速度。

优化策略与实践

1. 数据驱动

同花顺通过自动化流程确保数据的实时性和准确性，每月新增数千亿tokens优质预训练数据以及数十万条优质微调数据。这些数据不仅为模型提供了丰富的训练素材，还确保了模型能够紧跟市场动态。

2. 模型训练创新

同花顺构建了科学高效的大模型训练体系，包括分布式训练框架优化、硬件加速技术等，降低训练成本并提升训练效率。此外，同花顺还自主研发了大模型量化算法，进一步提升模型推理的吞吐量和精度。

3. 安全性保障

同花顺使用轻量高效的RLHF方案提升大模型对安全的认知能力，并通过独创的补丁式大模型热修复技术快速应对并封堵安全漏洞。这些措施确保了模型在提供高效服务的同时，能够保障用户的信息安全。

结论

同花顺通过大模型技术的深入应用和优化实践，在金融领域取得了显著成效。未来，随着大数据和人工智能技术的不断发展，同花顺将继续加大在AI领域的投入，推动金融服务的智能化转型。同时，同花顺也将积极与业界伙伴合作，共同探索大模型技术在金融领域的更多应用场景和可能性。

希望本文能够为读者提供关于大模型技术在金融领域应用的深入理解和启示，为金融行业的智能化转型贡献一份力量。