云天励飞公开 “天书”大模型 分通用、行业、场景三个层级

(资料图片)

【讯】（记者陈姝）2023世界人工智能大会7月6日至8日在上海举行。本次大会上，云天励飞公布“天书”大模型的最新动态，并展示了自主设计开发的新一代边缘计算芯片Deep Edge10系列SoC芯片。

据介绍，“云天天书”基础大模型架构包含三个层级：通用大模型、行业大模型、场景大模型。云天励飞基于算法开发平台和算法芯片化平台，并通过海量高质量数据预训练生产通用大模型；在通用大模型基础上，引入高质量行业数据，生产行业大模型；再在行业大模型基础上，通过细分场景数据微调研发场景大模型。通过这样的三级架构，让大模型为千行百业赋能。

基于“云天天书”大模型，云天励飞与深圳龙岗政数局共同探索了大模型在政务咨询服务系统的应用。通过对海量的政策、法规、办理流程等文本进行结构化梳理和分析，形成易于查阅的知识库。帮助服务人员快速查询和获取准确的信息，减少查阅时间，提高政务服务工作效率。目前该系统在行政服务大厅探索应用，未来计划逐步拓展到其他政府机构和公共服务领域，如法务、金融、教育、医疗、交通等。

本次展示的SoC芯片已于2022年底成功流片，采用国内先进工艺，可广泛应用于AIoT边缘视频、移动机器人等场景，预计今年量产投入使用。

据介绍，云天励飞核心能力是“算法芯片化”。所谓“算法芯片化”不是“算法+芯片”，而是基于对场景的深刻理解，以及对算法关键计算任务在应用场景中的量化分析，将芯片设计者的理念、思想与算法相融合的AI芯片设计流程。这一理念在 Deep Edge10芯片和“云天天书”大模型上均有所体现。DeepEdge10可为大模型在边侧推理场景提供充足算力，可以解决大模型应用和部署过程中的各类挑战，包括新的神经网络计算范式等，能够为大模型和实际应用场景嫁接起桥梁，让大模型技术能够高效、低成本地部署到终端，帮助场景探索更多大模型的创新应用。