天天观天下！ChatGPT遭“封杀”？AIGC安全引关注！东方通人工智能相关课题正式立项

几乎一夜之间，对ChatGPT的“禁令”开始冲向热搜。

当地时间2月22日，摩根大通宣布开始限制员工使用ChatGPT，随后，花旗集团和高盛集团也加入华尔街禁用ChatGPT之列。

3月2日，OpenAI刚刚宣布，允许第三方开发者通过API将ChatGPT进行集成，苹果应用商店却阻止了相关集成应用进行更新。

(资料图片)

近日，就连微软也紧急发布新规定，每日使用New Bing与ChatGPT对话不得超过5次，且不能再和Bing讨论它自己。

这些举措，无一不反映出市场对以ChatGPT为代表的AIGC技术安全应用的担忧。首先是可能存在信息泄露和合规风险，与AI交互的大量素材，会被用作进一步迭代的训练数据，造成敏感信息的泄露；其次AIGC能力对网络和数据安全的威胁也值得关注，由于其更高阶的自然语言生成和理解的能力，也将面临编写恶意代码、垃圾邮件等恶意应用，对网络空间的安全也带来新的挑战。

AIGC产业的长远发展，亟待安全能力升级护航。

日前，“北邮-空天院-东方通（300379）”空天信息科技联合创新中心申报的课题《AIGC算法安全性检测方法研究》正式通过某部立项评审，作为网信安全的代表企业，东方通将率先在AIGC领域进行深入安全技术研究，为企业的安全应用提供保障。

此前，国家对于人工智能技术的监管力度也一直在不断加强，从早期的《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》到近期刚刚施行的《互联网信息服务深度合成管理规定》均对深度合成内容技术进行了全面严管。但与之前造成广泛影响的其他深度合成技术不同，ChatGPT、New Bing、Codex的AIGC已经展示出嵌入日常工作的能力，这意味着深度合成技术在未来可能会成为企业标准配置。面临着以ChatGPT为代表的新技术冲击，如何在法律框架下发挥新技术最大的潜力，会是企业合规新的难题，这也要求相关安全服务商需要具备技术研究、业务场景服务能力等多方面的综合积累。

“北邮-空天院-东方通”空天信息科技联合创新中心，由东方通与北京邮电大学、中科院空天院联合成立，致力于多方技术专家团队共同开展人工智能在网络信息安全领域的前沿应用研究，研究领域包括基于人工智能的文本分析与语义挖掘，图像处理、分析与识别，以及信息内容安全技术等。此前，对于部分AIGC算法存在鲁棒性、安全性方面的漏洞，如异常样本的定向攻击、交互内容的准确性干扰、合成内容的合规性风险等风险问题，也在进行持续关注研究。并且，东方通持续在网络信息安全领域深耕，其产品服务覆盖至政务、金融、企事业单位等多个行业领域，在技术转化落地方面具有深厚的实战经验。

此次立项课题主要目标为，研究针对ChatGPT等新型交互式AIGC算法的安全性评估测试方法和工具开发，课题组预计年底前发布可为行业客户开放使用的测试平台服务。届时，东方通也将凭借行业客户资源与实战经验，加快测试平台的广泛体验，帮助更多领域客户应对新技术的安全挑战，把握新风口，掘金数字时代。

关于东方通

东方通（股票代码：300379），是国内A股上市的基础软件厂商，以“安全+”、“数据+”和"智慧+"三大产品体系为基础，为客户提供综合解决方案及服务，是国内领先的大安全及行业信息化产品、解决方案提供商。

东方通现拥有东方通网信、泰策科技等全资子公司，面向企业和社会的数字化转型与升级，提供基础软件、网络信息安全、数据安全、通信安全、智慧应急、5G创新应用、工业互联网安全及社会治理等产品和解决方案，帮助用户实现业务创新、安全管控和数据的共享与价值挖掘等。

东方通的产品及解决方案广泛应用于国内数千个行业业务，服务电信、金融、政府、能源、交通等行业领域8000多家企业级用户，与3000多家合作伙伴携手打造合作共赢的产业生态。东方通连续十二年被认定为“国家规划布局内重点软件企业”，承担多项国家重大科技专项的研制任务，是北京软件和信息服务业综合实力百强企业，曾荣获国家科技进步二等奖、 北京市科学技术进步奖二等奖等多项荣誉。