业界首个《共建安全大模型高质量数据集倡议书》发布

　　7月18日，由中国互联网协会主办，北京经济技术开发区管委会、北京市通信管理局、工业和信息化部新闻宣传中心联合主办的2023（第二十二届）中国互联网大会在京开幕，AI安全论坛作为本届大会的重要分论坛之一，以“AI重铸安全，护航数字世界”为主题。中国互联网协会副理事长黄澄清，北京市通信管理局党组成员、副局长王晖，中国电信集团网络和信息安全管理部总经理谷红勋出席会议并致辞。

　　会上，天翼安全科技有限公司（简称“电信安全”）发布了业界首个《共建安全大模型高质量数据集倡议书》并推出了“阡陌安全数据集”，旨在与业内伙伴共同探索人工智能时代下的安全行业健康发展新理念、新思路。

　　黄澄清在大会上表示，未来的世界应该是一个人工智能驱动的世界，我们要统筹发展和安全牢牢抓住新一轮科技革命和产业变革的历史机遇，加快人工智能产业创新发展的步伐，推动与实体经济深度融合，达到新水平，推动行业规范发展，实现新突破。

　　王晖强调，人工智能技术的开发和应用必须要考虑到安全问题，应坚持发展与安全并重、坚持权利和义务并重、坚持自主与协作并重，助推人工智能产业未来的发展。

　　谷红勋指出，随着AI和大模型的广泛应用，数据泄露等风险日益凸显，过度采集歧视性算法，滥用深度伪造等问题需要引起注意。“当前中国电信广泛在网信安全领域应用AI，主要集中在云网安全的防护以及反诈方面。”谷红勋直言道，未来的网络安全防守体系最终极有可能是比拼AI能力和算法。中国电信将持续致力于为国家、社会提供数字化转型的安全屏障。

　　本次论坛发起了业界首个共建安全大模型高质量数据集的倡议仪式，天翼安全科技有限公司总经理刘紫千作为代表宣读了《共建安全大模型高质量数据集倡议书》，鼓励安全领域的组织共享其积累的高质量安全数据集，将“数据共享、质量为先、有效流通、合法合规”作为整体指导方针，通过共建安全大模型高质量数据集，促进AI安全产业的合理有序发展。

　　中国互联网协会副秘书长戴炜，北京市通信管理局党组成员、副局长王晖等九位领导嘉宾出席仪式并共同签署了倡议书。业内知名专家、学者，与会嘉宾及媒体记者亲临论坛现场，共同见证这一重要时刻。

　　当前，人工智能产业呈现蓬勃发展势头，安全领域带来新的机遇和挑战。围绕人工智能在安全行业应用的发展情况和研究应用，中关村国家实验室、清华大学教授李丹，国家计算机网络入侵防范中心主任、中国科学院大学教授张玉清，天翼安全科技有限公司总经理刘紫千，天翼安全科技有限公司高级安全研究员危嘉祺发表主旨报告。

　　刘紫千从AI for Security和Security for AI两个方面，分享了AI与安全产业的融合方向以及行业发展现状。他指出，这一轮AI革命的本质是数据驱动安全，海量数据中蕴含的能量转化为生产力成为可能，大幅提升安全运营效能，这是此次AI革命的破局之道。结合安全运营领域存在的痛点，刘紫千强调，大模型应用到安全领域，主要面临准确性、专业性和时效性三方面的难点问题，电信安全当前的愿景是推出及持续运营一个安全领域的ImageNet——“阡陌安全数据集”，其提供统一平台，汇集行业专家，共筑安全语料，服务国家安全。

　　危嘉祺指出，电信安全“阡陌安全数据集”重视数据标准及体系构建，通过数据标注众采平台、模型评测 Benchmark、AI安全攻防练兵场和制定安全数据流通准则，使得数据可以流通统一。

　　李丹围绕“大语言模型在网络安全领域的能力评测研究”的主题，深入评估了当前通用大语言模型在网络安全领域的能力，分析了大语言模型在安全领域的应用场景。

　　张玉清进行了题为《ChatGPT与安全》的主旨报告，通过介绍ChatGPT在安全领域的应用，他指出人工智能当前面临失控的风险，我们既要顺应AI的发展，也应该控制将AI控制在不危害人类利益的范围内使用。

　　在随后的生态伙伴合作分享环节，来自华为、安恒、深信服的嘉宾结合当前人工智能发展趋势和挑战，为大家带来人工智能时代下关于AI安全、大语言模型（LLM）新势能下的安全思考及在大模型时代如何构建安全未来等精彩内容。

　　当前，全球人工智能产业呈现蓬勃发展势头，AI在安全领域的应用也将带来一系列颠覆性的改变。天翼安全科技有限公司（电信安全）致力于数字经济时代安全底座的建设，全力打造安全领域的ImageNet并将持续关注行业政策与产业趋势，期待与业内伙伴联手攻克数据安全难点，共同探索人工智能时代下安全行业健康发展新思路。（曹雅丽）