经济日报：严防生成式人工智能安全风险

(资料图)

不久前出台的《生成式人工智能服务管理暂行办法》，意在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。可见，当前如何更好地防范生成式人工智能安全风险，做到既鼓励相关领域创新的“七十二变”，又要勒紧保护用户隐私和消费者权益的“紧箍咒”，值得分析。

眼下，获益于丰富多样的数据资源、参数以及不错的学习能力，大模型有效增强了人工智能的通用性。从与人类畅聊到撰写文案、合同，从监测并检验程序安全漏洞到辅助创作影视剧……生成式人工智能正处于快速发展的过程中。而我国的人工智能大模型也已经达到了一定水平。前不久发布的《中国人工智能大模型地图研究报告》显示，中国人工智能大模型正呈现蓬勃发展态势。据不完全统计，截至目前，全国10亿级参数规模以上的大模型已发布79个。研究表明，我国在大模型方面已建立起涵盖理论价值和软硬件技术的体系化研发水平。不过也要看到，生成式人工智能技术是把“双刃剑”，其在推动社会进步的同时，也有可能带来技术、设计、算法以及数据等方面的安全风险。因此，必须做好前瞻研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德，在重视防范风险的同时，同步建立容错、纠错机制，努力实现规范与发展的动态平衡。

一方面，抓住生成式人工智能最根本的元素——数据和算法，以此为突破口，坚持问题导向，在创新思维上下功夫，把控大数据源头治理，提前布局和构建系统性大数据防火墙，控制和防范数据泄密。应及时启动并优化国家级自主研发数据库系统和备份系统，抓紧布局和研发人工智能大数据控制系统、分级分层享用系统、网络风险防范系统以及由此产生的AI智能管控监督架构系统。

另一方面，采取多种举措推动生成式人工智能的技术发展与治理。鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。此外，还要从速从严构建和推广实施生成式人工智能相关知识的普及宣传，尤其是条例、法规宣传和监督机构的完善和构建。

（文章来源：经济日报）

标签：