中国《人工智能安全治理框架》1.0版正式发布 规范各类AI、算法

针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，《框架》提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，为促进人工智能健康发展和规范应用，提供了基础性、框架性技术指南。

这也是目前各国、机构都在寻求规范的领域，因为近两年AI技术发展迅速，目前已经深入到各方各面，如果没有规范管理，在灰色地带很容易产生一些风险。

今年早些时候，欧盟就批准了《人工智能法案》，其中严格禁止“对人类安全造成不可接受风险的人工智能系统”。

包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等，还规定人工智能公司要对算法进行人为控制，提供技术文件，并建立相应的风险管理系统。