人工智能安全与法治导则发布

  中化新网讯 8月30日,2019世界人工智能安全高端对话和2019世界人工智能大会法治论坛联合发布《人工智能安全与法治导则(2019)》,这是国内首个人工智能安全发展的导则。《导则》明确,2019年度的重点是算法安全、数据安全、知识产权、社会就业和法律责任五个方面。对人工智能发展的安全风险作出科学预判,提出人工智能安全与法治应对策略,守卫人工智能发展的“安全基因”。

  在算法安全上,《导则》指出了3种风险,包括算法模型存在的技术性缺陷可能导致人工智能系统无法正常运行,算法设计者自身存在价值偏见导致人工智能系统无法正常运行,以及因为算法日趋“黑箱化”可能导致技术失控等问题。《导则》提出,应通过政策和法律引导,开展人工智能算法安全的评估检测;推动技术伦理的算法导入,要求人工智能开发者设计高可解释性的智能系统;同时,加强智能算法的透明监督,人工智能企业、行业应建立相应的算法监管体制,保持与政府监管的协同。

  数据安全则涉及数据隐私、数据保护和数据质量三方面,《导则》强调,要加强数据安全立法和执法,对采集和使用敏感个人数据的人工智能企业/行业须加强法律和行政监管;丰富人工智能技术发展路径,通过政策手段支持基于小数据的人工智能算法技术;并提升人工智能数据资源管理水平,促进公共部门和私营部门数据资源共享和流通。

  对利用人工智能进行创作而产生的知识产权问题,《导则》提出,将加强人工智能算法的专利保护,鼓励人工智能数据开放性保护,并促进人工智能作品的知识产权化。对因人工智能的应用导致社会结构性失业等问题,《导则》从法律层面提出了应对策略,包括出台法律法规,对面临人工智能技术替代的行业和职业进行监管和救助;加快人工智能新兴劳动力培养;加强人工智能时代社会收入分配调整,对遭遇人工智能冲击的传统行业劳动力进行保护和救助,提高社会二次分配的合理性与精准性。

  人工智能的法律主体模糊、人工智能责任的界定复杂,是困扰法律法规介入人工智能进行有效监管的难题。《导则》明确,在当前的弱人工智能时代,人工智能产品本身不具有独立的法律主体资格,人工智能产品的定位是“工具”,人工智能设计者、生产者、运营者、使用者承担法律主体责任,并按照过错程度分担相应法律责任。


关键字:人工智能安全
相关推荐

济宁新材料产业园区:智慧平台筑牢安全生命线

​在连续11年稳居“中国化工园区20强”的背后,一座聚焦发展高端新材料产业的综合型化工园区应如何筑牢安全发展的生命线?济宁新材料产业园区用一套深度融合人工智能、云计算技术的综合智慧应急监管平台给出了答...

2025-06-30     中国化工报

油气巨头人工智能应用百花齐放

  近段时间以来,石油和天然气巨头正加快应用人工智能技术,以提升安全性、削减成本,并优化运营各个环节的表现。埃克森美孚、雪佛龙、帝国石油、沙特阿美和阿布扎比国家石油公司等油气巨头们正展示着人工智能驱动...

2025-06-09     中国化工报

神马股份:为“网络安全”筑牢“防火墙”

今年以来,神马股份加快智能化建设步伐,充分依靠云计算、大数据、物联网、移动互联网、人工智能等新一代信息技术,积极搭建智能化平台,打造新一代数智工厂……随着越来越多装置设备的数据“联网上云”,网络安全工...

2025-05-20     河南石化新闻

山西省政协委员刘炳辉建议:加快人工智能赋能消防安全迅速数字化转型

近年来,我国火灾形势虽然保持了稳定向好的态势,但总体还处于爬坡期,特别是近期先后发生的多起火灾事故,给人们的生命和财产安全带来了严重的影响和危害。

2025-01-21     山西能源和化工

为油气安全生产打开智慧“天眼”

作为智慧“天眼”,近年来北斗系统不断与大数据、云计算、人工智能等前沿技术深度融合,从探索宇宙的导航技术,蜕变成能源安全的数据底座。从单一应用到赋能全产业链,北斗系统的应用边界不断拓展,为油气等各行各业...

2024-12-25     中国化工报

山东布局“8+X”未来产业创新体系

12月19日,山东省人民政府办公厅发布《关于科技创新引领未来产业布局培育发展新质生产力的实施方案》(以下简称《方案》),提出要以人工智能、“元宇宙+”等为主要方向打造自主可控、系统完备、先进安全的“8...

2024-12-25     中国化工报