为降低人工智能发展过程中可能存在的技术风险和伦理隐患,近日,北京智源人工智能研究院在北京专门成立人工智能伦理与安全研究中心,着力加强人工智能伦理与安全研究,引导行业健康发展,中国科学院自动化研究所曾毅研究员任研究中心主任。
曾毅介绍,研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究,目前主要包括四大方面:
一是低风险机器学习模型与平台的构建,建立机器学习模型安全性的评估体系;
二是开展符合人类伦理道德的智能自主学习模型研究,实现人工智能行为与人类价值观的校准,并在模拟环境与真实场景中进行验证;
三是建设数据安全示范应用系统,建立数据基础设施、数据分级、权限控制、数据审计,最大限度防止数据泄密,降低风险;
四是构建人工智能风险与安全综合沙盒平台,建设自动检测平台,针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面,对人工智能产品及应用进行风险与安全综合检测与评估,引导行业健康发展。
2014 英特尔借四大机遇酝酿反击
中科大实现复杂度达48个量子比特的玻色取样量子计算
新功能发布 | TSMaster的MATLAB自动化控制模块
UPS零地电压的概念和降低方法
全产业链积极布局,Mini/Micro LED进展情况汇总
怎么有效较低人工智能安全和伦理问题
日本制裁南韩 DRAM价格恐暴涨
早报:三星有望获得苹果M1芯片部分代工订单 因台积电5nm工艺产能紧张
删库跑路,如何进行数据恢复
永磁电机的优点与缺点
PCI总线的地址空间分配
电网应该像互联网一样由数据驱动
iQOO 7将于今晚正式发布,搭载骁龙888
Credo推出Seagull 452系列高性能光DSP芯片
高防服务器是什么_高防服务器有什么用
程序员的职业生命到底有多长 核心竞争力是什么
交换机采用155Mbit/s中继对通信网络带来的影响
中宇豪公司成功完成欧盟CE认证的更新
视频监控系统已向智能化方向发展
应用材料公司AIx平台依托大数据和人工智能的力量,加速半导体技术从实验室到晶圆厂的突破