AI 开发不必"因噎废食"，但必须以伦理为先
本文作者：christina montgomery，ibm首席隐私诚信官；francesca rossi，ibm研究院ai伦理全球负责人
北京2023年5月9日 /美通社/ -- 随着生成式 ai 系统进入公共领域，让世界各地的人们接触到新的技术可能性、影响，甚至是此前尚未考虑的后果。得益于 chatgpt和其他类似的系统，现在几乎任何人都可以使用高级 ai 模型，这些模型不仅能够具有早期版本的检测模式、挖掘数据和提出建议等能力，还能创造新内容、在对话中生成原创的回复等。
ai 开发不必“因噎废食”，但必须以伦理为先
ai 发展的转折点
当生成式 ai 功能的设计合乎伦理、并以负责任的方式推向市场时，它将为企业和社会带来前所未有的机遇，包括：提供更好的客户服务，改善医疗系统和法律服务；以及支持和增强人类的创造力，加快科学研发，并调动更有效的方法来应对气候挑战。
关于ai 的开发、部署和使用及其加速人类进步的潜力，我们正处于一个关键节点。然而，这种巨大的潜力也伴随着风险，例如产生虚假内容和有害文本、泄露隐私，偏见被放大，同时，这些系统的运行也缺乏透明度。因此，合理质疑 ai 对于劳动力、创造力以及人类整体福祉意味着什么，这至关重要。
行业需要新的 ai 伦理标准
最近，一些科技行业的意见领袖联名呼吁，将大型ai 模式的训练暂停 6 个月，以留出时间制定新的ai伦理标准。其意图和动机无疑是好的，但它忽略了一个基本事实：这些系统目前仍在我们的控制范围内，基于它们构建的解决方案也是如此。
负责任的训练，以及基于多方合作、将ai伦理贯穿始终的开发路径，可以使这些系统变得更好而不是更糟。ai技术无时不刻都在演进和迭代。因此，不论是正在使用或是等待上线的ai系统，其训练必须与构建负责任的ai这一目标保持一致。以负责任的ai为先不意味着要暂停ai开发。
持续采用和完善ai 伦理标准和规范，这项工作事关人人。ibm 在多年前就建立了行业最早的 ai 伦理委员会之一，以及全公司范围内的 ai 伦理框架。通过评估当前和未来的技术格局，包括我们的行业定位以及与利益相关方的协作，我们不断加强和完善这一框架。
ibm的ai伦理委员会打造了一个负责任的集中式治理结构，它覆盖ai的全生命周期，在制定明确政策、推动问责制的同时，也能灵活且敏捷地支持ibm的业务需求。在传统的和更先进的 ai 系统开发中，ibm一直践行着这一重要治理结构。我们不能只关注未来的风险，而忽视眼前的治理需要，比如价值对齐（value alignment，即ai在执行任务中实现的价值和用户所希望的价值是一致的）和 ai 伦理；后者也会随着 ai 的发展而不断演进。
除了协作和监督，打造这些ai系统的技术路径应该从一开始就考虑伦理因素。例如，我们对 ai 的担忧往往源于对黑匣子内部发生的情况缺乏了解。因此，ibm 开发了一个监管平台，用于监控模型的公平性和偏见与否，获取数据来源，最终形成更透明、可解释且可靠的 ai 管理流程。此外，ibm的企业级ai战略将信任嵌入整个ai生命周期中，从创建模型、训练系统所使用的数据，到这些模型在特定业务领域的应用。
接下来需要做什么？
首先，我们倡导企业将伦理和责任置于其 ai 议程的首位。全面暂停 ai 训练或是降低ai 伦理的行业优先级，最终将事与愿违。
其次，政府应避免在技术层面对 ai 进行过度监管。否则，这将成为一场打地鼠游戏，阻碍真正有益的、面向未来的创新。我们呼吁世界各地的立法者采取更加高效且精准的监管模式，对高风险的 ai 用例实施严格监管。
最后，在企业如何保护与 ai 系统交互的数据隐私方面，仍然缺乏足够的透明度。 我们需要为用户提供一致的、可落地的个人隐私保护。
最近社会对 ai 的广泛关注，正应了这句话：权力越大，责任越大。与其全面暂停 ai 系统的开发，不如打破协作壁垒，共同打造负责任的ai。
一文深入理解操作系统的进程调度
麒麟970已被曝光！将采用更先进10nm工艺
如何使无人驾驶汽车赢得大众信任？
苏州医工所研制出自助式视力筛查仪及配套的视力健康管理系统
海信5G阅读手机A7 CC版开售：6.7英寸水墨屏
AI 开发不必"因噎废食"，但必须以伦理为先
传英伟达AI芯片将迎重大变革：Blackwell B100 GPU采用Chiplet设计
大屏手机有哪些？小米max,opppor9plus开启“大屏时代”！
「董工说煎药」第5期：煎药机的巡检
华为mate9最新官方海报发布
美普思推出多线程内核C2-270 防撞系统
方太水槽洗碗机JBSD2T-Q8评测 比手洗干净不费水
东芝216D6C维修实例
海伯森专访：达业内领先水平，具有替代进口产品的潜质
用机器学习来放大这些信号
基于ARM的六相位交通信号机设计
2020年全球预计将会有170家运营商商用5G网络用户数超过1.7亿
北京汽车上半年实现营收990.5亿元，净利润同比增长31.9%
使用 OpenUSD 和数字孪生打造沉浸式活动
华为云CDN，助力企业数字化转型
北京2023年5月9日 /美通社/ -- 随着生成式 ai 系统进入公共领域，让世界各地的人们接触到新的技术可能性、影响，甚至是此前尚未考虑的后果。得益于 chatgpt和其他类似的系统，现在几乎任何人都可以使用高级 ai 模型，这些模型不仅能够具有早期版本的检测模式、挖掘数据和提出建议等能力，还能创造新内容、在对话中生成原创的回复等。
ai 开发不必“因噎废食”，但必须以伦理为先
ai 发展的转折点
当生成式 ai 功能的设计合乎伦理、并以负责任的方式推向市场时，它将为企业和社会带来前所未有的机遇，包括：提供更好的客户服务，改善医疗系统和法律服务；以及支持和增强人类的创造力，加快科学研发，并调动更有效的方法来应对气候挑战。
关于ai 的开发、部署和使用及其加速人类进步的潜力，我们正处于一个关键节点。然而，这种巨大的潜力也伴随着风险，例如产生虚假内容和有害文本、泄露隐私，偏见被放大，同时，这些系统的运行也缺乏透明度。因此，合理质疑 ai 对于劳动力、创造力以及人类整体福祉意味着什么，这至关重要。
行业需要新的 ai 伦理标准
最近，一些科技行业的意见领袖联名呼吁，将大型ai 模式的训练暂停 6 个月，以留出时间制定新的ai伦理标准。其意图和动机无疑是好的，但它忽略了一个基本事实：这些系统目前仍在我们的控制范围内，基于它们构建的解决方案也是如此。
负责任的训练，以及基于多方合作、将ai伦理贯穿始终的开发路径，可以使这些系统变得更好而不是更糟。ai技术无时不刻都在演进和迭代。因此，不论是正在使用或是等待上线的ai系统，其训练必须与构建负责任的ai这一目标保持一致。以负责任的ai为先不意味着要暂停ai开发。
持续采用和完善ai 伦理标准和规范，这项工作事关人人。ibm 在多年前就建立了行业最早的 ai 伦理委员会之一，以及全公司范围内的 ai 伦理框架。通过评估当前和未来的技术格局，包括我们的行业定位以及与利益相关方的协作，我们不断加强和完善这一框架。
ibm的ai伦理委员会打造了一个负责任的集中式治理结构，它覆盖ai的全生命周期，在制定明确政策、推动问责制的同时，也能灵活且敏捷地支持ibm的业务需求。在传统的和更先进的 ai 系统开发中，ibm一直践行着这一重要治理结构。我们不能只关注未来的风险，而忽视眼前的治理需要，比如价值对齐（value alignment，即ai在执行任务中实现的价值和用户所希望的价值是一致的）和 ai 伦理；后者也会随着 ai 的发展而不断演进。
除了协作和监督，打造这些ai系统的技术路径应该从一开始就考虑伦理因素。例如，我们对 ai 的担忧往往源于对黑匣子内部发生的情况缺乏了解。因此，ibm 开发了一个监管平台，用于监控模型的公平性和偏见与否，获取数据来源，最终形成更透明、可解释且可靠的 ai 管理流程。此外，ibm的企业级ai战略将信任嵌入整个ai生命周期中，从创建模型、训练系统所使用的数据，到这些模型在特定业务领域的应用。
接下来需要做什么？
首先，我们倡导企业将伦理和责任置于其 ai 议程的首位。全面暂停 ai 训练或是降低ai 伦理的行业优先级，最终将事与愿违。
其次，政府应避免在技术层面对 ai 进行过度监管。否则，这将成为一场打地鼠游戏，阻碍真正有益的、面向未来的创新。我们呼吁世界各地的立法者采取更加高效且精准的监管模式，对高风险的 ai 用例实施严格监管。
最后，在企业如何保护与 ai 系统交互的数据隐私方面，仍然缺乏足够的透明度。 我们需要为用户提供一致的、可落地的个人隐私保护。
最近社会对 ai 的广泛关注，正应了这句话：权力越大，责任越大。与其全面暂停 ai 系统的开发，不如打破协作壁垒，共同打造负责任的ai。
一文深入理解操作系统的进程调度
麒麟970已被曝光！将采用更先进10nm工艺
如何使无人驾驶汽车赢得大众信任？
苏州医工所研制出自助式视力筛查仪及配套的视力健康管理系统
海信5G阅读手机A7 CC版开售：6.7英寸水墨屏
AI 开发不必"因噎废食"，但必须以伦理为先
传英伟达AI芯片将迎重大变革：Blackwell B100 GPU采用Chiplet设计
大屏手机有哪些？小米max,opppor9plus开启“大屏时代”！
「董工说煎药」第5期：煎药机的巡检
华为mate9最新官方海报发布
美普思推出多线程内核C2-270 防撞系统
方太水槽洗碗机JBSD2T-Q8评测 比手洗干净不费水
东芝216D6C维修实例
海伯森专访：达业内领先水平，具有替代进口产品的潜质
用机器学习来放大这些信号
基于ARM的六相位交通信号机设计
2020年全球预计将会有170家运营商商用5G网络用户数超过1.7亿
北京汽车上半年实现营收990.5亿元，净利润同比增长31.9%
使用 OpenUSD 和数字孪生打造沉浸式活动
华为云CDN，助力企业数字化转型