您当前所在位置:主页 > 信息公开 > 信息公开目录 >

人工智能技术开发人员应遵循的7条道德准则

来源:www.rzshzz.com|发布时间:2020-07-08|浏览次数:

人工智能在过去的几年中取得了长足的进步。用人工智能技术创建的解决方案是无法想象的。但是,人工智能系统有可能发展到可以完全自主地在几秒钟内做出复杂决策的地步。这种进步的阴暗面是,AI技术将获得完全的自主权,超越人类的决定,并可能对人类造成伤害。

人工智能技术开发人员应遵循的7条道德准则

如果不检查这项技术,在人工智能系统变坏的电影中,如《终结者》、《 Wall-E,2001年:太空漫游》和《复仇者联盟:奥创纪元》等电影中演示的场景可能成为现实。因此,调节人工智能技术的潜在无限能力变得必要。

为此,开发人员需要满足一些特定的AI原则,以确保在AI系统的生命周期内不会违反道德规范。这样可以确保AI系统不会伤害任何个人。这些原则可以帮助降低安全风险,提高用户之间的信任度,并有助于通过AI解决方案更好地采用和取得成果。

在开发AI解决方案时,开发人员需要遵循某些原则,以确保软件的安全性不会受到损害,并且该软件将一劳永逸。开发人员可以关注的一些原则包括:

       开发人员需要遵循的道德AI原则

1、以人为本

在概念化AI解决方案时,只有AI系统在整个生命周期中对个人、企业和整个人类都有利的情况下,开发人员才应该继续开发。开发AI解决方案,应该以主要造福和改善人类生活,而不是达到破坏性的目的。

人工智能系统应与人类价值观保持一致,促进人权,尊重个人意见,提高生活水平,挽救生命,甚至保护环境。教育和医疗保健部门是两个最重要的部门,可以从以人为本的AI技术中受益。人工智能解决方案可以帮助提高教育质量,这将帮助学生找到更好的工作机会,进而帮助改善此类人的生活质量。

同样,在医疗保健行业中使用AI技术可以潜在地挽救生命。但是,人工智能技术的使用不应仅限于这两个领域,而可以在企业资源规划、石油和天然气运营、娱乐和环境保护等其他领域得到利用。

2、风险警觉

创建AI系统时应采用基于风险的方法。开发人员应确定与特定AI系统相关的所有风险。并且,只有在风险很小或不存在的情况下,他们才应着手开发AI系统。

例如,当开发人员使用面部识别技术时,他们应该评估该技术可能出错的所有方面。他们应确保面部识别技术不会伤害任何个人。例如,面部识别技术并不是万无一失的,它会导致错误的定罪。因此,开发人员在创建这样的系统时,应确保该技术具有尽可能少的风险。所以,开发人员在使用AI技术时不应对风险意识,评估和管理视而不见。

(来源:互联网)
Copyright © 2002-2020 欧博官网 版权所有 网站地图
主办:市人民政府 承办:市大数据和电子政务管理办公室 维护:市经济信息中心