问题一:人工智能创业伦理的新特征
创业与伦理是内在融合的,人工智能创业伦理与一般的创业伦理相比,有一些新的特征。一方面,相比于传统创业项目的产品,人工智能产品的开发过程对公众而言,更加复杂,更难以理解。一些较为高级的人工智能产品,本身就有了自我学习,自我开发进化的能力,其发展进化的过程,即使是开发者都难以理解。因此,人工智能产品质量的可追溯性很难得到保障;就有点类似于人类智能,你看某个人面无表情,可能内心却正百转千回。高级人工智能也会这样,他们的决策基础是海量数据,然后在海量数据中做关联、推理。虽然大数据本身是自然形成的,但这个数据生成的过程中其实有人的心理因素在里面,这就可能会导致基于大数据的关联与推理可能是错误的。这种错误可能导致对用户权利的侵犯,还可能导致决策的不公平。
举一个例子,某人父亲这一段时间后背持续疼痛,他上网一搜,发现肺癌的早期征兆与此相同,于是他就又搜过了肺癌。他在网上搜索浏览的足迹被相关的公司采集到了,并共享给了保险公司。这个人去买保险,把所有的疾病都已经告知,但其中没有肺部疾病。但保险公司通知他去指定地点体检,重点检查肺部。这里,就存在一个基于大数据做决策对人权的侵害以及决策不公平的问题。
另一方面,人工智能产品的应用更为广泛,由于产品具有一定的智能,但这种智能又是开发者和制造者所赋予的,而智能的使用权又归属于客户,而到了强人工智能时代,人工智能产品本身就能决策。一旦在使用过程中由于安全故障出现伤害,责任的分担问题很难解决,传统的法律与伦理框架很难有效约束。因此,相比于传统的创业项目,创业潜在的社会风险更大、不确定性更强,伦理规范更难确立。
我们可以把这个问题进一步细分。人工智能创业伦理,既有创业伦理的共性,是一切创业者在创业过程和活动中都可能面对的伦理情境,伦理议题、伦理冲突与伦理选择。人工智能与人类智能相对应,是由人类创造的智能,随着技术的进步,人工智能很可能自我进化,逐渐由当前的弱人工智能转变为强人工智能,在这个过程中,人工智能产品从概念的生成、到研发、中试、量产、销售、应用和报废的全生命周期中会出现许多其它产品领域未曾出现的问题,这为人工智能创业伦理增加了新的特性,也给创业者带来了新的挑战。比如自动驾驶汽车,在系统设计的时候,要考虑是仅仅遵守交通法规就足够了吗?如果正确行驶的道路上有障碍物,是否需要逆向行驶在对面的车道上以避开障碍物?假使对面车道 上有人呢?在行人与乘客之间,应该先救谁?这些都应该是人工智能创业应该思考的问题。
问题二:人工智能创业伦理对领导者的新要求
伦理决策要求
一个伦理行为的形成需要具备四个组份,分别是伦理敏感性,也被称为伦理意识,伦理判断能力,伦理意图与伦理品质。作为创业者,拥有伦理决策与行为能力是非常重要的。人工智能创业,创造出的人工智能应该是创造有益于人类而不是不受人类控制的人工智能,这是人工智能创业者的伦理底线。创业者也有义务保证所创造出来的人工智能产品高度健全,具有鲁棒性,不会发生故障或受到黑客攻击。假使一辆无人驾驶汽车正行驶在路上,突然遭遇黑客攻击,四处乱撞,那将是一个非常可怕的场面。又或者一个陪伴机器人,在所陪伴的老人突然晕倒时,机器人在报警时出了故障,可能就延误了治疗。所以,创业者要保证人工智能产品的质量与安全性。
作为创业者,是一个组织的灵魂,整个组织的伦理氛围由创业者来塑造。尤其是人工智能创业,对研发人员,制造者的伦理素质要求更高。不管是算法歧视,还是数据的有偏性,都会导致对特定群体的不公平。如果由于制造过程的工人的不负责任导致的产品缺陷,还可能对顾客造成伤害,甚至引发安全问题。甚至对于人工智能产品的使用者,创业者都应该提前考虑到产品应用上可能会出现的误用乃至恶意应用,而在技术中想办法提前避免事情的发生。所以,一家创业公司,仅仅创业者具有伦理决策与行为能力是远远不够的。还需要创业者具备相应的伦理领导力。
伦理领导要求
所谓伦理领导,是指管理者个体不仅能够自己做出伦理决策,而且能够培育组织的伦理氛围,带动他人做出伦理决策。要成为伦理领导,必须进行伦理管理——向组织的其他人传达能够引起下属关注并影响下属思想和行为的伦理信息,成为一名伦理型经理。伦理型经理应为下属制定现实的目标,如果目标高不可及,下属就可能会选择游走在法律与伦理之外行事,以实现高目标;以一种对下属清晰可见的方式从事伦理行为,起着模范带头作用;他们定期与员工交流伦理标准、原则和价值观;他们持续地利用奖惩系统使员工遵从伦理标准;在组织内部开展伦理培训,事先控制;进行伦理审计,事后矫正;组织中设立伦理热线,帮助员工解决伦理冲突。海尔张瑞敏当前让下属怒砸质量不合格的冰箱,传达的就是质量第一的理念。这种道德垂范的作用非常强大。创业者作为一个组织的灵魂,需要具备伦理决策与行为能力,塑造组织伦理氛围;还要具备伦理领导力,进行伦理管理,发挥道德垂范作用。
问题三:提升人工智能创业伦理领导的途径
人工智能创业伦理要求领导者不仅要“独善其身”,更要“兼济天下”。首先,在创业者成为创业者之前,就应该在学校教育或各种管理与领导力培训中加上伦理方面的内容。3月,教育部工程硕士专业指导委员会将工程伦理设为工程硕士的必修课,这对于学生伦理敏感性和伦理判断能力的提升是至关重要的。我们假设,这些硕士研究生群体中有部分将来创业,那么在学期间的工程伦理教育对他们在创业过程中做伦理决策和行为是非常有益的。所以,在创业教育中增加伦理方面的教育内容,在人工智能教育中增加伦理方面的教育内容,都可能会较大幅度提升人工智能创业者的伦理意识与伦理判断能力。
著名哲学家布贝尔曾经也说过“名副其实的教育,本质上就是品格教育”,学校教育对于一个人世界观与价值观的确立有非常大的影响,所以非常有必要在当前的教育体系中增加伦理教育的内容。学校在各种创业竟赛区中强制加入伦理维度或伦理环境,以提高潜在创业者的伦理敏感性,这也有助于提高人工智能创业者的伦理决策和伦理领导力。就像不少创业比赛团队的创业计划书,一般都会有专门的一个章节来论述“企业社会责任”,这也与伦理维度和伦理环境直接相关。
人工智能创业也是创业,创的也是企业,所以人工智能创业伦理必然包括传统的企业社会责任,既要履行一个企业的经济责任,同时要超越经济责任,履行社会责任、环境责任。除了对企业,对员工负责,还要对公众,社区与环境负责。但人工智能创业伦理又不完全等同于企业社会责任,由于人工智能产品的复杂性及应用的广泛性,需要创业者在企业社会责任的基础上,对产品可能引发的社会风险、对企业伦理氛围的培育做更多的思考,制定出更多的保障措施。
最后,即使伦理教育有了较高的普及面,人工智能创业者也可能在创业前未经历过任何伦理方面的教育。在缺乏教育的前提上,由创业者自身来培育自己的伦理敏感性和伦理判断能力是非常难的,因为他有可能根本没有意识到行为与决策中的伦理维度。所以,可以在申办公司时,要求创业者填写一份问卷,问卷中会涉及一些与较为通过的伦理议题以及伦理领导的情境。问卷的结果并不会作业创业申办公司的参考条件。但填写问卷的过程中, 创业者会了解到可能会遇到的伦理情境,从而对此有了一定的敏感性。
问题四:平衡人工智能创业伦理治理的思考
6月17日,国家新一代人工智能治理委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》,这里特别强调“负责任”这个词。我们知道人工智能创新是一个高速开发迭代的过程,如果没有伦理规范,人工智能技术最后不受人控制,那这所带来的社会安全风险也许对人类社会是一种毁灭。但如果伦理规范过严,又会抑制创新,所以面对这样的矛盾我们该如何破解呢?
其实这里面涉及到一个人工智能创业的底线伦理。哪些是人工智能创业的伦理红线,是坚决不能触碰的。过去创业领域学者提出可持续创业要兼顾“生态、社会和经济”三重底线的原则,那今天我们所说的人工智能创业的“底线伦理”具体又是指什么呢?
创业者在创业过程中,应该表现出职业美德,履行自己的义务责任。创新过程中,对产品的研发、生产、销售、使用等各个环节,尽可能地从技术、社会、环境等角度全方位去思考,不能仅仅考虑经济利益。创新也好,创业也好,都必然有风险,这个风险不仅是针对投资方或创业者的,还包括社会风险,环境风险。人工智能出现,简单重复性的劳动很容易被替代,相应的从业者就会面临失业。当规模达到一定程度时,社会就可能会产生动荡,就像工业革命时间,传统纺织工人所面临的窘境一下。另一方面,社会风险、环境风险的识别往往是创业者的思维与能力难以迄及的。比如说,从政府的角度出发,应该为创业者搭建信息平台,积极构建交流网络,拓展创业者的信息渠道,增强创业者对社会风险、环境风险的识别能力。
创业者往往会更关注于经济利益,这无可厚非。但创业者应当有倾听不同意义的胸怀,能够与不同领域、不同部门的人员合作,将伦理做为创业决策的一个维度,去共同探讨在产品全生命周期中,可能会存在哪些社会风险与环境风险,其中隐含着哪些伦理问题,是否有解决的途径等。
人工智能目前已经成为各国科技竞争的焦点,其势已不可阻挡。而人工智能创业也是大势所驱,必然势如破竹。由于人工智能产品复杂,应用广泛,而如今又成热潮,难免会出现良莠不齐的创业公司,这很可能会增大由于人工智能创业所导致的社会风险,所以对人工智能创业开展相应的伦理规范研究与应用,非常有必要。人工智能的硬技术与人文智慧的软思想相互碰撞、融合,人工智能产品的开发与应用才更能顺应我们这个时代的发展浪潮,才能滋生出更多优秀的人工智能创业公司,为人类谋求更多的福祉。
【尾声】结束了与姜卉教授关于人工智能创业伦理四个问题的探讨,下周我们继续探索人工智能创业实践以及教学科研中的其他问题,欢迎留言和交流。
作者简介:
如果觉得《AI创业丨人工智能创业伦理四个问题的探讨》对你有帮助,请点赞、收藏,并留下你的观点哦!