阿里首席技术官程立:科技公司的技术创新和责任担当

刘峰
2022-09-27 14:43

9月27日消息,阿里巴巴集团首席技术官(CTO)程立在不久前举行的2022世界人工智能大会上,发表了题为“科技公司的技术创新和责任担当”的主题演讲。

format-jpg

图源:阿里研究院

阿里巴巴集团官网公开资料显示,程立,自2019年12月起担任阿里巴巴集团首席技术官。加入阿里巴巴集团前,程立历任以下职务:2014年至2019年,任蚂蚁集团首席技术官,2018年至2019年,兼任蚂蚁集团国际事业群首席运营官,2007年至2014年,任支付宝首席架构师,2005年至2007年,任支付宝开发工程师。

以下为程立演讲全文:

01 数字大科技时代的科技伦理

相信大家和我一样都深有体会,数字科技的快速发展,让我们进入了一个真正的大科学时代。大数据技术成为一个新的科研范式,广泛应用在生物、材料、物理等很多方面,把过去不怎么相关的科学门类连成了一个整体。这带来了两个大的影响:

第一,技术可能会对人的身体、思想产生影响,人本身的概念在科技时代下出现了挑战。

第二,科技对于产业产生了全面深入的影响,数字世界和物理世界、生物世界高度融合。

这些都给整个社会带来了很多新的问题。拿一辆车来打个比方,如果说科技创新是发动机和油门,那科技伦理就是方向盘、安全带和刹车。在车速低的时候安全带、刹车可能不那么重要,但是车速高的时候,方向盘、刹车和安全带的重要性就非常凸显了。科技企业必须非常重视科技伦理,把科技伦理作为技术发展的一个非常重要的方向考虑。

阿里巴巴在进行科技创新的同时,也一直在思考科技伦理对我们的影响,对整个社会的影响。我们认为,首先要摆正态度,才能够真正把科技伦理这件事情落到实处。

第一是求真务实,面对新问题的时候,要去解决具体的问题,必须求真务实而不是空谈;第二是知行合一,做的和说的必须一致;第三要有敬畏之心,不要简单地用过去的想法去理解和处理问题,必须不断调整自己,要用全新的视角去思考,要时时自省;过程当中企业必须非常开放,自律和他律结合。

我在阿里15年,也见证了集团在这个方向思考越来越深入的过程。

早期阿里技术团队的价值观是技术创造新商业,那时候的思考重点是技术如何给商业带来不一样的创新点,商业创新是我们认为可以对社会产生的价值。

继续下来,我们发现,科技不仅能通过商业为社会创造价值,同时也能够帮助解决很多大家关注的社会问题。所以我们把科技和公益,特别是和“人人三小时”公益相结合,每一位阿里巴巴工程师都会想办法用科技去解决社会上有价值的问题。比如让所有人都能平等享受科技便利的“信息无障碍”,向青少年提供科学系统的毒品预防教育知识的“青骄第二课堂”;和公安部合作的儿童失踪信息紧急发布平台。

随着平台责任越来越大,我们提出了“人人受益、责任担当、人人共享”的好科技概念。我们的科技团队开始更多地参与绿色低碳相关的技术创新,参与到乡村振兴技术官的项目里,为乡村提供更有力的技术人才支撑,助力社会去解决更广范围的一些问题。

作为一家企业,我们关心的不仅是客户,还有整个社会、环境和未来。我们希望用好科技去托起阿里巴巴作为一家有责任的好公司的未来。

前段时间,阿里巴巴正式发布了新的ESG报告,涵盖“修复绿色星球”“支持员工发展”“服务可持续的美好生活”“助力中小微企业高质量发展”“助力社会包容和韧性”“推动人人参与的公益”和“构建信任”七个方向。科技方向和科技伦理也是支撑这7个方向做好的重要基础。

02 阿里巴巴的科技伦理准则

在科技伦理的治理上,我们提出了“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大准则。

format-jpg

图源:阿里研究院

这其中,最重要的是以人为本的价值主张,这一点也是和行业高度共识的。这背后代表着一个根本思考,当机器和人发生冲突时该怎么去选择?我们的答案非常明确,永远以人为中心,落到具体的业务,始终坚持以用户为中心,以人类整体长期的福祉为目标,把对人的尊重和关怀能够放在第一位,这是所有科技伦理准则最重要的基础。

其次是两个和科技方法相关的准则:

第一是可信可控,让从事的科技活动和开发运营的科技系统具备应有的透明度和可解释性;让用户自主决定是否采纳、终止和退出人工智能相关的交互和服务。我们也要努力建立起人工智能的问责机制,确保能够在关键环节做到自律和自省。科技系统不断往前进化和发展,只有做到可信可控,出现问题才能去问责、防止、解决,才能保证它未来的发展不会失控。

第二是开放共治,科技伦理是一个非常复杂的问题,对于阿里巴巴这样的平台企业,我们不但关心在自己内部发生的相关问题,也同时关心整个生态内科技伦理相关的问题。我们希望能够建立起多方协同的合作机制,打造负责任、可持续的科技。探索建立一个开放和敏捷的治理机制,持续学习,不断探索企业自律、行业共治与监管规范相结合的解决方案。

接下来是三个具体的科技原则:

第一,普惠正直。阿里要高质量发展,背后最核心的是客户第一,是为客户创造价值。这里的客户指的是所有的利益相关者,过程中我们必须尊重和服务好全体利益相关者,避免歧视与偏见,充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案,切实保护好相关主体的合法权益。

其次,安全可靠。阿里巴巴是一家服务数亿消费者和数千万商家的平台公司,从公司创立第一天起,我们就把系统的安全可靠作为最重要的一个基石,这是刻在阿里巴巴技术基因里的。这要求我们在进行科技系统设计时,充分考虑安全、鲁棒和稳健性,减少并努力避免系统因缺陷或滥用而引致的对用户的伤害,努力保证科技系统满足高性能标准。

第三,隐私保护。这是必须独立提出来、并落实到实际工作中的一个准则。必须充分尊重个人信息知情、同意等权利,依照合法、正当、必要和诚信原则处理个人信息,过程中也要充分保障个人隐私与数据安全,不得窃取、篡改和泄露个人信息,不得损害个人合法的数据权益和隐私权。

03 多元协同 共同前行

准则的建立非常重要,但如何落实下去?怎样保证不断出现的技术创新、不断发布的新产品都能够符合这些准则?在阿里内部,我们是这么思考和行动的:

阿里科技伦理治理模式

format-jpg

阿里巴巴科技伦理治理委员会成员

图源:阿里研究院

首先,阿里科技伦理治理模式包括了三个方面,组织层面最核心的是成立阿里巴巴科技伦理治理委员会,这是阿里巴巴科技伦理方面的最高决策机构,由多个不同专业、不同视角的同事们共同组成委员会,一起进行科技伦理方向的制度建设和治理体系建设,对一些关键问题做出关键决策,影响所有的业务部门更好地去做科技伦理治理工作。

委员会下设四个工作组:科技组,负责可用可靠可信可控方面技术的研究和产品工具建设;伦理组,负责科技伦理相关的理论&政策研究;治理组,围绕科技伦理相关的重点领域进行评估与治理,用制度和工具,把科技伦理治理落实到日常每一个科研活动中去;传播组,把科技伦理的准则、文化、意识落实到团队里去,让阿里巴巴每一位工程师、每一位技术同学都要了解和认同科技伦理治理的准则,并且能够把它运用到工作里去。

format-jpg

阿里巴巴科技伦理治理顾问委员会成员

图源:阿里研究院

同时我们意识到,光靠自己的视角去做还不够,还需要引入外部视角,引入外部监督机制,所以我们还成立了阿里巴巴科技伦理治理顾问委员会,引入7位行业顶尖专家担任顾问委员,对科技伦理问题给出相应指导,共同探讨前沿问题。这是阿里巴巴科技伦理治理最核心的两个组织。特别感谢各位老师成为科技伦理治理委员会的一员,帮助阿里巴巴在科技方面想得更远、做得更实。

在职能方面,这两个组织会从四个方向入手进行具体治理,包括数据合规和伦理治理、算法合规和伦理治理、技术的合规和伦理治理、以及针对特定行业相关的合规和伦理治理。

阿里科技伦理治理机制

在治理方法上,我们正在建立相应的科技伦理分级制度和具体落地执行的规范。按照分类分级管理、个案专家研判、类案参照治理、不断校验迭代的方式,让更多参与者加入到科技伦理治理中,及时识别风险、进行有效管控,在实践中优化治理,以适应技术发展与外部环境变化。

其中,很重要的是需要建立一个能够发现和沉淀use case的机制。问题出现之后,我们将采用分级分类方式,推进快速判断,高风险上升到科技伦理治理委员会进行决策。

过程中所有的典型案例,我们都会积累沉淀,指导后续的同类场景,同时结合技术和法律政策变化,不断更新迭代,让治理变得更加清晰。

阿里科技伦理风险能力建设

在行动上,委员会重点着手风险能力建设和技术能力建设。风险能力建设,包括建设算法评估、风险检测、干预机制的全生命周期风险管理流程,以及技术安全性、鲁棒性、公平性、可解释与可干预性等科技伦理审查和治理工具。现阶段我们会特别关注和算法相关、风险检测相关、干预机制建设相关的,所有能力建设必须产品化形成相应的平台,包括数据合规监测的平台,鲁棒性的训练平台,安全扫描监测、多维度主动风险识别、用户反馈、风险大盘。

技术能力建设,包括增加在隐私保护、安全可靠、可信可控等关键方向前沿技术的布局和探索。例如大幅降低了隐私保护计算技术开发与部署难度的FederatedScope技术,能够解决数据可用不可见的安全多方计算平台Cheetah。对于一些新涌现的深度合成问题,我们也有一些创新的技术方案。通过核心技术的突破,在更高水平上解决科技伦理的问题。

1、该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
阿里巴巴集团首席技术官(鲁肃)分享了主题为“双11的再进化 阿里巴巴好科技的新起点”的演讲。
6月10日消息,在2021全球智慧物流峰会现场,阿里巴巴CTO透露,阿里正在研发无人卡车。据悉,阿里巴巴集团CEO张勇在2016年说过:无人驾驶是未来的发展方向,但结合国内交通的现状,无人驾驶要想在中国普及还需要很长的路要走。
5月6日消息,据《雪豹财经社》,充当各业务技术中台的阿里CTO线近日完成组织架构调整。据悉,阿里CTO线的前身为平台技术事业群,是独立于具体业务的技术研发团队,充当阿里的技术中台,主要为淘系电商提供技术服务。知情人士,原阿里CTO吴泽明将出任爱CEO,继续向集团CEO张勇汇报。去年12月,阿里巴巴集团董事会主席兼CEO张勇发出全员邮件,宣布阿里集团一系列组织变化,任命了阿里巴巴的新首席人力官和新首席技术官。
7月28日消息,阿里巴巴集团日前向美国证券交易委员会 提交20-F年报。文件披露,阿里健康首席执行官、执行董事兼董事会主席朱顺炎,以及阿里副总裁、工业电商负责人Hai WANG(汪海)成为新的阿里巴巴合伙人。而Felix Xi HU(胡喜)不再是阿里巴巴合伙人。据悉,胡喜于2007年加入支付宝,于2017年正式晋升为阿里合伙人。胡喜短暂出任蚂蚁金服CTO,目前其已从阿里体系离职。
7月25日消息,据雪豹财经社获悉,为阿里提供技术服务的子公司爱技术被短暂划归为“1+6+N”中的N,目前在组织架构上已重归阿里巴巴控股集团。爱CEO仍由吴泽明担任,继续向集团CEO汇报。一名阿里高P表示,此举并非表明阿里要“重建中台”,中台的削减实质上已经完成。原技术中台已将适合下放具体业务的团队并入各子集团集团CTO目前空缺。
接近汤兴人士向《中国企业家》透露,汤兴离职为个人原因,后续或将创业。据悉,汤兴于2019年8月加入阿里,后在大淘宝全面负责淘系用户产品与技术,直接向蒋凡汇报。2019年8月,汤兴从爱奇艺离职加入淘宝,出任阿里巴巴集团淘系技术负责人,并在2019年“双11”期间,担任技术总指挥。他带领“双11”团队完成一场艰难的变革战役,实现了核心交易系统100%上云。
3月1日消息,阿里巴巴集团CEO吴泳铭向本地生活集团全体员工发布内部信,宣布本地生活集团董事长兼饿了么CEO俞永福将于阿里本财年结束时卸任他在本地生活集团的管理职务。饿了么董事长由本地生活集团CTO吴泽明接任,CEO由蜂鸟配送负责人韩鎏接任;高德董事长由总裁刘振飞接任,COO郭宁出任高德CEO。俞永福仍然是阿里巴巴合伙人。接下来,他将以eWTP基金为基础、以投资的方式进行更多国际化探索,同时为业务提供更多战略支持。
对此,蚂蚁集团方面表示:情况属实,董事会基于个人意愿同意这一请求,感谢胡晓明对公司的努力和付出。据悉,胡晓明于2005年6月加入阿里巴巴集团,先后在支付宝、阿里金融、蚂蚁集团担任重要职务。2019年12月,胡晓明出任蚂蚁金服CEO,向董事长井贤栋汇报。不久前,蚂蚁集团也发生过一系列人事变动。2020年9月,阿里巴巴合伙人胡喜退出该公司法定代表人,由蚂蚁集团CTO倪行军接任。
5月27日消息,据阿里研究院消息,中国城市资源数智化发展峰会在杭州召开,峰会由阿里巴巴集团阿里拍卖联合北京大学光华管理学院举办。杭州注册的机动车有347万辆,但是从来没有人知道每天有多少辆车在路上。杭州对此进行了优化管理,使得杭州城市的拥堵排名从第2名降到了34名。而且杭州现在还有20%的道路在建地铁。因此杭州设计了6条停车路线,杭州市民开车上医院不用在门口堵2小时了,我们会给出最优的停车方案。
2月27日消息,广州市海珠发与阿里巴巴国有资产数字化提升战略合作签约仪式昨日在琶洲未来产业园举行,会上,海珠集团阿里巴巴集团阿里资产正式签署战略合作协议,双方将共同推进国有资产领域与互联网生态圈的融合,优化国有物业经营管理运作模式,拓展全新业务领域。