周鸿祎：人工智能最后的底线必须是人

7月27日消息，今日，2022年新智者大会正式启幕，360集团创始人周鸿祎在其官方微博发文感谢组委会邀请，并表达自己对AI武器的看法。

周鸿祎称，当年阿西·莫夫在讲“机器人三原则”的时，有一个重要的原则，就是机器人不能伤害人。他表示，这一原则如今已被打破，实际上各种无人战车、无人飞机，已经应用在战场上。

周鸿祎表示，在今年的俄乌冲突中，乌克兰军队使用美国的弹簧刀无人机，此无人机具备监视、侦察和打击功能，在AI的加持下，单兵就能熟练掌握。虽然弹簧刀无人机可能还是在被遥控，最后打击的瞬间可能还是由人来下指令。他表示，从人下指令，到AI自动识别、自动判断、自主发起攻击，就是一层薄薄的窗户纸，尤其在AI与武器结合方面，世界各国都在展开军备竞赛，这也将是未来大国角力的焦点。“把AI武器最后的决定权交给人类，让人来做最后的控制至关重要，人工智能最后的底线必须是人。”周鸿祎称。

现实中，人工智能安全在社会伦理面前，还会面临超出现有社会法律和道德规范的风险难题。比如说，经典的电车选择难题，以及我们该如何认定无人驾驶车出事以后的责任。

公路上自动驾驶的汽车，如果它选择避让行人，就可能会撞上旁边障碍物，导致车主人身伤亡；如果它不避让，就会导致行人伤亡。这种情况下，AI程序该如何来做出判断。此外还需要考虑一个问题，如果出了车祸，这个责任到底该谁来负？应该算是AI的？算是车厂的？还是算驾驶员的？这些AI安全难题，目前都还没有一个明确的答案。

运行AI需要算力，算力需要大数据等基础设施。但如果数据中心，云服务都被终止，那么各种无人机，自动驾驶坦克等就失去了重要的大脑。俄乌冲突中就上演了这一幕。

西方国家对俄罗斯采取了“六断”（断网、断供、断服务、断证书、断域名、断舆论），包括说微软、IBM和甲骨文这些公司对俄停止SSL证书，停止域名解析，停止互联网接口，中断国际传输网络，停止了各种软件跟服务，芯片和硬件供应商，比如英特尔对俄断供，甚至包括脸书、推特等就彻底把俄罗斯的很多帐号给禁掉，彻底将俄孤立，甚至试图把俄罗斯在数字化的世界里彻底抹去。而俄罗斯由于缺乏市场化的数字产业支撑，算力、产品和服务的基础被掣肘，完全处于被动挨打的境况。这充分说明数字安全能力落后也会挨打。

人工智能安全问题也是其发展中面临的重要挑战，其中AI算法可能被欺骗、被误导。谷歌曾经有一个AI算法，把黑人识别成“猩猩”，惹出很大风波。现在一些人工智能漏洞挖掘团队还发现：当人走在街上，面对满大街能够进行人脸识别的人工智能摄像头，只要穿上特殊条纹或者特殊图案的T恤，摄像头就会认为你不是一个人，也不会对你做面部识别，从而令你实现科幻小说所提的“隐身”效果。

360是一直高度重视人工智能安全的，并构建起人工智能安全能力体系。其中，360对自身积累的全球最大的安全大数据进行AI分析，形成了360云端安全大脑原型，为行业或企业提供强大的数据和情报支撑，对网络威胁进行有效分析、溯源；同时积极承担“安全大脑国家新一代人工智能开放创新平台”的建设；此外还牵头研发的“人工智能安全测评与风险监测预警平台”入选工信部“人工智能产业创新任务揭榜单位”名单。尽管如此，面对诸多的人工智能安全问题，仅靠一家企业不能解决所有威胁，所以注重生态合作很重要。我们愿意开放自身安全大数据，将产学研力量联合起来，共建AI安全生态，集中推动数字安全的创新。