创新工场董事长兼首席执行官李开复本周在瑞士达沃斯举行的2022年世界经济论坛上发表了题为“关于人工智能的ldquo”的演讲。电车问题rdquo新思维”栏目。
李开复在文章中说，自主机器人和自主决策确实可能会造成致命的错误；机器人失误造成的死亡将导致一个道德困境的新时代。电车问题rdquo。然而，如果社会接受机器学习，并试图以负责任的态度引入机器人技术，将会拯救更多的生命。
以下是ldquo关于人工智能；电车问题rdquo新思维》全文:
未来20年，随着机器人技术的进步，自动驾驶汽车、工业机器人和医疗机器人将拥有更强的能力、更高的自主性和更广泛的应用。不可避免的是，这些自主机器人可能会犯决策错误，导致数百人死亡。但如果人类参与进来，这种灾难是可以避免的。
这样的未来是可怕的，但一旦人类社会能够负责任地使用机器人技术，挽救的生命将比造成的死亡更多。
机器学习的过程
机器人不是通过人类ldquo编程rdquo并模仿人类的决策过程。他们从大数据中学习，使用从数据中导出的复杂数学公式，并执行ldquo识别红绿灯rdquo诸如此类的任务。机器学习过程所需的数据量远超人类所需。然而，一旦经过训练，机器人将在任何特定任务中胜过人类。通过机器学习，人工智能和机器人的性能在过去五年里有了很大的提高。
我在这篇文章中提出的思路，适用于医疗健康、制造业等正在快速实现自动化的行业。以自驾为例。一个经验丰富的人类司机一生可能有几十万英里的驾驶经验，而谷歌旗下的自动驾驶汽车公司waymo仅在2021年就完成了230万英里的路测里程。背后的ai技术通过数据学习每辆车的驾驶体验。此外，这些自动驾驶车辆永远不会疲劳，不像健忘的人类司机，他们可能会忘记自己的错误。
特斯拉的ldquo智能通话rdquo首次启动该功能后，汽车无需车主操作即可驶离停车位并绕过障碍物。起初，许多用户抱怨这一新功能的性能不尽人意，但在短短几周内，特斯拉收集了早期用户的数据，并重新训练了新功能背后的机器学习模型。从此ldquo智能通话rdquo显著提升成为特斯拉新车的关键竞争优势。
自主机器人可以拯救生命。
随着可供学习的数据量越来越大，人工智能的能力得到了快速提升，ai变得更加准确、适应性更强、安全性更高。随着越来越多的机器人进入主流日常应用，其应用领域也越来越广，这标志着功能机器人技术正在逐步普及。自动驾驶会从ldquo开始；握住方向盘rdquoto ldquo松开方向盘rdquo然后发展到ldquo不需要监控rdquo甚至ldquo无需关注rdquo并最终演变成ldquo不带方向盘rdquo全自动状态。
中国的自动驾驶公司文远之星就是一个很好的例子。该公司已经在中国的几个城市部署了无人驾驶小巴和无人驾驶环卫车。与无人驾驶出租车相比，它们在运营环境上受到的限制更多，但与人类司机相比，其安全性已经大大提高。这些车辆在特定环境下运行并收集大量数据后，最终会摆脱道路上的这些初始限制。
在机器人技术从简单应用向复杂场景发展的过程中，我们会获得更多的数据，从而提高其性能和安全性。例如，在未来十年，通过减少人为错误，自动驾驶汽车可以防止4.7万起严重交通事故，仅在英国就可以挽救3900人的生命。兰德的研究发现，即使自动驾驶的安全性只比人类驾驶高10%，也能挽救许多宝贵的生命。
道德困境
对于机器人的大规模应用，大多数人还是表现出极大的关注，包括关于机器错误导致人类死亡的道德争议。古典ldquo电车问题rdquo它指的是一种道德困境。经典的假设是，旁观者可以通过转换失控电车的轨道来拯救另外五个人，尽管有一个人会因此丧生。这个难题说明了至关重要的ldquo谁生谁死ldquo选择，本质上是一种道德判断，这样的决定不应该交给无情的机器。
但由于机器人和人类感知不同，发生的错误类型自然也不同，这就使得ldquo道德困境rdquo进一步加剧。例如，机器人反应很快，总是很注意，但它们可能会误判障碍。例如，优步的无人驾驶汽车曾误判推着自行车过马路的行人为汽车，并因此预测它会比自己行驶得更快。
人为失误和机器失误的区别，让大众更难接受机器人造成的死亡。如果他们曾经听过类似2018年美国凤凰城车祸的媒体渲染报道，那他们就更难以释怀了。一旦各种媒体继续用谴责性的标题批评每一个自动驾驶死亡的案例，人们很可能会对自动驾驶系统彻底失去信心，尽管这项技术最终可能会拯救数百万人的生命。
如果人类司机造成他人死亡，将面临法律判决，并承担相应后果。但是ldquo人工黑盒rdquo无法用人类能够理解的术语，或者用法律上和道德上正当的人类语言，向法官和公众解释事故判决的原因。
另一个需要讨论的问题是问责制。在凤凰城的事故中，汽车中的人类司机被指控过失杀人。但是，在这种情况下，汽车制造商、人工智能算法供应商或者工程师是否应该为此负责，承担一定的法律责任？只有问责明确，才能有共识的基础和准则，才能构建完善的自动驾驶生态系统。
人工智能和机器学习时代的ldquo电车问题rdquo
既然机器人技术可以拯救无数生命，只要证明它比人类略胜一筹，我们就完全有理由大规模推广自动化技术。在我看来，我们应该抓住一切机会引进对人类有益的机器人自动化工具。一开始应该在有限的特定环境中使用，然后逐渐大规模采用，最后获得更多的自主权和更广泛的推广。通过这种循序渐进的方法，一方面可以收集更多的数据，提高机器人的性能，另一方面可以最大限度地减少危害人类生命的事故。
考虑到可能出现的反对意见，我们需要共同努力，让公众更多地了解机器人技术带来的短期痛苦和长期好处。只有这样，我们才能在拥抱自动化技术的过程中，逐渐培养出负责、严谨的态度，让机器人更好地服务于人类社会。
