【编者按】人工智能（AI）的发展影响着每个人的日常生活，经历了过去一年中对AI的忧虑和伦理讨论之后，新的一年大家越来越关注AI领域的创业机会，人工智能随之成为今年创投圈的新风口。那么，国外的机器人产业的发展对中国有什么样的启示？以及中国人工智能创业中需要注意什么问题等，FT中文网近期组织人工智能专题，编辑事宜，联系闫曼man.yan@ftchinese.com。

　　AI不仅存在于手机、电脑、无人机和物联网上，也存在于ManuelaVeloso教授的协作机器人（Cobot）身上。这位前AAAI（国际人工智能协会）主席，美国卡内基梅隆大学（CarnegieMellonUniversity）机器学习系负责人是人工智能和自主机器人领域的主要学术领导人之一。Manuela教授的一个研究方向是室内移动机器人，研究如何让可以移动的机器人与人对话、学习、像人类一样具有意识等。

　　如果你去拜访Manuela教授，会在办公楼门口遇到由她创造的用来接待客人的协作机器人。这些已经累计“行走”了一千多公里的机器人（协作机器人是滚轮式的），会与你对话，为你引路，带你到教授的办公室门口，还能去茶水间帮你打一杯咖啡，看看会议室有没有开门然后发个邮件给你。不同于人类的感觉器官，机器人通过3D摄像机等传感器来识别障碍物，能够拍摄到距周边六到十米的环境图像，并最终将这些图像转化成选择路径所需要的信息。

　　要实现机器为人服务，不可避免地需要解决人机互动的问题。时至今日，人机互动的内涵已经从传统的人与电脑交互扩展至人与机器人、AI交互。如何看待人与AI交互的发展方向？要实现“让AI移动起来”在技术上还有哪些挑战？AI技术进一步发展的风险是什么？服务机器人可能的应用场景有哪些？通过与Manuela教授的交流，我们深入探讨了这些AI发展中的前沿问题。

　　人类需要建立对AI的信任

　　《致加西亚的信》讲的是一个人徒步三个星期穿越一个危机四伏的国家，把信交给加西亚将军的故事。这本发行量高达四千万的书，强调的是“可信任”的品质，也就是说，我们很难把任务交给无法信任的人。同样的，我们也很难把重要的任务交给一个还不够了解的“黑箱子”。因此，AI全面进入人类生活的前提是：人类需要建立起对AI的信任。

　　人工智能

　　谁该为机器人负责？

　　弗洛里迪：如果我的机器人打破了邻居的窗户，谁该为此负责？机器人生产商、销售商、我本人、还是机器人？

　　Manuela教授认为，有两种方式可以增加我们对AI的信心。一是保证系统更透明可靠。当我们让AI帮助做决定的时候，需要知道AI给出建议的理由。目前AI给出的是通用解决方案，但无法做出解释。AI还不能解释为什么它所识别出来的图像是猫，为什么走到前面要向右转。如果AI变得更透明，则能获得更多的信任。二是人类可以指导和纠正AI系统。未来的十年是人与AI交互的10年，对人类的挑战是，知道如何与AI互动。对AI的挑战是，需要成为可指挥、可纠正、可自我解释的系统。人类可以通过互动来增加对AI的信任，这么做是为了更好地接受AI，更好地理解、使用AI，更好地的满足人类的需求。人类与AI互动的方向是需要理解AI、机器人这种新的“生物”。

　　AI并不是静止的，而是动态的、自学习系统，它没有DNA，但有自己的学习曲线。虽然开始有可能做的不好，但AI会在经验的基础上越来越好。这个过程中需要教它，纠正它，最终让它按我们的期望做事，由于我们在这个过程中不断看到的AI新功能，因此将对AI更加有信心。

　　机器人之间的合作

　　不但人与AI、机器人之间有交互的问题，机器人之间也存在这个问题。Manuela教授认为，提到机器人，目前来说是指单一机器人，而未来指的是多功能协作机器人。很多任务无法通过单一系统完成，比如足球、灭火或者建筑方面的工作，因此需要机器人之间的协作。目前Manuela教授的实验室正在进行研究的问题之一是协作机器人之间的沟通问题。比如，请2号机器人去9层，而3号机器人正在9层，它会对2号机器人说：“不用来901办公室了，门是关的。”机器人之间的交谈内容包括分享信息、分配任务、协作。机器人A可以对B说，“我可以帮你把东西拿过去，你没必要再过去了。”通过相互沟通，他们将学会如何协作，Manuela教授有关于足球机器人协作方面20年的研究经验，在她看来，多任务机器人可以学会如何协作。

　　到最后，不同类型的机器人之间是可以互相说话的。虽然亚马逊音箱已经可以和人类对话，但在移动机器人的协作领域，距离实现这个目标还有很多年。就像计算机之间通过协议和标准来通信，未来室内机器人与室外飞行机器人之间能够对话，讨论能量、任务等问题。虽然目前还没有AI之间的协议，但科学家正在朝这个方向努力。

　　目前AI能完成的任务领域非常窄，虽然它们能够非常专注于自己的任务，但其他方面都不行。Manuela教授的协作机器人目前能把客人带到办公室去，但这些机器人没有手臂，不能开门，也不能上楼，在路上有人摔倒或者地板上有水，或者火灾报警器响，它们都意识不到。目前Manuela教授团队的研究方向之一是让协作机器人有更多的意识，未来或许在协作机器人2.0时代，他们能意识到周边环境发生的事情。也许要到5.0时代，它能很好的处理周围环境中的火灾、有人摔倒等等所有突发的情况，然而这个过程是艰难而漫长的。

　　尽管目前协作机器人还没有商用，但Manuela教授提到了一些协作机器人可能的应用场景。除了解决老龄化问题和教育问题，协作机器人可以应用在银行、机场、超市、购物中心等公共空间。比如，在商场购物可以不用购物车，而是把东西放在协作机器人上，从而解放双手，它们是自动驾驶的，会通过接入手机而跟随我们。

　　AI的价值观

　　自从2007年第一部Iphone问世以来，互联网上每年都产生海量的图片，图片、视频、文字以及与Siri的对话都被保留在了云端，这些数据，是AI保持发展的原因之一。网上的海量数据使AI的发展变得非常实际。人类无时无刻都在产生数据，日常生活中的能源设备，日常摄入的卡路里数量、运动手环、医院里关于健康的数据等等。有人认为AI存在泡沫，但Manuela教授认为由于持续增长的数据，AI将继续发展下去。

　　科技的发展总会带来新的挑战、风险和担忧。如何正确的使用技术？一方面，什么是正确的事情?采取什么样的步骤保证AI做正确的事情？在道德方面如何监督?另一方面，如何检查AI做的事情是否合规？

　　犹如食物上所贴卡路里值的标签需要有人检查一样，从道德的角度，检查是否合规的环节与规范、立法是密不可分的。从技术的角度，在写程序的时候，需要建立规范，同时定义好计算机或者机器人所代表的价值取向，并且要保证程序经过修改依然符合这一规范。

　　比如，如何保证机器人不会踩到人身上？写程序的人开始的时候知道这段程序在哪里，但经过十个人的修改，就很难知道了，再经过一段时间，可能代码都无从找起。为了解决这个问题，需要重新设计为AI或者机器人编程的模式。AI系统不能够只是解决问题，他们需要变得更好。我们希望AI能做对的事情，但万一没有呢？只要AI还是“黑盒子”就无法避免这个风险。AI的价值、道德和行为选择是什么？作为创造者，人类希望AI能做和我们一样正确的事情。Manuela教授认为需要一个组织持续研究并关注这方面的挑战。