盖世汽车讯 据外媒报道,EMERGE项目提出了一种协作共享知觉(collaborative shared awareness),作为比通用人工智能更可靠、更节能、更符合道德规范的框架,用于协调人工系统和人类之间的合作。

(图片来源:eic-emerge.eu)
未来在日常工作和生活中部署人工智能(AI)和机器人,如全自动车辆、送货机器人和AI助手,可以通过制造能力越来越强、能够执行许多任务的代理来实现,或者通过设计用于特定任务的更简单、更狭窄的代理来完成。
前者最常受到关注:AI系统在许多领域逐步接受综合能力训练,最终发展出人工通用智能,这最终与人工实体获得意识(consciousness)的可能性(或恐惧)有关。
这引发了一些担忧。当在某些边界内工作并符合适当的高安全标准时,自动人脸识别系统可用于协助边界管制或处理庇护申请。赋予通用领域AI(也能够说话和做出健康、教育或军事决策)这样的能力是一个威胁。此外,操作通用系统会产生大量的能源和排放成本,诸如大型语言模型等生成式架构可以证明这一点。
最近,EMERGE项目联盟的研究人员为另一种观点进行了辩护。他们认为,当在不同的专业AI系统中协调大量同时或连续的操作时,作为每个系统中的私有整合机制,意识的存在既不必要,也不充分。
研究人员提出,针对特定任务定制的专业AI系统,可以比一般智能更可靠、更节能、更合乎道德规范,并且总体上更有效。与此同时,这些系统主要存在不同系统和人类之间有效协调的问题。他们认为,对于这个问题,只需采用更简单的共享知觉的方法。
慕尼黑大学(Ludwig Maximilian University in Munich)哲学与神经科学教授Ophelia Deroy表示:“我们需要的是有选择地与其他AI系统共享相关状态的能力,以促进协调与合作,或者简称为协作共享知觉。由于‘知觉(awareness)’这个词有时被当作意识(consciousness)的同义词,所以必须强调,协作知觉(collaborative awareness)与意识有很大的不同。”
首先,根据定义,共享知觉不是一种私有状态。如果一群机器人对整个工厂车间拥有共同的知觉,这种共享知觉不能简化为每个个体代理所拥有的空间表示。这是一种新的属性。
第二,共享知觉只能是短暂的,只有在需要协调个体目标或为共同目标而合作时,才会与其他个体分享状态。
第三,共享知觉可以选择性地决定要与其他个体共享的相关状态。对意识的主流观点认为它是集成或统一的,而共享知觉可以在不同的代理之间分割。一个系统可能需要与另一个系统共享空间信息、与控制器共享能量水平,并与其他系统或用户共享其他方面,例如它们的信心。
英国布里斯托大学(University of Bristol)群体工程学教授Sabine Hauert表示:“共享知觉使人工代理更容易被操作人员监控和控制。这还使系统能够更好地协同工作,即使它们是由不同的公司设计的。共享知觉有助于自动驾驶汽车避免碰撞、物流机器人协调包裹运送,或者人工智能系统分析复杂的患者病史以提出有用的治疗建议。”
EMERGE联盟由比萨大学(University of Pisa,意大利)、慕尼黑大学(德国)、代尔夫特理工大学(Delft University of Technology,荷兰)、布里斯托大学(英国)和达文启实验室(Da Vinci Labs,法国)组成。EMERGE将提供全新的哲学、数学和技术框架,从理论和实验上展示如何从基本人工实体的相互作用中产生协作知觉(一种对共享存在、环境和目标的表示)。
|