天天看点:深度反思自动驾驶信任危机

2022-12-27 15:33:05 来源:教育快播网


【资料图】

自动驾驶是未来驾驶技术的重要发展方向。但目前人们对自动驾驶的普遍接受度表示担忧。这些担忧包括自动驾驶安全性和责任问题的不确定性等。更让人担忧的是,与自动驾驶相关的交通事故仍在发生。媒体关于自动驾驶交通事故的新闻报道,也引发了人们对自动驾驶系统安全性和可靠性的担忧。可以说,人们对自动驾驶的接受和使用仍存在一个主要障碍:对自动驾驶的信任。虽然初步记录显示,自动驾驶目前的事故率低于手动驾驶,但自动驾驶系统仍可能出现故障。若不加补救,将对信任产生渐进而又显著的影响。当信任减少时,驾驶员可能会避免使用自动驾驶功能,转而使用更多的人工控制驾驶,这也就意味着失去了自动驾驶取得的社会效益。

任务的成功或失败会影响信任。当一项任务成功时,信任度通常会增加;而当任务失败时,信任度则会降低。这种将用户信任度调整为适合系统性能的值的过程,被称为“信任度校准”。当用户的信任度没有经过适当校准而低于机器的实际性能时,被称为“不信任”;当高于实际性能时,则被称为“过度信任”。未校准状态有很多缺点。研究发现,人们会更频繁地干预处于不信任状态的机器,导致其工作时间加长。有研究者基于技术接受模型和信任理论,对552名司机进行自动驾驶使用意图的影响因素的调查。结果表明,信任是使用自动驾驶意图的重要决定因素,系统透明度、技术能力和情境管理能力对信任有积极影响,而信任对感知风险有负面影响。实验研究则通过在两个不同的自动驾驶级别都诱发故障,结果在完全自动驾驶出现故障后,被试自我报告的自动驾驶信任度立即下降。但在自动驾驶出现故障后,当被试能够接管车辆控制以避免危险时,信任度并没有下降。这些研究都从正面证实了,信任在用户接受自动驾驶的过程中发挥着至关重要的作用。

信任问题对自动驾驶如此重要,以至于信任决定了公众对自动驾驶汽车的接受和使用。那么,自动驾驶中信任的具体内容是什么?研究者从多学科的角度考虑信任,将对自动驾驶的信任定义为:人们对自动驾驶如何在不确定性和脆弱性为特征的情况下帮助用户实现既定目标的态度。对新技术的信任程度往往会决定相应技术的发展速度,尤其是在各种自动化领域,信任已成为人们接受自动化的决定性因素。自动驾驶信任存在不同的子类型。比如,基于能力的信任和基于诚信的信任,是与自动驾驶最相关的信任子类型。前者是指自动驾驶汽车有能力有效地执行驾驶任务,并在这样做的时候,保证驾驶员的安全。后者则是自动驾驶汽车的行为是透明的,不会通过自己的作为或不作为造成蓄意伤害行为。研究发现,这两种信任子类型都会因自动驾驶错误经验而降低,但两种信任类型以不同的速度降低。基于能力的信任降低得更多,而且通过结构方程建模可以发现,人们对自动驾驶的接受程度主要受基于能力的信任所驱动。对信任子类型的研究,提供了一个窗口来了解人类驾驶员如何理解自动驾驶错误,以进行“信任度校准”。

研究者对自动驾驶与信任关系的研究经历了三个阶段。第一个阶段主要是探讨在车辆出现故障时人们的信任差异情况。研究通过使用自我报告的信任评级来证明,在高度自动化模式和完全自动化模式下,人们在正常或故障驾驶条件下的信任差异。结果发现,在高度自动化驾驶模式下,正常和故障试验之间没有显著差异,而在全自动化模式下则存在显著差异。第二个阶段则是阐明大脑在自动驾驶过程中对不同场景的反应。当车辆遇到复杂环境时,如没有红绿灯的十字路口,参与者对机器的信任度较低,能够及时处理紧急情况(信息处理能力较高)。然而,在安全状态下驾驶时,参与者表现出对机器的高度信任,会无法及时采取紧急行动(信息处理能力较低)。到了第三个阶段,则是促进人们对自动驾驶的信任。情境感知可以帮助驾驶员提高对自动驾驶汽车的信任度。研究者通过向驾驶员发出的口头信息的变化改变了情境感知,而高情境感知条件会导致显著高水平的信任行为。因此,研究者提出,未来可以在实验中加入带有情境感知的语音提示,用于分析大脑对自动驾驶的反应。另外,随着自动驾驶系统的限制或故障的发生,人类驾驶员会失去信任,更愿意接管控制。因此,当自动驾驶系统感知到驾驶员失去信任时,通过主动沟通或将控制权交还给驾驶员,自动驾驶系统或能培养更好的人车信任。这也说明,对自动驾驶而言,信任监测应是一项非常重要的技术,以支持驾驶员的车辆适应性。

目前,关于自动驾驶信任的研究方法有很多。比如,精心设计的用于自我报告测量的问卷访谈,可用于重复测量人们对自动驾驶过程的信任。有研究者对20位有自动驾驶较多经验的同品牌汽车司机进行了半结构化访谈,并综合访谈以了解他们在使用自动驾驶期间的行为适应、心智模式和信任。结果表明,他们对自动驾驶系统的态度非常积极,认为驾驶员在自动驾驶过程中普遍从事次要任务。不过,他们也提出,驾驶员还是需要从经验中吸取教训,确定相对安全的使用条件,避免暴露于过分危险的情况。然而,问卷访谈的缺点在于比较主观,可能存在局限性。这些问卷访谈通常假设一些情景和先决条件。但是,如果遇到问卷中的场景,人们在实践中往往会不知所措。

研究者也在积极寻找其他可替代的生理或行为指标。比如,有研究者采用眼动追踪技术,评估高度自动化驾驶期间通过注视行为测量驾驶员自动驾驶信任的可行性,并在驾驶模拟器研究中通过自我报告的信任程度进行验证。结果表明,驾驶员对自动驾驶的信任与注视行为之间存在一致关系,较高的信任与自动驾驶期间较低的监控频率相关。此外,还有脑电指标。比如,较低频率的脑波(α波和θ波)在更放松的状态和睡眠中占主导地位,而较高频率的脑波(β波和γ波)则出现在更兴奋或压力更大的状态中。β波/α波比率增加、α波/β波和θ波/β波比率降低或相对γ波比率增加,与压力水平相关。当个体需要被动观察自动驾驶汽车的积极情景(汽车在高速公路上平稳行驶)和消极情景(同一辆汽车不稳定行驶,违反了交通规则)时,β波/α波比率会增加。在提高注意力的过程中,也检测到更高的γ波。

无论对于驾驶员,还是对于乘客、行人等参与交通的其他人,自动驾驶都将颠覆人们的日常生活和交通习惯。鉴于自动驾驶现在所面临的信任问题,研究人员和自动化设计人员应探索更多的信任提升或恢复策略,以修复由自动驾驶错误引起的信任问题。毕竟,信任可能在很大程度上决定公众对自动驾驶的接受和使用。

(作者单位:西北师范大学心理学院)

分享:
x 广告
x 广告

Copyright   2015-2022 魔方网版权所有  备案号:京ICP备2022018928号-48   联系邮箱:315 54 11 85 @ qq.com