自動(dòng)化錯(cuò)誤類型的可靠性影響信任和性能研究

自動(dòng)化錯(cuò)誤類型的可靠性影響信任和性能研究2022/5/6觀念性架構(gòu)2第零章

命中漏失誤警環(huán)境負(fù)荷:高、低次要任務(wù)難度:高、低信任結(jié)果:遵守、依賴駕駛行為績效次要任務(wù)績效:反應(yīng)時(shí)間、正確率信任評(píng)估正棄系統(tǒng)可靠水平:高、中和低自動(dòng)化駕駛系統(tǒng)可靠水平:在自動(dòng)化系統(tǒng)中實(shí)時(shí)估計(jì)駕駛的信任度旅途訊息準(zhǔn)確性對(duì)路線選擇的影響自動(dòng)化錯(cuò)誤類型的可靠性影響信任和性能：網(wǎng)絡(luò)領(lǐng)域的實(shí)證研究環(huán)境負(fù)荷:職業(yè)與非職業(yè)駕駛因疲勞而產(chǎn)生之駕駛行威績效與風(fēng)險(xiǎn)差異之研究不同酒精濃度下酒價(jià)反饋對(duì)駕駛意愿及行為績效的影響使用生理數(shù)據(jù)結(jié)合實(shí)時(shí)旅行信息的潛在認(rèn)知效應(yīng)預(yù)測混合路線選擇模型通過技術(shù)協(xié)助駕駛的合作行為–HMI、駕駛接受度影響駕駛的行為和負(fù)荷量多種交通訊息源對(duì)路徑選擇的影響3第零章次要任務(wù)難度&績效:在自動(dòng)化系統(tǒng)中實(shí)時(shí)估計(jì)駕駛的信任度信任評(píng)估&結(jié)果:順從性和信任的獨(dú)立性：自動(dòng)化中誤警比漏失更糟糕嗎？在自動(dòng)化系統(tǒng)中實(shí)時(shí)估計(jì)駕駛的信任度自動(dòng)化可靠性和信任：貝氏定理方法旅途訊息準(zhǔn)確性對(duì)路線選擇的影響自動(dòng)化錯(cuò)誤類型的可靠性影響信任和性能：網(wǎng)絡(luò)領(lǐng)域的實(shí)證研究你想讓我相信機(jī)器人嗎？人機(jī)交互信任量表的開發(fā)人機(jī)交互過程中動(dòng)態(tài)信任的計(jì)算建模4駕駛行為績效待補(bǔ)充第零章自動(dòng)化錯(cuò)誤類型的可靠性影響信任和性能：網(wǎng)絡(luò)領(lǐng)域的實(shí)證研究AutomationErrorTypeandMethodsof

CommunicatingAutomationReliabilityAffectTrust

andPerformance:AnEmpiricalStudyinthe

CyberDomain51背景6網(wǎng)絡(luò)釣魚電子郵件通常偽裝成可信賴的電子郵件，并惡意獲取敏感訊息(Egelman

etal.,2008;Hong,2012)。目標(biāo)是使用自動(dòng)網(wǎng)絡(luò)釣魚檢測系統(tǒng)作為范例域來檢查自動(dòng)化錯(cuò)誤類型和通信可靠性對(duì)用戶性能和信任的方法的影響。自動(dòng)化輔助系統(tǒng)可能會(huì)出現(xiàn)錯(cuò)誤，例如誤警和遺漏，從而導(dǎo)致系統(tǒng)可靠性不足?？梢酝高^兩種方式了解自動(dòng)化輔助系統(tǒng)的可靠性：可以明確地告知使用者（即描述）通過使用系統(tǒng)了解（即經(jīng)驗(yàn)）。第一章相關(guān)文獻(xiàn)7對(duì)于一個(gè)良好的人機(jī)自動(dòng)化系統(tǒng)，太少的信任（undertrust）和過多的信任（overtrust）都是不可取的(Hoff&

Bashir,2015;Parasuraman&Riley,1997)。

Lee&

See(2004)將信任的基礎(chǔ)描述為三個(gè)領(lǐng)域（目的、過程和性能）。目的:描述了使用自動(dòng)化的原因。過程:描述了自動(dòng)化的運(yùn)行方式性能:描述了自動(dòng)化的作用或表現(xiàn)如何。第一章相關(guān)文獻(xiàn)8在故障管理任務(wù)中使用70%作為不可靠的自動(dòng)化水平，對(duì)比90%和100%作為可靠水平，發(fā)現(xiàn)當(dāng)它低于90%時(shí)可靠性影響很大，但高于90%時(shí)差異不大也避免了100%的不切實(shí)際的完美系統(tǒng)(Moray,2000)。第一章實(shí)驗(yàn)設(shè)計(jì)9研究采用2（可靠性：不可靠60%

與可靠90%）×2（錯(cuò)誤類型：漏失與誤警）×2（描述：有與無）×2（反饋：有與無）設(shè)計(jì)，所有被試之間的因素。在不同條件下比較了參與者的表現(xiàn)（SDT和決策時(shí)間中的響應(yīng)敏感性和響應(yīng)偏差）和信任（主觀和客觀）的測量。募了總共510名參與者（268名女性，241名男性，1名拒絕透露；年齡M=33.4，SD=9.9）第一章結(jié)果10第一章顯著的交互作用包括可靠性×描述，F(xiàn)(1,439)=6.69,p=0.010可靠性×反饋,F(1,439)=14.53,p<0.001描述×反饋,F(1,439)=4..44,p=0.036靈敏度(d‘)作為反饋、描述和可靠性的函數(shù)，并且所有三個(gè)交互都是顯著的?？偨Y(jié)11當(dāng)系統(tǒng)可靠性從60%提高到90%時(shí)，參與者的決策敏感度有所提高，這一結(jié)果與先前的研究一致，表明具有更高可靠性的自動(dòng)化系統(tǒng)可以提高性能(Chenetal.,2018;Chanceyetal.,2017;Dixonetal.,2004;Sanchezetal.,2014)。60%可靠性水平（3.9,57.3%）和90%水平（4.6,69.2%），這種糟糕的平均可能的原因是我們使用了一項(xiàng)艱巨的任務(wù)(Chenetal.,2018)。第一章人機(jī)交互過程中

動(dòng)態(tài)信任的計(jì)算建模ComputationalModelingoftheDynamicsofHuman

TrustDuringHuman–MachineInteractions122背景13研究人員使用來自社會(huì)心理學(xué)的實(shí)驗(yàn)方法和建模技術(shù)研究了人機(jī)交互(HMI)和人機(jī)交互(HCI)中的信任行為(Muir,1987;Jonker&J.Treur,1999;Lee&Moray,1992)。一些研究側(cè)重于分析人的因素（例如年齡、性別）對(duì)信任行為的的影響(Croson&Buchan,1999;Nomura&Takagi,2011)。由于經(jīng)驗(yàn)的影響，人類的信任水平隨時(shí)間而變化，因此，任何定量信任模型都應(yīng)該是動(dòng)態(tài)的(Jonker&

Treur,1999;

Hoogendoornetal.,2013)。第二章相關(guān)文獻(xiàn)14Hoff&

Bashir(2015)將信任分為三類：

傾向性情境

學(xué)習(xí)Colquittetal.(2007)、Hoetal.(2005)和

Naef

etal.(2008)表明不同文化、年齡組和人格類型的人之間的信任行為存在差異。情境信任包括操作員外部的因素（例如:任務(wù)難度、潛在風(fēng)險(xiǎn)）和操作員內(nèi)部的因素（例如:自信、領(lǐng)域知識(shí)）(Hofstede&Hofstede,2007)第二章相關(guān)文獻(xiàn)15當(dāng)在航路空中交通管制員的背景下，高誤警率似乎不會(huì)對(duì)信任產(chǎn)生負(fù)面影響(Wickensetal.,2009)。事實(shí)上，一些研究顯示了相反的結(jié)果，其中容易誤警的系統(tǒng)比容易漏報(bào)的系統(tǒng)更值得信賴(Stantonetal.,2009;Davenport&Bustamante,2010)。信任行為中的性別差異已在經(jīng)濟(jì)背景下進(jìn)行了深入研究(Croson&Buchan,1999;Chaudhuri&Gangadharan,2003;Bergetal.,)。此外，一些研究表明，人機(jī)交互環(huán)境和技術(shù)使用選擇存在性別差異(Nomura&Takagi,2011;Venkatesh,2000;Nomuraetal.,2008)。例如，男性更有可能對(duì)女性機(jī)器人產(chǎn)生信任和積極的態(tài)度，而女性則很少表現(xiàn)出偏好(Siegeletal.,2009)。第二章相關(guān)文獻(xiàn)16兒童對(duì)人形機(jī)器人的態(tài)度也受到性別的影響。Tung(2011)表明，女孩比男孩更喜歡類似人類的女性機(jī)器人。此外，女性認(rèn)為高度自動(dòng)駕駛系統(tǒng)的可信度明顯低于男性Feldhütter(2016)。Riceetal.(2014)觀察到，在“自動(dòng)駕駛”的背景下，與印度人相比，美國人對(duì)自動(dòng)化系統(tǒng)的信任度較低。在另一項(xiàng)研究中，發(fā)現(xiàn)美國人對(duì)自主（決策輔助）系統(tǒng)的信任程度低于墨西哥人Huerta(2012)。第二章實(shí)驗(yàn)設(shè)計(jì)17第一個(gè)實(shí)驗(yàn)旨在了解由自主系統(tǒng)性能引起的人類信任動(dòng)態(tài)，并確定人類的民族文化和性別對(duì)信任行為的影響。招募了總共581人（年齡20-73歲）參與研究。參與者中，男性340人，女性235人，6人未提供性別信息。有兩種刺激：“檢測到障礙物”、“暢通無阻的道路”，每個(gè)都有50次。第二章實(shí)驗(yàn)設(shè)計(jì)18實(shí)驗(yàn)二的三種不同條件:1)試驗(yàn)中，錯(cuò)誤始終為漏失2)試驗(yàn)中，錯(cuò)誤始終為誤警；3)試驗(yàn)中，錯(cuò)誤同樣可能是錯(cuò)過或誤警第二章結(jié)果19遇到系統(tǒng)漏失時(shí)，美國參與者的信任度會(huì)低于印度參與者。印度參與者的模型的β比美國參與者大48.3%。漏失中女性參與者的β比男性參與者大18.0%，這意味著與女性參與者相比，對(duì)男性參與者的信任有更負(fù)面的影響(更保守)。我們觀察到參與者需要大約8到10次試驗(yàn)才能建立新的信任水平。

第二章你想讓我相信機(jī)器人嗎？

人機(jī)交互信任量表的開發(fā)YouWantMetoTrustaROBOT?TheDevelopmentofaHuman-RobotInteractionTrustScale203背景21第三章人機(jī)互動(dòng)(HRI)信任量表是由兩項(xiàng)研究開發(fā)的。第一項(xiàng)研究基于對(duì)HRI和自動(dòng)化領(lǐng)域的研究回顧，使用主題專家(subjectmatterexpert,SME)對(duì)初步產(chǎn)生內(nèi)容進(jìn)行有效性評(píng)估。第二項(xiàng)研究評(píng)估從第一項(xiàng)研究得出的每個(gè)信任量表項(xiàng)目的質(zhì)量。然后根據(jù)專家建議及實(shí)驗(yàn)測試以生成HRI信任測量工具。文獻(xiàn)探討22第三章信任在操作機(jī)器人系統(tǒng)時(shí)起著至關(guān)重要的作用，因?yàn)闄C(jī)器人能被設(shè)計(jì)在高風(fēng)險(xiǎn)情況下取代人類(Casper&Murphy,

2003)。Muir(1988)指出，當(dāng)人們被背叛，他們就會(huì)失去信任，而隨后的信任重建需要時(shí)間。信任相關(guān)定義總結(jié)

文獻(xiàn)探討23第三章自動(dòng)化和智慧交互作用的象限圖

象限I代表低智能和低自動(dòng)化，其中一個(gè)例子是錘子、機(jī)械手臂。

象限II代表低智能和高自動(dòng)化，例如冰箱。

象限III代表高智能和低自動(dòng)化，例如專家系統(tǒng)。

象限vl代表高智能、高自動(dòng)化，如人工智能。

方法題目水平首先以5點(diǎn)李克特量