大語(yǔ)言模型時(shí)代的安全分析：基于 ChatGPT 的 STPA 案例研究

安全分析能否利用大語(yǔ)言模型（LLM）？本研究探討了系統(tǒng)理論過(guò)程分析（STPA）在自動(dòng)緊急制動(dòng)（AEB）系統(tǒng)和電力需求側(cè)管理（DSM）系統(tǒng)中的應(yīng)用，采用生成式預(yù)訓(xùn)練變換器（ChatGPT）作為工具。我們研究了協(xié)作方案、輸入語(yǔ)義復(fù)雜度和提示工程對(duì) STPA 分析結(jié)果的影響。對(duì)比結(jié)果表明，完全依賴 ChatGPT 而不進(jìn)行人工干預(yù)可能因可靠性問(wèn)題導(dǎo)致分析不足，但通過(guò)精心設(shè)計(jì)，其性能有望超越人類專家。在輸入語(yǔ)義復(fù)雜度變化或使用領(lǐng)域無(wú)關(guān)提示指南時(shí)，未觀察到統(tǒng)計(jì)顯著性差異；而針對(duì) STPA 的專用提示工程則產(chǎn)生了統(tǒng)計(jì)顯著且更相關(guān)的結(jié)果。總體而言，ChatGPT 的分析結(jié)果傾向于保守且不夠全面。研究還識(shí)別了未來(lái)挑戰(zhàn)，包括大語(yǔ)言模型的可信度擔(dān)憂以及該領(lǐng)域標(biāo)準(zhǔn)化和監(jiān)管的需求。所有實(shí)驗(yàn)數(shù)據(jù)均公開(kāi)可獲取。

更多內(nèi)容請(qǐng)參閱附件《 Safety analysis in the era of large language models A case study of STPA.pdf》