人工智能軟件,特別是深學習組件,是目前實現(xiàn)自主汽車等自主系統(tǒng)的最先進和經(jīng)濟上可行的解決方案。然而,DL算法的性質(zhì)及其當前的實現(xiàn)與汽車、衛(wèi)星和火車等安全關鍵系統(tǒng)中嚴格的軟件開發(fā)過程不一致。

傳統(tǒng)的安全相關軟件采用自上而下的方法,對組件進行分解,并相應地傳播安全要求,直至達到足夠簡單的軟件單元。這些軟件單元本身及其構成是基于顯而易見的獨立數(shù)據(jù)控制算法--例如,算法處理數(shù)據(jù)--但是?算法 在不需要任何數(shù)據(jù)的情況下進行設計和驗證。

傳統(tǒng)的軟件設計過程與DL軟件的構建方式相沖突。DL軟件體系結(jié)構(層次的類型、數(shù)量和組織)是根據(jù)經(jīng)驗建立的,遵循基于直覺的優(yōu)化過程,并與(?訓練 )循環(huán)中的數(shù)據(jù),以調(diào)整DL模型參數(shù)。

因此,所獲得的DL軟件由大型原子軟件單元組成,有一個通用的目標(例如:,盡可能準確地進行預測),由特定的培訓數(shù)據(jù)集創(chuàng)建,這些數(shù)據(jù)集隱式地確定了DL軟件的功能,并將其分解為較小的組件即:神經(jīng)網(wǎng)絡的分層。這些組件本身很少或沒有意義,缺乏可據(jù)以評估它們的具體要求,并具有無法獨立修改的內(nèi)部特性,因為DL軟件的培訓是以原子方式進行的,并且在DL軟件的所有組件(層)之間存在強耦合。

此外,越來越精確的DL軟件通常是從更復雜的實現(xiàn)中獲得的,其中組件(層)的數(shù)量、它們的大小(神經(jīng)元的數(shù)量)和用于培訓的數(shù)據(jù)數(shù)量增加,從而擴大了傳統(tǒng)的安全關鍵軟件開發(fā)過程與DL軟件開發(fā)過程之間的差距。

安全解釋 這是一個由歐洲聯(lián)盟資助的項目,旨在彌補這一差距,以便能夠認證基于DL的軟件組件,包括那些繼承高完整性故障操作安全要求的組件。它同時考慮三個支柱:

· 基于數(shù)據(jù)基的軟件組件

· 認證實踐?功能安全 標準

· 商業(yè)平臺的高效執(zhí)行

考慮到其中任何一個支柱本身都注定要失敗。例如,安全標準將軟件構建的開發(fā)強加于在循環(huán)中沒有數(shù)據(jù)的明確定義的確定性算法上。然而,DL軟件往往具有隨機性。通過培訓實例對預期算法進行隱式學習,可以產(chǎn)生不同信心的預測,包括錯誤預測。因此,試圖將DL軟件的特性限制在當前的安全標準是一個沒有希望的任務。

相反,SAF解釋的工作是針對DL軟件的設計,使其屬性符合一般的安全原則,如解釋性和?可追蹤性 ,自然而然地出現(xiàn)。這樣,即使基于DL的軟件組件是原子性質(zhì)的,它們已經(jīng)提供了可以詳細闡述驗證參數(shù)的屬性。

與此同時,SAF解釋了旨在調(diào)整安全標準的工作,使非常規(guī)的方法能夠認證軟件;例如,繼承了故障率是開發(fā)過程一部分的硬件組件的實踐,同時保留了允許詳細闡述安全論據(jù)的關鍵原則,這樣,在安全關鍵系統(tǒng)的開發(fā)過程中,就有可能接受實現(xiàn)有意義的預測準確性所需的DL軟件特性。

這兩個支柱--DL軟件開發(fā)和根據(jù)安全標準進行認證--都需要在第三個支柱--商業(yè)平臺上有效執(zhí)行的范圍內(nèi)進行。換句話說,所實現(xiàn)的性能和所需的計算資源必須在范圍之內(nèi)。

因此,SAF解釋的設想是,DL軟件的開發(fā)在不改變其主要步驟的情況下受到限制,以保持準確性和與平臺相關的要求,從而最終能夠詳細闡述替代安全論據(jù),從而能夠?qū)贒L的軟件解決方案進行認證。為此,SAF解釋將考慮到各種各樣的安全模式,考慮到完整性水平的差異,有不同的要求(例如:,從低到高的完整性)以及故障安全和故障操作功能。所有這些元素都將改變軟件體系結(jié)構,從而改變基于dl的軟件組件繼承的安全要求。

考慮到目前工業(yè)中與安全相關的認證做法,以及與安全相關應用相關的現(xiàn)有高性能平臺,SAFSAL解釋將提供切合實際的解決方案,以定制工業(yè)應用中使用的DL軟件解決方案。這項工作將根據(jù)汽車、空間和鐵路領域的工業(yè)案例研究,作為安全關鍵應用的代表,不斷評估項目解決方案。