為什么大多數(shù)編程語言性能對比都有問題？
[導讀]自從編程語言誕生以來，人們常常就哪種語言速度最快的問題爭論不休。無論是嚴肅的科學研究，還是深夜酒吧的喧囂，都不乏關于這個話題的爭執(zhí)。文本不打算就這個問題展開討論，我們不妨從一個更高的層面來看一看這個問題：如何比較兩種截然不同的編程語言的性能。為了進行有意義的比較，我們必須使用兩種...
自從編程語言誕生以來，人們常常就哪種語言速度最快的問題爭論不休。無論是嚴肅的科學研究，還是深夜酒吧的喧囂，都不乏關于這個話題的爭執(zhí)。文本不打算就這個問題展開討論，我們不妨從一個更高的層面來看一看這個問題：如何比較兩種截然不同的編程語言的性能。為了進行有意義的比較，我們必須使用兩種編程語言實現(xiàn)一系列測試程序，運行基準測試，然后再比較最后的結(jié)果。實際上，這種比較的難度很大，有時甚至非常費時費力。盡管問題本身看起來很簡單，但大量可能出現(xiàn)錯誤的地方會導致一無所知的性能測試員遭遇坎坷，有時即使非常了解也無濟于事。
為了公平地比較兩種語言的實現(xiàn)，編寫出來的程序的質(zhì)量應該達到同等水平。也就是說，必須由某位對兩種編程語言以及領域知識的掌握程度大致相同的人來編寫程序。這本身就很難。如果由不同的人來編寫實現(xiàn)，那么他們可能會選擇不同的算法來解決問題，這樣的性能比較就不再是編程語言本身的問題，而是每位程序員選擇的編程方法的問題。即使兩個實現(xiàn)都是由同一個人使用相同的算法編寫的，仍然存在其他問題。通常，每個人都有自己擅長的語言。因此，他們會選擇自己喜歡的語言提供更快的實現(xiàn)。這就會引發(fā)偏差，因為這樣的性能比較衡量的不是編程語言本身，而更多的是程序員。這類的測試適合尋找易用性與生產(chǎn)力的差異，但對比較性能而言則不合適。因此，你可能需要評估許多專業(yè)程序員已經(jīng)編寫好的程序。這是一個很好的方法，但有時即使是經(jīng)驗豐富的研究也會出錯。有一篇論文試圖通過這種方法比較不同的編程語言的性能和效率。他們的測試結(jié)果表明，某個程序用C實現(xiàn)比C 實現(xiàn)快30%。這個測試結(jié)果影響了整個論文的基調(diào)。按照這個論斷，假設將所有 C 源代碼的文件擴展名 .c 改為.cpp并重新編譯，應該能得到大致相同的結(jié)果（可能會有幾個百分點的誤差）。所以我們只能得出以下結(jié)論（按照可能性從高到低排列）：
右邊的那個更快，對不對？也許？大概？可能？為了正確回答這個問題，我們需要回顧一下大學學習的統(tǒng)計知識。首先，提出零假設，即假設兩個程序沒有性能差異。接著，計算這兩次測量結(jié)果來自同一個概率分布的概率。如果概率非常?。ㄍǔ?%），則可以推翻零假設，從而證明其中一個程序比另一個快。這種方法叫做學生t檢驗，常用于大量數(shù)據(jù)的統(tǒng)計。請注意，測試的某些實現(xiàn)會假設數(shù)據(jù)符合高斯分布，如果你的數(shù)據(jù)呈現(xiàn)其他形狀，則結(jié)果可能并不可靠。這種方式適用于一個程序，但嚴格的測試需要包含多個程序。這些評估也有一些統(tǒng)計方法，但會非常復雜。具體的做法留給讀者自行查閱。
04?所有計算機的對齊都是雙刃劍
?雖然統(tǒng)計非常難，但幸運的是計算機很簡單，因為它們具有確定性、可靠，而且合乎邏輯。例如，如果在一個程序中添加一條NOP指令，則結(jié)果可能只是多了一個指令周期，對性能的影響小到無法測量。但是，如果你非要測量，那么結(jié)果可能會讓你陷入不解和困惑。這個小小的改動有時會讓程序的運行時間增加10%（甚至更長），但也有可能縮短10%。你沒看錯，這類看似無意義的工作可以加快程序的運行速度。如果是第一次遇到這樣的問題，你可能壓根不會相信。?那么，問題在于，是否有可能讓CPU加倍努力，讓程序更快地運行呢？答案為否。實際的指令根本無關緊要。重點在于代碼的對齊。代碼在內(nèi)存中的不同位置會影響其性能特征。如果一段經(jīng)常被執(zhí)行的循環(huán)跨越了緩存邊界，它就會變慢。將其移動到不跨越邊界的地方就能加快其速度。NOP指令并不一定要放在循環(huán)內(nèi)，只要它能將整個代碼塊向上或向下移動，就可能導致這種差異。假設你以非常嚴謹?shù)慕y(tǒng)計方式測量了兩個程序。如果二者之間的性能差異低于10%，則我們就無法斷言哪個程序更快，除非你使用的測量方式能夠消除對齊效應。
05?這是關于機器的性能測量，而不是語言
?隨著程序的運行速度越來越快，優(yōu)化經(jīng)歷了一個有趣的階段轉(zhuǎn)變。一旦性能達到一定水平，系統(tǒng)就不再關心編譯器和CPU如何才能加快程序的運行速度。相反，變成了程序員如何盡可能有效地利用CPU，例如將數(shù)據(jù)排列成方便處理器處理的布局等。這意味著用基于硬件的原語替換基于語言的原語。某些圈子采用的優(yōu)化方式非常奇怪，程序員甚至知道他們的循環(huán)應該被優(yōu)化成哪些SIMD指令，然后他們會不停地修改代碼，直到實現(xiàn)這種優(yōu)化。其實，這種優(yōu)化已經(jīng)與編程語言本身的功能沒有絲毫關系了。這就是為什么C和Fortran之類的語言仍在許多性能基準測試中名列前茅的主要原因，但這些技巧并不限于這些語言。幾年前，我開發(fā)了一款規(guī)模非常大的Java應用程序，該應用程序經(jīng)過了非常徹底的優(yōu)化。其內(nèi)部由整數(shù)數(shù)組組成。最常執(zhí)行的路徑中沒有類，甚至沒有Integer對象，基本上就形同于在Java語言內(nèi)部重塑了C語言。其實，幾乎任何編程語言都可以有類似的實現(xiàn)。它們之間的性能差異主要取決于每個編譯器的優(yōu)化器。即便使用相同的編程語言，也會產(chǎn)生截然不同的性能結(jié)果，更不用說不同的編程語言了。因此，聲稱某一種編程語言在性能上有明顯的優(yōu)勢都是不合理的，因為說到底都是內(nèi)聯(lián)匯編程序。
原文鏈接：
https://nibblestew.blogspot.com/2021/02/why-most-programming-language.html?m=1END
來源：CSDN版權(quán)歸原作者所有，如有侵權(quán)，請聯(lián)系刪除。
▍
01?等效的實現(xiàn)？
為了公平地比較兩種語言的實現(xiàn)，編寫出來的程序的質(zhì)量應該達到同等水平。也就是說，必須由某位對兩種編程語言以及領域知識的掌握程度大致相同的人來編寫程序。這本身就很難。如果由不同的人來編寫實現(xiàn)，那么他們可能會選擇不同的算法來解決問題，這樣的性能比較就不再是編程語言本身的問題，而是每位程序員選擇的編程方法的問題。即使兩個實現(xiàn)都是由同一個人使用相同的算法編寫的，仍然存在其他問題。通常，每個人都有自己擅長的語言。因此，他們會選擇自己喜歡的語言提供更快的實現(xiàn)。這就會引發(fā)偏差，因為這樣的性能比較衡量的不是編程語言本身，而更多的是程序員。這類的測試適合尋找易用性與生產(chǎn)力的差異，但對比較性能而言則不合適。因此，你可能需要評估許多專業(yè)程序員已經(jīng)編寫好的程序。這是一個很好的方法，但有時即使是經(jīng)驗豐富的研究也會出錯。有一篇論文試圖通過這種方法比較不同的編程語言的性能和效率。他們的測試結(jié)果表明，某個程序用C實現(xiàn)比C 實現(xiàn)快30%。這個測試結(jié)果影響了整個論文的基調(diào)。按照這個論斷，假設將所有 C 源代碼的文件擴展名 .c 改為.cpp并重新編譯，應該能得到大致相同的結(jié)果（可能會有幾個百分點的誤差）。所以我們只能得出以下結(jié)論（按照可能性從高到低排列）：
- C 版本的代碼比較差；
- 測試方法有明顯的瑕疵；
- 與C相比，該編譯器對C 的性能有重大的負面影響。
02?測量的難度
?還有一個很大的問題是，如何測量某個程序的性能。一種常見的方法是連續(xù)運行多次測試，然后執(zhí)行如下操作：- 處理異常值：去掉兩個極值（即最慢和最快的測量值）；
- 計算剩余數(shù)據(jù)點的平均值和/或中位數(shù)；
- 比較不同程序之間的結(jié)果，速度最快的程序獲勝。
03?統(tǒng)計的難度更大
?暫時撇開這一點不談，我們假設我們獲得了兩個程序的性能測試結(jié)果，且這個結(jié)果看似確實“很高斯”。數(shù)值分析表明，1號語言的運行花費了10秒，而2號語言花費了9秒。二者的差異為10%，因此我們就可以得出結(jié)論：2號語言的速度更快。這個結(jié)果正確嗎？很遺憾，不正確。假設實際測量數(shù)據(jù)如下：?右邊的那個更快，對不對？也許？大概？可能？為了正確回答這個問題，我們需要回顧一下大學學習的統(tǒng)計知識。首先，提出零假設，即假設兩個程序沒有性能差異。接著，計算這兩次測量結(jié)果來自同一個概率分布的概率。如果概率非常?。ㄍǔ?%），則可以推翻零假設，從而證明其中一個程序比另一個快。這種方法叫做學生t檢驗，常用于大量數(shù)據(jù)的統(tǒng)計。請注意，測試的某些實現(xiàn)會假設數(shù)據(jù)符合高斯分布，如果你的數(shù)據(jù)呈現(xiàn)其他形狀，則結(jié)果可能并不可靠。這種方式適用于一個程序，但嚴格的測試需要包含多個程序。這些評估也有一些統(tǒng)計方法，但會非常復雜。具體的做法留給讀者自行查閱。
04?所有計算機的對齊都是雙刃劍
?雖然統(tǒng)計非常難，但幸運的是計算機很簡單，因為它們具有確定性、可靠，而且合乎邏輯。例如，如果在一個程序中添加一條NOP指令，則結(jié)果可能只是多了一個指令周期，對性能的影響小到無法測量。但是，如果你非要測量，那么結(jié)果可能會讓你陷入不解和困惑。這個小小的改動有時會讓程序的運行時間增加10%（甚至更長），但也有可能縮短10%。你沒看錯，這類看似無意義的工作可以加快程序的運行速度。如果是第一次遇到這樣的問題，你可能壓根不會相信。?那么，問題在于，是否有可能讓CPU加倍努力，讓程序更快地運行呢？答案為否。實際的指令根本無關緊要。重點在于代碼的對齊。代碼在內(nèi)存中的不同位置會影響其性能特征。如果一段經(jīng)常被執(zhí)行的循環(huán)跨越了緩存邊界，它就會變慢。將其移動到不跨越邊界的地方就能加快其速度。NOP指令并不一定要放在循環(huán)內(nèi)，只要它能將整個代碼塊向上或向下移動，就可能導致這種差異。假設你以非常嚴謹?shù)慕y(tǒng)計方式測量了兩個程序。如果二者之間的性能差異低于10%，則我們就無法斷言哪個程序更快，除非你使用的測量方式能夠消除對齊效應。05?這是關于機器的性能測量，而不是語言
?隨著程序的運行速度越來越快，優(yōu)化經(jīng)歷了一個有趣的階段轉(zhuǎn)變。一旦性能達到一定水平，系統(tǒng)就不再關心編譯器和CPU如何才能加快程序的運行速度。相反，變成了程序員如何盡可能有效地利用CPU，例如將數(shù)據(jù)排列成方便處理器處理的布局等。這意味著用基于硬件的原語替換基于語言的原語。某些圈子采用的優(yōu)化方式非常奇怪，程序員甚至知道他們的循環(huán)應該被優(yōu)化成哪些SIMD指令，然后他們會不停地修改代碼，直到實現(xiàn)這種優(yōu)化。其實，這種優(yōu)化已經(jīng)與編程語言本身的功能沒有絲毫關系了。這就是為什么C和Fortran之類的語言仍在許多性能基準測試中名列前茅的主要原因，但這些技巧并不限于這些語言。幾年前，我開發(fā)了一款規(guī)模非常大的Java應用程序，該應用程序經(jīng)過了非常徹底的優(yōu)化。其內(nèi)部由整數(shù)數(shù)組組成。最常執(zhí)行的路徑中沒有類，甚至沒有Integer對象，基本上就形同于在Java語言內(nèi)部重塑了C語言。其實，幾乎任何編程語言都可以有類似的實現(xiàn)。它們之間的性能差異主要取決于每個編譯器的優(yōu)化器。即便使用相同的編程語言，也會產(chǎn)生截然不同的性能結(jié)果，更不用說不同的編程語言了。因此，聲稱某一種編程語言在性能上有明顯的優(yōu)勢都是不合理的，因為說到底都是內(nèi)聯(lián)匯編程序。原文鏈接：
https://nibblestew.blogspot.com/2021/02/why-most-programming-language.html?m=1END
來源：CSDN版權(quán)歸原作者所有，如有侵權(quán)，請聯(lián)系刪除。
▍
下載文檔
