虛擬內(nèi)存,MMU/TLB,PAGE,Cache之間關(guān)系
虛擬地址VA到物理地址PA以頁(yè)page為單位。通常page的大小為4K。物理頁(yè)面成為page frame。
查看應(yīng)用程序進(jìn)程的地址空間,可以看到分為很多段,比如代碼段(只讀)、數(shù)據(jù)段(讀寫(xiě))、堆、共享庫(kù)(其中進(jìn)一步分段)、棧空間等。整個(gè)應(yīng)用程序的地址空間不會(huì)用滿4GB,因?yàn)檫€有一部分是內(nèi)核空間,應(yīng)用程序不能訪問(wèn)。
再打開(kāi)一個(gè)相同的應(yīng)用程序查看其進(jìn)程的地址空間,也是類(lèi)似的,甚至是一樣的。因?yàn)椴捎貌捎昧颂摂M地址,經(jīng)過(guò)轉(zhuǎn)換在物理地址上還是分開(kāi)的。(代碼段可能沒(méi)有分開(kāi),因?yàn)榭梢怨灿茫?br />
采用虛擬內(nèi)存的原因:
1.讓每個(gè)進(jìn)程有獨(dú)立的地址空間,一個(gè)好處是某個(gè)進(jìn)程不會(huì)破壞其他進(jìn)程,另一個(gè)好處是每個(gè)進(jìn)程都認(rèn)為有4GB地址空間,編程方便。
2.物理上分開(kāi)地址空間,經(jīng)過(guò)虛擬內(nèi)存的管理,可以使得邏輯上是連續(xù)的。
3.所有進(jìn)程的虛擬內(nèi)存之和可能大于物理內(nèi)存。這是通過(guò)借用磁盤(pán)來(lái)實(shí)現(xiàn)的,將一時(shí)不用的虛擬內(nèi)存保持到磁盤(pán)。磁盤(pán)上這部分成為交換設(shè)備,可以是分區(qū),也可以是一個(gè)文件。所以系統(tǒng)中可分配的內(nèi)存總量 = 物理內(nèi)存的大小 + 交換設(shè)備的大小 。交換的過(guò)程成為頁(yè)的換入和換出,期間需要對(duì)內(nèi)存重新映射。
4.增加內(nèi)存的保護(hù)屬性,如內(nèi)核地址空間、只讀地址空間等。
虛擬地址到物理地址是一個(gè)查表的過(guò)程,但可能不只一個(gè)表,是一個(gè)多級(jí)的表。虛擬地址本身分為幾個(gè)部分,page地址和page內(nèi)地址(對(duì)于4KB的頁(yè)來(lái)說(shuō)就是11bit),page地址分為多級(jí)用于查表。這個(gè)過(guò)程稱(chēng)為T(mén)ranslation Table Walk,由硬件完成。上述所指的表,是保存在內(nèi)存上的。
page大,page table?。?br />page大,減少TLB的miss;
page大,分配memory容易造成浪費(fèi);
?
上圖給出了CPU,MMU,Cache的布局,MMU應(yīng)該包括了TLB和Translation Table Walk。TLB(Translation Lookaside Buffer)是一塊高速緩存,緩存最近查找過(guò)的VA對(duì)應(yīng)的頁(yè)表項(xiàng)。如果TLB中有需要查表的VA,就不用Translation Table Walk了,Translation Table Walk較慢要從內(nèi)存上讀表。
Cache的儲(chǔ)存單位是line,假設(shè)每個(gè)line有32bytes。為了表示某個(gè)line是屬于哪個(gè)VA的,Cache里還有TAG。最簡(jiǎn)單的TAG就是VA的地址了(按32bytes的line對(duì)齊),Cache控制器檢查CPU給出VA和TAG是否一致,一致的話表示命中(Hit),將數(shù)據(jù)返回給CPU,否則的話靠MMU轉(zhuǎn)成PA從內(nèi)存中讀取數(shù)據(jù)。
上述這個(gè)Cache的設(shè)計(jì)稱(chēng)為全相聯(lián),特點(diǎn)是一個(gè)VA可以緩存到任何line里,但問(wèn)題是Cache可能有很多l(xiāng)ine,比如512個(gè)line,每次都需要一個(gè)個(gè)TAG比較過(guò)來(lái),這樣速度較慢。
另一種Cache的設(shè)計(jì)稱(chēng)為直接映射,特定的VA只能存在特定的Cache line里,映射規(guī)則為Cache line = (VA line)%(Cacle line總數(shù))。這樣的問(wèn)題是Cache line里的數(shù)據(jù)進(jìn)出可能太過(guò)于平凡,導(dǎo)致命中率較低。
全相聯(lián)Cache和直接映射Cache各有優(yōu)缺點(diǎn),全相聯(lián)Cache查找很慢,但沒(méi)有抖動(dòng)問(wèn)題(命中率低),直接映射Cache則正相反。實(shí)際CPU的Cache設(shè)計(jì)是取兩者的折衷,把所有Cache Line分成若干個(gè)組,每一組有n條Cache Line,稱(chēng)為n路組相聯(lián)Cache(n-way Set Associative Cache)。n路組相聯(lián)Cache的特點(diǎn)是特定的內(nèi)存行只能放在特定的組內(nèi),但是可以放在組內(nèi)的任意cache line上。
?? ??? ?
Cache寫(xiě)回內(nèi)存有兩種模式:
Write Back:Cache Line中的數(shù)據(jù)被CPU核修改時(shí)并不立刻寫(xiě)回內(nèi)存,Cache Line和內(nèi)存中的數(shù)據(jù)會(huì)暫時(shí)不一致,在Cache Line中有一個(gè)Dirty位標(biāo)記這一情況。當(dāng)一條Cache Line要被其它VA的數(shù)據(jù)替換時(shí),如果不是Dirty的就直接替換掉,如果是Dirty的就先寫(xiě)回內(nèi)存再替換。
Write Through:每當(dāng)CPU核修改Cache Line中的數(shù)據(jù)時(shí)就立刻寫(xiě)回內(nèi)存,Cache Line和內(nèi)存中的數(shù)據(jù)總是一致的。如果有多個(gè)CPU或設(shè)備同時(shí)訪問(wèn)內(nèi)存,例如采用雙口RAM,那么Cache中的數(shù)據(jù)和內(nèi)存保持一致就非常重要了,這時(shí)相關(guān)的內(nèi)存頁(yè)面通常配置為Write Through模式。
?? ?
?? ?page是os的概念,而cache是cpu的概念。虛擬地址和物理地址以page為單位進(jìn)行操作的,由兩部分組成:page地址和page內(nèi)地址:
??? 采用多路組聯(lián)的cache,如之前所述,這樣的Cache分為多個(gè)set(組),每個(gè)組里面又有多個(gè)line/way(行),每個(gè)line里面又有多個(gè)字節(jié)。
?
對(duì)某個(gè)page進(jìn)行操作時(shí),會(huì)將page分配到cache里,這種分配是按照一定關(guān)系的。
?? ?
?? ?假設(shè)page的大小為4KB,考慮物理地址;
?? ?cache的大小為2M,16384個(gè)4-Way SET,32 Bytes line,即32*4*16384=2M。
?? ?執(zhí)行memset(0, 0, 4*1024)的話,這4KB內(nèi)存在cache上會(huì)放在連續(xù)的0到127set中每個(gè)set的第1個(gè)line;
?? ?執(zhí)行memset(1, 0, 4*1024)的話,這4KB內(nèi)存在cache上會(huì)放在連續(xù)的128到255set中每個(gè)set的第1個(gè)line;
?? ?...
?? ?執(zhí)行memset(128, 0, 4*1024)的話,這4KB內(nèi)存在cache上會(huì)放在連續(xù)的0到127set中每個(gè)set的第2個(gè)line;
?? ?執(zhí)行memset(129, 0, 4*1024)的話,這4KB內(nèi)存在cache上會(huì)放在連續(xù)的128到255set中每個(gè)set的第2個(gè)line;
?? ?
?? ?就是說(shuō)第ith物理頁(yè)面會(huì)與第(128*j+i)th個(gè)物理頁(yè)面中Cache中占據(jù)同樣的Cache Sets。Set滿了之后,按照一定的算法 ,比如LRU算法(Least Recently Used algorithm)清除之前的數(shù)據(jù)。
?
?
??? 以上說(shuō)的是現(xiàn)象,產(chǎn)生上述現(xiàn)象的原因可以用下圖來(lái)解釋?zhuān)?br />???
?
??? 物理地址的位5-11是page中的偏移地址,7位,可以表示128個(gè)set;
?? ?物理地址的位12-31是page frame地址的,對(duì)某一個(gè)page來(lái)說(shuō)是固定的,決定了上述128個(gè)set在cache中的位置。
?? ?
?? ?128個(gè)set的合集有個(gè)專(zhuān)用的名詞,稱(chēng)為Cache Bin。





