HotSpot GC調(diào)優(yōu)原理與實(shí)踐

HotSpotGC調(diào)優(yōu)原理與實(shí)踐

肖虎

Agenda內(nèi)存管理GC算法調(diào)優(yōu)技巧經(jīng)驗(yàn)分享內(nèi)存管理Explicit(例如C)分配內(nèi)存：malloc釋放內(nèi)存：free優(yōu)點(diǎn)高效缺點(diǎn)開發(fā)成本高內(nèi)存管理Auto(例如Lisp、Java、.net、erLang)語言本身來負(fù)責(zé)內(nèi)存的分配和回收優(yōu)點(diǎn)開發(fā)效率高避免內(nèi)存分配bug缺點(diǎn)不可預(yù)期的latency內(nèi)存管理JavaGarbageCollectorMemoryAllocateMemoryFreeGarbageCollectionGarbage:沒有被引用的對象如忘記釋放應(yīng)該釋放的

引用，就會

造成memoryleakSunJDKMemoryArea-XX:PermSize–XX:MaxPermSize-Xms-Xmx備注：在SunJDK中本地方法棧和方法棧是同一個，因此也可用-Xss控制SunJDKMemoryArea方法棧&本地方法棧線程創(chuàng)建時產(chǎn)生，方法執(zhí)行時生成棧幀；方法區(qū)存儲類的元數(shù)據(jù)信息、常量、方法代碼等；堆Java代碼中所有的new操作；NativeMemory(CHeap)DirectByteBuffer、JNI、Compile、GC；GCinHotspot備注：通常將對新生代進(jìn)行的回收稱為MinorGC或YoungGC；對舊生代進(jìn)行的回收稱為MajorGC，但由于MajorGC除并發(fā)GC外均需對整個堆以及持久代進(jìn)行掃描和回收，因此又稱為FullGC。NewOldCopyingMark-SweeporMark-CompactGenerationalGCmostobjectsaretemp-livedsoJDKdecidesplitheapintotwogenerationstousegcalgorithmproperlyGCinHotspotGenerationalGCGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Copying(aspecialcase)onlyneedscanliveobjects,sogcspeedonlydecidedbyldsnofragmentationneedupdateobjectpointerneedkeepanemptymemoryareaEdenS0S1OldGenerationNewGenerationGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweep圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Sweepneedscanallobjects,soifjavaheapbecomeslarger,thengcslower可清除所有的Garbage內(nèi)存碎片，分配低效需要在一定的時機(jī)觸發(fā)GCAlgorithmDetailsTracing–Mark-Compact圖片來源于JavaOne2010《TheGarbageCollectionMythbusters》Sessionbytony,johnGCAlgorithmDetailsTracing–Mark-Compact沒有內(nèi)存碎片，分配高效增加了回收需要耗費(fèi)的時間需要更新所有移動過的object的refpointer需要在一定時機(jī)觸發(fā)GCAlgorithmSummaryWhygcneedstoptheworld?Mark-Sweep,Mark-Compactifrefchangesornewobjectcreatedwhenmarking;compactneedupdatepointer,so...Copyingcopyingneedupdatepointer,so...GarbageCollectorSerialParallelYGC:ParallelScavenge(PS)FGC:ParallelMSC,ParallelCompactingConcurrentYGC:ParNewFGC:CMS,failthenSerialMSCGarbageCollector-SerialClient模式下默認(rèn)；可用-XX:+UseSerialGC強(qiáng)制使用。優(yōu)點(diǎn)對于Server應(yīng)用而言，沒看出有什么優(yōu)點(diǎn)缺點(diǎn)慢，不能充分發(fā)揮硬件資源GarbageCollector-Serial細(xì)節(jié)參數(shù)-XX:SurvivorRatio=x，控制eden/s0/s1的大??；-XX:MaxTenuringThreshold，用于控制對象在新生代存活的最大次數(shù)；-XX:PretenureSizeThreshold=x，控制超過多大字節(jié)的對象就在old上分配；GarbageCollector-ParallelGarbageCollector-ParallelServer模式下默認(rèn)；YGC:PSFGC:ParallelMSC可用-XX:+UseParallelGC或-XX:+UseParallelOldGC來強(qiáng)制指定；ParallelGC代表FGC為ParallelMSCParallelOldGC代表FGC為ParallelCompacting優(yōu)點(diǎn)高效；缺點(diǎn)當(dāng)heap變大后，造成的暫停時間會變得比較長。GarbageCollector-ParallelPartialCompactwhenuseParallelOldGCGarbageCollector-Parallel細(xì)節(jié)參數(shù)-XX:SurvivorRatio=x，控制eden/s0/s1的大小，含義為eden:survivorspace；-XX:MaxTenuringThreshold，用于控制對象在新生代存活的最大次數(shù)；-XX:-UseAdaptiveSizePolicy，去掉YGC后動態(tài)調(diào)整eden、from以及tenuringthreshold的動作；-XX:ParallelGCThreads，設(shè)置并行的線程數(shù)；GarbageCollector-ConcurrentMostly-ConcurrentGCGarbageCollector-Concurrent可用-XX:+UseConcMarkSweepGC來強(qiáng)制指定；優(yōu)點(diǎn)在對Old進(jìn)行回收時，對應(yīng)用造成的暫停時間非常短，適合對latency要求高的應(yīng)用；缺點(diǎn)需要更多的內(nèi)存內(nèi)存碎片和浮動垃圾；Old區(qū)上的內(nèi)存分配效率低；回收的整個耗時比較長；和應(yīng)用爭搶CPU；GarbageCollector-Concurrent細(xì)節(jié)參數(shù)-XX:CMSInitiatingOccupancyFraction，設(shè)置OldGen使用到達(dá)多少比率時觸發(fā)；-XX:CMSInitiatingPermOccupancyFraction，設(shè)置PermGen使用到達(dá)多少比率時觸發(fā)；-XX:+UseCMSInitiatingOccupancyOnly，禁止hotspot自行觸發(fā)CMSGC；MemoryMonitoring內(nèi)存使用情況Heap&PermGenjstat–gcorjstat–gcutiljmap

–heapCHeaptopMemoryMonitoring誰用了內(nèi)存Heapjmap–histojmap–dump,thenmat(dump文件太大，windowsmat無法分析，怎么辦？)CHeapgoogleperftoolsMemoryMonitoringGC的狀況YGC/FGC的頻率、耗時、回收的效果jstat–gcutil-XX:+PrintGCDetails–XX:+PrintGCDateStamps–Xloggc:<file>GCChoiceThroughputmoreimportantParallelOldGCLatenciesmoreimportantUsuallyParallelOldGCfirst,ifnotsatisfiedthenCMS.FootprintHeapSizeStartingPointCalculateLiveDataSizeSet–Xms,-Xmxto3xto4xLDSPatternsGoal:降低FGC執(zhí)行的頻率可選方案增大old；在不放大heap的情況下，可能會造成一些問題；放大heap；盡可能減少從new晉升到old的對象；TenuringThreshold、SurvivorSpaceSize；優(yōu)化系統(tǒng)性能。PatternsGoal:減小FGC造成的暫停時間可選方案減小Heap；GC換為CMS；升級或增加CPU。PatternsGoal:降低YGC的執(zhí)行頻率可選方案增大新生代；有可能造成FGC頻繁。優(yōu)化系統(tǒng)性能。PatternsGoal:縮短YGC造成的暫停時間可選方案減小新生代；有可能會造成new晉升到old的對象增加；增加或升級CPU。ExperiencesCMSGCTuningTenuringThresholdTuningMTT越大，晉升到old的對象可能越少，同時可能會導(dǎo)致YGC耗時變長；MTT越小，晉升到old的對象可能越多，同時可能會使得YGC耗時變短，但也就造成了old的GC更頻繁，對于CMS而言，還會造成更多的內(nèi)存碎片。Bestbehavior:bytessurvivingperagedecreaseasageincreases.SurvivorSizeTuning當(dāng)太多對象晉升到Old時，可能會造成YGC耗時變長，此時應(yīng)考慮適當(dāng)放大SurvivorSize；ExperiencesCMSGCTuning最重要的不要出現(xiàn)promotionfailed和motionfailed降低觸