版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、每一個(gè)性能中第一步都會(huì)制定目標(biāo)和分析系統(tǒng)構(gòu)成。只有明確目標(biāo)和了解系統(tǒng)構(gòu)成才會(huì)澄清測(cè)試范圍,知道在測(cè)試中要掌握什么樣的技術(shù)。目標(biāo):1.確定客戶需求和期望2.實(shí)際業(yè)務(wù)需求3.系統(tǒng)需求系統(tǒng)組成系統(tǒng)組成這里包含幾方面含義:系統(tǒng)類別,系統(tǒng)構(gòu)成,系統(tǒng)功能等。了解這些內(nèi)容的本質(zhì)其實(shí)是幫助我們明確測(cè)試的范圍,選者適當(dāng)?shù)膩磉M(jìn)行測(cè)試。系統(tǒng)類別:分清系統(tǒng)類別是我們掌握什么樣的技術(shù)的前提,掌握相應(yīng)技術(shù)做性能測(cè)試才可能成功。例如:系統(tǒng)類別是bs結(jié)構(gòu),需要掌握http協(xié)議,html等技術(shù)?;蛘呤莄s結(jié)構(gòu),可能要了解操作系統(tǒng),win sock,com等。所以甄別系統(tǒng)類別對(duì)于我們來說很重要。系統(tǒng)構(gòu)成:硬件設(shè)置,操作系統(tǒng)設(shè)置是
2、性能測(cè)試的制約條件,一般性能測(cè)試都是利用測(cè)試工具模仿大量的實(shí)際用戶操作,系統(tǒng)在超負(fù)荷情形下運(yùn)作。不同的系統(tǒng)構(gòu)成性能測(cè)試就會(huì)得到不同的結(jié)果。系統(tǒng)功能:系統(tǒng)功能指系統(tǒng)提供的不同子系統(tǒng), 辦公管理系統(tǒng)中的公文子系統(tǒng), 會(huì)議子系統(tǒng)等,系統(tǒng)工能是性能測(cè)試中要模擬的環(huán)節(jié),了解這些是必要的。選擇測(cè)試度量的方法經(jīng)過第一步,將會(huì)對(duì)系統(tǒng)有清醒的認(rèn)識(shí)。接下來我們將把精力放在上,收集系 統(tǒng)相關(guān)的數(shù)據(jù)。度量的相關(guān)方面:*制定規(guī)范*制定相關(guān)流程,角色,職責(zé)*制定改進(jìn)策略*制定結(jié)果對(duì)比標(biāo)準(zhǔn)學(xué)習(xí)的相關(guān)技術(shù)和工具性能測(cè)試是通過工具,模擬大量用戶操作,對(duì)系統(tǒng)增加負(fù)載。所以需要掌握一定的工具知識(shí)才能進(jìn)行性能測(cè)試。大家都知道一般通過
3、win sock,http等協(xié)議紀(jì)錄用戶操作。而協(xié)議選擇是基于軟件的系統(tǒng)架構(gòu)實(shí)現(xiàn)(web般選擇http協(xié)議,cs選 擇win sock協(xié)議),不同的性能測(cè)試工具,也不同,比如中vu腳本用類c語言實(shí)現(xiàn)。幵展性能測(cè)試需要對(duì)各種性能測(cè)試工具進(jìn)行評(píng)估,因?yàn)槊恳环N性能測(cè)試工具都有自身的特點(diǎn),只有經(jīng)過工具評(píng)估,才能選擇符合現(xiàn)有軟件架構(gòu)的性能測(cè)試工具。確定測(cè)試工具后,需要組織測(cè)試人員進(jìn)行工具的學(xué)習(xí),培訓(xùn)相關(guān)技術(shù)。制定評(píng)估標(biāo)準(zhǔn)任何測(cè)試的目的都是確保軟件符合預(yù)先規(guī)定的目標(biāo)和要求。性能測(cè)試也不例外。所以必須制定一套標(biāo)準(zhǔn)。通常性能測(cè)試有四種模型技術(shù)可用于評(píng)估:*線性投射:用大量的過去的,擴(kuò)展的或者將來可能發(fā)生的數(shù)據(jù)
4、組成散布圖, 利用這個(gè)圖表不斷和系統(tǒng)的當(dāng)前狀況對(duì)比。*分析模型:用排隊(duì)論公式和算法預(yù)測(cè)響應(yīng)時(shí)間,利用描述工作量的數(shù)據(jù)和系 統(tǒng)本質(zhì)關(guān)聯(lián)起來*模仿:模仿實(shí)際用戶的使用方法測(cè)試你的系統(tǒng)*基準(zhǔn):定義測(cè)試和你最初的測(cè)試作為標(biāo)準(zhǔn),利用它和所有后來進(jìn)行的測(cè)試結(jié) 果進(jìn)行對(duì)比設(shè)計(jì)測(cè)試用例設(shè)計(jì)測(cè)試用例是在了解軟件業(yè)務(wù)流程的基礎(chǔ)上。設(shè)計(jì)測(cè)試用例的原則是受最小的影響提供最多的測(cè)試信息, 設(shè)計(jì)測(cè)試用例的目標(biāo)是一次盡可能的包含多個(gè)測(cè)試要 素。這些測(cè)試用例必須是測(cè)試工具可以實(shí)現(xiàn)的,不同的測(cè)試場(chǎng)景將測(cè)試不同的功能。 因?yàn)樾阅軠y(cè)試不同于平時(shí)的測(cè)試用例,盡可能把性能的復(fù)雜,才有可能發(fā)現(xiàn)軟件的性能瓶頸。運(yùn)行測(cè)試用例通過性能測(cè)試工具
5、運(yùn)行測(cè)試用例。同一環(huán)境下作的性能測(cè)試得到的測(cè)試結(jié)果是 不準(zhǔn)確的,所以在運(yùn)行這些測(cè)試用例的時(shí)候,需要用不同的,不同的機(jī)器配置上運(yùn) 行。分析測(cè)試結(jié)果運(yùn)行測(cè)試用例后,收集相關(guān)信息,進(jìn)行數(shù)據(jù)統(tǒng)計(jì)分析,找到性能瓶頸。通過排 除誤差和其他因素,讓測(cè)試結(jié)果體現(xiàn)接近真實(shí)情況。不同的體系結(jié)構(gòu)分析測(cè)試結(jié)果的方法也不同,bs結(jié)構(gòu)我們會(huì)分析帶寬,流量對(duì)用戶操作響應(yīng)的影響,而cs結(jié)構(gòu)我們可能更關(guān)心會(huì)系統(tǒng)整體配置對(duì)用戶操作的影響。本文介紹的性能測(cè)試方法不依賴任何測(cè)試工具,對(duì)于如何幵展性能測(cè)試起到一個(gè)指導(dǎo)作用。如何編寫性能測(cè)試用例發(fā)布:2009-12-10 13:38 |作者:網(wǎng)絡(luò)轉(zhuǎn)載|來源:領(lǐng)測(cè)軟件測(cè)試網(wǎng)|查看:77次|
6、進(jìn)入討論由于性能測(cè)試與有很大的區(qū)別, 所以討論出的結(jié)果可能與預(yù)先的設(shè)想有一定的 區(qū)別。性能測(cè)試的目的:為了驗(yàn)證系統(tǒng)是否達(dá)到用戶提出的,同時(shí)發(fā)現(xiàn)系統(tǒng)中存在的性能瓶頸,起到優(yōu)化系統(tǒng)的目的。性能測(cè)試指標(biāo)的來源:用戶對(duì)各項(xiàng)指標(biāo)提出的明確;如果用戶沒有提出性能指標(biāo)則根據(jù)用戶需求、測(cè) 試設(shè)計(jì)人員的經(jīng)驗(yàn)來設(shè)計(jì)各項(xiàng)測(cè)試指標(biāo)。(需求+經(jīng)驗(yàn))主要的性能指標(biāo):服務(wù)器的各項(xiàng)指標(biāo)(CPU內(nèi)存占用率等)、后臺(tái)的各項(xiàng)指標(biāo)、流量、響應(yīng)時(shí)間。BUG觀點(diǎn):1、性能測(cè)試就象人在無風(fēng)情況下跑步(正常情況下的性能指標(biāo));2、就象人在微風(fēng)中跑步(在正常的基礎(chǔ)上加大多少百分比壓力的性能指標(biāo));3、就象人在強(qiáng)風(fēng)中跑步(不斷加壓,直到系統(tǒng)崩潰
7、)。HTTP觀點(diǎn):1、 負(fù)載測(cè)試是正常情況下持續(xù)的加壓;2、 壓力測(cè)試是直接加壓達(dá)到一個(gè)極限值。大家統(tǒng)一的觀點(diǎn):性能測(cè)試、壓力測(cè)試、負(fù)載測(cè)試密不可分,可統(tǒng)稱為性能測(cè)試。性能測(cè)試要點(diǎn):1、 性能測(cè)試是在功能測(cè)試完成之后進(jìn)行。2、 性能、方案一般與統(tǒng)一在一個(gè)文檔里。3、應(yīng)盡量與用戶環(huán)境保持一致。4、 性能測(cè)試一般使用和編制來完成,性能測(cè)試的環(huán)境應(yīng)單獨(dú)運(yùn)行盡量避免與 其他軟件同時(shí)使用。5、 性能測(cè)試的重點(diǎn)在于前期數(shù)據(jù)的設(shè)計(jì)與后期數(shù)據(jù)的分析。6、 性能測(cè)試的用例主要涉及到整個(gè)系統(tǒng)架構(gòu)的問題,所以測(cè)試用例一旦生成,改動(dòng)一般不大,所以做性能測(cè)試的重復(fù)使用率一般比較高。(說明:當(dāng)系統(tǒng)中出現(xiàn)的某個(gè)功能點(diǎn)需要修
8、改,它一般只會(huì)影響到功能測(cè)試的設(shè)計(jì)用例,而對(duì)于性能測(cè)試,很少影響到性能測(cè)試的設(shè)計(jì)用例。但是如果某個(gè)功能有較大的修改,性能測(cè)試也應(yīng)該進(jìn)行重新測(cè)試。)性能測(cè)試的指標(biāo)及其所需注意的地方 ( 一)性能測(cè)試是通過自動(dòng)化的測(cè)試工具模擬多種正常、 峰值以及異常負(fù)載條件來對(duì)系統(tǒng) 的各項(xiàng)性能指標(biāo)進(jìn)行測(cè)試。 負(fù)載測(cè)試和壓力測(cè)試都屬于性能測(cè)試, 兩者可以結(jié)合進(jìn) 行。通過負(fù)載測(cè)試,確定在各種工作負(fù)載下系統(tǒng)的性能,目標(biāo)是測(cè)試當(dāng)負(fù)載逐漸增 加時(shí),系統(tǒng)各項(xiàng)性能指標(biāo)的變化情況。 壓力測(cè)試是通過確定一個(gè)系統(tǒng)的瓶頸或者不 能接收的性能點(diǎn),來獲得系統(tǒng)能提供的最大服務(wù)級(jí)別的測(cè)試。b一、概述/b性能測(cè)試在軟件的質(zhì)量保證中起著重要的作用
9、,它包括的測(cè)試內(nèi)容豐富多樣。 中國(guó)軟件評(píng)測(cè)中心將性能測(cè)試概括為三個(gè)方面: 應(yīng)用在客戶端性能的測(cè)試、 應(yīng)用在 網(wǎng)絡(luò)上性能的測(cè)試和應(yīng)用在服務(wù)器端性能的測(cè)試。通常情況下,三方面有效、合理 的結(jié)合,可以達(dá)到對(duì)系統(tǒng)性能全面的分析和瓶頸的預(yù)測(cè)。應(yīng)用在客戶端性能的測(cè)試應(yīng)用在客戶端性能測(cè)試的目的是考察客戶端應(yīng)用的性能,測(cè)試的入口是客戶 端。它主要包括并發(fā)性能測(cè)試、疲勞強(qiáng)度測(cè)試、大數(shù)據(jù)量測(cè)試和速度測(cè)試等,其中 并發(fā)性能測(cè)試是重點(diǎn)。并發(fā)性能測(cè)試是重點(diǎn)并發(fā)性能測(cè)試的過程是一個(gè)負(fù)載測(cè)試和壓力測(cè)試的過程,即逐漸增加負(fù)載, 直 到系統(tǒng)的瓶頸或者不能接收的性能點(diǎn), 通過綜合分析交易執(zhí)行指標(biāo)和資源監(jiān)控指標(biāo) 來確定系統(tǒng)并發(fā)性能
10、的過程。負(fù)載測(cè)試(Load Testing)是確定在各種工作負(fù)載下 系統(tǒng)的性能,目標(biāo)是測(cè)試當(dāng)負(fù)載逐漸增加時(shí),系統(tǒng)組成部分的相應(yīng)輸出項(xiàng),例如通 過量、響應(yīng)時(shí)間、CPU負(fù)載、內(nèi)存使用等來決定系統(tǒng)的性能。負(fù)載測(cè)試是一個(gè)分析 軟件應(yīng)用程序和支撐架構(gòu)、 模擬真實(shí)環(huán)境的使用, 從而來確定能夠接收的性能過程。 壓力測(cè)試(Stress Testing)是通過確定一個(gè)系統(tǒng)的瓶頸或者不能接收的性能點(diǎn), 來獲得系統(tǒng)能提供的最大服務(wù)級(jí)別的測(cè)試。并發(fā)性能測(cè)試的目的主要體現(xiàn)在三個(gè)方面: 以真實(shí)的業(yè)務(wù)為依據(jù),選擇有代表 性的、關(guān)鍵的業(yè)務(wù)操作設(shè)計(jì)測(cè)試案例,以評(píng)價(jià)系統(tǒng)的當(dāng)前性能;當(dāng)擴(kuò)展應(yīng)用程序的 功能或者新的應(yīng)用程序?qū)⒁徊渴?/p>
11、時(shí), 負(fù)載測(cè)試會(huì)幫助確定系統(tǒng)是否還能夠處理期 望的用戶負(fù)載,以預(yù)測(cè)系統(tǒng)的未來性能;通過模擬成百上千個(gè)用戶,重復(fù)執(zhí)行和運(yùn) 行測(cè)試,可以確認(rèn)性能瓶頸并優(yōu)化和調(diào)整應(yīng)用,目的在于尋找到瓶頸問題。當(dāng)一家企業(yè)自己組織力量或委托軟件公司代為開發(fā)一套應(yīng)用系統(tǒng)的時(shí)候, 尤其 是以后在生產(chǎn)環(huán)境中實(shí)際使用起來,用戶往往會(huì)產(chǎn)生疑問, 這套系統(tǒng)能不能承受大 量的并發(fā)用戶同時(shí)訪問? 這類問題最常見于采用聯(lián)機(jī)事務(wù)處理(OLTP方式數(shù)據(jù)庫(kù)應(yīng)用、Web瀏覽和視頻點(diǎn)播等系統(tǒng)。這種問題的解決要借助于科學(xué)的軟件測(cè)試手 段和先進(jìn)的測(cè)試工具。舉例說明:電信計(jì)費(fèi)軟件眾所周知,每月20日左右是市話交費(fèi)的高峰期,全市幾千個(gè)收費(fèi)網(wǎng)點(diǎn)同時(shí)啟 動(dòng)。
12、收費(fèi)過程一般分為兩步,首先要根據(jù)用戶提出的電話號(hào)碼來查詢出其當(dāng)月產(chǎn)生 費(fèi)用,然后收取現(xiàn)金并將此用戶修改為已交費(fèi)狀態(tài)。 一個(gè)用戶看起來簡(jiǎn)單的兩個(gè)步 驟,但當(dāng)成百上千的終端,同時(shí)執(zhí)行這樣的操作時(shí),情況就大不一樣了,如此眾多 的交易同時(shí)發(fā)生, 對(duì)應(yīng)用程序本身、 操作系統(tǒng)、 中心數(shù)據(jù)庫(kù)服務(wù)器、 中間件服務(wù)器、 網(wǎng)絡(luò)設(shè)備的承受力都是一個(gè)嚴(yán)峻的考驗(yàn)。 決策者不可能在發(fā)生問題后才考慮系統(tǒng)的 承受力, 預(yù)見軟件的并發(fā)承受力, 這是在軟件測(cè)試階段就應(yīng)該解決的問題。目前,大多數(shù)公司企業(yè)需要支持成百上千名用戶, 各類應(yīng)用環(huán)境以及由不同供 應(yīng)商提供的元件組裝起來的復(fù)雜產(chǎn)品, 難以預(yù)知的用戶負(fù)載和愈來愈復(fù)雜的應(yīng)用程 序
13、,使公司擔(dān)憂會(huì)發(fā)生投放性能差、用戶遭受反應(yīng)慢、系統(tǒng)失靈等問題。其結(jié)果就 是導(dǎo)致公司收益的損失。如何模擬實(shí)際情況呢? 找若干臺(tái)電腦和同樣數(shù)目的操作人員在同一時(shí)刻進(jìn)行 操作,然后拿秒表記錄下反應(yīng)時(shí)間?這樣的手工作坊式的測(cè)試方法不切實(shí)際,且無 法捕捉程序內(nèi)部變化情況,這樣就需要壓力測(cè)試工具的輔助。測(cè)試的基本策略是自動(dòng)負(fù)載測(cè)試,通過在一臺(tái)或幾臺(tái)PC機(jī)上模擬成百或上千的虛擬用戶同時(shí)執(zhí)行業(yè)務(wù)的情景,對(duì)應(yīng)用程序進(jìn)行測(cè)試,同時(shí)記錄下每一事務(wù)處理 的時(shí)間、中間件服務(wù)器峰值數(shù)據(jù)、數(shù)據(jù)庫(kù)狀態(tài)等。通過可重復(fù)的、真實(shí)的測(cè)試能夠 徹底地度量應(yīng)用的可擴(kuò)展性和性能,確定問題所在以及優(yōu)化系統(tǒng)性能。預(yù)先知道了 系統(tǒng)的承受力,就為
14、最終用戶規(guī)劃整個(gè)運(yùn)行環(huán)境的配置提供了有力的依據(jù)。并發(fā)性能測(cè)試前的準(zhǔn)備工作 測(cè)試環(huán)境:配置測(cè)試環(huán)境是測(cè)試實(shí)施的一個(gè)重要階段,測(cè)試環(huán)境的適合與否會(huì) 嚴(yán)重影響測(cè)試結(jié)果的真實(shí)性和正確性。 測(cè)試環(huán)境包括硬件環(huán)境和軟件環(huán)境, 硬件環(huán) 境指測(cè)試必需的服務(wù)器、客戶端、網(wǎng)絡(luò)連接設(shè)備以及打印機(jī)/掃描儀等輔助硬件設(shè) 備所構(gòu)成的環(huán)境;軟件環(huán)境指被測(cè)軟件運(yùn)行時(shí)的操作系統(tǒng)、 數(shù)據(jù)庫(kù)及其他應(yīng)用軟件 構(gòu)成的環(huán)境。一個(gè)充分準(zhǔn)備好的測(cè)試環(huán)境有三個(gè)優(yōu)點(diǎn):一個(gè)穩(wěn)定、可重復(fù)的測(cè)試環(huán)境,能夠 保證測(cè)試結(jié)果的正確;保證達(dá)到測(cè)試執(zhí)行的技術(shù)需求;保證得到正確的、可重復(fù)的 以及易理解的測(cè)試結(jié)果。測(cè)試工具:并發(fā)性能測(cè)試是在客戶端執(zhí)行的黑盒測(cè)試,一
15、般不采用手工方式, 而是利用工具采用自動(dòng)化方式進(jìn)行。目前,成熟的并發(fā)性能測(cè)試工具有很多,選擇 的依據(jù)主要是測(cè)試需求和性能價(jià)格比。著名的并發(fā)性能測(cè)試工具有QALoad、LoadRunner、Benchmark Factory和Webstress等。這些測(cè)試工具都是自動(dòng)化負(fù)載 測(cè)試工具,通過可重復(fù)的、真實(shí)的測(cè)試,能夠徹底地度量應(yīng)用的可擴(kuò)展性和性能, 可以在整個(gè)開發(fā)生命周期、跨越多種平臺(tái)、自動(dòng)執(zhí)行測(cè)試任務(wù),可以模擬成百上千試環(huán)境中需要輸入一些適當(dāng)?shù)臏y(cè)試數(shù)據(jù),目的是識(shí)別數(shù)據(jù)狀態(tài)并且驗(yàn)證用于測(cè)試的測(cè)試案例,在正式的測(cè)試幵始以前對(duì)測(cè)試案例進(jìn)行調(diào)試,將正式測(cè)試幵始時(shí)的錯(cuò)誤 降到最低。在測(cè)試進(jìn)行到關(guān)鍵過程環(huán)節(jié)
16、時(shí),非常有必要進(jìn)行數(shù)據(jù)狀態(tài)的備份。制造 初始數(shù)據(jù)意味著將合適的數(shù)據(jù)存儲(chǔ)下來,需要的時(shí)候恢復(fù)它,初始數(shù)據(jù)提供了一個(gè) 基線用來評(píng)估測(cè)試執(zhí)行的結(jié)果。在測(cè)試正式執(zhí)行時(shí),還需要準(zhǔn)備業(yè)務(wù)測(cè)試數(shù)據(jù),比如測(cè)試并發(fā)查詢業(yè)務(wù),那么 要求對(duì)應(yīng)的數(shù)據(jù)庫(kù)和表中有相當(dāng)?shù)臄?shù)據(jù)量以及數(shù)據(jù)的種類應(yīng)能覆蓋全部業(yè)務(wù)。模擬真實(shí)環(huán)境測(cè)試,有些軟件,特別是面向大眾的商品化軟件,在測(cè)試時(shí)常常 需要考察在真實(shí)環(huán)境中的表現(xiàn)。如測(cè)試殺毒軟件的掃描速度時(shí),硬盤上布置的不同類型文件的比例要盡量接近真實(shí)環(huán)境,這樣測(cè)試出來的數(shù)據(jù)才有實(shí)際意義。性能測(cè)試的指標(biāo)及其所需注意的地方2http:/作者: 來源:51testing2008年10月13日 并發(fā)性能測(cè)
17、試的種類與指標(biāo)并發(fā)性能測(cè)試的種類取決于并發(fā)性能監(jiān)控的對(duì)象,以QALoad 自動(dòng)化負(fù)載測(cè)試工具為例。軟件針對(duì)各種測(cè)試目標(biāo)提供了 DB2、DCOM、ODBC、ORACLE、NETLoad、Corba、QARun、SAP、SQLServer、 SybaseTel net、TUXEDO、UNIFACE、Win Sock、WWW、scri等不同的監(jiān)控對(duì)象,支持和 UNIX 測(cè)試環(huán)境。最關(guān)鍵的仍然是測(cè)試過程中對(duì)監(jiān)控對(duì)象的靈活應(yīng)用,例如目前三層結(jié)構(gòu)的運(yùn)行模式廣泛使用,對(duì)中間件的并發(fā)性能測(cè)試作為問題被提到議事日程上來,許多系統(tǒng)都采用了國(guó)產(chǎn)中間件,選擇 Java script監(jiān)控對(duì)象,手工編寫腳本,可以達(dá)到測(cè)試
18、目的。采用自動(dòng)化負(fù)載測(cè)試工具執(zhí)行的并發(fā)性能測(cè)試,基本遵循的測(cè)試過程有:測(cè)試需求與測(cè)試內(nèi)容,測(cè)試案例制定,測(cè)試環(huán)境準(zhǔn)備,測(cè)試腳本錄制、編寫與調(diào)試,腳本分配、回放配置與加載策略,測(cè)試執(zhí)行跟蹤,結(jié)果分析與定位問題所在,測(cè)試報(bào)告與測(cè)試評(píng)估。并發(fā)性能測(cè)試監(jiān)控的對(duì)象不同,測(cè)試的主要指標(biāo)也不相同,主要的測(cè)試指標(biāo)包括交易處理性能指標(biāo)和 UNIX 監(jiān)控。其中,交易處理性能指標(biāo)包括交易結(jié)果、每分鐘交易數(shù)、交易響應(yīng)時(shí)間(Min :最小響應(yīng)時(shí)間;Mean :平均服務(wù)器響應(yīng)時(shí)間;Max :最大服務(wù)器響應(yīng)時(shí)間;StdDev :事務(wù)處理服務(wù)器響應(yīng)的偏差,值越大,偏差越大;Median :中值響應(yīng)時(shí)間;90%: 90%事務(wù)處
19、理的服務(wù)器響應(yīng)時(shí)間)、虛擬并發(fā)用戶數(shù)。應(yīng)用實(shí)例:新華社多媒體數(shù)據(jù)庫(kù) V1.0 ”性能測(cè)試中國(guó)軟件評(píng)測(cè)中心(CSTC)根據(jù)新華社技術(shù)局提出的多媒體數(shù)據(jù)庫(kù)(一期)性能測(cè)試需求和GB/T 17544軟件包質(zhì)量要求和測(cè)試的國(guó)家,使用工業(yè)標(biāo)準(zhǔn)級(jí)負(fù)載測(cè)試工具對(duì)新華社使用的新華社多媒體數(shù)據(jù)庫(kù) V1.0 ”進(jìn)行了性能測(cè)試。性能測(cè)試的目的是模擬多用戶并發(fā)訪問新華社多媒體數(shù)據(jù)庫(kù),執(zhí)行關(guān)鍵檢索業(yè)務(wù), 分析系統(tǒng)性能。性能測(cè)試的重點(diǎn)是針對(duì)系統(tǒng)并發(fā)壓力負(fù)載較大的主要檢索業(yè)務(wù),進(jìn)行并發(fā)測(cè)試和疲勞測(cè)試,系統(tǒng) 采用 B/S 運(yùn)行的用戶并發(fā)執(zhí)行關(guān)鍵業(yè)務(wù)而完成對(duì)應(yīng)用程序的測(cè)試測(cè)試數(shù)據(jù):在初始的測(cè)模式。并發(fā)測(cè)試設(shè)計(jì)了特定時(shí)間段內(nèi)分別
20、在中文庫(kù)、英文庫(kù)、圖片庫(kù)中進(jìn)行單檢索詞、 多檢索詞以及變檢索式、混合檢索業(yè)務(wù)等并發(fā)測(cè)試案例。疲勞測(cè)試案例為在中文庫(kù)中并發(fā)用戶數(shù)200,進(jìn)行測(cè)試周期約 8 小時(shí)的單檢索詞檢索。 在進(jìn)行并發(fā)和疲勞測(cè)試的同時(shí), 監(jiān)測(cè)的測(cè)試指標(biāo)包括交易處 理性能以及 UNIX()、資源等。測(cè)試結(jié)論:在新華社機(jī)房測(cè)試環(huán)境和內(nèi)網(wǎng)測(cè)試環(huán)境中,100M 帶寬情況下,針對(duì)規(guī)定的各并發(fā)測(cè)試案例,系統(tǒng)能夠承受并發(fā)用戶數(shù)為 200 的負(fù)載壓力,最大交易數(shù) /分鐘達(dá)到 78.73,運(yùn)行基本穩(wěn)定,但 隨著負(fù)載壓力增大,系統(tǒng)性能有所衰減。系統(tǒng)能夠承受 200 并發(fā)用戶數(shù)持續(xù)周期約 8 小時(shí)的疲勞壓力,基本能夠穩(wěn)定運(yùn)行。通過對(duì)系統(tǒng) UNIX
21、 ( Linux )、Oracle 和 Apache 資源的監(jiān)控,系統(tǒng)資源能夠滿足上述并發(fā)和疲勞性 能需求,且系統(tǒng)硬件資源尚有較大利用余地。當(dāng)并發(fā)用戶數(shù)超過 200 時(shí),監(jiān)控到 HTTP 500、connect 和超時(shí)錯(cuò)誤,且服務(wù)器報(bào)內(nèi)存溢出錯(cuò)誤, 系統(tǒng)應(yīng)進(jìn)一步提高性能,以支持更大并發(fā)用戶數(shù)。建議進(jìn)一步優(yōu)化軟件系統(tǒng),充分利用硬件資源,縮短交易響應(yīng)時(shí)間。疲勞強(qiáng)度與大數(shù)據(jù)量測(cè)試疲勞測(cè)試是采用系統(tǒng)穩(wěn)定運(yùn)行情況下能夠支持的最大并發(fā)用戶數(shù),持續(xù)執(zhí)行一段時(shí)間業(yè)務(wù),通過 綜合分析交易執(zhí)行指標(biāo)和資源監(jiān)控指標(biāo)來確定系統(tǒng)處理最大工作量強(qiáng)度性能的過程。疲勞強(qiáng)度測(cè)試可以采用工具自動(dòng)化的方式進(jìn)行測(cè)試,也可以手工編寫程序
22、測(cè)試,其中后者占的比 例較大。一般情況下以服務(wù)器能夠正常穩(wěn)定響應(yīng)請(qǐng)求的最大并發(fā)用戶數(shù)進(jìn)行一定時(shí)間的疲勞測(cè)試,獲取交 易執(zhí)行指標(biāo)數(shù)據(jù)和系統(tǒng)資源監(jiān)控?cái)?shù)據(jù)。如出現(xiàn)錯(cuò)誤導(dǎo)致測(cè)試不能成功執(zhí)行,則及時(shí)調(diào)整測(cè)試指標(biāo),例 如降低用戶數(shù)、縮短測(cè)試周期等。還有一種情況的疲勞測(cè)試是對(duì)當(dāng)前系統(tǒng)性能的評(píng)估,用系統(tǒng)正常業(yè) 務(wù)情況下并發(fā)用戶數(shù)為基礎(chǔ),進(jìn)行一定時(shí)間的疲勞測(cè)試。大數(shù)據(jù)量測(cè)試可以分為兩種類型:針對(duì)某些系統(tǒng)、傳輸、統(tǒng)計(jì)、查詢等業(yè)務(wù)進(jìn)行大數(shù)據(jù)量的獨(dú)立 數(shù)據(jù)量測(cè)試;與壓力性能測(cè)試、負(fù)載性能測(cè)試、疲勞性能測(cè)試相結(jié)合的綜合數(shù)據(jù)量測(cè)試方案。大數(shù)據(jù) 量測(cè)試的關(guān)鍵是測(cè)試數(shù)據(jù)的準(zhǔn)備,可以依靠工具準(zhǔn)備測(cè)試數(shù)據(jù)。速度測(cè)試目前主要是針對(duì)
23、關(guān)鍵有速度要求的業(yè)務(wù)進(jìn)行手工測(cè)速度,可以在多次測(cè)試的基礎(chǔ)上求平 均值,可以和工具測(cè)得的響應(yīng)時(shí)間等指標(biāo)做對(duì)比分析。應(yīng)用在網(wǎng)絡(luò)上性能的測(cè)試應(yīng)用在網(wǎng)絡(luò)上性能的測(cè)試重點(diǎn)是利用成熟先進(jìn)的自動(dòng)化技術(shù)進(jìn)行網(wǎng)絡(luò)應(yīng)用性能監(jiān)控、網(wǎng)絡(luò)應(yīng)用性 能分析和網(wǎng)絡(luò)預(yù)測(cè)。網(wǎng)絡(luò)應(yīng)用性能分析網(wǎng)絡(luò)應(yīng)用性能分析的目的是準(zhǔn)確展示網(wǎng)絡(luò)帶寬、延遲、負(fù)載和TCP 端口的變化是如何影響用戶的響應(yīng)時(shí)間的。利用網(wǎng)絡(luò)應(yīng)用性能分析工具,例如Application Expert,能夠發(fā)現(xiàn)應(yīng)用的瓶頸,我們可知應(yīng)用在網(wǎng)絡(luò)上運(yùn)行時(shí)在每個(gè)階段發(fā)生的應(yīng)用行為,在應(yīng)用線程級(jí)分析應(yīng)用的問題。可以解決多種問題:客戶端是否對(duì)數(shù)據(jù)庫(kù)服務(wù)器運(yùn)行了不必要的請(qǐng)求?當(dāng)服務(wù)器從客戶端
24、接受了一個(gè)查詢, 應(yīng)用服務(wù)器是 否花費(fèi)了不可接受的時(shí)間聯(lián)系數(shù)據(jù)庫(kù)服務(wù)器?在投產(chǎn)前預(yù)測(cè)應(yīng)用的響應(yīng)時(shí)間;利用Application Expert調(diào)整應(yīng)用在廣域網(wǎng)上的性能;Application Expert 能夠讓你快速、容易地仿真應(yīng)用性能,根據(jù)最終用戶在不同網(wǎng)絡(luò)配置環(huán)境下的響應(yīng)時(shí)間,用戶可以根據(jù)自己的條件決定應(yīng)用投產(chǎn)的網(wǎng)絡(luò)環(huán)境。用門的概念理解響應(yīng)時(shí)間和吞吐量之間的關(guān)系發(fā)布:2008-6-12 12:08 |作者:老徐|來源:測(cè)試時(shí)代采編|查看:126次|進(jìn)入討論性能測(cè)試的目的是檢查軟件的平均響應(yīng)時(shí)間或者吞吐量是否符合指定的標(biāo)準(zhǔn)。例如,當(dāng)測(cè)試前已經(jīng)獲知在線人數(shù)為10000,可以設(shè)定性能測(cè)試的目的是
25、檢測(cè)軟件典型交易的平均響應(yīng)時(shí)間是否符合小于5秒的指標(biāo)值。例如,當(dāng)測(cè)試前不知道在線人數(shù)是多少,但是已經(jīng)獲知該軟件在一定的時(shí)間周期內(nèi)(t)必須處理N筆交易,可以設(shè)定性能測(cè)試的目的是檢測(cè)軟件典型交易的吞吐量 是否符合大于25筆交易/秒的指標(biāo)值。但是,在第二種情況出現(xiàn)時(shí),還應(yīng)該考慮若軟件的吞吐量符合指定的指標(biāo)值時(shí),軟 件典型交易的平均響應(yīng)時(shí)間是否符合小于5秒的指標(biāo)值。為什么呢?我們可以利用“門”的概念來理解這里面的偏差!首先,我們假設(shè)如下的情況:共有5個(gè)人;有1扇門;一個(gè)人通過這扇門需要花費(fèi)1秒的時(shí)間;此時(shí),這扇門的吞吐量為1人/秒。5個(gè)人通過這扇門的平均響應(yīng)時(shí)間為 (1+2+3+4+5)/5=3秒。
26、如何才能提高人的通過效率呢?即,如何才能提高門的吞吐量呢?有兩種方法:(1) 減小通過門的時(shí)間;(2) 增加門的數(shù)量例如,(1)將一個(gè)人通過門的時(shí)間減小為0.5秒,門的吞吐量變成了2人/秒;(2)增加一個(gè)門,門的吞吐量也變成了2人/秒(1)5個(gè)人通過改善通過時(shí)間的門的平均響應(yīng)時(shí)間為(0.5+1+1.5+2+2.5)/5=1.5秒;(2)5個(gè)人通過兩扇門的平均響應(yīng)時(shí)間為(1+1+2+2+3)/5=1.8秒此時(shí),你可以發(fā)現(xiàn),軟件員改進(jìn)軟件處理并發(fā)交易請(qǐng)求的方法有兩個(gè),第一種是提高單個(gè)請(qǐng)求的處理速率,第二種是增加處理請(qǐng)求的線程的數(shù)量;或者是兩種方法的組合。但是,不同方法的使用并不代表吞吐量得到了提高
27、,而同時(shí)軟件典型交易的 平均響應(yīng)時(shí)間也獲得了相同值的改善。因此,在性能測(cè)試以吞吐量為檢測(cè)指標(biāo)的時(shí)候,不光要評(píng)估吞吐量是否符合了的要求,同時(shí)也必須考慮響應(yīng)時(shí)間是否符合性能指標(biāo)的要求。假設(shè),在測(cè)試前,規(guī)定了吞吐量為大于25筆交易/秒,平均響應(yīng)時(shí)間為小于5秒,在測(cè)試后,若實(shí)際吞吐量等于27筆交易/秒,不能僅憑這個(gè)27筆交易/秒就確定該 軟件的性能符合要求了, 還要看平均響應(yīng)時(shí)間是否符合要求。這時(shí)的平均響應(yīng)時(shí)間 可能大于5秒。而,如果測(cè)試前,規(guī)定了在線人數(shù)為10000,平均響應(yīng)時(shí)間為小于5秒,在測(cè)試后, 僅憑實(shí)際平均響應(yīng)時(shí)間等于4秒就可以判斷該軟件的性能符合要求。LoadRunner 參數(shù)分析Tran
28、 sacti ons(用戶事務(wù)分析)用戶事務(wù)分析是站在用戶角度進(jìn)行的基礎(chǔ)性能分析。1、Transation Sunmmary(事務(wù)綜述)對(duì)事務(wù)進(jìn)行綜合分析是性能分析的第一步, 通過分析時(shí)間內(nèi)用戶事務(wù)的成功與失敗 情況,可以直接判斷出系統(tǒng)是否運(yùn)行正常。2、Average Transaciton Response Time(事務(wù)平均響應(yīng)時(shí)間) “事務(wù)平均響應(yīng)時(shí)間”顯示的是測(cè)試場(chǎng)景運(yùn)行期間的每一秒內(nèi)事務(wù)執(zhí)行所用的平 均時(shí)間,通過它可以分析測(cè)試場(chǎng)景運(yùn)行期間應(yīng)用系統(tǒng)的性能走向。 例:隨著測(cè)試時(shí)間的變化,系統(tǒng)處理事務(wù)的速度開始逐漸變慢,這說明應(yīng)用系統(tǒng)隨 著投產(chǎn)時(shí)間的變化,整體性能將會(huì)有下降的趨勢(shì)。3、Tr
29、ansactions per Second(每秒通過事務(wù)數(shù)/TPS)“每秒通過事務(wù)數(shù)/TPS”顯示在場(chǎng)景運(yùn)行的每一秒鐘,每個(gè)事務(wù)通過、失敗以及停止的數(shù)量,使考查系統(tǒng)性能的一個(gè)重要參數(shù)。 通過它可以確定系統(tǒng)在任何給定時(shí)刻 的時(shí)間事務(wù)負(fù)載。分析TPS主要是看曲線的性能走向。將它與平均事務(wù)響應(yīng)時(shí)間進(jìn)行對(duì)比,可以分析事務(wù)數(shù)目對(duì)執(zhí)行時(shí)間的影響。例:當(dāng)壓力加大時(shí),點(diǎn)擊率/TPS曲線如果變化緩慢或者有平坦的趨勢(shì),很有可能是服務(wù)器開始出現(xiàn)瓶頸。4、Total Transactions per Second(每秒通過事務(wù)總數(shù))“每秒通過事務(wù)總數(shù)”顯示在場(chǎng)景運(yùn)行時(shí), 在每一秒內(nèi)通過的事務(wù)總數(shù)、 失敗的事 務(wù)總署以
30、及停止的事務(wù)總數(shù)。5、Transaction Performance Sunmmary(事務(wù)性能摘要)“事務(wù)性能摘要”顯示方案中所有事務(wù)的最小、 最大和平均執(zhí)行時(shí)間,可以直接判 斷響應(yīng)時(shí)間是否符合用戶的要求。重點(diǎn)關(guān)注事務(wù)的平均和最大執(zhí)行時(shí)間,如果其范圍不在用戶可以接受的時(shí)間范圍 內(nèi),需要進(jìn)行原因分析。6、Transaction Response Time Under Load(事務(wù)響應(yīng)時(shí)間與負(fù)載)“事務(wù)響應(yīng)時(shí)間與負(fù)載”是“正在運(yùn)行的虛擬用戶”圖和“平均響應(yīng)事務(wù)時(shí)間” 圖的組合,通過它可以看出在任一時(shí)間點(diǎn)事務(wù)響應(yīng)時(shí)間與用戶數(shù)目的關(guān)系, 從而掌 握系統(tǒng)在用戶并發(fā)方面的性能數(shù)據(jù),為擴(kuò)展用戶系統(tǒng)提供參
31、考。 此圖可以查看虛擬 用戶負(fù)載對(duì)執(zhí)行時(shí)間的總體影響,對(duì)分析具有漸變負(fù)載的測(cè)試場(chǎng)景比較有用。7、Transaction Response Time(Percentile)(事務(wù)響應(yīng)時(shí)間(百分比)“事務(wù)響應(yīng)時(shí)間(百分比)”是根據(jù)測(cè)試結(jié)果進(jìn)行分析而得到的綜合分析圖, 也就是 工具通過一些統(tǒng)計(jì)分析方法間接得到的圖表。 通過它可以分析在給定事務(wù)響應(yīng)時(shí)間 范圍內(nèi)能執(zhí)行的事務(wù)百分比。8、Transaction Response Time(Distribution)(事務(wù)響應(yīng)時(shí)間(分布)“事務(wù)響應(yīng)時(shí)間(分布)”顯示在場(chǎng)景運(yùn)行過程中, 事務(wù)執(zhí)行所用時(shí)間的分布, 通過 它可以了解測(cè)試過程中不同響應(yīng)時(shí)間的事務(wù)數(shù)量
32、。 如果系統(tǒng)預(yù)先定義了相關(guān)事務(wù)可 以接受的最小和最大事務(wù)響應(yīng)時(shí)間, 則可以使用此圖確定服務(wù)器性能是否在可以接 受的范圍內(nèi)。Web Resources(Web資源分析)Web資源分析是從服務(wù)器入手對(duì)Web服務(wù)器的性能分析。1、Hits per Second(每秒點(diǎn)擊次數(shù))“每秒點(diǎn)擊次數(shù)”,即使運(yùn)行場(chǎng)景過程中虛擬用戶每秒向Web服務(wù)器提交的HTTP請(qǐng)求數(shù)。通過它可以評(píng)估虛擬用戶產(chǎn)生的負(fù)載量,如將其和“平均事務(wù)響應(yīng)時(shí)間”圖比較, 可以查看點(diǎn)擊次數(shù)對(duì)事務(wù)性能產(chǎn)生的影響。 通過對(duì)查看“每秒點(diǎn)擊次數(shù)”, 可以判 斷系統(tǒng)是否穩(wěn)定。系統(tǒng)點(diǎn)擊率下降通常表明服務(wù)器的響應(yīng)速度在變慢,需進(jìn)一步分 析,發(fā)現(xiàn)系統(tǒng)瓶頸所在
33、。2、Throughput(吞吐率) “吞吐率”顯示的是場(chǎng)景運(yùn)行過程中服務(wù)器的每秒的吞吐量。其度量單位是字節(jié), 表示虛擬用戶在任何給定的每一秒從服務(wù)器獲得的數(shù)據(jù)量??梢砸罁?jù)服務(wù)器的吞吐量來評(píng)估虛擬用戶產(chǎn)生的負(fù)載量, 以及看出服務(wù)器在流量方 面的處理能力以及是否存在瓶頸。“吞吐率”圖和“點(diǎn)擊率”圖的區(qū)別:“吞吐率”圖,是每秒服務(wù)器處理的HTTP申請(qǐng)數(shù)?!包c(diǎn)擊率”圖,是客戶端每秒從服務(wù)器獲得的總數(shù)據(jù)量。3、HTTP Status Code Summary(HTTP狀態(tài)代碼概要)“HTTP狀態(tài)代碼概要”顯示場(chǎng)景或會(huì)話步驟過程中從Web服務(wù)器返回的HTTP狀態(tài)代碼數(shù),該圖按照代碼分組。HTTP狀態(tài)代碼
34、表示HTTP請(qǐng)求的狀態(tài)。4、HTTP Respo nses per Seco nd(每秒HTTP卩向應(yīng)數(shù))“每秒HTTP向應(yīng)數(shù)”是顯示運(yùn)行場(chǎng)景過程中每秒從Web服務(wù)器返回的不同HTTP狀態(tài)代碼的數(shù)量,還能返回各類狀態(tài)碼的信息,通過分析狀態(tài)碼,可以判斷服務(wù)器在 壓力下的運(yùn)行情況,也可以通過對(duì)圖中顯示的結(jié)果進(jìn)行分組,進(jìn)而定位生成錯(cuò)誤的 代碼腳本。5、Pages Downloader per Second(每秒頁面數(shù)) “每秒下載頁面數(shù)”顯示場(chǎng)景或會(huì)話步驟運(yùn)行的每一秒內(nèi)從服務(wù)器下載的網(wǎng)頁數(shù)。使用此圖可依據(jù)下載的頁數(shù)來計(jì)算Vuser生成的負(fù)載量。和吞吐量圖一樣, 每秒下載頁面數(shù)圖標(biāo)是Vuser在給定的
35、任一秒內(nèi)從服務(wù)器接收到 的數(shù)據(jù)量。但是吞吐量考慮的各個(gè)資源極其大?。ɡ?,每個(gè)GIF文件的大小、每個(gè) 網(wǎng)頁的大?。6棵胂螺d頁面數(shù)只考慮頁面數(shù)。注:要查看每秒下載頁數(shù)圖,必須在R-T-S那里設(shè)置“每秒頁面數(shù)(僅HTML莫式)”。6、Retries per Second(每秒重試次數(shù)) “每秒重試次數(shù)”顯示場(chǎng)景或會(huì)話步驟運(yùn)行的每一秒內(nèi)服務(wù)器嘗試的連接次數(shù)。在下列情況將重試服務(wù)器連接:A、初始連接未經(jīng)授權(quán)B、要求代理服務(wù)器身份驗(yàn)證C服務(wù)器關(guān)閉了初始連接D初始連接無法連接到服務(wù)器E、服務(wù)器最初無法解析負(fù)載生成器的IP地址7、Retries Summary(重試次數(shù)概要)“重試次數(shù)概要”顯示場(chǎng)景或會(huì)話
36、步驟運(yùn)行過程中服務(wù)器嘗試的連接次數(shù),它按照重試原因分組。 將此圖與每秒重試次數(shù)圖一起使用可以確定場(chǎng)景或會(huì)話步驟運(yùn)行過 程中服務(wù)器在哪個(gè)時(shí)間點(diǎn)進(jìn)行了重試。8、Connections(連接數(shù)) “連接數(shù)”顯示場(chǎng)景或會(huì)話步驟運(yùn)行過程中每個(gè)時(shí)間點(diǎn)打開的TCP/IP連接數(shù)。借助此圖,可以知道何時(shí)需要添加連接。例:當(dāng)連接數(shù)到達(dá)穩(wěn)定狀態(tài)而事務(wù)響應(yīng)時(shí)間迅速增大時(shí),添加連接可以使性能得到 極大提高(事務(wù)響應(yīng)時(shí)間將降低) 。9、Connections Per Second(每秒連接數(shù)) “每秒連接數(shù)”顯示方案在運(yùn)行過程中每秒建立的TCP/IP連接數(shù)。理想情況下,很多HTTP請(qǐng)求都應(yīng)該使用同一連接,而不是每個(gè)請(qǐng)求都
37、新打幵一個(gè)連接。通過每秒連接數(shù)圖可以看出服務(wù)器的處理情況, 就表明服務(wù)器的性能在逐漸下降10、SSLs Per Seco nd(每秒SSL連接數(shù))“每秒SSL連接數(shù)”顯示場(chǎng)景或會(huì)話步驟運(yùn)行的每一秒內(nèi)打幵的新的以及重新使用的SSL連接數(shù)。當(dāng)對(duì)安全服務(wù)器打幵TCP/IP連接后,瀏覽器將打幵SSL連接。Web Page Breakdown(網(wǎng)頁元素細(xì)分)“網(wǎng)頁元素細(xì)分”主要用來評(píng)估頁面內(nèi)容是否影響事務(wù)的響應(yīng)時(shí)間, 通過它可以深 入地分析網(wǎng)站上那些下載很慢的圖形或中斷的連接等有問題的1、Web Page Breakdown(頁面分解總圖)“頁面分解”顯示某一具體事務(wù)在測(cè)試過程的響應(yīng)情況, 進(jìn)而分析相關(guān)
38、的事務(wù)運(yùn)行 是否正常?!绊撁娣纸狻眻D可以按下面四種方式進(jìn)行進(jìn)一步細(xì)分:1)、Download Time Breaddown(下載時(shí)間細(xì)分)“下載時(shí)間細(xì)分”圖顯示網(wǎng)頁中不同元素的下載時(shí)間, 同時(shí)還可按照下載過程把時(shí) 間進(jìn)行分解,用不同的顏色來顯示DNS解析時(shí)間、建立連接時(shí)間、第一次緩沖時(shí)間等各自所占比例。2)、Component Breakdown(Over Time)(組件細(xì)分(隨時(shí)間變化)“組件細(xì)分”圖顯示選定網(wǎng)頁的頁面組件隨時(shí)間變化的細(xì)分圖。 通過該圖可以很容 易的看出哪些元素在測(cè)試過程中下載時(shí)間不穩(wěn)定。 該圖特別適用于需要在客戶端下 載控件較多的頁面,通過分析控件的響應(yīng)時(shí)間, 很容易就能
39、發(fā)現(xiàn)那些控件不穩(wěn)定或 者比較耗時(shí)。3)、Download Time Breakdown(Over Time)(下載時(shí)間細(xì)分(隨時(shí)間變化)下載時(shí)間細(xì)分(隨時(shí)間變化)” 圖顯示選定網(wǎng)頁的頁面元素下載時(shí)間細(xì)分(隨時(shí) 間變化)情況,它非常清晰地顯示了頁面各個(gè)元素在壓力測(cè)試過程中的下載情況。 “下載時(shí)間細(xì)分”圖顯示的是整個(gè)測(cè)試過程頁面元素響應(yīng)的時(shí)間統(tǒng)計(jì)分析結(jié)果, “下載時(shí)間細(xì)分(隨時(shí)間變化)”顯示的事場(chǎng)景運(yùn)行過程中每一秒內(nèi)頁面元素響應(yīng) 時(shí)間的統(tǒng)計(jì)結(jié)果,兩者分別從宏觀和微觀角度來分析頁面元素的下載時(shí)間。4)、Time to First Buffer Breakdown(Over Time)(第一次緩沖時(shí)間
40、細(xì)分(隨時(shí)間 變化)“第一次緩沖時(shí)間細(xì)分(隨時(shí)間變化)”圖顯示成功收到從Web服務(wù)器返回的第一次 緩沖之前的這段時(shí)間, 場(chǎng)景或會(huì)話步驟運(yùn)行的每一秒中每個(gè)網(wǎng)頁組件的服務(wù)器時(shí)間 和網(wǎng)絡(luò)時(shí)間(以秒為單位) ??梢允褂迷搱D確定場(chǎng)景或會(huì)話步驟運(yùn)行期間服務(wù)器或 網(wǎng)絡(luò)出現(xiàn)問題的時(shí)間。First Buffer Time:是指客戶端與服務(wù)器端建立連接后,從服務(wù)器發(fā)送第一個(gè)數(shù) 據(jù)包開始計(jì)時(shí),數(shù)據(jù)經(jīng)過網(wǎng)絡(luò)傳送到客戶端, 到瀏覽器接收到第一個(gè)緩沖所用的時(shí) 間。2、Page Component Breakdown(頁面組件細(xì)分)“頁面組件細(xì)分”圖顯示每個(gè)網(wǎng)頁及其組件的平均下載時(shí)間(以秒為單位) ??梢?根據(jù)下載組件所用
41、的平均秒數(shù)對(duì)圖列進(jìn)行排序,通過它有助于隔離有問題的組件。3、Page Component Breakdown(Over Time)(頁面組件分解(隨時(shí)間變化) “頁面組件分解(隨時(shí)間變化)”圖顯示在方案運(yùn)行期間的每一秒內(nèi)每個(gè)網(wǎng)頁及其組件的平均響應(yīng)時(shí)間 (以秒為單位) 。4、Page Download Time Breakdown(頁面下載時(shí)間細(xì)分)“頁面下載時(shí)間細(xì)分”圖顯示每個(gè)頁面組件下載時(shí)間的細(xì)分, 可以根據(jù)它確定在網(wǎng) 頁下載期間事務(wù)響應(yīng)時(shí)間緩慢是由網(wǎng)絡(luò)錯(cuò)誤引起還是由服務(wù)器錯(cuò)誤引起。“頁面下載時(shí)間細(xì)分”圖根據(jù)DNS 解析時(shí)間、連接時(shí)間、第一次緩沖時(shí)間、SSL握手時(shí)間、接收時(shí)間、FTP驗(yàn)證時(shí)間
42、、客戶端時(shí)間和錯(cuò)誤時(shí)間來對(duì)每個(gè)組件的下載過 程進(jìn)行細(xì)分。5、Page Download Time Breakdown(Over Time)(頁面下載時(shí)間細(xì)分(隨時(shí)間變化)“頁面下載時(shí)間細(xì)分(隨時(shí)間變化)”圖顯示方案運(yùn)行期間, 每一秒內(nèi)每個(gè)頁面組件 下載時(shí)間的細(xì)分。 使用此圖可以確定網(wǎng)絡(luò)或服務(wù)器在方案執(zhí)行期間哪一時(shí)間點(diǎn)發(fā)生 了問題?!绊撁娼M件細(xì)分(隨時(shí)間變化)”圖和“頁面下載時(shí)間細(xì)分(隨時(shí)間變化)”圖通常 結(jié)合起來進(jìn)行分析:首先確定有問題的組件,然后分析它們的下載過程,進(jìn)而定位 原因在哪里。6、Time to First Buffer Breakdown(第一次緩沖時(shí)間細(xì)分)“第一次緩沖時(shí)間細(xì)分
43、”圖顯示成功收到從Web服務(wù)器返回的第一次緩沖之前的這 一段時(shí)間內(nèi)的每個(gè)頁面組件的相關(guān)服務(wù)器/網(wǎng)路時(shí)間。如果組件的下載時(shí)間很長(zhǎng), 則可以使用此圖確定產(chǎn)生的問題與服務(wù)器有關(guān)還是與網(wǎng)絡(luò)有關(guān)。網(wǎng)絡(luò)時(shí)間:定義為第一個(gè)HTTP青求那一刻幵始,直到確認(rèn)為止所經(jīng)過的平均時(shí)間。 服務(wù)器時(shí)間:定義為從收到初始HTTP青求確認(rèn)幵始,直到成功收到來自Web服務(wù)器的一次緩沖為止所經(jīng)過的平均時(shí)間。7、Time to First Buffer Breakdown(Over Time)(第一次緩沖時(shí)間細(xì)分(隨時(shí)間變化)“第一次緩沖時(shí)間細(xì)分(隨時(shí)間變化)”圖顯示成功收到從Web服務(wù)器返回的第一個(gè) 緩沖之前的這段時(shí)間內(nèi), 場(chǎng)景
44、運(yùn)行的每一秒中每個(gè)網(wǎng)頁組件的服務(wù)器時(shí)間和網(wǎng)絡(luò)時(shí) 間。可以使用此圖確定場(chǎng)景運(yùn)行期間服務(wù)器或網(wǎng)絡(luò)出現(xiàn)問題的時(shí)間點(diǎn)。8、Downloader Component Size(KB)(已下載組件大小)登陸時(shí)系統(tǒng)運(yùn)行出現(xiàn)異常。此系統(tǒng)最大承受壓力為200 個(gè)用戶同步登陸。已下載組件大小”圖顯示每個(gè)已經(jīng)下載的網(wǎng)頁組建的大小哪些組件比較大并需要進(jìn)一步進(jìn)行優(yōu)化以提高性能。LoadRunner 對(duì) ezFas 消防監(jiān)控軟件性能測(cè)試的數(shù)據(jù)分析摘要:本文介紹了同方 ezFas 消防監(jiān)控軟件的主要性能數(shù)據(jù),論述了各種性能指標(biāo)在測(cè)試中的用 途。關(guān)鍵詞:場(chǎng)景性能數(shù)據(jù)性能分析Abstract: The article in t
45、roduces the main performa nee datas of Ton gFa ng ezFas software and the use of datasin testi ng.Keywords: Scene ,Performa nee Data,Performa nee An alysis1 ezFas 消防監(jiān)控軟件網(wǎng)頁的基本概況ezFAS 消防監(jiān)控軟件是同方股份公司開發(fā)的一個(gè)功能強(qiáng)大的城市火災(zāi)遠(yuǎn)程監(jiān)控管理平臺(tái),主要面 向大型火災(zāi)監(jiān)控管理中心如省市、大型廠礦企業(yè)、石油、各類區(qū)域和行業(yè)內(nèi)部的消防管理部門,為 主管部門提供實(shí)時(shí)報(bào)警、視頻監(jiān)聽、故障檢測(cè)、統(tǒng)計(jì)分析等功能。該系統(tǒng)包括報(bào)
46、警受理系統(tǒng),用戶服務(wù)系統(tǒng),信息查詢系統(tǒng),火警信息終端四部分組成。報(bào)警受理 系統(tǒng)主要為監(jiān)控中心提供實(shí)時(shí)報(bào)警,用戶管理,視頻查看,人員考勤,報(bào)表生成等各大主要功能。 下面就對(duì)這套主要的報(bào)警受理系統(tǒng)的性能數(shù)據(jù)進(jìn)行分析。2 測(cè)試環(huán)境 服務(wù)器:CPU 型號(hào):Inter(R) Core(TM)2 Duo T5450主頻:1.66GHZ內(nèi)存容量:1.00GB操作系統(tǒng): Microsoft Win dows Server 2003 En terprise Edition SP2客戶端:CPU 型號(hào):Intel Pentium III主頻:930MHZ內(nèi)存容量:640MB操作系統(tǒng):Microsoft Win d
47、ows XP Professio nal SP2網(wǎng)絡(luò)環(huán)境:在測(cè)試網(wǎng)絡(luò)中有且僅有兩臺(tái)測(cè)試計(jì)算機(jī),測(cè)試機(jī)之間通過1 個(gè) Hub 連接。3 測(cè)試場(chǎng)景用戶進(jìn)入登陸模塊,總共登陸500 個(gè)用戶,每分鐘登陸 10 個(gè)用戶。用戶點(diǎn)擊“ASEt理”,用戶在查詢的區(qū)縣里面選擇石河子市”然后點(diǎn)擊查找。查找結(jié)束后點(diǎn)擊退出”按鈕,退出系統(tǒng)。4 性能數(shù)據(jù)分析我們對(duì) 500 個(gè)用戶的同時(shí)登陸進(jìn)程,進(jìn)行每 5 分鐘增加 10 個(gè)用戶的加壓測(cè)試。此次 測(cè) 試在 250 分鐘后結(jié)束。4.1 Transactions Sunm mary(事務(wù)綜述)用戶事務(wù)分析是站在用戶角度進(jìn)行的基礎(chǔ)性能分析。此次測(cè)試一共運(yùn)行的事務(wù)數(shù)為96901
48、45,成功 968750,失敗 250。觀察發(fā)現(xiàn)隨著用戶數(shù)量的不斷增加,失敗的事務(wù)開始出現(xiàn),并且出現(xiàn)的頻率逐步升高。通過它可以直接看出但考慮到此套系統(tǒng)主要用于省級(jí)市的監(jiān)控,對(duì)于最大的省份,監(jiān)控中心數(shù)量不會(huì)超過50 個(gè),所當(dāng)程序運(yùn)行到 200 個(gè)用戶同時(shí)登陸時(shí),失敗事務(wù)開始出現(xiàn)。由此可以直接判斷出當(dāng)200 個(gè)用戶同步有監(jiān)控中心的用戶同時(shí)登陸數(shù)量也不會(huì)超過100 個(gè)。此套系統(tǒng)最大承受壓力為 200,所以性能已經(jīng)大大超過要求,并不需要花費(fèi)時(shí)間和精力優(yōu)化系統(tǒng)的運(yùn)行穩(wěn)定性。4.2Average Transaciton Response Time(事務(wù)平均響應(yīng)時(shí)間)事務(wù)平均響應(yīng)時(shí)間顯示的是測(cè)試場(chǎng)景運(yùn)行期間
49、的每一秒內(nèi)事務(wù)執(zhí)行所用的平均時(shí)間,通過它可以 分析測(cè)試場(chǎng)景運(yùn)行期間系統(tǒng)性能的走向。如果隨著測(cè)試時(shí)間的變化,系統(tǒng)處理事務(wù)的速度開始逐漸變慢就說明應(yīng)用系統(tǒng)隨著投產(chǎn)時(shí)間的變化 整體性能將會(huì)有下降的趨勢(shì)。在這次 250 分鐘的測(cè)試中,事務(wù)相應(yīng)平均時(shí)間沒有大幅度的變化,但這不能說明系統(tǒng)就是穩(wěn)定的,250 分鐘的測(cè)試時(shí)間很短,所以我們針對(duì)這個(gè)結(jié)果單獨(dú)進(jìn)行了5 天持續(xù)不斷的測(cè)試,發(fā)現(xiàn)性能也沒有變化。說明整體性能過關(guān)。將它與 Transactions per Second( 每秒通過事務(wù)數(shù)/TPS)進(jìn)行對(duì)比,來分析事務(wù)數(shù)目對(duì)執(zhí)行時(shí)間的 影響。如果當(dāng)壓力加大時(shí),點(diǎn)擊率/TPS 曲線變化緩慢且有了平坦的趨勢(shì),則可
50、能是服務(wù)器開始出現(xiàn)瓶頸。但是在這次測(cè)試中TPS 曲線隨著壓力的加大曲線變化成正比增加,這此臺(tái)測(cè)試服務(wù)器完全能滿足要求。在工程施工中只要服務(wù)器配置達(dá)到此臺(tái)服務(wù)器配置即可。*Tra nsactio ns per Seco nd ( 每秒通過事務(wù)數(shù)/TPS):顯示在場(chǎng)景運(yùn)行的每一秒鐘,每個(gè)事物通過、失敗以及挺直的數(shù)量,是考察系統(tǒng)性能的一個(gè)重要參數(shù)。通過它可以確定系統(tǒng)在任何給定時(shí)刻的時(shí)間 事務(wù)負(fù)載。4.3Transaction Response Time(Distribution)(事務(wù)相應(yīng)時(shí)間分布)事務(wù)相應(yīng)時(shí)間分布”顯示在場(chǎng)景運(yùn)行過程中,事務(wù)執(zhí)行所用時(shí)間的分布,通過它可以了解測(cè)試過 程中不同相應(yīng)時(shí)間
51、的事物數(shù)量。 如果我們預(yù)先定義了相關(guān)事務(wù)可以接受的最小和最大事務(wù)響應(yīng)時(shí)間, 則可以使用此圖確定服務(wù)器性能是否在可以接受的范圍呢。此次測(cè)試定義了登陸時(shí)間 3 秒,查詢時(shí)間5 秒,退出時(shí)間2 秒。從圖片上看出登陸和退出時(shí)間完 全符合要求,但是查詢時(shí)間隨著用戶的不斷增多以密指數(shù)的比例變大,當(dāng)用戶超過200 個(gè)同時(shí)查詢時(shí),反映時(shí)間已經(jīng)達(dá)到10 秒以上。不能滿足系統(tǒng)需要。經(jīng)過對(duì)程序的分析發(fā)現(xiàn),查詢時(shí)需要調(diào)用的表過多,設(shè)計(jì)太過復(fù)雜。將表單的設(shè)計(jì)簡(jiǎn)單化即可解決 問題。以前表結(jié)構(gòu)的設(shè)計(jì):現(xiàn)在將所有內(nèi)容統(tǒng)一到一張表格中:經(jīng)過對(duì)程序的修改后再次進(jìn)行測(cè)試,問題已經(jīng)解決,所有用戶同時(shí)查詢時(shí)反映時(shí)間也在要求之下。4.4
52、Hits per Seco nd(每秒點(diǎn)擊次數(shù))每秒點(diǎn)擊次數(shù)”是運(yùn)行場(chǎng)景過程中虛擬用戶每秒向Web 服務(wù)器提交的 HTTP 請(qǐng)求數(shù)。同 uota 可以評(píng)估虛擬用戶長(zhǎng)生的負(fù)載量。下面我們將它和 平均事務(wù)響應(yīng)時(shí)間”圖比較,來查看點(diǎn)擊次數(shù)對(duì)事務(wù)性能產(chǎn)生的影響。通過對(duì) 查看每秒點(diǎn)擊次數(shù)”可以判斷系統(tǒng)是否穩(wěn)定。圖 1 紅色為平均響應(yīng)時(shí)間,黑色線為點(diǎn)擊率 由這兩個(gè)合并的圖肯出點(diǎn)擊率隨著用戶的增加在正比的增長(zhǎng),平均相應(yīng)時(shí)間也沒有大幅度的波動(dòng),可以判斷出系統(tǒng)是穩(wěn)定的。如果系統(tǒng)點(diǎn)擊率下降通常表明服務(wù)器的響應(yīng)速度在變慢,需進(jìn)-步分析,再尋找系統(tǒng)瓶頸所在。如果發(fā)現(xiàn)系統(tǒng)點(diǎn)擊率下降,那我們將進(jìn)一步和吞吐率”圖進(jìn)行比較,
53、來尋找系統(tǒng)地瓶頸。此比較可以看出服務(wù)器在流量方面的處理能力以及是否存在瓶頸。吞吐量”顯示的是場(chǎng)景運(yùn)行過程中服務(wù)器的每秒的吞吐量。其度量單位是字節(jié),表示虛擬用戶在任何給定的每一秒從服務(wù)器獲得的數(shù)據(jù)量??梢砸罁?jù)服務(wù)器的吞吐量來評(píng)估虛擬用戶長(zhǎng)生的負(fù)載量。4.5單用戶系統(tǒng)登陸和查詢報(bào)警信息資源特性表資源特性表最小值平均值最大值服務(wù)器資源特性內(nèi)存Memory%Committed Bytes In Use32.2832.3332.53Available Mbytes2777.00 2806.702819.00Page Faults/sec0.00931.1013132.41Pages/sec0.000.5
54、131.01網(wǎng)絡(luò) NetworkIn terfaceBytes Total/sec0.0067176.29542971.81Packets/sec0.0072.23365.31磁盤PhysicalDiskAvg.Disk Queue Len gth0.000.000.00Current Disk Queue Length0.000.000.00Disk Read Bytes/sec0.004763.27169783.70Disk Write Bytes/sec0.0063037.90877130.31處理器Processor%Processor Time0.001.4614.11%User T
55、ime0.000.607.07系統(tǒng) System Processor Queue Length0.000.000.00表1單用戶執(zhí)行系統(tǒng)登陸資源特性表最小值平均值r最大值服 務(wù) 器資 源 特性內(nèi)存Memory%Committed Bytes In Use31.5631.6031.79Available Mbytes2583.002590.812592.00Page Faults/sec0.001113.938505.05Pages/sec0.000.000.00網(wǎng)絡(luò) Network nterfaceBytes Total/sec0.00178899.04485509.91Packets/sec
56、0.00143.32376.32磁盤PhysicalDiskAvg.Disk Queue Len gth0.000.000.00Current Disk QueueLen gth0.000.000.00Disk Read Bytes/sec0.003355.48157707.59Disk Write Bytes/sec0.0056338.18377564.00處理器Processor%Processor Time0.001.686.08%User Time0.000.702.78系統(tǒng) SystemProcessor Queue Len gth 0.000.000.00表 2 單用戶查詢 ASE
57、 信息以上是對(duì)于測(cè)試性能的一些最基本的數(shù)據(jù)分析,如果測(cè)試性能涉及到 SQL Server,我在下面列出比較關(guān)鍵的幾個(gè)數(shù)據(jù)。ObjectCoun tersDescripti onProcessor%Processor timeCPU 使用率SQL Server:Log in s/sec這是每秒登陸到 SQLServer 的計(jì)數(shù)SQL Server:CacheMa nageCache Hit Ratio(all in sta nces)顯示在咼速緩存中找到數(shù)據(jù)的命中率。如果數(shù)值持續(xù)小于 85%則表示內(nèi)存有問題。SQL Server:Gen eral StatisticsUser Connevtio
58、ns顯示當(dāng)前 SQL 用戶數(shù)。與 Active ServerPages:Requests/Sec 計(jì)數(shù)器進(jìn)行比較,可 幫助了解腳本對(duì) SQL Server 的影響程 度。如果差別過大, 則表示測(cè)試腳本不能 有效地對(duì) SQLServer 進(jìn)行應(yīng)力測(cè)試SQL Server: Locks_ock Waits/sec顯示在當(dāng)前進(jìn)程完成之前強(qiáng)制其他進(jìn)程 等待的每秒鎖定請(qǐng)求的數(shù)量。如果該值始 終大于0,則表示事務(wù)有問題。SQLServer: BuffeMa nageBuffer Man ager HitRatio計(jì)數(shù)器值依應(yīng)用程序而定,但比率最好為 90%或更咼。 增加內(nèi)存直達(dá)這一數(shù)值持續(xù) 高于 90%表
59、示 90%以上的數(shù)據(jù)請(qǐng)求可以 從數(shù)據(jù)緩沖區(qū)中獲得所需數(shù)據(jù)。SQL Server:SQL StatisticsBatch Requests/sec每秒收到 Transact-SQL 命令批數(shù)。這一 統(tǒng)計(jì)信息所有約束(如 I/O、用戶數(shù)、高 速緩存大小、請(qǐng)求 I/O、用戶數(shù)、高速緩 存大小、請(qǐng)求的復(fù)雜程度等)影響。批請(qǐng) 求數(shù)值咼意味著吞吐量很好。SQL Server:DatabasesTran sactio ns/sec每秒位數(shù)據(jù)庫(kù)啟動(dòng)的事務(wù)數(shù)表 3 SQL Sever 數(shù)據(jù)5 結(jié)論測(cè)試結(jié)果表明,500 個(gè)用戶在并發(fā)登陸系統(tǒng),查詢 ASE 信息,退出系統(tǒng)的響應(yīng)時(shí)間分別不超過2秒和 5 秒。服務(wù)器資
60、源占用情況正常。系統(tǒng)在模擬測(cè)試環(huán)境中運(yùn)行穩(wěn)定,可以通過。1.1基本概念并發(fā)用戶:用戶并發(fā)一般發(fā)生在使用比較頻繁的模塊中,而且遇到異常通常都是程序的問題。用戶并發(fā)數(shù)量:在線用戶數(shù)量是計(jì)算并發(fā)用戶數(shù)量的主要依據(jù)之一。=使用系統(tǒng)的用戶數(shù)量*(5%20%)并發(fā)主要針對(duì)WEB服務(wù)器而言,是否并發(fā)的關(guān)鍵是看用戶的操作是否對(duì)服務(wù)器產(chǎn) 生了影響。吞吐量:一次性能測(cè)試過程中網(wǎng)絡(luò)上傳輸?shù)臄?shù)據(jù)量的總和。吞吐率:吞吐量/傳輸時(shí)間,單位時(shí)間內(nèi)網(wǎng)絡(luò)上傳輸?shù)臄?shù)據(jù)量,也可以指單位時(shí)間內(nèi)處理的客戶端請(qǐng)求數(shù)量。吞吐率用請(qǐng)求數(shù)/秒”或者 頁面數(shù)/秒”來衡量。點(diǎn)擊率:每秒鐘用戶向web服務(wù)器提交的HTTP請(qǐng)求數(shù)。點(diǎn)擊率越大,對(duì)服務(wù)器
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2024年度版權(quán)授權(quán)使用合同(含授權(quán)范圍和費(fèi)用支付)
- 2024年產(chǎn)品發(fā)布會(huì)合作合同
- 2024年廣州臨時(shí)工雇傭合同
- 2024年度短視頻內(nèi)容創(chuàng)作與版權(quán)交易合同
- 2024年工程吊籃長(zhǎng)期租借協(xié)議
- 2024年度智能供應(yīng)鏈管理軟件購(gòu)買合同
- 2024酒店用品采購(gòu)合同模板
- 2024年農(nóng)民工建筑行業(yè)用工合同
- 2024【工程勞務(wù)分包合同范本】裝飾工程分包合同范本3
- 2024年度電力工程吊裝安全合同
- 心理咨詢與治療積極關(guān)注尊重與溫暖
- GB/T 10193-1997電子設(shè)備用壓敏電阻器第1部分:總規(guī)范
- 基于solidworks flow simulation油浸式變壓器散熱優(yōu)化分析
- CPK與CP詳細(xì)講解資料(課堂PPT)
- 光動(dòng)力治療在氣道腫瘤中的臨床應(yīng)用課件
- 小學(xué)語文人教三年級(jí)上冊(cè) 群文閱讀《奇妙的中心句》
- 大數(shù)據(jù)和人工智能知識(shí)考試題庫(kù)600題(含答案)
- 2023年上海機(jī)場(chǎng)集團(tuán)有限公司校園招聘筆試題庫(kù)及答案解析
- 鏡頭的角度和方位課件
- 污水處理常用藥劑簡(jiǎn)介知識(shí)講解課件
- 五年級(jí)上冊(cè)英語課件-Unit 1《My future》第1課時(shí)牛津上海版(三起) (共28張PPT)
評(píng)論
0/150
提交評(píng)論