使用 ApacheBench 進行網站的壓力測試

  分享到噗浪!

ApacheBench 工具程式是 Apache 網站伺服器軟體的一個附帶的工具軟體,專門用來執行網站伺服器的運行效能,特別是針對 Apache 網站伺服器 的效能分析。這支程式原本是用來檢測 Apache 網站伺服器(Web Server) 所能夠提供的效能,特別是可以看出 Apache 網站伺服器能提供每秒能送出多少網頁,當然的,也可以用在任何其他的網站伺服器,例如說:IISlighttpd

你可以到 Apache HTTP Server 網站下載最新版,如果你要在 Windows 的環境執行 ApacheBench 可以直接下載 Win32 Binary 的版本就好,由於線上所提供的版本是 MSI 的封裝檔,安裝好之後也等同於在你的電腦內安裝了一套 Apache HTTP Server,如果你不需要多執行一套 Apache HTTP Server 的話,你可以在安裝好之後進入 C:\Program Files\Apache Group\Apache2\bin 目錄,找到 ab.exe 執行檔,複製出來後再移除 Apache 安裝即可,因為 ab.exe 是可以獨立執行的,不需要任何關連的 dll 檔。

底下是 ab.exe 的使用參數摘要說明,若要看詳細說明可以看這裡(或中文翻譯):

C:\>ab -h
Usage: ab [options] [http://]hostname[:port]/path
Options are:
    -n requests     Number of requests to perform
    -c concurrency  Number of multiple requests to make
    -t timelimit    Seconds to max. wait for responses
    -p postfile     File containing data to POST
    -T content-type Content-type header for POSTing
    -v verbosity    How much troubleshooting info to print
    -w              Print out results in HTML tables
    -i              Use HEAD instead of GET
    -x attributes   String to insert as table attributes
    -y attributes   String to insert as tr attributes
    -z attributes   String to insert as td or th attributes
    -C attribute    Add cookie, eg. 'Apache=1234. (repeatable)
    -H attribute    Add Arbitrary header line, eg. 'Accept-Encoding: gzip'
                    Inserted after all normal header lines. (repeatable)
    -A attribute    Add Basic WWW Authentication, the attributes
                    are a colon separated username and password.
    -P attribute    Add Basic Proxy Authentication, the attributes
                    are a colon separated username and password.
    -X proxy:port   Proxyserver and port number to use
    -V              Print version number and exit
    -k              Use HTTP KeepAlive feature
    -d              Do not show percentiles served table.
    -S              Do not show confidence estimators and warnings.
    -g filename     Output collected data to gnuplot format file.
    -e filename     Output CSV file with percentages served
    -h              Display usage information (this message)

而我經常使用的參數摘要如下:

1. 同時 10 個連線,連續點擊 10000 次 ( 每個 Request 執行完畢後都會自動斷線,然後再重新連線 )

ab -n 10000 -c 10 http://www.example.com/index.aspx
2. 同時 10 個連線,連續點擊 10000 次,並且使用 Keep-Alive 方式連線(當 Web Server 有支援 Keep-Alive 功能時 ApacheBench 會在同一個連線下連續點擊該網頁)
ab -n 10000 -c 10 -k http://www.example.com/index.aspx

3. 將測試的效能原始資料匯出成 CSV 檔

ab -e output.csv -n 10000 -c 10 http://www.example.com/index.aspx

   匯出的 output.csv 內容如下:

Percentage served,Time in ms
0,6.200000e+001
1,6.200000e+001
2,6.200000e+001
3,6.200000e+001
4,6.200000e+001
5,6.200000e+001
6,6.200000e+001
7,6.200000e+001
8,6.200000e+001
9,6.200000e+001
10,6.200000e+001
11,6.200000e+001
12,6.200000e+001
13,6.200000e+001
14,6.200000e+001
......

   上表所代表的每一列代表送出的百分比,第二個欄位是當下的 "Time per request" (每個要求所花費的時間),單位是豪秒(millisecond)。

如何有效的檢視結果

壓力測試的核心在於如何分析結果,底下我用一個測試的結果說明每個欄位所代表的意義。如果你只要看重點的話,可以看 Failed requests、Requests per second、與 Time per request 這三個參數也就差不多夠了。其中的 Failed requests 的數量太高的話,很有可能代表你的 Web Application 的穩定度不夠,而導致使用大量要求時無法回應需求 。而 Request per second 代表你每表可送出的回應數有多少,代表你 Web Application 的承載量有多少(在不考慮頻寬限制的情況下)。

C:\>ab -d -e a.csv -v 1 -n 1000 -c 3 http://www.example.com/index.aspx
This is ApacheBench, Version 2.0.41-dev <$Revision: 1.121.2.12 $> apache-2.0
Copyright (c) 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Copyright (c) 2006 The Apache Software Foundation, http://www.apache.org/

Benchmarking www.m-taoyuan.tw (be patient)
Completed 100 requests
Completed 200 requests
Completed 300 requests
Completed 400 requests
Completed 500 requests
Completed 600 requests
Completed 700 requests
Completed 800 requests
Completed 900 requests
Finished 1000 requests


Server Software:        Microsoft-IIS/6.0
Server Hostname:        www.m-taoyuan.tw
Server Port:            80

Document Path:          /index.aspx
Document Length:        25986 bytes

Concurrency Level:      3
Time taken for tests:   25.734375 seconds
Complete requests:      1000
Failed requests:        0
Write errors:           0
Total transferred:      26372000 bytes
HTML transferred:       25986000 bytes
Requests per second:    38.86 [#/sec] (mean)
Time per request:       77.203 [ms] (mean)
Time per request:       25.734 [ms] (mean, across all concurrent requests)
Transfer rate:          1000.72 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    1   4.4      0      15
Processing:    62   75   9.1     78     109
Waiting:       46   64   8.0     62     109
Total:         62   76   9.3     78     109

如上表顯示的結果來說明,我一個欄位一個欄位的講解如下:

  • Server Software:    Web主機的作業系統與版本(若Web主機設定關閉此資訊則無)
  • Server Hostname:  Web主機的IP位址(Hostname)
  • Server Port:           Web主機的連接埠(Port)
  • Document Path:     測試網址的路徑部分
  • Document Length: 測試網頁回應的網頁大小
  • Concurrency Level: 同時進行壓力測試的人數
  • Time taken for tests: 本次壓力測試所花費的總秒數
  • Complete requests: 完成的要求數(Requests)
  • Failed requests:      失敗的要求數(Requests)
  • Write errors:           寫入失敗的數量
  • Total transferred:   本次壓力測試的總數據傳輸量(包括 HTTP Header 的資料也計算在內)
  • HTML transferred:  本次壓力測試的總數據傳輸量(僅計算回傳的 HTML 的資料)
  • Requests per second: 平均每秒可回應多少要求
  • Time per request:  平均每個要求所花費的時間(單位: 豪秒)
  • Time per request:  平均每個要求所花費的時間,跨所有同時連線數的平均值(單位: 豪秒)
  • Transfer rate:         從 ab 到 Web Server 之間的網路傳輸速度

最後的 Connection Times (ms) 指的是壓力測試時的連線處理時間:

橫軸欄位的部分:

  • min:       最小值
  • mean:    平均值(正、負標準差)
  • median: 平均值(中間值)
  • max:      最大值

縱軸欄位的部分:

  • Connect:     從 ab 發出 TCP 要求到 Web 主機所花費的建立時間。
  • Processing:  從 TCP 連線建立後,直到 HTTP 回應(Response)的資料全部都收到所花的時間。
  • Waiting:       從發送 HTTP 要求完後,到 HTTP 回應(Response)第一個 Byte 所等待的時間。
  • Total:           等於 Connect + Processing 的時間(因為 Waiting 包含在 Processing 時間內了)

壓力測試的基本觀念

  • 排除頻寬的限制
    • 做壓力測試通常不會考量「頻寬的限制」,所以一般來說不會將測試的主機擺在遠端機房、然後測試程式擺在公司內部的主機,而是會將壓力測試的 Client 跟 Web 主機擺在同一個網段下進行壓力測試。
    • 因為「頻寬」只要花錢就會有了,但是主機的承載量卻是有限的,從遠端進行壓力測試主要的限制是在「頻寬」而非「效能」,所以從遠端單點進行壓力測試毫無任何意義可言,這樣是測不出主機的效能極限的。
    • 如果你有能力與資源進行大規模(多點)壓力測試的話,透過遠端進行壓力測試才有意義。
  • 壓力要循序漸進
    • 你不要一下字就執行同時連線數 100 人,而是要循序漸進的慢慢加同時連線數上去,才不會讓 Web Application 一下字承受過大的負載而導致效能的數據不正確(例如說 Failed requests 過高),但這只是建議,你也可以一下子操死你的主機,反正你在測主機的極限嘛!

參考網址:

此文章由 will 發表於 2008/6/30 下午 07:46:05

永久連結 | 評論 (22) | 此文章的RSSRSS comment feed |

分類: Linux | Web | 介紹好用工具

標籤: , ,

評論

七月 2. 2008 16:58

chainchung

由您的操作說明中, 僅能針對 1 個 url 做測試, 可是真實的情況往往是很多的 user, 連結很多不同 url, 請問, 要如何安排才能測出較真實的效能? 這樣才能跟老板報告, 這個網站能撐多少人, 若超過此數量, 就必需購買伺服器?

chainchung Taiwan

七月 2. 2008 17:25

will

ApacheBench 是最「入門級」的免費壓力測試工具,只能測試單點的網頁效能,你可以針對系統中比較耗費資源或有瓶頸的網頁程式進行壓力測試,但是若要測試主機真實的效能是比較困難的。

另外,你其實可以透過分析 Web Server 的 Log 找出主機的流量狀況與有瓶頸的網頁(例如回應時間過久的網頁),用以判定是否加以改善程式架構或是擴充伺服器。

will Taiwan

七月 2. 2008 23:27

motovb

科科,可以介紹一下VS的Web 壓力測試啊~

motovb

七月 7. 2008 22:22

will

等我會用 VS 的 Web 壓力測試工具時再來寫 ^^

我之前有去微軟上過測試的課程,當中有講到 VSTS for Tester 的 Web 測試工具,真的是蠻強的,功能多又實用,只是功能多相對操作複雜,可能不容易上手就是了,且除了要能上手之外,還需要有足夠的背景知識才能活用。

will Taiwan

七月 1. 2009 23:42

chien

請問在執行ab -n 10000 -c 10 http://www.example.com/index.aspx
10個同時連線及10000個點擊數,是怎麼解釋的呢??是指10同時連線各自產生10000筆點擊嗎(10*10000)??或是10000筆的點擊由這10個連線去分,所以每個連線各自產生1000筆點擊呢??

chien Taiwan

八月 13. 2009 11:58

Alex

很詳細的介紹~ 謝謝~~
也很期待VS的測試介紹^^

Alex Taiwan

十月 8. 2009 21:37

Will 保哥

chien: 以下這個指令指令:
ab -n 10000 -c 10

實際執行的結果應該是 10,000 次,而非 10,000 * 10 次!

Will 保哥 Taiwan

六月 18. 2010 01:38

該隱

您好
請教一下
Requests per second: 平均每秒可回應多少要求 => 這個是否就代表了apache一秒內可服務人數的上限了嗎???

如果單算一個連線服務的service delay時間為0.5sec,Apache每一個連線約需要2.5mbyte的memory,因此以一台1G RAM的機械約可以同時服務1024m/2.5m=400以下的連線,在一台400個連線的apache內,每秒便可以服務400/0.5=800clients。
這個算法和Requests per second是否不一樣呢???

該隱 Taiwan

六月 18. 2010 02:50

Will 保哥

該隱: 你拿可消耗的記憶體來分析每秒可服務次數是不準確的,因為除了實體記憶體外還有虛擬記憶體能用,用到虛擬記憶體就可能會用到 swap file 進而大幅影響效能。其實會影響 Requests per second 的因素很多,你不能用單一條件來判定 Requests per second 的估計值,所以才需要壓力測試才知道這台主機實際的效能為多少。

Will 保哥 Taiwan

六月 18. 2010 11:37

該隱

謝謝Will保哥的回覆
如果我想了解一台Server每秒能服務人數, 用ab -n 10000 -c 1來測試出Requests per second, 該數值是否就能代表1秒內可能服務的最大requests數了呢???
但若把c加大, Requests per second應該也會受影響, 提高了可以同時連線的壓力算出來的數值是否才是1秒內可能服務的最大requests數呢???

該隱 Taiwan

六月 18. 2010 12:51

該隱

不好意思, 再請教一下^///^
因為我目前測試的web服務是用apache+php+mysql...
目前測試平均一隻php花cpu大概2%, 記憶體約2~3M, 如果以這些數據來看, cpu一次最多也只能處理50個php囉???
這不就限制了server同時處理數量了???感覺就算再怎麼多也不可能同時1000的說???
但是聽說一台伺服器同上人數可達上萬的數據...這是怎麼算出來的呢???

該隱 Taiwan

六月 18. 2010 16:24

Will 保哥

該隱: 要能上萬需搭配架構規劃與硬體配合才有可能,通常若有實做良好的 Cache 機制才有可能破萬如果是 PHP 程式要破萬基本上是不太可能的,除非買運算能力非常好的電腦。

Will 保哥 Taiwan

一月 29. 2011 11:39

Doniii

Hi,請教兩個問題
1. 現在公司在開發手機程式需對iis server作web service的http request,如以總數10萬使用者加上load balance的話, 一台server應該還要能撐上8000~10000的同時request才行的話, 這邊測試時-n跟-c的下法應該要怎麼樣才比較準確?
2. 以c#寫的web service, 後面有帶一些參數(Ex:?action=xxx&X=aaa), 但我剛剛測看起來只有action吃的進去, 後面&開頭的測完都收到"'x' 不是內部或外部命令、可執行的程式或批次檔。"這樣的訊息, 是否是因為用到特殊字元? 可以怎麼樣解決才能讓參數吃的進去
麻煩你解答一下, 謝謝!!

Doniii Taiwan

一月 29. 2011 15:29

Will 保哥

Doniii:

1. 你要在同一時間發出 8,000 ~ 10,000 個 concurrent request 可能需要 3 ~ 4 台 Client PC 才能送出較為精準的模擬流量。通常你要是假設 1 萬使用者連到壹台伺服器的話,同時間正在連結主機的量可能會在 1000 左右(預估值,你要把思考時間算進去),其語法大概是:ab -c 1000 -n 100000

2. 你應該是在 Linux 下執行才有這個困擾,因為在 Shell 環境下 & 符號代表把程式執行在背景,解決方法就是在網址的前後加上雙引號(")即可。

Will 保哥 Taiwan

二月 10. 2011 15:52

Alvin

您好
我們是網站製作的廠商,最近交付一個網站製作的案子,碰到廠商需要作壓力測試的問題...(測試:如果同時100個人同時上線時的狀況)
但傻眼的是,網站製作完成交付,主機伺服器管理都並不在我們家(頻寬也是),我就不知道要測試啥了???
有沒有比較好的說法可以解釋說明,可以協助溝通...

感謝!

Alvin Taiwan

二月 10. 2011 17:00

Will 保哥

Alvin: 壓力測試通常都不會考慮頻寬的因素,也就是最好能在區域網路內進行測試才能知道網站伺服器實際可提供的吞吐量(Throughtput)。另一方面來說,在簽約時如果有要求要進行壓力測試,也建議將客戶能接受的硬體規格列入,這樣測試起來對雙方都比較有保障。

Will 保哥 Taiwan

二月 19. 2011 00:31

Doniii

請問一下,我以JMeter對我的頁面作壓力測試, 在9000 requests/300秒,
也就是相當於1秒可承受30個request的情況, 是否可以請教一下這樣的效
能表現算是好還是不好?大概相當於可讓多少人access的情況? 我所用的環境
目前是CentOS(Linux)+Tomcat6, CPU大概是P4 3G左右, RAM則是1G左右

Doniii Taiwan

二月 19. 2011 01:40

Will 保哥

Doniii: 這樣的效能看起來不是很好,你應該還有很多可以效能調校的空間。

Will 保哥 Taiwan

二月 19. 2011 14:42

Doniii

那就你所知, 主要Tomcat上有甚麼可以調校的地方?目前conf內的server.xml內的maxThread,maxSpareThread,還有JAVA_OPTS內的最大記憶體量(-Xmx1024m),甚至
linux相關的limits.conf內有關root的最大filecount我都調整過了, 是否還有甚麼
沒有注意到的地方?只能從硬體方面去加強了? 又一般來說,以這樣的硬體條件,一般應該
可以到甚麼樣的requests per sec水準算ok? 另外除了JMeter,我以ab -c 800 -n 8000
對同樣的網址url測過,8000個可全部成功, 但Request per sec的表現只有12~13左右的表現而已

Doniii Taiwan

二月 20. 2011 00:51

Will 保哥

Doniii: Tomcat 我不熟,系統調校的部分我沒辦法給你建議。

請問你說的數據是 Request 靜態頁面的效能嗎?還是執行 Java/JSP 程式的效能?

如果以靜態頁面來說,以你的設備來講效能應該要有 1000 RPS (Request per second) 以上才合理喔。如果是跑程式的話,你還是要從程式面著手才有較多的調校空間,光是調系統不見得能調高多少,你要看看你的 AP 是屬於 I/O bound、CPU Bound 還是 Memory bound,消耗資源的方式可以用來決定調校的方向,抓對方向才能調出高效能。

Will 保哥 Taiwan

三月 29. 2011 16:38

justin

我嘗試開了 5 個連線
ab -n 5 -c 1 http://192.168.1.4/index.aspx >> o.txt
報表結果出現
Concurrency Level:      1
Time taken for tests:   7.223 seconds
Complete requests:      5
Failed requests:        4
   (Connect: 0, Receive: 0, Length: 4, Exceptions: 0)
Write errors:           0
Total transferred:      695411 bytes
HTML transferred:       693831 bytes

其中我比較在意的是 Failed requests 有 4
但我看 IIS LOG 卻有五筆回應 200 的資料

不知道為什麼?可否賜教!

justin Taiwan

三月 29. 2011 18:54

Will 保哥

justin: 請看我另一篇文章: Smile

對於 ApacheBench 進行測試時出現的 Failed requests 詳解blog.miniasp.com/.../...-Failed-request-field.aspx

Will 保哥 Taiwan

新增評論


( 您輸入的Email不會顯示於網站上 )

  Country flag

biuquote
  • 評論
  • 線上預覽
Loading