資料中心代理,快速、低成本查詢阻擋較弱的網站
資料中心代理從伺服器線路上的IP送出你的請求。它是四種產品中最快也最便宜的,所以在目標網站阻擋不嚴的大量工作上能省下費用。
- 起價
- $1.20 每個IP
- 計費方式
- 依IP數量計費
- 可指定位置
- 國家
- 支援地區
- 18個國家
規格一覽
- 計費方式
- 依IP數量計費
- 起價
- 每個IP $1.20
- IP類型
- 資料中心伺服器IP
- 國家
- 18個國家
- 優勢
- 回應快,可處理大量同時請求
- 連線方式
- 在gate.proxymay.com:7000上使用HTTP和SOCKS5
01
為什麼資料中心代理又快又便宜?
資料中心IP來自布滿伺服器的機房線路,而不是家庭或手機。這些線路頻寬大又穩定,所以回應很快,即使同時有大量請求,速度也能維持。路徑中沒有家用線路或電信網路,所以價格是四種產品中最低的。
相對地,目標網站看得出這個位址來自資料中心。只想接待一般訪客的網站,可能會更嚴格地對待資料中心IP。所以資料中心代理是最有效率的選擇還是錯誤的選擇,取決於目標網站阻擋的嚴格程度。
連線方式和其他產品相同:透過HTTP或SOCKS5連到gate.proxymay.com:7000閘道,並用存取權杖作為密碼。只需要更改爬蟲的代理設定,所以很容易用同一份程式碼比較各產品。
02
怎麼判斷網站的阻擋是否較弱?
最可靠的方法是用小量樣本實際測量。透過資料中心IP請求約200個目標頁面,並記錄結果。
- 如果大多數回傳200且內容正常,資料中心就足夠了。
- 如果混入一些403和429回應,請放慢速度再測一次。
- 如果一直被導向登入或驗證頁面,改用動態住宅能同時節省費用和時間。
通常在資料中心IP上運作良好的目標,包括你自己經營的網站、政府機關的公開紀錄、商品Feed這類供機器讀取而公開的頁面,以及允許搜尋引擎爬取的Sitemap。請把樣本結果連同日期保存下來。同一個網站的阻擋規則可能在幾個月後改變,定期重新測量就能知道何時該更換產品。
03
資料中心代理與其他三種產品比較
04
資料中心代理的大量工作與設定
- 檢查自己的網站:定期確認網站在多個國家都能載入,以及回應速度。
- Sitemap爬取:快速走訪含有數萬個URL的Sitemap,找出失效連結和重新導向。
- 公開列表收集:抓取發布者允許收集的大量資料,例如公開紀錄和開放的商品Feed。
- 在地化測試:確認自家服務的語言、幣別和價格顯示會依國家正確切換。
資料中心代理在大量同時請求時表現最好,但同時請求數應控制在目標網站能承受的範圍內。以下是一個Scrapy範例,在控制速度的同時把請求分散到多個IP。
# settings.py
CONCURRENT_REQUESTS = 32
CONCURRENT_REQUESTS_PER_DOMAIN = 8
DOWNLOAD_DELAY = 0.25
AUTOTHROTTLE_ENABLED = True
RETRY_HTTP_CODES = [429, 503]
# proxies.txt (copied from the dashboard in host:port:user:token format)
gate.proxymay.com:7000:USERNAME:YOUR_TOKEN使用多個IP時,請把請求平均分配。如果一個IP承擔大部分負載,那個位址會最先碰到限制。
05
依IP計費與費用範例
資料中心代理依IP數量計費,每個IP $1.20起。傳輸的資料量不計入價格,所以頁面越大、請求越多,就比每GB計費的產品越划算。
例如購買20個IP執行Sitemap爬蟲,費用就是20 × $1.20。透過這些IP抓取數十GB,金額也不會改變。同樣的量如果用每GB計費的動態住宅,每個GB都會持續扣除餘額。
所以資料量大且阻擋較弱時,通常資料中心較划算;資料量小或阻擋嚴格時,動態住宅往往更便宜。用樣本測量阻擋率和頁面大小,就能用數字做決定。
06
設定資料中心代理
- 1註冊並保存存取權杖。它同時是你的登入憑證和代理密碼。
- 2儲值後,在資料中心產品中選擇國家和IP數量。
- 3從儀表板複製工具需要的格式:http、socks5或host:port:user:token。
- 4加入爬蟲或監控工具,執行curl檢查確認IP位置。
- 5先用少量同時請求開始,一邊觀察回應碼一邊逐步增加。
同時請求數請從低開始,等錯誤率穩定後再增加。各工具的設定位置請見快速開始。
07
選擇資料中心IP的國家
08
高速使用時更重要的規則
資料中心代理速度快,也因此很容易對目標網站造成負擔。找到目標網站仍能正常回應的速度,最後取得的資料會比全速執行更多。
- 429回應增加時,把同時請求數減半,再慢慢調高。
- 另外為每個網域設定請求上限。
- 遵守robots.txt、服務條款和公開範圍。
- 禁止可能讓目標網站停擺的負載測試或攻擊。
如果持續被阻擋,請不要硬來。放慢速度或改用其他產品。
09