資料中心代理,快速、低成本查詢阻擋較弱的網站

資料中心代理從伺服器線路上的IP送出你的請求。它是四種產品中最快也最便宜的,所以在目標網站阻擋不嚴的大量工作上能省下費用。

起價
$1.20 每個IP
計費方式
依IP數量計費
可指定位置
國家
支援地區
18個國家

規格一覽

計費方式
依IP數量計費
起價
每個IP $1.20
IP類型
資料中心伺服器IP
國家
18個國家
優勢
回應快,可處理大量同時請求
連線方式
在gate.proxymay.com:7000上使用HTTP和SOCKS5

適合用途

  • 檢查自己的網站
  • Sitemap爬取
  • 公開列表收集
  • 大量價格查詢
  • 在地化測試
取得權杖開始使用

01

為什麼資料中心代理又快又便宜?

資料中心IP來自布滿伺服器的機房線路,而不是家庭或手機。這些線路頻寬大又穩定,所以回應很快,即使同時有大量請求,速度也能維持。路徑中沒有家用線路或電信網路,所以價格是四種產品中最低的。

相對地,目標網站看得出這個位址來自資料中心。只想接待一般訪客的網站,可能會更嚴格地對待資料中心IP。所以資料中心代理是最有效率的選擇還是錯誤的選擇,取決於目標網站阻擋的嚴格程度。

連線方式和其他產品相同:透過HTTP或SOCKS5連到gate.proxymay.com:7000閘道,並用存取權杖作為密碼。只需要更改爬蟲的代理設定,所以很容易用同一份程式碼比較各產品。

02

怎麼判斷網站的阻擋是否較弱?

最可靠的方法是用小量樣本實際測量。透過資料中心IP請求約200個目標頁面,並記錄結果。

  • 如果大多數回傳200且內容正常,資料中心就足夠了。
  • 如果混入一些403和429回應,請放慢速度再測一次。
  • 如果一直被導向登入或驗證頁面,改用動態住宅能同時節省費用和時間。

通常在資料中心IP上運作良好的目標,包括你自己經營的網站、政府機關的公開紀錄、商品Feed這類供機器讀取而公開的頁面,以及允許搜尋引擎爬取的Sitemap。請把樣本結果連同日期保存下來。同一個網站的阻擋規則可能在幾個月後改變,定期重新測量就能知道何時該更換產品。

03

資料中心代理與其他三種產品比較

資料中心是以速度和價格為考量時選擇的產品。如果工作不需要看起來像家庭使用者,就沒有理由為更貴的位址付費。

如果目標網站經常阻擋資料中心位址,請改用動態住宅代理:每次請求從不同的家用IP送出,阻擋就會減少。如果需要同一IP登入好幾週,請用靜態ISP代理;如果需要看到手機使用者看到的畫面,請用行動代理。

實務上,很多人會混合使用。Sitemap和列表頁這類輕量部分,用資料中心IP快速抓取,只把會被阻擋的詳細頁交給動態住宅。總費用會大幅下降,而且共用一個餘額,不需要分別儲值。

04

資料中心代理的大量工作與設定

  • 檢查自己的網站:定期確認網站在多個國家都能載入,以及回應速度。
  • Sitemap爬取:快速走訪含有數萬個URL的Sitemap,找出失效連結和重新導向。
  • 公開列表收集:抓取發布者允許收集的大量資料,例如公開紀錄和開放的商品Feed。
  • 在地化測試:確認自家服務的語言、幣別和價格顯示會依國家正確切換。

資料中心代理在大量同時請求時表現最好,但同時請求數應控制在目標網站能承受的範圍內。以下是一個Scrapy範例,在控制速度的同時把請求分散到多個IP。

# settings.py
CONCURRENT_REQUESTS = 32
CONCURRENT_REQUESTS_PER_DOMAIN = 8
DOWNLOAD_DELAY = 0.25
AUTOTHROTTLE_ENABLED = True
RETRY_HTTP_CODES = [429, 503]

# proxies.txt (copied from the dashboard in host:port:user:token format)
gate.proxymay.com:7000:USERNAME:YOUR_TOKEN

使用多個IP時,請把請求平均分配。如果一個IP承擔大部分負載,那個位址會最先碰到限制。

05

依IP計費與費用範例

資料中心代理依IP數量計費,每個IP $1.20起。傳輸的資料量不計入價格,所以頁面越大、請求越多,就比每GB計費的產品越划算。

例如購買20個IP執行Sitemap爬蟲,費用就是20 × $1.20。透過這些IP抓取數十GB,金額也不會改變。同樣的量如果用每GB計費的動態住宅,每個GB都會持續扣除餘額。

所以資料量大且阻擋較弱時,通常資料中心較划算;資料量小或阻擋嚴格時,動態住宅往往更便宜。用樣本測量阻擋率和頁面大小,就能用數字做決定。

06

設定資料中心代理

  1. 1註冊並保存存取權杖。它同時是你的登入憑證和代理密碼。
  2. 2儲值後,在資料中心產品中選擇國家和IP數量。
  3. 3從儀表板複製工具需要的格式:http、socks5或host:port:user:token。
  4. 4加入爬蟲或監控工具,執行curl檢查確認IP位置。
  5. 5先用少量同時請求開始,一邊觀察回應碼一邊逐步增加。

同時請求數請從低開始,等錯誤率穩定後再增加。各工具的設定位置請見快速開始。

07

選擇資料中心IP的國家

資料中心代理支援18個國家,以美國、英國、德國、日本、新加坡等伺服器機房較多的地方為主。

請依兩個原則選擇。如果需要看到某個國家使用者看到的畫面,例如在地化測試,就選那個國家。如果單純重視速度,選擇靠近目標網站伺服器的國家,回應會更快。各國的產品列在支援地區,新加坡IP這類頁面可以一眼看出當地能使用哪些產品。

08

高速使用時更重要的規則

資料中心代理速度快,也因此很容易對目標網站造成負擔。找到目標網站仍能正常回應的速度,最後取得的資料會比全速執行更多。

  • 429回應增加時,把同時請求數減半,再慢慢調高。
  • 另外為每個網域設定請求上限。
  • 遵守robots.txt、服務條款和公開範圍。
  • 禁止可能讓目標網站停擺的負載測試或攻擊。

如果持續被阻擋,請不要硬來。放慢速度或改用其他產品。

09

開始使用資料中心代理

先用幾個IP執行樣本工作並測量阻擋率。結果良好的話,再增加IP擴大規模,只把被阻擋的部分交給其他產品。儲值金額請見價格,然後註冊取得權杖。

其他代理產品

現在註冊
馬上連到你需要的國家IP

註冊只需要一組權杖。$20起儲值,立即可用。