校园春色亚洲色图_亚洲视频分类_中文字幕精品一区二区精品_麻豆一区区三区四区产品精品蜜桃

主頁 > 知識庫 > Go語言通過http抓取網(wǎng)頁的方法

Go語言通過http抓取網(wǎng)頁的方法

熱門標(biāo)簽:成都呼叫中心外呼系統(tǒng)平臺 電銷機(jī)器人可以補(bǔ)救房產(chǎn)中介嗎 ?兓? 最短的地圖標(biāo)注 電梯外呼訪客系統(tǒng) 騰訊外呼系統(tǒng)價格 百度地圖標(biāo)注搜索關(guān)鍵詞 谷歌便利店地圖標(biāo)注 浙江人工智能外呼管理系統(tǒng)

本文實例講述了Go語言通過http抓取網(wǎng)頁的方法。分享給大家供大家參考。具體實現(xiàn)方法如下:

復(fù)制代碼 代碼如下:

package main
import (
 "fmt"
 "log"
 "net/http"
 "net/url"
 "io/ioutil"
)
//指定代理ip
func getTransportFieldURL(proxy_addr *string) (transport *http.Transport) {
 url_i := url.URL{}
 url_proxy, _ := url_i.Parse(*proxy_addr)
 transport = http.Transport{Proxy : http.ProxyURL(url_proxy)}
 return
}
//從環(huán)境變量$http_proxy或$HTTP_PROXY中獲取HTTP代理地址
func getTransportFromEnvironment() (transport *http.Transport) {
 transport = http.Transport{Proxy : http.ProxyFromEnvironment}
 return
}
func fetch(url , proxy_addr *string) (html string) {
 transport := getTransportFieldURL(proxy_addr)
 client := http.Client{Transport : transport}
 req, err := http.NewRequest("GET", *url, nil)
 if err != nil {
  log.Fatal(err.Error())
 }
 resp, err := client.Do(req)
 if err != nil {
  log.Fatal(err.Error())
 }
 if resp.StatusCode == 200 {
  robots, err := ioutil.ReadAll(resp.Body);
  resp.Body.Close()
  if err != nil {
   log.Fatal(err.Error())
  }
  html = string(robots);
 } else {
  html = ""
 }
 return
}
func main() {
 proxy_addr := "http://183.221.250.137:80/"
 url := "http://www.baidu.com/s?wd=ip"
 html := fetch(url, proxy_addr)
 fmt.Println(html)
}

希望本文所述對大家的Go語言程序設(shè)計有所幫助。

您可能感興趣的文章:
  • go語言實現(xiàn)一個簡單的http客戶端抓取遠(yuǎn)程url的方法
  • golang如何實現(xiàn)抓取IP地址的蜘蛛程序詳解
  • golang抓取網(wǎng)頁并分析頁面包含的鏈接方法

標(biāo)簽:邢臺 紹興 盤錦 七臺河 雅安 宜昌 上海 眉山

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Go語言通過http抓取網(wǎng)頁的方法》,本文關(guān)鍵詞  語言,通過,http,抓取,網(wǎng)頁,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Go語言通過http抓取網(wǎng)頁的方法》相關(guān)的同類信息!
  • 本頁收集關(guān)于Go語言通過http抓取網(wǎng)頁的方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    主站蜘蛛池模板: 滨海县| 台中县| 丰城市| 两当县| 化隆| 吉木萨尔县| 吉木萨尔县| 荃湾区| 奈曼旗| 黄大仙区| 驻马店市| 富川| 卫辉市| 三亚市| 资兴市| 万年县| 余干县| 宜宾县| 万荣县| 高青县| 佳木斯市| 锡林郭勒盟| 武宣县| 汪清县| 临泉县| 凯里市| 嘉义县| 宾阳县| 库车县| 湘西| 江达县| 开原市| 调兵山市| 赣榆县| 五原县| 铜陵市| 乌兰察布市| 鄂托克旗| 宁阳县| 吕梁市| 临潭县|