返回列表 上一主題 發帖

[發問] [EXCEL VBA] 這網頁怎麼抓呢?

Hunt01

帖子
4 
主題
1 
精華
0 
積分
6 
點名
0  
作業系統
WIN7 
軟體版本
Office 2010 
閱讀權限
10 
性別
男 
來自
Hsinchu 
註冊時間
2016-1-4 
最後登錄
2017-4-12 
1# 跳轉到 » 倒序看帖
打印
tT
發表於 2016-1-4 15:55 | 只看該作者

[發問] [EXCEL VBA] 這網頁怎麼抓呢?

本帖最後由 Hunt01 於 2016-1-4 15:57 編輯

大家好

    小弟 VBA 一路學來，始終裡裡落落，老是抓不到要領
    現在小弟希望練習抓以下網頁，將之下載成表。
    可是.....詳細資料那欄的連結要怎麼抓呢?
    各位專家大若不易說明，簡單提點一下參考那些資料或關鍵字，亦十分感激，小弟會用心去找資料的
    謝謝大家!!

網址: http://mops.twse.com.tw/mops/web/t05sr01_1
畫面:
收藏 分享

joey0415
　暱稱: joey0415

中學生Rank: 2

帖子
361 
主題
57 
精華
0 
積分
426 
點名
0  
作業系統
win7 
軟體版本
2003,2010 
閱讀權限
20 
性別
男 
註冊時間
2010-5-13 
最後登錄
2022-12-8 
2#
發表於 2016-1-4 20:26 | 只看該作者
回復 1# Hunt01

http://club.excelhome.net/thread-874608-1-1.html

這方法用點擊法，翻轉更面後，將頁面記錄下來

另外一種是
http://club.excelhome.net/thread-1159783-1-1.html

xmlhttp法，找到post資料抓下來分析

我自己試寫了花了好長一段時間才寫出類出的內容

TOP

Hunt01

帖子
4 
主題
1 
精華
0 
積分
6 
點名
0  
作業系統
WIN7 
軟體版本
Office 2010 
閱讀權限
10 
性別
男 
來自
Hsinchu 
註冊時間
2016-1-4 
最後登錄
2017-4-12 
3#
發表於 2016-1-5 22:46 | 只看該作者
本帖最後由 Hunt01 於 2016-1-5 22:47 編輯

回復 2# joey0415

十分感謝 joey0415 大!
小弟興奮地前往連結，結果入寶山，空手回，冏~~
原因是該寶山太強大，整座金山，但小弟弱雞一個，除了金光閃閃好刺眼，接下來就有看沒有懂，敲不下半個金屑...

我胡亂比劃地試著用 joey0415 大所建議的 xmlhttp 法，找到 post 資料抓下來分析。首先用 Fiddler 將資料抓下來分析，Fiddler 抓出來的碼看來與原始網頁碼相近，可能是觀測站的資料較簡單的關係吧。

我以鴻海為例，它的原始碼如下:

<td style='text-align:left !important;' nowrap>鴻海</td>
<td style='text-align:left !important;'>105/01/05</td>
<td style='text-align:left !important;'>11:41:00</td>
<td style='text-align:left !important;'>說明媒體報導</td>
<td><input type='button' value='詳細資料' onclick="document.fm_t05sr01_1.SEQ_NO.value='1';document.fm_t05sr01_1.SPOKE_TIME.value='114100';document.fm_t05sr01_1.SPOKE_DATE.value='20160105';document.fm_t05sr01_1.COMPANY_NAME.value='?E??';document.fm_t05sr01_1.COMPANY_ID.value='2317';document.fm_t05sr01_1.skey.value='2317201601051';document.fm_t05sr01_1.hhc_co_name.value='?E??';ajax1(this.form,'table01');">


看起來是 javascript(我也不懂，冏)?
怎麼用 vba 來處理這好兇的原始碼呢?

謝謝大大們解答弱弱的小弟

TOP

stillfish00

帖子
1018 
主題
15 
精華
0 
積分
1058 
點名
0  
作業系統
win7 32bit 
軟體版本
Office 2016 64-bit 
閱讀權限
50 
性別
男 
來自
桃園 
註冊時間
2012-5-9 
最後登錄
2022-9-28 
4#
發表於 2016-1-6 10:47 | 只看該作者
回復 3# Hunt01
onclick 後設定了一堆值，然後呼叫 ajax1
你要分析就要再去找網頁中的這個 ajax1 function的內容
它裡面會再向另一個網頁POST請求，post 參數來自剛剛設定那些值。
所以你要從
"document.fm_t05sr01_1.SEQ_NO.value='1';document.fm_t05sr01_1.SPOKE_TIME.value='114100';document.fm_t05sr01_1.SPOKE_DATE.value='20160105';document.fm_t05sr01_1.COMPANY_NAME.value='?E??';document.fm_t05sr01_1.COMPANY_ID.value='2317';document.fm_t05sr01_1.skey.value='2317201601051';document.fm_t05sr01_1.hhc_co_name.value='?E??';ajax1(this.form,'table01');"

這字串中提取出你要的參數，再用 xmlhttp 向另一個網頁POST請求，
表達不清、題意不明確、沒附檔案格式、沒有討論問題的態度~~~~~~以上愛莫能助。

TOP

Hunt01

帖子
4 
主題
1 
精華
0 
積分
6 
點名
0  
作業系統
WIN7 
軟體版本
Office 2010 
閱讀權限
10 
性別
男 
來自
Hsinchu 
註冊時間
2016-1-4 
最後登錄
2017-4-12 
5#
發表於 2016-1-11 17:13 | 只看該作者
本帖最後由 Hunt01 於 2016-1-11 17:16 編輯

非常感謝 joey0415 以及 stillfish00 大大的指導 :$
小弟利用上週及假日胡亂摸索，初步只大概會用 onclick 來達到目的, xmlhttp 後續再接再勵。
不過奇怪的是，小弟 VBA click 時，好像會因為網頁 refresh 不及而造成後續抓取資料步驟產生錯誤。我有加入 do loop 來等待，不過看來這個 do loop 無作用。
大大們有建議的處理方法嗎?
附上小弟拙劣的 code 供參考。
謝謝大家!!!!

Dim IE As New InternetExplorer
    IE.Visible = True

'重大訊息公佈網頁
    IE.Navigate "http://mops.twse.com.tw/mops/web/t05sr01_1"
    Do: DoEvents: Loop Until IE.readyState = READYSTATE_COMPLETE
Dim doc As HTMLDocument
    Set doc = IE.document

'按下"詳細資料" button   
    Set docinput = doc.getElementsByTagName("input")
    r = 1
    For i = 0 To docinput.Length - 1
        If docinput(i).Value = "詳細資料" And docinput(i).Type = "button" Then

'???按下"詳細資料"button, 有時有問題???
            docinput(i).Click
            Do: DoEvents: Loop Until IE.readyState = READYSTATE_COMPLETE

'進入"詳細資料"頁面後，開始抓取主要內容。主要訊息內容為 table(9)
            Set A = doc.getElementsByTagName("table")(9)
            Do: DoEvents: Loop Until IE.readyState = READYSTATE_COMPLETE
                        
'將主要訊息內容放入 sheet
            For j = 1 To A.Rows(4).Cells.Length - 1
                Sheets(1).Cells(r, j + 1).Select
                Sheets(1).Cells(r, j + 1).Value = A.Rows(4).Cells(j).innerText
            Next j
            r = r + 1

'抓完訊息內容後，返回上一頁
            For Each img In doc.getElementsByTagName("img")
                If img.href = "http://mops.twse.com.tw/mops/web/images/bu_05.gif" Then

'???img.click 有時無動作???
                    img.Click
                    Do: DoEvents: Loop Until IE.Busy = False And IE.readyState = READYSTATE_COMPLETE                    
                    Exit For
                End If
            Next
        End If
    Next i
    IE.Quit

TOP

stillfish00

帖子
1018 
主題
15 
精華
0 
積分
1058 
點名
0  
作業系統
win7 32bit 
軟體版本
Office 2016 64-bit 
閱讀權限
50 
性別
男 
來自
桃園 
註冊時間
2012-5-9 
最後登錄
2022-9-28 
6#
發表於 2016-1-12 15:53 | 只看該作者
本帖最後由 stillfish00 於 2016-1-12 16:05 編輯

回復 5# Hunt01
by xmlhttp
  1. Sub Test()
  2.     Dim oXmlhttp As Object: Set oXmlhttp = CreateObject("msxml2.xmlhttp")
  3.     Dim oRegexp As Object: Set oRegexp = CreateObject("vbscript.regexp")
  4.     Dim oHtmldoc As Object: Set oHtmldoc = CreateObject("htmlfile")
  5.     Dim oClip As Object: Set oClip = CreateObject("new:{1C3B4210-F441-11CE-B9EA-00AA006B1A69}") 'or DataObject
  6.    
  7.     With oXmlhttp
  8.         .Open "GET", "http://mops.twse.com.tw/mops/web/t05sr01_1", False
  9.         .Send
  10.         oHtmldoc.write .responseText
  11.     End With
  12.    
  13.     Dim oTable As Object, oRow As Object, sParse As String, sPost As String
  14.     Set oTable = oHtmldoc.getelementbyid("table01").getelementsbytagname("form")(1).getelementsbytagname("table")(0)
  15.    
  16.     sParse = oTable.Rows(1).Cells(5).innerhtml '只取第一行詳細資料
  17.     With oRegexp
  18.         .Pattern = ".*?SEQ_NO\.value='(.*?)'" & _
  19.                    ".*?SPOKE_TIME\.value='(.*?)'" & _
  20.                    ".*?SPOKE_DATE\.value='(.*?)'" & _
  21.                    ".*?COMPANY_ID\.value='(.*?)'" & _
  22.                    ".*?skey\.value='(.*?)'.*"
  23.         sPost = .Replace(sParse, "encodeURIComponent=1&TYPEK=all&step=1&skey=$5&COMPANY_ID=$4&SPOKE_DATE=$3&SPOKE_TIME=$2&SEQ_NO=$1")
  24.     End With
  25.    
  26.     With oXmlhttp
  27.         .Open "POST", "http://mops.twse.com.tw/mops/web/ajax_t05sr01_1", False
  28.         .SetRequestHeader "Content-Type", "application/x-www-form-urlencoded"
  29.         .SetRequestHeader "Content-Length", Len(sPost)
  30.         .Send (sPost)
  31.         oHtmldoc.Close    'Set oHtmldoc = CreateObject("htmlfile")
  32.         oHtmldoc.write .responseText
  33.     End With
  34.     With oClip
  35.         .SetText oHtmldoc.body.innerhtml
  36.         .PutInClipboard
  37.     End With
  38.     Sheets.Add().PasteSpecial NoHTMLFormatting:=True
  39. End Sub
複製代碼
表達不清、題意不明確、沒附檔案格式、沒有討論問題的態度~~~~~~以上愛莫能助。

TOP

Hunt01

帖子
4 
主題
1 
精華
0 
積分
6 
點名
0  
作業系統
WIN7 
軟體版本
Office 2010 
閱讀權限
10 
性別
男 
來自
Hsinchu 
註冊時間
2016-1-4 
最後登錄
2017-4-12 
7#
發表於 2016-1-14 14:33 | 只看該作者
stillfish00 大大:

    你太強大了，由衷感謝你撥冗提供此範例 code!
    小弟目前已會使用 click 方式來達成，只是有時不知為何 click 會失敗，目前想到的方法為判斷若網頁 click 失敗(沒更新)，就不停地 click, 直到更新為止。
    大大所提供之 xmlhttp 範例小弟會再花時間好好研讀，弱弱的我可能又得花好幾星期消化它了，哈。
    再次感謝大大!!

TOP

        靜思自在 : 不要隨心所欲，要隨心教育自己。
返回列表 上一主題