Skip to main content

[技巧] 用google文件Spreadsheet自動抓取網頁資訊(空氣品質open data)

基於幫助友人的因素
又看到有人說可以用google文件做出來(適用於靜態網頁,動態產生的就不適了)
但是沒有詳細的說明,於是研究了一下這個應用
沒人教,果然還是要花上很多時間,記錄一下此結果
原來 google drive (google docs)已有這麼強大的功能!

先看到處查詢來的[教學文]吧:
1.無痛爬梳自己來,用 Google Spreadsheet 爬取網頁資料 | 資料視覺化 - http://blog.infographics.tw/2016/11/google-spreadsheet-data-scraping/
2.Y.H.Lin: Google Spreadsheets 抓外部資料的函數 - http://yhlintw.blogspot.tw/2007/09/google-spreadsheets.html
3.iInfo 資訊交流: Google Spreadsheet 試算表 抓網頁資料 - http://white5168.blogspot.tw/2015/06/google.html#.WMH7-fLQOaI
4.利用Google試算表(Spreadsheet)取得台股(上市/上櫃)及美股股票報價(2015-12-05 更新) @ HC愛筆記 財經部落格 - http://hclovenote.blogspot.tw/2014/12/googlespreadsheet20141219.html

■配合政府現在最流行的[開放資料來源],隨便選一個資料來源都能試:
1.OpenData.epa 行政院環境保護署 環境資源資料開放平台
http://opendata.epa.gov.tw/Data/Contents/AQI/
2.資料資源 | 政府資料開放平臺 - http://data.gov.tw/node/gov/resource/63867
3.空氣品質警示 - http://www.kh.edu.tw/theme/AQI_Monitor/air.html
4.高雄市空氣資料  http://www.kh.edu.tw/theme/AQI_Monitor/air.html 

在google試算表內的[各種範例]:
◆=ImportHtml("http://en.wikipedia.org/wiki/Demographics_of_India", "table",4)
說明:這個後面的參數有 table表格 與 list ,至於後面的數字是多少(第幾個表格),就要自己實驗了
 ◆=importDATA("http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?format=csv&ndctype=CSV&ndcnid=40448")
說明:這個可以用來讀csv檔案
◆=importXML("http://www.kh.edu.tw/theme/AQI_Monitor/air.html"
,"//*/tbody/tr[68]/td[1]/p")
◆=importXML("https://www.ptt.cc/bbs/Baseball/index.html","//*/div[2]/div/div/a")
說明:這是用來讀html或是xml文件的
◆還有個jason格式的就沒列出來了

■實做
選用的網站是,OpenData.epa 行政院環境保護署 環境資源資料開放平台
一開始用想說用CSV文件即可
找到它的CSV下載網址:
http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?%24orderby=SiteName&%24skip=0&%24top=1000&format=csv&ndctype=CSV&ndcnid=40448
使用句型:
=importDATA("http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?format=csv&ndctype=CSV&ndcnid=40448")
後來發現不能更新
原來它的csv是一小時產生一個新的,而且csv檔名都不一樣

只好打掉重來,還是要靠XML
找到該網站的 XML連結,看了一下,確定它的位置名稱是固定不變的
http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml

第一格列出地名↓ 
=importXML("http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml","//*/SiteName")
第二格列出AQI空氣品質↓

=importXML("http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml","//*/AQI")

在google 文件內就出現這樣子:


大功告成!
再按下檔案裡面的發佈成網頁即可
也可再自己做成新的google Spreadsheet頁面呈現之。例如:


同場加映,下面空氣品質評語的判斷公式:
=IF(A1>301,"有害",IF(A1>200,"非常不良",IF(A1>150,"對所有族群不良",IF(A1>100,"對敏感族群不良",IF(A1>50,"普通","良好")))))
以上是舉例,不要複製貼上嘿。A1是儲存格,「>」是大於的符號
多重IF即可根據空氣品質的數字,自動顯示相對應的評語啦!

Comments

Popular posts from this blog

[綜合] 尼電腦師17歲男人倒退嚕

[病毒處理] srchdetect3.predictad.com - remove autocomplete pro 那天莫明其妙裝了這個怪套件 好像是裝軟體還是逛網頁的時候被裝的? 這個腰瘦的套件可以停用 但是移除按鈕卻是灰色的不可移除 好在這篇有說明先停用它、再到program files裡砍 十七歲的憤怒 對於青少年的一些心理描述很深入 很可悲,卻也不可否認 教師剩下來的作用,就是用來「幹拎老師~」用 1.還蠻正常的,老師不會鼓勵學生的多元思考跟疑惑,只要考試寫對標準答案得到好的分數,考上大學,他的責任就完成了。 2.我非常討厭「尊師重道」這四個字,因為那代表你必需服從一個思考體系和標準,還有你必需屈服於一個長輩,即使你有不同的意見。(不過,人人都可以為師,不一定要是學校逼迫你的那個)然而,即使你讀到研究所,在一個儒家影響的社會,你還是要「尊師重道」,現實來說,不見得是你尊敬他,而是他掌握著打分數的權力。 3.老實說,當時我並無法判斷三民主義到底哪裡好或不好,一個十七歲的考生,僅能從老師無聊的上課內容,以及讀書考試時的經驗感覺來判斷。 公仔集點換獎勵 國小師管教變調 其實他的方法挺公平也挺有趣 如果沒有其他案外案 說真的應該要叫他到各校 解說一下他的好方法 阿聯男子酒駕肇事 判鞭刑80 8下就快升天了,80下,只能說:ker ker 《男人衣著》 職場新人治裝術 1萬5聰明配 昂昂昂 男人的服裝就是這麼難配 學西方人全時穿西裝,先中暑再說 學青年人搞潮鞋、潮T、潮外套,醜不拉機又質料差又特貴(貴是重點) 老土不行、學竹科工程師穿格子上衣大隊也不行 總之,非常難搞就是 《倒退嚕》 經常在ktv或是家用KTV機器裡發現這歌 本來以為大概是像康康的一些趣味歪歌一般 沒想到我實在太過於樂觀了 這首歌 如果用正常唱歌的標準來說,簡直不入流 如果用kuso的觀點來看,簡直是極品 至於抱持何種觀點,請自行體會體悟體味體位 相關連結 【音樂】市井底層的音樂生命力─「倒退嚕」 倒退嚕

[軟體] 自問自答:V皮怎麼製作

這個年代很有趣,vtuber也是競爭激烈 因為覺得很有趣,稍微研究了一下簡單的方案 現在有方便的軟體 很會用繪圖軟體當然是自繪最佳 也有免費軟體 VRoid Studio畫皮 加上動態 + OBS直播 一整套簡單版的免費組合,至於要認真做大的,稍微花點錢 這年代出國都容易的世代,弄點軟體錢應該沒什麼大問題的 至於我,這年紀當vtuber,算天算地,不如算了吧 原理解說: (2025年更新版)如何畫出一個標準VTuber Live2D立繪+拆圖教學 | Moonku's https://moonku44.com/live2d-psd/ 如何成為VTuber? 當 VTuber 要準備什麼? 2025年終極教學 https://www.movavi.com/zh/learning-portal/how-to-become-vtuber.html 一些youtube影片 【VRoid Studio】10分鐘變虛擬主播/ 0基礎也可以/中文化 - YouTube https://www.youtube.com/watch?v=YAgc72eLsgo VRoid Studio VRM角色創建教學 - YouTube https://www.youtube.com/watch?v=CetmSjAnOMM 虛擬網紅快速入門~ VRoid + VUP + OBS !!! - YouTube https://www.youtube.com/watch?v=l-9aG36qwO4 剛好看到的單人案例: V皮跟本人一模一樣的天才大學生!?超多才多藝的新人登場...【兎寒Usamu】 - YouTube https://www.youtube.com/watch?v=avkGKwtMAjY