Skip to main content

[技巧] 用google文件Spreadsheet自動抓取網頁資訊(空氣品質open data)

基於幫助友人的因素
又看到有人說可以用google文件做出來(適用於靜態網頁,動態產生的就不適了)
但是沒有詳細的說明,於是研究了一下這個應用
沒人教,果然還是要花上很多時間,記錄一下此結果
原來 google drive (google docs)已有這麼強大的功能!

先看到處查詢來的[教學文]吧:
1.無痛爬梳自己來,用 Google Spreadsheet 爬取網頁資料 | 資料視覺化 - http://blog.infographics.tw/2016/11/google-spreadsheet-data-scraping/
2.Y.H.Lin: Google Spreadsheets 抓外部資料的函數 - http://yhlintw.blogspot.tw/2007/09/google-spreadsheets.html
3.iInfo 資訊交流: Google Spreadsheet 試算表 抓網頁資料 - http://white5168.blogspot.tw/2015/06/google.html#.WMH7-fLQOaI
4.利用Google試算表(Spreadsheet)取得台股(上市/上櫃)及美股股票報價(2015-12-05 更新) @ HC愛筆記 財經部落格 - http://hclovenote.blogspot.tw/2014/12/googlespreadsheet20141219.html

■配合政府現在最流行的[開放資料來源],隨便選一個資料來源都能試:
1.OpenData.epa 行政院環境保護署 環境資源資料開放平台
http://opendata.epa.gov.tw/Data/Contents/AQI/
2.資料資源 | 政府資料開放平臺 - http://data.gov.tw/node/gov/resource/63867
3.空氣品質警示 - http://www.kh.edu.tw/theme/AQI_Monitor/air.html
4.高雄市空氣資料  http://www.kh.edu.tw/theme/AQI_Monitor/air.html 

在google試算表內的[各種範例]:
◆=ImportHtml("http://en.wikipedia.org/wiki/Demographics_of_India", "table",4)
說明:這個後面的參數有 table表格 與 list ,至於後面的數字是多少(第幾個表格),就要自己實驗了
 ◆=importDATA("http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?format=csv&ndctype=CSV&ndcnid=40448")
說明:這個可以用來讀csv檔案
◆=importXML("http://www.kh.edu.tw/theme/AQI_Monitor/air.html"
,"//*/tbody/tr[68]/td[1]/p")
◆=importXML("https://www.ptt.cc/bbs/Baseball/index.html","//*/div[2]/div/div/a")
說明:這是用來讀html或是xml文件的
◆還有個jason格式的就沒列出來了

■實做
選用的網站是,OpenData.epa 行政院環境保護署 環境資源資料開放平台
一開始用想說用CSV文件即可
找到它的CSV下載網址:
http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?%24orderby=SiteName&%24skip=0&%24top=1000&format=csv&ndctype=CSV&ndcnid=40448
使用句型:
=importDATA("http://data.gov.tw/iisi/logaccess/63867?dataUrl=http://opendata.epa.gov.tw/ws/Data/AQI/?format=csv&ndctype=CSV&ndcnid=40448")
後來發現不能更新
原來它的csv是一小時產生一個新的,而且csv檔名都不一樣

只好打掉重來,還是要靠XML
找到該網站的 XML連結,看了一下,確定它的位置名稱是固定不變的
http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml

第一格列出地名↓ 
=importXML("http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml","//*/SiteName")
第二格列出AQI空氣品質↓

=importXML("http://opendata.epa.gov.tw/ws/Data/REWIQA/?$orderby=SiteName&$skip=0&$top=1000&format=xml","//*/AQI")

在google 文件內就出現這樣子:


大功告成!
再按下檔案裡面的發佈成網頁即可
也可再自己做成新的google Spreadsheet頁面呈現之。例如:


同場加映,下面空氣品質評語的判斷公式:
=IF(A1>301,"有害",IF(A1>200,"非常不良",IF(A1>150,"對所有族群不良",IF(A1>100,"對敏感族群不良",IF(A1>50,"普通","良好")))))
以上是舉例,不要複製貼上嘿。A1是儲存格,「>」是大於的符號
多重IF即可根據空氣品質的數字,自動顯示相對應的評語啦!

Comments

Popular posts from this blog

[紀錄] 玩了一下簡單的跑密碼測試:john the ripper / kali linux / hashcat

實在是有點懶得整理了 總之,為了玩 john the ripper 一開始是在win11環境下使用,怎麼用怎麼怪 後來就裝了kali linux,沒想到精簡版居然沒有gui linux功力實在不行,只好想辦法裝了gui 開啟 Kali Linux App,登入後,執行以下指令來安裝 Win-KeX 1 sudo apt update 2 sudo apt install -y kali-win-kex 要開啟 Kali Linux GUI ,則輸入 kex   在linux下的指令,就一切正常了 後來也順手試了一下hashcat 應該是試了7碼的字母組合,大約需要十幾二十分鐘 依我的功能,不太實用,但是真的挺有趣的 以下所用的參考文件,沒照順序排,很亂: 2.1 准备内核头文件 | 大学霸 Kali Linux 安全渗透教程 https://wizardforcel.gitbooks.io/daxueba-kali-linux-tutorial/content/8.html 在 WSL2 中安裝 Kali Linux | 亂馬客 https://rainmakerho.github.io/2022/06/15/kali-linux-win-wsl/ Kali Tools | Kali Linux Tools https://www.kali.org/tools/ Kali Installation Sizes | Kali Linux Documentation https://www.kali.org/docs/installation/installation-sizes/ James的資訊安全實驗室: John the Ripper (JTR) 密碼破解簡單使用教學 https://jameshclai.blogspot.com/2013/03/john-ripper-jtr.html iT 邦幫忙::一起幫忙解決難題,拯救 IT 人的一天 https://ithelp.ithome.com.tw/m/articles/10193096 【教學】密碼恢復工具 Hashcat簡易基本教學(windows7/10) - opendanny的創作 - 巴哈姆特 https://home.gamer.com.tw/creationDetail.php?sn=3...

[軟體] 自問自答:V皮怎麼製作

這個年代很有趣,vtuber也是競爭激烈 因為覺得很有趣,稍微研究了一下簡單的方案 現在有方便的軟體 很會用繪圖軟體當然是自繪最佳 也有免費軟體 VRoid Studio畫皮 加上動態 + OBS直播 一整套簡單版的免費組合,至於要認真做大的,稍微花點錢 這年代出國都容易的世代,弄點軟體錢應該沒什麼大問題的 至於我,這年紀當vtuber,算天算地,不如算了吧 原理解說: (2025年更新版)如何畫出一個標準VTuber Live2D立繪+拆圖教學 | Moonku's https://moonku44.com/live2d-psd/ 如何成為VTuber? 當 VTuber 要準備什麼? 2025年終極教學 https://www.movavi.com/zh/learning-portal/how-to-become-vtuber.html 一些youtube影片 【VRoid Studio】10分鐘變虛擬主播/ 0基礎也可以/中文化 - YouTube https://www.youtube.com/watch?v=YAgc72eLsgo VRoid Studio VRM角色創建教學 - YouTube https://www.youtube.com/watch?v=CetmSjAnOMM 虛擬網紅快速入門~ VRoid + VUP + OBS !!! - YouTube https://www.youtube.com/watch?v=l-9aG36qwO4 剛好看到的單人案例: V皮跟本人一模一樣的天才大學生!?超多才多藝的新人登場...【兎寒Usamu】 - YouTube https://www.youtube.com/watch?v=avkGKwtMAjY