淡江大學覺生紀念圖書館 (TKU Library)
進階搜尋


下載電子全文限經由淡江IP使用) 
系統識別號 U0002-3107201903463300
中文論文名稱 以卷積神經網路進行颱風路徑分類
英文論文名稱 Classification of Typhoon Paths by Using Convolution Neural Networks
校院名稱 淡江大學
系所名稱(中) 土木工程學系碩士班
系所名稱(英) Department of Civil Engineering
學年度 107
學期 2
出版年 108
研究生中文姓名 梁啟納
研究生英文姓名 Kai-Nap Leung
學號 606380359
學位類別 碩士
語文別 中文
口試日期 2019-07-06
論文頁數 64頁
口試委員 指導教授-王人牧
委員-羅元隆
委員-陳建忠
中文關鍵字 卷積神經網路  深度學習  類神經網路  預測模型  影像分類 
英文關鍵字 Convolutional neural networks  deep learning  neural networks  predictive model  image classification 
學科別分類 學科別應用科學土木工程及建築
中文摘要 隨著電腦計算能力的迅速發展與AI技術的進步,人工智慧在未來對各領域的技術開發或應用服務都將扮演一個關鍵且重要的角色,導入人工智慧作為運算輔助的設計模式也就愈來愈多,主要原因其實也在於許多運算必須在很短時間內完成,而無法像過往針對所有資料進行逐一比對,而且必須花費更長時間進行演算。
研究目的以模型測試結果作為探討,主要以前處理、訓練資料與網路架構作為調整方向,測試資料分別為中央氣象局(CWB)的颱風歷史資料及淡江大學風工程研究中心(WERC)的蒙地卡羅模擬數據,利用模型平均準確率、混淆矩陣(Confusion Matrix)及接收者操作特徵曲線(Receiver Operating Characteristic Curve)等分類指標(Classification Metrics)判斷各階段模型的能力,分析如何有效提升模型的準確率及判別力。
研究的主要概念是將中央氣象局從1958年到2018年之間影響臺灣之颱風歷史資料圖像化,其影響之範圍為北太平洋西部緯度19°N~28°N及經度118°E~126°E,圖像化的過程是把颱風中心點標記在底圖後再連接成颱風路徑,接著利用卷積神經網路進行特徵萃取,使用監督式學習訓練模型來辨識及分類颱風路徑,進而建構一套可以進行自動分類的程式,達到取代人手分類的效果。
本系統經過四個階段的演化後,於預測CWB及WERC的效果分別可達 87% 及73% 的平均準確率,各分類之評估指標皆具有一定水準。儘管目前本系統之平均準確率達可靠的表現,而且模型泛化能力相當高,但仍須改善類別之間方向性的問題,某些類別之路徑過於相似,但兩類之行進方向卻為相反,使得系統在鑑別時出現混淆,需更進一步研究並加以提升準確率。
除了改進當前模型外,也期望能延伸應用到其他風工程相關資料的應用中,建立不同任務目標的自動輔助判斷系統。在模型核心結構不變的同時加入時間序列,使得可以應用於風洞實驗的觀測及數據記錄中,並建立以分類或預測為目標的系統。
英文摘要 The growing power of computer and the advancement of Artificial Intelligence (AI) technology, are a crucial step in the development of AI systems. The employment of AI to assist computation is a trend of the future. The main reason is AI technology makes it possible for machines to learn from experience, adjust to new inputs and perform human-like tasks. Using these technologies, computers can be trained to accomplish specific tasks by processing large amounts of data and recognizing patterns in the data.
The purpose of the study is to analyze the results as an exploration, using pre-procedure, training data and neural networks structure as adjustment to improve the model capabilities. The test dataset is composed of two parts, Central Weather Bureau (CWB)'s historical typhoon tracks data and Wind Engineering Research Center (WERC-TKU)'s Monte Carlo simulation dataset. The capability of the model was evaluated by using average classification accuracy, confusion matrix, and receiver operating characteristic curve for classification of typhoons in the test dataset.
The concept of the study is to visualize the typhoon historical data tracks that affecting Taiwan from 1958 until the end of 2018. The range of influence is between north latitude 19 degrees to north latitude 28 degrees, and east longitude 118 degrees to east longitude 126 degrees. Using Convolution Neural Network (CNN) for feature extraction and supervised learning model for categorizing the typhoon path, to proceed with developing an automated system.
After four stage of evolution, the average classification accuracy of the model for the CWB and WERC test dataset were respectively 87% and 73%. Although the average accuracy of the system is currently reliable, and the model generalization ability is quite good, the problem of directionality between categories can be improved.
Furthermore, it’s also expected that the application of deep learning will apply to wind engineering and become a new trend. Time series can be added while the core structure of the model is unchanged, so that it can be applied to the observation and recording of wind tunnel experiments data, with the aim of further establishment of systems for classification or prediction.
論文目次 目錄
第 一 章 緒論 1
1.1 研究背景與動機 1
1.2 研究目的 3
1.3 論文架構 4
第 二 章 文獻回顧 5
2.1 文獻探討 5
2.2 深度學習介紹 6
2.2.1 類神經網路 7
2.2.2 倒傳遞類神經網路 9
2.2.3 深度神經網路 11
2.2.4 卷積神經網路 12
2.2.5 超參數 16
第 三 章 研究架構 19
3.1 影像分類之問題描述 19
3.2 研究架構 20
3.3 基本模型架構 22
3.4 系統架構 23
3.4.1 前處理階段 23
3.4.2 特徵學習 24
3.4.3 訓練階段 25
3.4.4 測試階段 26
第 四 章 效能評估 28
4.1 實驗評估方法 28
4.1.1 準確率 29
4.1.2 混淆矩陣 30
4.1.3 接收者操作特徵曲線(ROC曲線) 31
4.2 實驗環境 40
4.3 模型演化過程 41
4.3.1 階段一 建立基本六層卷積神經網路 41
4.3.2 階段二 拓展訓練資料 42
4.3.3 階段三 嘗試解決颱風方向性問題 50
4.3.4 階段四 提升整體準確率 52
第 五 章 結論與建議 59
參考文獻 63

表目錄
表 4-1 混淆矩陣 31
表 4-2 實驗環境 40
表 4-3 超參數設定 40
表 4-4 各階段模型訓練所需時間表 40
表 4-5 中央氣象局歷史颱風資料集數量表 42
表 4-6 階段二模型之圖片資料數量 43
表 4-7 以階段二模型預測CWB及WERC之分類指標 44
表 4-8 以階段二模型預測CWB之混淆矩陣 45
表 4-9 以階段二模型預測WERC之混淆矩陣 45
表 4-10 以階段二模型預測CWB之第二類SCORE值 47
表 4-11 階段三模型之圖片資料數量 51
表 4-12 以階段三模型預測CWB及WERC之分類指標 52
表 4-13 階段四模型更改項目 53
表 4-14 階段四模型之圖片資料數量 53
表 4-15 以階段四模型預測CWB及WERC之分類指標 55
表 4-16 以階段四模型預測CWB之混淆矩陣 56
表 4-17 以階段四模型預測WERC之混淆矩陣 56

圖目錄

圖 2-1 單層感知器 9
圖 2-2 神經元 9
圖 2-3 神經網路反向傳播最佳化流程圖 12
圖 2-4 平均池化示意圖 14
圖 2-5 最大值池化示意圖 15
圖 2-6 SIGMOID、TANH、RELU示意圖 18
圖 3-1 颱風路徑類別示意圖 20
圖 3-2 研究架構 21
圖 3-3 基本模型架構 22
圖 3-4 系統架構 23
圖 3-5 特徵提取示意圖 25
圖 3-6 影像降維示意圖 26
圖 3-7 DROPOUT層示意圖 26
圖 4-1 五個離散分類器組成的ROC圖 33
圖 4-2 SCORE值排序 35
圖 4-3 ROC曲線 36
圖 4-4 ROC曲線VS. PRECISION-RECALL曲線 37
圖 4-5 颱風資料圖像化之颱風路徑圖 41
圖 4-6 階段二圖片資料 43
圖 4-7 以階段二模型預測CWB之第二類ROC曲線 48
圖 4-8 以階段二模型預測CWB之ROC曲線 49
圖 4-9 以階段二模型預測WERC之ROC曲線 49
圖 4-10 階段三資料圖 51
圖 4-11 最終模型架構 54
圖 4-12 以階段四模型預測CWB之ROC曲線 57
圖 4-13 以階段四模型預測WERC之ROC曲線 58

參考文獻 [1]M. M. Kordmahalleh, M. G. Sefidmazgi, A. Homaifar, and S. Liess, “Hurricane trajectory prediction via a sparse recurrent neural network,”
[2]E. Racah, C. Beckham, T. Maharaj, C. Pal, et al., “Semisupervised detection of extreme weather events in large climate datasets,” arXiv preprint arXiv:1612.02095, 2016.
[3]S. Xingjian, Z. Chen, H. Wang, D.-Y. Yeung, W.-K. Wong, and W.-c. Woo, “Convolutional lstm network: A machine learning approach for precipitation nowcasting,” in Advances in neural information processing systems, pp. 802–810, 2015.
[4]S. Hong, S. Kim, M. Joh, S.-k. Song, “Globenet: Convolutional neural networks for typhoon eye tracking from remote sensing imagery,” arXiv preprint arXiv:1708.03417, 2017.
[5]G. E. Hinton, S. Osindero, Y.-W. Teh, “A fast learning algorithm for deep belief nets,” Neural computation, Vol. 18, No. 7, 2006
[6]S. J. Russell, P. Norvig, “Artificial Intelligence: A Modern Approach, Third Edition,” Prentice Hall ISBN 9780136042594, 2010
[7]F. Rosenblatt, “The Perceptron — A Perceiving and Recognizing Automaton,” Report 85-460-1, Cornell Aeronautical Laboratory, 1957
[8]D. E. Rumelhart, G. E. Hinton, R. J. Williams, “Learning representations by back-propagating errors,” Nature. 8 October 1986, 323 (6088): 533–536. doi:10.1038/323533a0.
[9]J. Schmidhuber, “Deep learning in neural networks: An overview,” Neural Networks, 61:85–117, 2015.
[10]A. Krizhevsky, I. Sutskever, G. E. Hinton. “ImageNet classification with deep convolutional neural networks,” In NIPS, pp. 1106–1114, 2012.
[11]G. E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever, and R.R. Salakhutdinov, “Improving neural networks by preventing co-adaptation of feature detectors,” arXiv preprint arXiv:1207.0580, 2012.
[12]N. Srivastava, G. E. Hinton, A. Krizhevsky, I. Sutskever, R. Salakhutdinov, “Dropout: a simple way to prevent neural networks from overfitting,” J. Machine Learning Res. 15, 1929–1958 (2014).
[13]C. M. Bishop, “Pattern Recognition and Machine Learning,” Springer, 2006.
[14]T. Fawcett,” An introduction to ROC analysis,” Pattern recognition letters, 27(8), 861-874, 2006
[15]Powers, M. W. David, “Evaluation: From Precision, Recall and F-Measure to ROC, Informedness, Markedness & Correlation” Journal of Machine Learning Technologies. 2 (1): 37–63, 2011
[16]J. Davis, M. Goadrich, “The Relationship Between ROC Curves and Precision-Recall Curves,” Proceedings of the 23rd International Conference on Machine Learning, 2006
[17]J. A. Hanley, B. J. McNeil,” The meaning and use of the area under a receiver operating characteristic (ROC) curve,” Radiology, 143:29-36, 1982
[18]中央氣象局之颱風資料庫。檢自https://rdc28.cwb.gov.tw/
[19]朱佳仁、羅仕亮、羅元隆、黎益肇、傅仲麟、鄭啟明(2018)。台灣颱風風場之蒙地卡羅模擬。新北市:淡江大學風工程研究中心。
論文使用權限
  • 同意紙本無償授權給館內讀者為學術之目的重製使用,於2019-08-06公開。
  • 同意授權瀏覽/列印電子全文服務,於2019-08-06起公開。


  • 若您有任何疑問,請與我們聯絡!
    圖書館: 請來電 (02)2621-5656 轉 2486 或 來信