淡江大學風工程研究中心致力於研究風對於建築物的受力關係，而在台灣颱風則是較大的風力來源，有鑑於現今颱風資料不足，為進行風力規範之修訂需進行大量颱風的模擬，將生成之颱風分為中央氣象局所定義的九類路徑為目的，AI人工智慧是目前各行業正熱門的部分，本研究利用機器學習與深度學習建立模型以便分類處理模擬生成的大量數據進而驗證颱風模擬之成效。
研究範圍主要以資料前處理，訓練資料調整和分類模型精進為重點，測試資料為中央氣象局的歷史數據，以模型準確率、混淆矩陣等分類指標做判斷，預測資料為淡江大學風工程研究中心的模擬數據，以卷積神經網路與決策樹的兩種系統測試效果做比較，驗證模擬數據的可信度，並比較兩種模型的差異。
本研究的主要概念是將中央氣象局從1975年到2020年期間影響台灣的颱風資料進行收集，範圍為北太平洋經度118° E ~ 126° E以及緯度 19° N ~ 28° N，之後再分成以決策樹(Decision tree)與卷積神經網路(Convolutional Neural Networks)以監督式學習的訓練模式來分類及辨識颱風路徑，進而建構一套可以自動分類颱風路徑的程式從而取代人工分類。
本研究決策樹模型經增加訓練資料的數量與多元性後，在預測中央氣象局的資料時準確率已到80%，卷積神經網路參考108年梁啟納所建構的模型，預測中央氣象局的資料準確率可到79%，但兩模型在特定幾類的準確率仍須提升，在預測淡江大學風工程研究中心模擬生成的數據也由一定成效，但在某些路徑容易出現混淆的現象，這部分仍須加入更多研究改善。
除了改進目前模型與比較兩模型之外，本論文之後也能融入其他風工程相關分析的應用中，將所有前處理、訓練到預測的部分以程式自動化，使得能讓之後生成的資料能得到快速且準確的分類，甚至未來能建立一套能自我分類的系統。

Wind Engineering Research Center (WERC-TKU) studies on the interaction between wind and buildings. Typhoon is the most significant source of wind force in Taiwan. Due to the lack of typhoon data, a large number of typhoon simulations is needed to revise the wind specification. The generated typhoon is divided into nine types of paths defined by the Central Weather Bureau (CWB) for the purpose of the study. Artificial intelligence (AI) is a hot topic in the industry. Machine learning and deep learning are used to establish models to classify and process large amounts of simulated data to verify the effectiveness of typhoon simulation. 
The scope of the study focuses on data pre-processing, training data adjustment and classification model refinement. Test data are historical data from the Central Weather Bureau. Model evaluations are judged by classification indexes such as model accuracy and confusion matrix. The prediction data are the simulation data of the Wind Engineering Research Center of Tamkang University. The test results of convolutional neural network and decision tree are compared to verify the credibility of the simulation data and compare the differences between the two models. 
The main concept of this study is to collect CWB typhoon data that affect Taiwan from 1975 to 2020. Typhoons passing through 118 ° E ~ 126 ° E longitude and 19 ° N ~ 28 ° N latitude of the North Pacific Ocean are classified and identified by decision tree and convolutional neural networks in supervised learning training mode. Then a program that can automatically classify typhoon tracks is constructed to replace manual classification. 
After increasing the number and diversity of training data, the decision tree model in this study has reached 80 % accuracy in predicting the data of CWB. The convolutional neural network predicts 79 % accuracy of data from CWB, based on the model developed by Leung Kai Nap in 2019. However, the accuracy of the two models in specific categories still needs to be improved. The classification of data generated by the typhoon path simulation model of WERC-TKU is also effective, but it is prone to confusion in some paths, and more research needs to be added to improve this part.
In addition to improving the current models and comparing the two models, this thesis can also be integrated into the application of other wind engineering related analysis. Programmatically automate all pre-processing, training to predicting tasks so that later generated data can be quickly and accurately classified, and even a self-grouping system can be established in the future.

目錄
第 一 章 緒論	1
1.1 研究背景與動機	1
1.2 研究目的	3
1.3 論文架構	4
第 二 章 文獻回顧	5
2.1 文獻探討	5
2.2 深度學習介紹	6
2.2.1 類神經網路	8
2.2.2 決策樹	12
2.2.3 深度神經網路	14
2.2.4 卷積神經網路	15
第 三 章 研究架構	21
3.1 分類之問題描述	21
3.2 研究架構	22
3.3 基本模型架構	25
3.4 決策樹系統架構	28
3.4.1前處理階段	28
3.4.2訓練階段	29
3.4.3預測階段	29
3.5 卷積神經網路系統架構	30
3.5.1前處理階段	30
3.5.2特徵學習	32
3.5.3訓練階段	33
3.5.4測試階段	34
3.5.5預測階段	35
第 四 章 效能評估	36
4.1 實驗評估方法	36
4.1.1 準確率	37
4.1.2 混淆矩陣	38
4.2 實驗環境	41
4.3 決策樹模型演化過程	42
4.3.1階段一 經過篩選之資料	42
4.3.2階段二 拓展訓練資料	44
4.3.3階段三 新增資料	45
4.3.4階段四 資料合併	47
4.3.5各階段資料預測	48
4.3.6預測WERC	56
卷積神經網路模型	57
4.4.1預測中央氣象局歷史數據	57
4.4.2颱風方向性	61
4.4.3歷史數據預測比較	64
4.4.4預測WERC無方向性	67
4.4.5預測WERC有方向性	67
4.5決策樹與卷積神經網路預測WERC結果比較	69
4.5.1 WERC第一版資料集預測	69
4.5.2 WERC第二版資料集預測	82
4.6預測WERC兩版本結果討論	93
4.6.1WERC兩版本資料比較	93
4.6.2決策樹系統預測結果討論	95
4.6.3卷積神經網路預測結果討論	98
第 五 章 結論與建議	102
5.1 結論	102
5.2 建議	103
參考文獻	105
 
表目錄
表 4 1 混淆矩陣	39
表 4 2 手寫數字辨識預測數量表	39
表 4 3 手寫數字個別預測表	40
表 4 4 手寫數字評估數值	40
表 4 5 實驗環境	41
表 4 6 決策樹超參數設定	41
表 4 7 卷積神經網路超參數設定	41
表 4 8 第一階段中央氣象局歷史颱風數量表	42
表 4 9 階段一測試評估指標	43
表 4 10 階段二測試評估指標	44
表 4 11 第三階段中央氣象局歷史颱風數量表	45
表 4 12 階段三測試評估指標	46
表 4 13 階段四中央氣象局歷史颱風數量表	47
表 4 14 階段四測試評估指標	48
表 4 15 決策樹階段一模型預測數值表	49
表 4 16 決策樹階段二模型預測數值表	50
表 4 17 決策樹階段三模型預測數值表	52
表 4 18 決策樹階段四模型預測數值表	54
表 4 19 階段一模型預測 WERC 種類數量與比例	56
表 4 20 階段二模型預測 WERC 種類數量與比例	56
表 4 21 階段三模型預測 WERC 種類數量與比例	56
表 4 22 階段四模型預測 WERC 種類數量與比例	56
表 4 23 卷積神經網路模型預測無方向性各類評估指標	58
表 4 24 卷積神經網路模型預測有方向性各類評估指標	62
表 4 25 WERC無方向性數量與比例	67
表 4 26 WERC有方向性之數量與比例	68
表 4 27 預測WERC第一版資料數量統整表	70
表 4 28 預測WERC第一版資料比例統整表	71
表 4 29 預測WERC第二版資料數量統整表	82
表 4 30 預測WERC第二版資料比例統整表	84
表 4 31 決策樹模型預測兩版本比例表	95
表 4 32 卷積神經網路模型預測兩版本比例表	98

  
圖目錄
圖 2 1 單層感知器	10
圖 2 2 神經元	10
圖 2 3 決策樹示意圖	12
圖 2 4 神經網路反向傳播最佳化流程圖	15
圖 2 5 MEAN-POOLING示意圖	18
圖 2 6 MAX-POOLING示意圖	18
圖 2 7 SIGMOID、TANH、RELU示意圖	19
圖 3 1 颱風路徑類別示意圖	22
圖 3 2 決策樹研究架構	23
圖 3 3 卷積神經網路研究架構	24
圖 3 4 決策樹基本模型架構	25
圖 3 5 卷積神經網路基本模型架構	27
圖 3 6 決策樹系統架構	28
圖 3 7 決策樹模型示意圖	29
圖 3 8 卷積神經網路系統架構	30
圖 3 9 WERC過短路徑圖	32
圖 3 10 特徵提取示意圖	33
圖 3 11 影像降維示意圖	34
圖 3 12 DROPOUT層示意圖	34
圖 4 1 手寫辨識混淆矩陣	40
圖 4 2 階段一測試混淆矩陣	43
圖 4 3 階段二數據擴充(A)階段一之颱風路徑(B)擴充後之颱風路徑	44
圖 4 4 階段二混淆矩陣	45
圖 4 5 第三階段路徑比較圖(A)階段一颱風路徑(B)階段二颱風路徑(C)階段三颱風路徑	46
圖 4 6 階段三混淆矩陣	47
圖 4 7 階段四混淆矩陣	48
圖 4 8 階段一模型預測各階段數據之評估數值與混淆矩陣(A)預測階段一資料(B)預測階段二資料(C)預測階段三資料(D)預測階段四資料	50
圖 4 9 階段二模型預測各階段數據之評估數值與混淆矩陣(A)預測階段一資料(B)預測階段二資料(C)預測階段三資料(D)預測階段四資料	51
圖 4 10 階段三模型預測各階段數據之評估數值與混淆矩陣(A)預測階段一資料(B)預測階段二資料(C)預測階段三資料(D)預測資料四資料	53
圖 4 11 階段四模型預測各階段數據之評估數值與混淆矩陣(A)預測階段一資料(B)預測階段二資料(C)預測階段三資料(D)預測階段四資料	55
圖 4 12 颱風資料圖像化之颱風路徑圖	58
圖 4 13 卷積神經網路模型預測無方向性之混淆矩陣(A)階段一(B)階段二(C)階段三(D)階段四	59
圖 4 14 二類與六類路徑重疊示意圖(A)二類路徑(B)六類路徑	60
圖 4 15 颱風方向性示意圖	61
圖 4 16 卷積神經網路模型預測有方向性之混淆矩陣(A)階段一(B)階段二(C)階段三(D)階段四	63
圖 4 17 各模型預測階段一數據準確率比較圖	64
圖 4 18 各模型預測階段二數據準確率圖	65
圖 4 19 各模型預測階段三數據準確率比較圖	65
圖 4 20 各模型預測階段四數據準確率比較圖	66
圖 4 21 WERC颱風無方向性路徑圖	67
圖 4 22 WERC颱風有方向性路徑圖	68
圖 4 23 預測WERC第一版資料數量折線圖	70
圖 4 24 預測WERC第一版資料數量橫條圖	71
圖 4 25 預測WERC第一版資料比例折線圖	72
圖 4 26 預測WERC第一版資料比例橫條圖	72
圖 4 27 各模型預測WERC第一版資料第一類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	73
圖 4 28 各模型預測WERC第一版資料第二類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	74
圖 4 29 各模型預測WERC第一版資料第三類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	74
圖 4 30 各模型預測WERC第一版資料第四類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	75
圖 4 31 各模型預測WERC第一版資料第五類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	77
圖 4 32 各模型預測WERC第一版資料第六類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	77
圖 4 33 各模型預測WERC第一版資料第七類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	79
圖 4 34 各模型預測WERC第一版資料第八類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	79
圖 4 35 各模型預測WERC第一版資料第九類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	81
圖 4 36 預測WERC第二版資料數量折線圖	83
圖 4 37 預測WERC第二版資料數量橫條圖	83
圖 4 38 預測WERC第二版資料比例折線圖	84
圖 4 39 預測WERC第二版資料比例橫條圖	85
圖 4 40 各模型預測WERC第二版資料第一類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	86
圖 4 41 各模型預測WERC第二版資料第二類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	86
圖 4 42 各模型預測WERC第二版資料第三類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	87
圖 4 43 各模型預測WERC第二版資料第四類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	88
圖 4 44 各模型預測WERC第二版資料第五類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	89
圖 4 45 各模型預測WERC第二版資料第六類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	89
圖 4 46 各模型預測WERC第二版資料第七類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	90
圖 4 47 各模型預測WERC第二版資料第八類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	90
圖 4 48 各模型預測WERC第二版資料第九類路徑圖(A)決策樹第四階段模型(B)卷積神經網路無方向性(C)卷積神經網路有方向性	92
圖 4 49 WERC第一版本路徑示意圖	93
圖 4 50 WERC第二版路徑示意圖	94
圖 4 51 第一類路徑錯誤圖	96
圖 4 52 第八類路徑錯誤圖	97
圖 4 53 WERC第四類錯誤比較圖(A)預測為第四類圖(B)訓練集中第四類圖	99
圖 4 54 WERC第五類錯誤比較圖(A)預測為第五類圖(B)訓練集中第五類圖	99
圖 4 55 WERC第七類錯誤比較圖(A)預測為第七類圖(B)訓練集中第七類圖	100

[1]	梁啟納(2019)。以卷積神經網路進行颱風路徑分類，淡江大學土木工程學系碩士論文。
[2]	Quanshi Zhang , Yu Yang , Haotian Ma , and Ying Nian Wu , “Interpreting CNNs via Decision Trees”
[3]	Hyeong-Seog Kim, Joo-Hong Kim, Chang-Hoi Ho, and Pao-Shin Chu, “Pattern Classification of Typhoon Tracks Using the Fuzzy c-Means Clustering Method”
[4]	Dmitry Laptev, Joachim M. Buhmann ETH Zurich, “Convolutional Decision Trees for Feature Learning and Segmentation”
[5]	Conner Chyung , Michael Tsang , Yan Liu , “Extracting Interpretable Concept-Based Decision Trees from CNNs”.
[6]	Geoffrey E. Hinton, Simon Osindero, Yee-Whye The, “A fast learning algorithm for deep belief nets”, Neural computation, Vol. 18, No. 7, 2006
[7]	Stuart J. Russell, Peter Norvig (2010) Artificial Intelligence: A Modern Approach, Third Edition, Prentice Hall ISBN 9780136042594.
[8]	Rosenblatt, Frank (1957), “The Perceptron--a perceiving and recognizing automaton,” Report 85-460-1, Cornell Aeronautical Laboratory.
[9]	D. E. Rumelhart, G. E. Hinton, R. J. Williams, “Learning representations by back-propagating errors,” Nature. 8 October 1986, 323 (6088): 533–536. doi:10.1038/323533a0.J. Schmidhuber. Deep learning in neural networks: An overview. Neural Networks, 61:85–117,2015. 
[10]	J. Schmidhuber, “Deep learning in neural networks: An overview,” Neural Networks, 61:85–117, 2015.
[11]	Krizhevsky, A., Sutskever, I.,and Hinton, G.E. ImageNet classification with deep convolutional neural networks. In NIPS, pp. 1106–1114, 2012.
[12]	G.E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever, and R.R. Salakhutdinov. Improving neural networks by preventing co-adaptation of feature detectors. arXiv preprint arXiv:1207.0580, 2012.
[13]	Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I. & Salakhutdinov, R. “Dropout: a simple way to prevent neural networks from overfitting,” J. Machine Learning Res. 15, 1929–1958 (2014).
[14]	Bishop, Christopher M. Pattern Recognition and Machine Learning. Springer. 2006.
[15]	中央氣象局之颱風資料庫。檢自https://rdc28.cwb.gov.tw/
[16]	朱佳仁、羅仕亮、羅元隆、黎益肇、傅仲麟、鄭啟明(2018)。台灣颱風風場之蒙地卡羅模擬。新北市：淡江大學風工程研究中心。