現今的資料量急速成長，複雜程度也上升，處理、分析數據時需要花大量時間，因此近年來機器學習的技術被廣為使用，土木工程領域也是如此，在歷經機械化、自動化，如今也要邁入人工智慧化的階段。
本研究目的為利用循環神經網路(RNN)可預測時間序列及長短期記憶(LSTM)模型具有長期記憶的特性，將之應用在風工程領域上，以探討其效能及可能應用方向。
本研究以淡江大學風工程中心氣動力資料庫的矩型建築單點風壓歷時、風力歷時及中央氣象局氣象測站觀測資料作為時間序資料來源，先將各筆資料做標準化處理，再透過循環神經網路學習各筆資料間的特徵，以找出關聯性並預測出風壓、扭力及風速歷時，最後以RMSE做為判斷預測模型準確度的依據，進而建立一套得以應用在風工程領域上的預測模型。
本模型主要由輸入層、5層LSTM層、全連接層、融合層及輸出層所構成，原始資料經過前處理後進入輸入層，其後進入LSTM隱藏層透過三個控制閥的運算後，會得到記憶單元的矩陣及該時刻LSTM的輸出矩陣，接著將得到的矩陣輸入下一刻的LSTM，持續這個動作直到傳遞至最後一刻的LSTM中，接著將最後的輸出連接到全連接層，經過全連接層的轉換後送至融合層，最後將通過融合層的預測特徵資料輸出至輸出層，得到預測結果。
本模型在透過RMSE比較後，得出單點風壓歷時角隅預測同側背風面點結果較好，對於整體風力預測，橫風向及順風向加橫風向整體風力歷時預測扭轉向整體風力歷時RMSE最小，對於氣象測站風速歷時的預測，具有多站風速及加入風向預測RMSE較小。綜上所述，本模型在風工程領域上是具有廣泛的潛力，可用於各種時間序列數據處理，例如複數風洞控制、動態反應預測、颱風模擬等。

The amount of data now grows rapidly, and its complexity is also increasing. It takes a lot of time to process and analyze data. Therefore, machine learning technology has been widely used in recent years. The same is true in the field of civil engineering. After mechanization and automation, it is now entering the stage of artificial intelligence.
The purpose of the study is to utilize RNN (Recurrent Neural Network), which has the ability to predict time series, and LSTM (Long Short Term Memory) model, which has the characteristic of long term memory, to the field of wind engineering and to discuss its efficiency and possible application directions.
In the study, the time-series data are from the rectangular building aerodynamic database of the Wind Engineering Research Center at Tamkang University and the observation data from meteorological stations of the Central Meteorological Bureau. Data normalization was performed first, and then RNN was used to learn the characteristics of data sets, to find the correlation and to predict time series of wind pressures, torsional loads and wind speeds. Finally, the accuracy of the model was measure with RMSE, and a set of prediction models that can be applied in the field of wind engineering was established.
The model is mainly composed of an input layer, 5 LSTM layers, a fully-connected layer, a merge layer and an output layer. The original data enter the input layer after pre-processing, next the LSTM hidden layer. After passing through the three gates in LSTM, the memory cell matrix and output matrix of the LSTM at the current time are obtained and then input to the next LSTM. This process continues until it reaches the last LSTM. The final LSTM output is then connected to the fully connected layer, which converts the data and sent it to the merge layer. Finally, the prediction feature data that pass through the merge layer is sent to the output layer to obtain the prediction result.
Through the comparison of RMSE, using corner wind pressure to predict leeward pressure of the same side yielded better result for single time series input. For overall wind load prediction, using acrosswind and acrosswind plus alongwind load to predict torsional load had the minimum RMSE. As for the simulation of meteorological station wind speed time series, the input layer with multi-station wind speeds and with additional wind directions had lower RMSEs. In conclusion, the model has high potential in the field of wind engineering for all kind of time series data processing, such as multi-fan wind tunnel control, dynamic response prediction, typhoon simulation, etc.

目錄
第一章 緒論 1
1.1 研究動機與目的 1
1.2 研究方法 2
1.3 研究範圍 2
1.4 論文架構 3
第二章 文獻回顧 4
2.1 文獻探討 4
2.2 深度學習介紹 6
2.2.1 類神經網路	7
2.2.2 深度神經網路 11
2.2.3 循環神經網路 11
2.2.4 長短期記憶網路 13
2.2.5 超參數 14
第三章 研究架構 18
3.1 問題描述 18
3.2 研究架構 19
3.3 模型架構 20
3.4 系統架構 22
3.4.1 研究軟體設備 22
3.4.2 資料前處理	24
3.4.3 網路設置 24
3.4.4 評估方式 27
第四章 案例說明與預測結果分析 28
4.1 單點風壓歷時	28
4.1.1 輸入項為一點的案例(A類) 30
4.1.2 輸入值為兩項的案例(B類) 34
4.1.3 第二階段 35
4.1.4 第三階段 36
4.2 風力歷時 38
4.2.1輸入項為一項的案例(A類) 39
4.2.2輸入項為兩項的案例(B類) 42
4.3 氣象測站風速歷時 44
4.3.1 輸入項為風速之案例 47
4.3.2 輸入項為風速及風向之案例 53
4.3.3 第二階段 58
4.3.4 第三階段 60
第五章 結論與建議	62
5.1 結論 62
5.2 建議 64
參考文獻	65
附錄A : 單點風壓歷時 67
附錄B : 風力歷時 87
附錄C : 氣象測站風速歷時 92

表目錄
表4-1 單點風壓案例 29
表4-2 風力歷時案例 38
表4-3 氣象測站案例(風速) 45
表4-4 氣象測站案例(風速+風向) 46
表4-5 各測站風速之相關性 47
表4-6 單點風速預測平均RMSE值 49
表4-7 兩點風速預測平均RMSE值 50
表4-8 三點風速預測平均RMSE值 52
表4-9 各測站風向之相關性 53
表4-10 單點風速及風向預測平均RMSE值 55
表4-11 兩點風速及風向預測平均RMSE值 56
表4-12 三點風速及風向預測平均RMSE值 58
表4-13 2011-2012及2012-2013預測平均RMSE值 60
表4-14 2011-2012預測2012-2013預測平均RMSE值 61

圖目錄
圖2-1 單層感知器示意圖 8
圖2-2 神經元示意圖 8
圖2-3  RNN結構示意圖 12
圖2-4  LSTM控制閥示意圖 14
圖2-5  SIGMOID、TANH、RELU示意圖 16

圖3-1 研究架構 19
圖3-2 模型架構圖 20
圖3-3  DROPOUT層示意圖 21
圖3-4  DROPOUT的RMSE比較圖 21
圖3-5  LSTM架構圖 26

圖4-1 實驗配置圖 28
圖4-2 矩柱模型在高度2/3的平面圖 29
圖4-3 上側角隅點預測同側背風面點的風壓歷時 30
圖4-4 擷取部分上側角隅點預測同側背風面點的風壓歷時 30
圖4-5 角隅預測同側及不同側背風面RMSE比較 31
圖4-6 角隅預測同側及不同側背風面RMSE比較 31
圖4-7 兩邊迎風面角隅分別預測同側背風面點RMSE比較 32
圖4-8 兩邊迎風面角隅分別預測不同側背風面點RMSE比較 32
圖4-9 角隅預測同側背風面點、迎風面兩點相互預測及背風面兩點相互預測RMSE比較 33
圖4-10 迎風面兩點相互預測及背風面兩點相互預測RMSE比較 33
圖4-11 兩側角隅點預測上側背風面點之風壓歷時 34
圖4-12 擷取部分兩側角隅點預測上側背風面點之風壓歷時 34
圖4-13 兩側角隅點預測上側背風面點與單點角隅點預測同側背風面點之RMSE比較 35
圖4-14 角隅點預測上側背風面點(BATCH SIZE為100)之風壓歷時 35
圖4-15 擷取部分角隅點預測上側背風面點(BATCH SIZE為100)之風壓歷時 36
圖4-16 角隅點預測上側背風面點BATCH SIZE50及100之RMSE比較 36
圖4-17 5層之風壓歷時 37
圖4-18 擷取部分5層之風壓歷時 37
圖4-19 各層網路RMSE之比較 37
圖4-20 順風向整體風力歷時預測順風向造成扭力歷時(案例1)之扭力歷時 39
圖4-21 擷取部分順風向整體風力歷時預測順風向造成扭力歷時之扭力歷時 40
圖4-22 橫風向整體風力歷時預測橫風向造成扭力歷時(案例2)之扭力歷時 40
圖4-23 擷取部分橫風向整體風力歷時預測橫風向造成扭力歷時之扭力歷時 40
圖4-24 橫風向整體風力歷時預測扭轉向整體風力歷時(案例3)之扭力歷時 41
圖4-25 擷取部分橫風向整體風力歷時預測扭轉向整體風力歷時之扭力歷時 41
圖4-26 各風向風力歷時預測扭力歷時之RMSE比較圖 42
圖4-27 順風向及橫風向整體風力歷時預測扭轉向整體風力歷時(案例4)之扭力歷時 42
圖4-28 擷取部分順風向及橫風向整體風力歷時預測扭轉向整體風力歷時之扭力歷時 43
圖4-29 橫風向整體風力歷時與順風向、橫風向整體風力歷時預測扭力歷時之RMSE比較圖 43
圖4-30 北部地區測站位置圖 44
圖4-31 板橋預測台北之風速歷時 47
圖4-32 擷取部分板橋預測台北之風速歷時 48
圖4-33 竹子湖預測鞍部之風速歷時 48
圖4-34 擷取部分竹子湖預測鞍部之風速歷時 48
圖4-35 板橋預測台北及竹子湖預測鞍部之RMSE比較 49
圖4-36 淡水+竹子湖預測鞍部之風速歷時 50
圖4-37 擷取部分淡水+竹子湖預測鞍部之風速歷時 50
圖4-38 竹子湖、淡水+竹子湖及板橋+台北預測鞍部之RMSE比較 51
圖4-39 淡水+竹子湖+台北預測鞍部之風速歷時 51
圖4-40 擷取部分淡水+竹子湖+台北預測鞍部之風速歷時 52
圖4-41 竹子湖、淡水+竹子湖及淡水+竹子湖+台北預測鞍部之RMSE比較52
圖4-42 板橋預測台北之風速歷時 53
圖4-43 擷取部分板橋預測台北之風速歷時 54
圖4-44 竹子湖預測鞍部之風速歷時 54
圖4-45 擷取部分竹子湖預測鞍部之風速歷時 54
圖4-46 竹子湖預測鞍部風速及風速加風向之RMSE比較 55
圖4-47 淡水+竹子湖預測鞍部之風速歷時 56
圖4-48 擷取部分淡水+竹子湖預測鞍部之風速歷時 56
圖4-49 淡水+竹子湖預測鞍部風速、竹子湖預測鞍部風速加風向及淡水+竹子湖預測鞍部風速加風向之RMSE比較 57
圖4-50 淡水+竹子湖+台北預測鞍部之風速歷時 57
圖4-51 擷取部分淡水+竹子湖+台北預測鞍部之風速歷時 58
圖4-52 淡水+竹子湖+台北預測鞍部風速、淡水+竹子湖預測鞍部風速加風向及淡水+竹子湖+台北預測鞍部風速加風向之RMSE比較 58
圖4-53 2011-2012年淡水+竹子湖預測鞍部之風速歷時 59
圖4-54 擷取部分2011-2012年淡水+竹子湖預測鞍部之風速歷時 59
圖4-55 2012-2013年淡水+竹子湖預測鞍部之風速歷時 60
圖4-56 擷取部分2012-2013年淡水+竹子湖預測鞍部之風速歷時 60
圖4-57 2011-2012模型應用在2012-2013年淡水+竹子湖預測鞍部之風速歷時 61
圖4-58 擷取部分2011-2012模型應用在2012-2013年淡水+竹子湖預測鞍部之風速歷時 61

圖A-1下側角隅預測同側背風面點之風壓歷時 69
圖A-2 擷取下側角隅預測同側背風面點之風壓歷時 69
圖A-3 上側角隅預測同側背風面點之風壓歷時 70
圖A-4 上側角隅預測同側背風面點之風壓歷時 70
圖A-5 下側角隅預測不同側背風面點之風壓歷時 71
圖A-6 擷取下側角隅預測不同側背風面點之風壓歷時 71
圖A-7 上側角隅預測不同側背風面點之風壓歷時 72
圖A-8 擷取上側角隅預測不同側背風面點之風壓歷時 72
圖A-9 下側角隅預測上側角隅之風壓歷時 73
圖A-10 擷取下側角隅預測上側角隅之風壓歷時 73
圖A-11 下側背風面點預測上側背風面點之風壓歷時 74
圖A-12 擷取下側背風面點預測上側背風面點之風壓歷時 74
圖A-13 兩點角隅預測下側背風面點之風壓歷時 75
圖A-14 擷取兩點角隅預測下側背風面點之風壓歷時 75
圖A-15 兩點角隅預測上側背風面點之風壓歷時 76
圖A-16 擷取兩點角隅預測上側背風面點之風壓歷時 76
圖A-17上側角隅預測同側背風面點BATCH SIZE為100之風壓歷時 77
圖A-18 擷取上側角隅預測同側背風面點BATCH SIZE為100之風壓歷時 77
圖A-19上側角隅預測同側背風面點LSTM 2層之風壓歷時 78
圖A-20 擷取上側角隅預測同側背風面點LSTM 2層之風壓歷時 78
圖A-21上側角隅預測同側背風面點LSTM 3層之風壓歷時 79
圖A-22 擷取上側角隅預測同側背風面點LSTM 3層之風壓歷時 79
圖A-23上側角隅預測同側背風面點LSTM 4層之風壓歷時 80
圖A-24 擷取上側角隅預測同側背風面點LSTM 4層之風壓歷時 80
圖A-25上側角隅預測同側背風面點LSTM 5層之風壓歷時 81
圖A-26 擷取上側角隅預測同側背風面點LSTM 5層之風壓歷時 81
圖A-27上側角隅預測同側背風面點LSTM 7層之風壓歷時 82
圖A-28 擷取上側角隅預測同側背風面點LSTM 7層之風壓歷時 82
圖A-29上側角隅預測同側背風面點LSTM 9層之風壓歷時 83
圖A-30 擷取上側角隅預測同側背風面點LSTM 9層之風壓歷時 83
圖A-31上側角隅預測同側背風面點LSTM 10層之風壓歷時 84
圖A-32 擷取上側角隅預測同側背風面點LSTM 10層之風壓歷時 84
圖A-33上側角隅預測同側背風面點LSTM 13層之風壓歷時 85
圖A-34 擷取上側角隅預測同側背風面點LSTM 13層之風壓歷時 85
圖A-35上側角隅預測同側背風面點LSTM 15層之風壓歷時 86
圖A-36 擷取上側角隅預測同側背風面點LSTM 15層之風壓歷時 86

圖B-1 順風向整體風力歷時預測順風向造成扭力歷時之扭力歷時 88
圖B-2 擷取順風向整體風力歷時預測順風向造成扭力歷時之扭力歷時 88
圖B-3 橫風向整體風力歷時預測橫風向造成扭力歷時之扭力歷時 89
圖B-4 擷取橫風向整體風力歷時預測橫風向造成扭力歷時之扭力歷時 89
圖B-5 橫風向整體風力歷時預測扭轉向風力歷時之扭力歷時 90
圖B-6 擷取橫風向整體風力歷時預測扭轉向風力歷時之扭力歷時扭力歷時 
 90
圖B-7 順風向及橫風向整體風力歷時預測扭轉向整體風力歷時之扭力歷時 
 91
圖B-8 擷取順風向及橫風向整體風力歷時預測扭轉向整體風力歷時之扭力歷時 91

圖C-1 竹子湖(風速)預測淡水之風速歷時 96
圖C-2 擷取竹子湖(風速)預測淡水之風速歷時 96
圖C-3 淡水(風速)預測鞍部之風速歷時 97
圖C-4 擷取淡水(風速)預測鞍部之風速歷時 97
圖C-5 竹子湖(風速)預測鞍部之風速歷時 98
圖C-6 擷取竹子湖(風速)預測鞍部之風速歷時 98
圖C-7 板橋(風速)預測鞍部之風速歷時 99
圖C-8 擷取板橋(風速)預測鞍部之風速歷時 99
圖C-9 台北(風速)預測鞍部之風速歷時 100
圖C-10 擷取台北(風速)預測鞍部之風速歷時 100
圖C-11 淡水(風速)預測板橋之風速歷時 101
圖C-12 擷取淡水(風速)預測板橋之風速歷時 101
圖C-13 淡水(風速)預測台北之風速歷時 102
圖C-14 擷取淡水(風速)預測台北之風速歷時 102
圖C-15 板橋(風速)預測台北之風速歷時 103
圖C-16 擷取板橋(風速)預測台北之風速歷時 103
圖C-17 淡水+竹子湖(風速)預測鞍部之風速歷時 104
圖C-18 擷取淡水+竹子湖(風速)預測鞍部之風速歷時 104
圖C-19 板橋+台北(風速)預測鞍部之風速歷時 105
圖C-20 擷取板橋+台北(風速)預測鞍部之風速歷時 105
圖C-21 淡水+竹子湖+板橋(風速)預測鞍部之風速歷時 106
圖C-22 擷取淡水+竹子湖+板橋(風速)預測鞍部之風速歷時 106
圖C-23 淡水+竹子湖+台北(風速)預測鞍部之風速歷時 107
圖C-24 擷取淡水+竹子湖+台北(風速)預測鞍部之風速歷時 107
圖C-25 竹子湖(風速+風向)預測淡水之風速歷時 108
圖C-26 擷取竹子湖(風速+風向)預測淡水之風速歷時 108
圖C-27 淡水(風速+風向)預測鞍部之風速歷時 109
圖C-28 擷取淡水(風速+風向)預測鞍部之風速歷時 109
圖C-29 竹子湖(風速+風向)預測鞍部之風速歷時 110
圖C-30 擷取竹子湖(風速+風向)預測鞍部之風速歷時 110
圖C-31 板橋(風速+風向)預測鞍部之風速歷時 111
圖C-32 擷取板橋(風速+風向)預測鞍部之風速歷時 111
圖C-33 台北(風速+風向)預測鞍部之風速歷時 112
圖C-34 擷取台北(風速+風向)預測鞍部之風速歷時 112
圖C-35 淡水(風速+風向)預測板橋之風速歷時 113
圖C-36 擷取淡水(風速+風向)預測板橋之風速歷時 113
圖C-37 淡水(風速+風向)預測台北之風速歷時 114
圖C-38 擷取淡水(風速+風向)預測台北之風速歷時 114
圖C-39 板橋(風速+風向)預測台北之風速歷時 115
圖C-40 擷取板橋(風速+風向)預測台北之風速歷時 115
圖C-41淡水+竹子湖(風速+風向)預測鞍部之風速歷時 116
圖C-42 擷取淡水+竹子湖(風速+風向)預測鞍部之風速歷時 116
圖C-43 板橋+台北(風速＋風向)預測鞍部之風速歷時 117
圖C-44 擷取板橋+台北(風速＋風向)預測鞍部之風速歷時 117
圖C-45 淡水+竹子湖+台北(風速+風向)預測鞍部之風速歷時 118
圖C-46 擷取淡水+竹子湖+台北(風速+風向)預測鞍部之風速歷時 118
圖C-47 淡水+竹子湖+板橋(風速+風向)預測鞍部之風速歷時 119
圖C-48 擷取淡水+竹子湖+板橋(風速+風向)預測鞍部之風速歷時 119
圖C-49 2011-2012年淡水+竹子湖預測鞍部之風速歷時 120
圖C-50 擷取2011-2012年淡水+竹子湖預測鞍部之風速歷時 120
圖C-51 2012-2013年淡水+竹子湖預測鞍部之風速歷時 121
圖C-52 擷取2012-2013年淡水+竹子湖預測鞍部之風速歷時 121
圖C-53 2011-2012模型應用在2012-2013年淡水+竹子湖預測鞍部之風速歷時 122
圖C-54 擷取2011-2012模型應用在2012-2013年淡水+竹子湖預測鞍部之風速歷時時 122

[1]Y. Liu, L. Guan, C. Hou, H. Han, Z. Liu, Y. Sun, M. Zheng, “Wind Power Short-Term Prediction Based on LSTM and Discrete Wavelet Transform,” Appl. Sci., 9, 1108, 2019.
[2]P. P. Prabha, V. Vanitha, R. Resmi, “Wind Speed Forecasting using Long Short Term Memory Networks,” ICICICT-2019, pp. 1310-1314, 2019.  
[3]Jih-Sheng Chang, Wei-Chih Su, Hsiu-Mei Chou, Fang-Pang Lin, “An Intelligent Wind Forecast System for Offshore Wind Farms Based on Bidirectional LSTM Neural Networks,” TANET-2019, 2019.
[4]蔡宜廷，「基於聚合循環神經網路之空氣汙染預測與分析」，國立臺北大學資訊工程學系碩士班論文，2018。
[5]G. E. Hinton, S. Osindero, Y.-W. Teh, “A fast learning algorithm for deep belief nets,” Neural Computation. Vol. 18, No. 7, 2006.
[6]S. J. Russell, P. Norvig, “Artificial Intelligence: A Modern Approach, Third Edition,” Prentice Hall ISBN 9780136042594, 2010.
[7]F. Rosenblatt, “The Perceptron — A Perceiving and Recognizing Automaton,” Report 85-460-1, Cornell Aeronautical Laboratory, 1957.
[8]D. E. Rumelhart, G. E. Hinton, R. J. Williams, “Learning representations by back-propagating errors,” Nature. 8 October 1986, 323 (6088): 533–536. doi:10.1038/323533a0.
[9]Z. C. Lipton, J. Berkowitz, C. Elkan, “A Critical Review of Recurrent Neural Networks for Sequence Learning,” arXiv preprint arXiv: 1506.00019, 2015.
[10]S. Hochreiter, J. Schmidhuber, “Long Short-Term Memory,” Neural Computation. Vol. 9, No. 8, pp. 1735-1780, 1997.
[11]林大貴，「TensorFlow+Keras深度學習人工智慧實務應用」，台北市:博碩文化，2016。
[12]G. E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever, R. R.  Salakhutdinov, “Improving neural networks by preventing co-adaptation of feature detectors,” arXiv preprint arXiv: 1207.0580, 2012.
[13]N. Srivastava, G. E. Hinton, A. Krizhevsky, I Sutskever, R.  Salakhutdinov, “Dropout: A Simple Way to Prevent Neural Networks from Overfitting,” Journal of Machine Learning Research 15 (2014), pp. 1929-1958, 2014.
[14]Tensorflow，檢自: https://www.tensorflow.org/?hl=zh-tw
[15]P. F. Dubois, “Python: Batteries Included,” Computing in Science and Eng. Vol. 9, No. 3, 2007.