本研究之主旨在以深度學習方法，預測二維翼型振顫之生成。吾人首先透過尤拉拉格朗日方程式與非穩態空氣動力理論假設來推導二維翼型之運動方程式，並以古典振顫分析中之K方法，求解不同飛行條件下振顫發生之情形。吾人並利用K方法求得大量的飛行資料，且以深度學習方式建立能夠預測振顫現象發生之深度學習模型。
本研究將分別使用深度類神經網路(DNN)與長短期記憶(LSTM)方式建構出深度學習模型，並分析兩種深度學習模型之間差異，以及對於預測振顫發生的優劣進行比較。結果顯示以長短期記憶方式建立出的深度學習模型擁有較優異的表現，穩健性也較高。最後，吾人觀察此兩種深度學習模型之預測結果皆符合氣體彈性力學與空氣動力學的物理意義，證實了此深度學習模型的可信程度。
本研究使用深度學習方式，成功達到振顫速度之預測，而本實驗所使用之深度學習方法在航太工程領域上應用範圍非常廣泛，是一個具有潛力及展望性的方法。

Deep learning technology has been widely used in various field in recent years. This study intends to use deep learning algorithms to analyze the aeroelastic phenomenon and compare the differences between Deep Neural Network(DNN) and Long Short-term Memory(LSTM) applied on the flutter speed evaluation.
In this paper, DNN and LSTM are used to address complex aeroelastic systems by superimposing multi-layer Artificial Neural Network. Under such an architecture, the neurons in neural network can extract features from various flight data. Instead of time-consuming high-fidelity computational fluid dynamics (CFD) method, this study uses the K method to build the aeroelastic flutter speed big data for different flight conditions. The causes of flutter speed are judged, and the accuracy of deep learning results is also verified by the K method. The results from this study show that LSTM architecture established in this study have the best prediction accuracy.

摘要 I
目錄 III
圖目錄 V
表目錄 VII
第一章 緒論 1
一、1 研究動機 1
一、2 文獻回顧 3
一、3 研究方法 6
第二章 基本理論之介紹 7
二、1 二維翼型之氣體彈性運動方程式 8
二、2.1 古典振顫分析 11
二、2.2 K方法 14
第三章 深度學習 18
三、1.1 機器學習介紹 19
三、1.2 深度學習流程介紹 22
三、1.3 資料蒐集 24
三、2.1.1 深度類神經網路 26
三、2.1.2 人工神經元 28
三、2.2.1 循環神經網路 30
三、2.2.2 長短期記憶 31
三、2.3 損失函數 34
三、2.4.1 反向傳播法 35
三、2.4.2 基於時間之反向傳播法 37
三、2.5 其他參數之設定 38
第四章 模型建立及實測結果分析 42
四、1.1 DNN模型建立及分析 43
四、1.2 LSTM模型建立及分析 53
四、2.1 DNN模型預測與結果探討 59
四、2.2 LSTM模型預測與結果探討 65
第五章 結論 71
參考文獻 74
論文簡要版 77

圖目錄
圖 一：二維翼型模型示意圖 8
圖 二：K方法執行之人工阻尼變化 16
圖 三：K方法執行之頻率變化 17
圖 四：機器學習分類 19
圖 五：非監督式學習 19
圖 六：監督式學習 20
圖 七：增強式學習 21
圖 八：深度學習流程圖 23
圖 九：類神經網路架構示意圖 26
圖 十：人工神經元示意圖 28
圖 十一：循環神經網路模型架構 30
圖 十二：長短期記憶模型 32
圖 十三：Sigmoid function 39
圖 十四：ReLU function 40
圖 十五：Hyperbolic tangent function 41
圖 十六：1層類神經網路架構訓練之準確度 43
圖 十七：1層類神經網路架構訓練之損失 44
圖 十八：7層深度學習架構訓練之準確度 45
圖 十九：7層深度學習架構訓練之損失 45
圖 二十：Dropout示意圖 46
圖 二十一：不同層數之類神經網路架構損失 47
圖 二十二：不同數量之類神經元模型訓練損失結果 49
圖 二十三：本研究之深度類神經網路模型架構 51
圖 二十四：本研究深度類神經網路架構訓練之準確度 52
圖 二十五：本研究深度類神經網路架構訓練之損失 52
圖 二十六：不同層數之長短期記憶架構損失 53
圖 二十七：不同數量之長短期記憶模型訓練損失結果 55
圖 二十八：不同epoch訓練之損失與準確度結果 56
圖 二十九：本研究之深度長短期記憶模型架構 57
圖 三十：本研究深度長短期記憶網路架構訓練之準確度 58
圖 三十一：本研究深度長短期記憶網路架構訓練之損失 58
圖 三十二：DNN實際預測結果 59
圖 三十三：DNN預測之質心位置與振顫速度關係 62
圖 三十四：DNN預測之彈性軸位置與振顫速度關係 62
圖 三十五：DNN預測之頻率比與振顫速度關係 63
圖 三十六：DNN預測之質量比與振顫速度關係 63
圖 三十七：DNN預測之旋轉半徑與振顫速度關係 64
圖 三十八：DNN預測之靜態不平衡參數與振顫速度關係 64
圖 三十九：LSTM實際預測結果 65
圖 四十：LSTM預測之質心位置與振顫速度關係 67
圖 四十一：LSTM預測之彈性軸位置與振顫速度關係 67
圖 四十二：LSTM預測之頻率比與振顫速度關係 68
圖 四十三：LSTM預測之質量比與振顫速度關係 68
圖 四十四：LSTM預測之旋轉半徑與振顫速度關係 69
圖 四十五：LSTM預測之靜態不平衡參數與振顫速度關係 69

表目錄
表 一：數據集使用之參數 24
表 二：不同排序之啟動函數模型訓練損失結果 48

[1]D. Silver, J. Schrittwieser, K. Simonyan, I. Antonoglou, A. Huang, A. Guez, T. Hubert, L. Baker, M. Lai, A. Bolton, Y. Chen, T. Lillicrap, F. Hui, L. Sifre, G. van den Driessche, T. Graepel and D. Hassabis, “Mastering the Game of Go without human knowledge,”Nature, Vol. 550, 2017, pp.354-359.
[2]R. L. Bisplinghoff, H. Ashley and R. L. Halfman, Aeroelasticity (Dover Books on Aeronautical Engineering), Dover Publications, New York, 2013, 9780486691893.
[3]D. Hodges and G. Pierce, Introduction to structural dynamics and aeroelasticity, Cambridge Aerospace Series, 2011 , 9781139499927.
[4]	D. Pitt and D. Haudrich, “Development of an artificial neural aeroelastic network (AN^2) for the Prediction of multiple flutter crossing,” 46th AIAA/ASME/ASCE/AHS/ASC Structures, Structural Dynamics and Materials Conference 18 -21 April 2005, Austin, Texas.
[5]K. Hao, “We analyzed 16,625 papers to figure out where AI is headed next,” MIT Technology Review, 2019.
[6]G. E. Hinton, S. Osindero and Y.-W. Teh, ”A fast learning algorithm 
for deep belief nets,”Neural Computation ,Vol. 18, No. 7, 2006.
[7]G. E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever and R. R. Salakhutdinov, “Improving neural networks by preventing co-adaptation of feature detectors,”arXiv:1207.0580, 2012.
[8]N. Srivastava, G. E. Hinton, A. Krizhevsky, I. Sutskever, R. Salakhutdinov, “Dropout: A simple way to prevent neural networks from overfitting,”Journal of Machine Learning Research, Vol. 15, 2014, pp.1929-1958.
[9]A. Krizhevsky, I. Sutskever, G. E. Hinton, “ImageNet classification with deep convolutional neural networks,” Advances in Neural Information Processing Systems, Curran Associates, Inc., 2013.
[10]C. Szegedy, W. Liu, Y. Jia, P. Sermanet, S. Reed, D. Anguelov, D. Erhan, V. Vanhoucke, A. Rabinovich, “Going deeper with convolutions.”, Neural Information Processing Systems Conference, 2015.
[11]S. Hochreiter, J. Schmidhuber, “Long short-term memory,”Neural computation, Vol. 9, No. 8, 1997, pp.1735-1780.
[12]T. Li, T. Wu and Z. Liu, “Nonlinear unsteady bridge aerodynamics: Reduced-order modeling based on deep LSTM networks,” Journal of Wind Engineering & Industrial Aerodynamics, Vol.198, 2020, Article number: 104116.
[13]R. Halder, M. Damodaran and B. C. Khoo, “Deep learning based reduced order model for airfoil-gust and aeroelastic interaction,” AIAA Journal, Vol. 58, No. 10, October 2020, pp.4304-4321.
[14]Y. LeCun, Y. Bengio, G. E. Hinton, “Deep learning,”Nature, Vol. 521, No. 7553, 2015, pp.436-444.
[15]F. Chollet, Deep learning with Python, Manning Publications, 2017, 9781617294433.
[16]Z. C. Lipton, J. Berkowitz, C. Elkan, “A critical review of recurrent neural networks for sequence learning,”arXiv1506.00019, 2015.
[17]D. P. Kingma, J. Ba,” Adam: A method for stochastic optimization,”2015.
[18]M. T. Hagan, H. B. Demuth, M. Beale and O. De Jess, Neural network design 2nd edition, Martin Hagan, 2014, 9780971732117.
[19]F. Chollet, Keras, https://github.com/fchollet/keras, 2015.
[20]	M. Abadi, P. Barham, J. Chen, Z. Chen, A. Davis, J. Dean, M. Devin, S. Ghemawat, G. Irving, M. Isard, M. Kudlur, J. Levenberg, R. Monga, S. Moore, D. G. Murray, B. Steiner, P. Tucker, V. Vasudevan, P. Warden, M. Wicke, Y. Yu, X. Zheng, “Tensorflow: A system for large-scale machine learning,”12th USENIX Symposium on Operating Systems Design and Implementation, 2016, pp.265-283.
[21]斎藤康毅, Deep learning：用Python進行深度學習的基礎理論實作, O'Reilly Media, 2017.
[22]林大貴, TensorFlow+Keras深度學習人工智慧實務應用, 博碩文化, 2017.