在全球淡水資源中，地下水約占30%的比例，這一資料凸顯了地下水在全球淡水資源中的重要性。特別是缺乏地表水資源的地區，地下水不僅是居民日常生活、農業灌溉與工業用水的主要來源，還是生態環境維護的基礎。然而氣候變遷引發的長期乾旱等極端氣候，加劇了地下水資源的過度開採問題，導致水位下降、水質惡化等一系列的挑戰，對生態環境與人類生活品質構成了嚴重的威脅。因此地下水資源的有效管理與保護顯得尤為迫切。
本研究目的為結合Transformer與線性回歸混合型模式以建立濁水溪全流域之地下水預報模式，旨在通過相關性分析確認影響地下水水位的關鍵因素，並應用先進的Transformer模式發展地下水水位預測系統。這一模式不僅考慮了抽水因子對預測精準度的影響，還結合了Transformer模式與線性回歸模式的混合型模式與僅依賴Transformer模式的單一型模式進行綜合評估。 
研究結果揭示了地下水水位與雨量之間存在的時空關係，並發現抽水井用電量與地下水水位站之水位存在不同程度的關聯。通過因子配置的比較，考慮抽水因子可以使模式RMSE降低9%~49%、NRMSE降低11%~44%、R2值提升了2%~61%與Gbench值提升了17%~77%；在模式比較方面，兩種模式展現出了Transformer強大的預測與泛化能力。混合型模式在避免預測位移與誤差的問題方面更佳優秀，且混合型模式能夠通過簡單的動態修正機制提升預測能力，這樣靈活且實用的方法，提供了有效應對未來可能出現的挑戰。

Groundwater accounts for approximately 30% of global freshwater resources, highlighting its significance in the global freshwater supply. Particularly in regions lacking surface water resources, groundwater is not only the primary source for residents' daily life, agricultural irrigation, and industrial water use but also the foundation for maintaining the ecological environment. However, extreme weather events such as long-term droughts triggered by climate change have exacerbated the problem of groundwater overexploitation, leading to a series of challenges including declining water levels and deteriorating water quality, posing serious threats to the ecological environment and human quality of life. Therefore, effective management and protection of groundwater resources have become increasingly urgent.
The purpose of this study is to establish a groundwater forecasting model for the entire Zhuoshui River basin by combining Transformer and linear regression hybrid models. It aims to identify key factors affecting groundwater levels through correlation analysis and develop a groundwater level prediction system using the advanced Transformer model. This model not only considers the impact of pumping factors on prediction accuracy but also comprehensively evaluates Hybrid Model, which combines the Transformer model with linear regression, and Single Model, which relies solely on the Transformer model.
The research results reveal the spatiotemporal relationship between groundwater levels and rainfall, and discover varying degrees of correlation between the electricity consumption of pumping wells and the water levels at groundwater monitoring stations. Through comparison of factor configurations, considering pumping factors can reduce the model's RMSE by 9% to 49%, NRMSE by 11% to 44%, increase R2 values by 2% to 61%, and improve Gbench values by 17% to 77%. In terms of model comparison, both models demonstrate the powerful prediction and generalization capabilities of the Transformer. Hybrid Model excels in avoiding prediction displacement and error issues, and can enhance its predictive ability through a simple dynamic correction mechanism. This flexible and practical approach provides an effective means to address potential future challenges.

目錄
謝誌	I
目錄	VIII
圖目錄	XI
表目錄	XVI
第一章	前言	1
1.1	研究背景與重要性	1
1.2	研究目的與方法	2
1.3	論文架構	3
第二章	文獻回顧	4
2.1	地下水水位預測之相關研究	4
2.2	TRANSFORMER模式之相關研究	7
2.3	線性回歸模式應用於地下水之相關研究	9
第三章	理論概述	11
3.1	TRANSFORMER	11
3.1.1	編碼器-解碼器架構	13
3.1.2	自注意力架構(Self-Attention Mechanism)	13
3.1.3	多頭自注意力	15
3.1.4	前饋式類神經網路	16
3.1.5	位置編碼	17
3.1.6	優化器	18
3.2	線性回歸	19
3.3	相關性分析	20
3.4	模式評估指標	21
第四章	研究案例	23
4.1	研究區域	23
4.1.1	地理與氣候環境概況	23
4.1.2	水文地質概況	24
4.2	資料蒐集	28
4.3	資料前處理	30
4.3.1	相對地下水水位	30
4.3.2	月尺度資料	30
4.3.3	地下水水位站分區平均	31
4.4	資料分析	33
4.4.1	地下水水位分析	33
4.4.2	雨量分析	42
4.4.3	抽水井用電量分析	44
4.4.4	雨量與地下水之相關性分析	48
4.4.5	用電量與地下水之相關性分析	55
4.5	模式架構	56
第五章	結果與討論	58
5.1	不同輸入因子配置分析	59
5.1.1	因子配置I型：	59
5.1.2	因子配置II型：	63
5.1.3	綜合比較	67
5.2	模式比較分析	68
5.2.1	混合型模式結果分析	68
5.2.2	單一型模式結果分析	72
5.2.3	模式綜合比較	74
第六章	結論與建議	78
6.1	結論	78
6.2	建議	80
第七章	參考文獻	81
附錄A.	地下水各站線性回歸分析	86
附錄B.	地下水混合型模式結果圖	98
附錄C.	地下水混合型模式加入動態修正結果圖	120
附錄D.	地下水單一型模式結果圖	131
 
圖目錄
圖3-1Transformer流程圖	12
圖3-2縮放點積(Scaled Dot-Product)流程圖	15
圖3-3多頭自注意力架構圖	16
圖4-1濁水溪流域概況	24
圖4-2濁水溪水文地質屏狀圖	26
圖4-3水文地質剖面(海園-石榴)	27
圖4-4濁水溪流域第1層地下水觀測站分布圖	28
圖4-5濁水溪流域雨量站分布圖	29
圖4-6濁水溪流域抽水井分布圖	29
圖4-7濁水溪流域地下水水位圖	35
圖4-8濁水溪流域山區各站地下水水位圖	37
圖4-9濁水溪流域扇頂各站地下水水位圖	38
圖4-10濁水溪流域扇央各站地下水水位圖	39
圖4-11濁水溪流域扇尾各站地下水水位圖	41
圖4-12濁水溪流域雨量長條圖	44
圖4-13雲彰地區農業抽水井用電量之長條圖	46
圖4-14雲彰地區民生與工業抽水井用電量之長條圖	46
圖4-15雲彰地區農業抽水井用電量月分長條圖	47
圖4-16雲彰地區公共抽水井用電量月分長條圖	47
圖4-17抽水因子長條圖	47
圖4-18混合型模式之架構圖	57
圖4-19單一型模式之架構圖	57
圖5-1地下水T+1訓練階段預測結果(因子配置I型)	61
圖5-2地下水T+1測試階段預測結果(因子配置I型)	63
圖5-3地下水T+1訓練階段預測結果(因子配置II型)	65
圖5-4地下水T+1測試階段預測結果(因子配置II型)	66
圖5-5國聖站單一型模式之歷程圖	76
圖5-6舊庄站單一型模式之歷程圖	77
附圖A-1山區各測站與山區平均地下水回歸分析圖	87
附圖A-2扇頂各測站與扇頂平均地下水回歸分析圖	88
附圖A-3扇央各測站與扇央平均地下水回歸分析圖	93
附圖A-4扇尾各測站與扇尾平均地下水回歸分析圖	97
附圖B-1新光站預測結果(混合型模式)	98
附圖B-2竹山站預測結果(混合型模式)	99
附圖B-3新民站預測結果(混合型模式)	100
附圖B-4社寮站預測結果(混合型模式)	101
附圖B-5田中站預測結果(混合型模式)	102
附圖B-6石榴站預測結果(混合型模式)	103
附圖B-7國聖站預測結果(混合型模式)	104
附圖B-8花壇站預測結果(混合型模式)	105
附圖B-9田尾站預測結果(混合型模式)	106
附圖B-10合興站預測結果(混合型模式)	107
附圖B-11溫厝站預測結果(混合型模式)	108
附圖B-12宏崙站預測結果(混合型模式)	109
附圖B-13古坑站預測結果(混合型模式)	110
附圖B-14舊庄站預測結果(混合型模式)	111
附圖B-15東榮站預測結果(混合型模式)	112
附圖B-16洛津站預測結果(混合型模式)	113
附圖B-17線西站預測結果(混合型模式)	114
附圖B-18文昌站預測結果(混合型模式)	115
附圖B-19豐榮站預測結果(混合型模式)	116
附圖B-20箔子站預測結果(混合型模式)	117
附圖B-21明德站預測結果(混合型模式)	118
附圖B-22東光站預測結果(混合型模式)	119
附圖C-1新光站預測結果(混合型模式修正)	120
附圖C-2竹山站預測結果(混合型模式修正)	120
附圖C-3新民站預測結果(混合型模式修正)	121
附圖C-4社寮站預測結果(混合型模式修正)	121
附圖C-5田中站預測結果(混合型模式修正)	122
附圖C-6石榴站預測結果(混合型模式修正)	122
附圖C-7國聖站預測結果(混合型模式修正)	123
附圖C-8花壇站預測結果(混合型模式修正)	123
附圖C-9田尾站預測結果(混合型模式修正)	124
附圖C-10合興站預測結果(混合型模式修正)	124
附圖C-11溫厝站預測結果(混合型模式修正)	125
附圖C-12宏崙站預測結果(混合型模式修正)	125
附圖C-13古坑站預測結果(混合型模式修正)	126
附圖C-14舊庄站預測結果(混合型模式修正)	126
附圖C-15東榮站預測結果(混合型模式修正)	127
附圖C-16洛津站預測結果(混合型模式修正)	127
附圖C-17線西站預測結果(混合型模式修正)	128
附圖C-18文昌站預測結果(混合型模式修正)	128
附圖C-19豐榮站預測結果(混合型模式修正)	129
附圖C-20箔子站預測結果(混合型模式修正)	129
附圖C-21明德站預測結果(混合型模式修正)	130
附圖C-22東光站預測結果(混合型模式修正)	130
附圖D-1新光站預測結果(單一型模式)	131
附圖D-2竹山站預測結果(單一型模式)	132
附圖D-3新民站預測結果(單一型模式)	133
附圖D-4社寮站預測結果(單一型模式)	134
附圖D-5田中站預測結果(單一型模式)	135
附圖D-6石榴站預測結果(單一型模式)	136
附圖D-7國聖站預測結果(單一型模式)	137
附圖D-8花壇站預測結果(單一型模式)	138
附圖D-9田尾站預測結果(單一型模式)	139
附圖D-10合興站預測結果(單一型模式)	140
附圖D-11溫厝站預測結果(單一型模式)	141
附圖D-12宏崙站預測結果(單一型模式)	142
附圖D-13古坑站預測結果(單一型模式)	143
附圖D-14舊庄站預測結果(單一型模式)	144
附圖D-15東榮站預測結果(單一型模式)	145
附圖D-16洛津站預測結果(單一型模式)	146
附圖D-17線西站預測結果(單一型模式)	147
附圖D-18文昌站預測結果(單一型模式)	148
附圖D-19豐榮站預測結果(單一型模式)	149
附圖D-20箔子站預測結果(單一型模式)	150
附圖D-21明德站預測結果(單一型模式)	151
附圖D-22東光站預測結果(單一型模式)	152
 
表目錄
表4-1濁水溪流域地下水測站表	32
表4-2濁水溪流域地下水統計表格	34
表4-3濁水溪流域四區相關性分析表	36
表4-4山區地下水各站相關性分析表	37
表4-5扇頂地下水各站相關性分析表	38
表4-6扇央地下水各站相關性分析表	40
表4-7扇尾地下水各站相關性分析表	41
表4-8雨量站統計分析表	43
表4-9雨量(T)對地下水(T)相關性分析	50
表4-10雨量(T)對地下水(T+1)相關性分析	51
表4-11雨量(T)對地下水(T+2)相關性分析	52
表4-12雨量(T)對地下水(T+3)相關性分析	53
表4-13雨量(T)對地下水(T+4)相關性分析	54
表4-14用電量與地下水測站相關性分析	55
表5-1模式建置資料	58
表5-2因子配置I型之評估表	60
表5-3因子配置II型之評估表	64
表5-4兩種因子配置之評估比較表	67
表5-5混合型模式之評估表	70
表5-6混合型模式測試階段修正前後評估表	71
表5-7單一型模式之評估表	73

1.	張斐章、張麗秋(2015)，「類神經網路導論-原理與應用第二版」，滄海書局。
2.	陳苡庭(2013)，「以自組特徵映射網路分析濁水溪流域地面水與地下水交互變動之研究」，淡江大學水資源及環境工程學系碩士班碩士論文。
3.	黃智昭、陸挽中、張閔翔(2015)，「濁水溪流域沖積扇地下水補注地質敏感區之劃定」，經濟部中央地質調查所。
4.	Bowes, B. D., Sadler, J. M., Morsy, M. M., Behl, M., & Goodall, J. L. (2019). Forecasting Groundwater Table in a Flood Prone Coastal City with Long Short-term Memory and Recurrent Neural Networks. Water, 11(5), Article 5. 
5.	Chenini, I., & Khemiri, S. (2009). Evaluation of ground water quality using multiple linear regression and structural equation modeling. International Journal of Environmental Science & Technology, 6(3), 509–519.
6.	Fang, H.-T., Jhong, B.-C., Tan, Y.-C., Ke, K.-Y., & Chuang, M.-H. (2019). A Two-Stage Approach Integrating SOM- and MOGA-SVM-Based Algorithms to Forecast Spatial-temporal Groundwater Level with Meteorological Factors. Water Resources Management, 33(2), 797–818. 
7.	Giuliari, F., Hasan, I., Cristani, M., & Galasso, F. (2021). Transformer Networks for Trajectory Forecasting. 2020 25th International Conference on Pattern Recognition (ICPR), 10335–10342.
8.	Gong, Y., Zhang, Y., Lan, S., & Wang, H. (2016). A Comparative Study of Artificial Neural Networks, Support Vector Machines and Adaptive Neuro Fuzzy Inference System for Forecasting Groundwater Levels near Lake Okeechobee, Florida. Water Resources Management, 30(1), 375–391. 
9.	Guzman, S. M., Paz, J. O., Tagert, M. L. M., & Mercer, A. E. (2019). Evaluation of Seasonally Classified Inputs for the Prediction of Daily Groundwater Levels: NARX Networks Vs Support Vector Machines. Environmental Modeling & Assessment, 24(2), 223–234.
10.	Jiang, M., Weng, B., Chen, J., Huang, T., Ye, F., & You, L. (2024). Transformer-enhanced spatiotemporal neural network for post-processing of precipitation forecasts. Journal of Hydrology, 630, 130720.
11.	Khaki, M., Yusoff, I., & Islami, N. (2015). Simulation of groundwater level through artificial intelligence system. Environmental Earth Sciences, 73(12), 8357–8367.
12.	Kisi, O., & Shiri, J. (2012). Wavelet and neuro-fuzzy conjunction model for predicting water table depth fluctuations. Hydrology Research, 43(3), 286–300.
13.	Kumar, D., Roshni, T., Singh, A., Jha, M. K., & Samui, P. (2020). Predicting groundwater depth fluctuations using deep learning, extreme learning machine and Gaussian process: A comparative study. Earth Science Informatics, 13(4), 1237–1250.
14.	Liu, C., Liu, D., & Mu, L. (2022). Improved Transformer Model for Enhanced Monthly Streamflow Predictions of the Yangtze River. IEEE Access, 10, 58240–58253. IEEE Access.
15.	Maatta, S. (2003). Predicting groundwater levels using linear regression and neural networks.
16.	Mogaji, K. A., Lim, H. S., & Abdullah, K. (2015). Modeling of groundwater recharge using a multiple linear regression (MLR) recharge model developed from geophysical parameters: A case of groundwater resources management. Environmental Earth Sciences, 73(3), 1217–1230.
17.	Mokarram, M. (2015). Modeling of multiple regression and multiple linear regressions for prediction of groundwater quality (case study: North of Shiraz). Modeling Earth Systems and Environment, 2(1), 3.
18.	Nie, S., Bian, J., Wan, H., Sun, X., & Zhang, B. (2016). Simulation and uncertainty analysis for groundwater levels using radial basis function neural network and support vector machine models. Journal of Water Supply: Research and Technology-Aqua, 66(1), 15–24.
19.	Park, C., & Chung, I.-M. (2020). Evaluating the groundwater prediction using LSTM model. Journal of Korea Water Resources Association, 53(4), 273–283.
20.	Sahoo, S., & Jha, M. K. (2013). Groundwater-level prediction using multiple linear regression and artificial neural network techniques: A comparative assessment. Hydrogeology Journal, 21(8), 1865–1887.
21.	Shin, M.-J., Moon, S.-H., Kang, K. G., Moon, D.-C., & Koh, H.-J. (2020). Analysis of Groundwater Level Variations Caused by the Changes in Groundwater Withdrawals Using Long Short-Term Memory Network. Hydrology, 7(3), Article 3.
22.	Shiri, J., Kisi, O., Yoon, H., Lee, K.-K., & Hossein Nazemi, A. (2013). Predicting groundwater level fluctuations with meteorological effect implications—A comparative study among soft computing techniques. Computers & Geosciences, 56, 32–44.
23.	Supreetha, B. S., Shenoy, N., & Nayak, P. (2020). Lion Algorithm-Optimized Long Short-Term Memory Network for Groundwater Level Forecasting in Udupi District, India. Applied Computational Intelligence and Soft Computing, 2020(1), 8685724.
24.	Tang, Y., Zang, C., Wei, Y., & Jiang, M. (2019). Data-Driven Modeling of Groundwater Level with Least-Square Support Vector Machine and Spatial–Temporal Analysis. Geotechnical and Geological Engineering, 37(3), 1661–1670.
25.	Tuli, S., Casale, G., & Jennings, N. R. (2022). TranAD: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data (arXiv:2201.07284). arXiv.
26.	Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł. ukasz, & Polosukhin, I. (2017). Attention is All you Need. Advances in Neural Information Processing Systems, 30.
27.	Wen, X., Feng, Q., Yu, H., Wu, J., Si, J., Chang, Z., & Xi, H. (2015). Wavelet and adaptive neuro-fuzzy inference system conjunction model for groundwater level predicting in a coastal aquifer. Neural Computing and Applications, 26(5), 1203–1215.
28.	Wu, R., Wang, R., Hao, J., Wu, Q., & Wang, P. (2024). Multiobjective multihydropower reservoir operation optimization with transformer-based deep reinforcement learning. Journal of Hydrology, 632, 130904.
29.	Xu, Y., Lin, K., Hu, C., Wang, S., Wu, Q., Zhang, L., & Ran, G. (2023). Deep transfer learning based on transformer for flood forecasting in data-sparse basins. Journal of Hydrology, 625, 129956.
30.	Yoon, H., Hyun, Y., Ha, K., Lee, K.-K., & Kim, G.-B. (2016). A method to improve the stability and accuracy of ANN- and SVM-based time series models for long-term groundwater level predictions. Computers & Geosciences, 90, 144–155.