1150116 meeting

本次改採用 Weather2K 資料集作訓練，並做不同方面的實驗。

資料集

Weather2K 資料集變數如下：

在以下實驗中，皆隨機選取資料集中 500 個地點進行實驗，並選取 2020 年 9 月至 2021 年 9 月之資料作為訓練與測試日期。其中，已知站點占全部的 0.95 ，訓練時間點占全部的 0.9 ，缺失時間占測試時間點中的 0.3 。

實驗一

本實驗採用全部 9 個變數，並將其依時間個別拆分為 8 個變數，形成總共 $9 \times 8 = 72$ 個變數，增加各變數之間的共變性。

在以下實驗中，標示為 FRK 的表格表示在訓練過程中加入了以下程式碼，用於使訓練過程中考慮空間關係。其中，為確保 autoFRK 可順利使用，將 SSSD 的 epsilon_theta 預測值加入微小的隨機值，讓 autoFRK 能順利預測。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18

if loc is not None:
    temp = epsilon_theta.permute(1, 0, 2)
    epsilon_theta_fused = torch.zeros_like(epsilon_theta)
    for i in range(temp.shape[0]):
        success = False
        while not success:
            try:
                df = temp[i] + 1e-6 * torch.randn_like(temp[i])
                frk_model = AutoFRK(device=df.device, dtype=df.dtype)
                frk_model.forward(data=df, loc=loc, requires_grad=True)
                pred_res = frk_model.predict(newloc=loc)
                frk_pred = pred_res['pred.value']
                epsilon_theta_fused[:, i, :] = frk_pred
                success = True
            except Exception as e:
                print(f"[Warning] Processing of record {i} failed. Will retry. Error: {e}")
else:
    epsilon_theta_fused = epsilon_theta

• 標示為 FRK-3000 表示在訓練過程中採用了上述方式進行訓練，且訓練了 3,000 次迭代。
• 標示為 No-FRK-3000 表示在訓練過程中無使用 autoFRK 進行訓練，且訓練了 3,000 次迭代。

FRK-3000

No-FRK-3000

No-FRK-18000

實驗二

為避免實驗一中各變數無共變性，以下僅使用「溫度」變數作為測試，並將其拆分為 8 個變數，共 $1 \times 8 = 8$ 個變數。

FRK-3000

FRK-8500

No-FRK-3000

No-FRK-18000

實驗三

本實驗未確認實驗二是否有效之對照組，與實驗二同為取「溫度」變數，但未衍生為 8 個變數，只使用 1 個變數進行實驗。

(實驗進行中)

參考資料

• Zhu X, Xiong Y, Wu M, et al. Weather2K: A Multivariate Spatio-Temporal Benchmark Dataset for Meteorological Forecasting Based on Real-Time Observation Data from Ground Weather Stations[C]//International Conference on Artificial Intelligence and Statistics. PMLR, 2023: 2704-2722.
• Juan Lopez Alcaraz 、 Nils Strodthoff（2022）。Diffusion-based time series imputation and forecasting with structured state space models。Transactions on Machine Learning Research。參考自 https://openreview.net/forum?id=hHiIbk7ApW
• SSSD（2022）。GitHub。參考自 https://github.com/AI4HealthUOL/SSSD