1) Regresi Linear OLS (CLRM) — Simple/Multiple

Tujuan
Mengestimasi pengaruh $x$ terhadap $y$ secara linear dan melakukan inferensi (uji t/F).

Step 1 — Spesifikasi model$$y_t = \beta_0 + \beta_1 x_{1t} + \cdots + \beta_k x_{kt} + u_t$$

Legend

• $y_t$​: variabel dependen pada waktu/observasi $t$
• $x_{kt}$: variabel penjelas ke-$k$
• $\beta_0$​: intercept; $\beta_k$​: slope/parameter
• $u_t$​: error term
• $t=1,\dots,n$: indeks observasi; $n$n: jumlah sampel; $k$k: jumlah regressor

Step 2 — Bentuk matriks (untuk komputasi)$$\mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\mathbf{u}$$

Legend

• $\mathbf{y}$ (ukuran $n\times 1$): vektor dependen
• $\mathbf{X}$X (ukuran $n\times (k+1)$): matriks regressor termasuk kolom konstanta
• $\boldsymbol{\beta}$β (ukuran $(k+1)\times 1$): vektor parameter
• $\mathbf{u}$u (ukuran $n\times 1$): vektor error

Step 3 — Estimasi OLS$$\hat{\boldsymbol{\beta}}=(\mathbf{X}’\mathbf{X})^{-1}\mathbf{X}’\mathbf{y}$$

Legend

• $\hat{\boldsymbol{\beta}}$​: estimator OLS
• $\mathbf{X}’$: transpose; $(\mathbf{X}’\mathbf{X})^{-1}$: inverse matriks

Step 4 — Residual dan varians error$$\hat{\mathbf{u}}=\mathbf{y}-\mathbf{X}\hat{\boldsymbol{\beta}}$$$$\hat{\sigma}^2=\frac{\hat{\mathbf{u}}’\hat{\mathbf{u}}}{n-k-1}$$

Legend

• $\hat{\mathbf{u}}$: residual
• $\hat{\sigma}^2$: estimasi varians error
• $n-k-1$: derajat bebas (karena ada $k$k slope + intercept)

Step 5 — Standard error dan uji t$$\mathrm{Var}(\hat{\boldsymbol{\beta}})=\hat{\sigma}^2(\mathbf{X}’\mathbf{X})^{-1}$$ $$t=\frac{\hat{\beta}_j-\beta_{j,0}}{se(\hat{\beta}_j)}$$

Legend

• $se(\hat{\beta}_j)$: akar diagonal matriks varians-kovarians
• $\beta_{j,0}$​: nilai hipotesis nol (sering 0)

Step 6 — Uji F (uji gabungan/joint)$$F=\frac{(SSR_r-SSR_{ur})/q}{SSR_{ur}/(n-k-1)}$$

Legend

• $SSR_{ur}$: SSR model unrestricted; $SSR_r$r: SSR model restricted
• $q$: jumlah restriksi (mis. $\beta_2=\beta_3=0$)

Step 7 — Goodness-of-fit$$R^2=1-\frac{SSR}{SST}$$

Legend

• $SSR=\sum \hat{u}_t^2$​; $SST=\sum (y_t-\bar{y})^2$

Step 8 — Diagnostik inti (wajib dilaporkan)

• Heteroskedastisitas (gunakan robust SE bila perlu)
• Autokorelasi (khusus data time series)
• Multikolinearitas (cek VIF/korelasi)
• Spesifikasi (bentuk fungsional, omitted variable)

---

2) Regresi dengan Dummy, Interaksi, dan Kuadratik

Tujuan
Mengakomodasi perubahan level, perbedaan kelompok, atau efek non-linear sederhana.

Step 1 — Dummy level shift$$y_t=\beta_0+\beta_1 x_t+\gamma D_t+u_t$$

Legend

• $D_t\in\{0,1\}$: dummy (0 sebelum/per kelompok A, 1 sesudah/per kelompok B)
• $\gamma$: perubahan intercept akibat dummy

Step 2 — Interaksi (beda slope antar kelompok)$$y_t=\beta_0+\beta_1 x_t+\gamma D_t+\delta(D_t\cdot x_t)+u_t$$

Legend

• $\delta$: perubahan slope ketika $D_t=1$

Step 3 — Kuadratik$$y_t=\beta_0+\beta_1 x_t+\beta_2 x_t^2+u_t$$

Legend

• $\beta_2$​: menangkap kelengkungan; turning point (jika $\beta_2\neq 0$) di $-\beta_1/(2\beta_2)$)

Diagnostik
Uji signifikansi $\gamma,\delta,\beta_2$, cek bentuk residual dan outlier.

---

3) AR(p), MA(q), ARMA(p,q)

Tujuan
Memodelkan dinamika satu variabel waktu: ketergantungan masa lalu dan shock.

Step 1 — Pastikan stasioneritas (pra-cek)

• Jika tidak stasioner, pertimbangkan transformasi ($\Delta y_t$​) atau model cointegration/ECM.

Step 2 — Spesifikasi
AR(p)$$y_t=\phi_1 y_{t-1}+\cdots+\phi_p y_{t-p}+u_t$$

MA(q)$$y_t=u_t+\theta_1 u_{t-1}+\cdots+\theta_q u_{t-q}$$​

ARMA(p,q)$$y_t=\sum_{i=1}^{p}\phi_i y_{t-i}+u_t+\sum_{j=1}^{q}\theta_j u_{t-j}$$

Legend

• $\phi_i$: koefisien AR; $\theta_j$: koefisien MA
• $u_t$​: inovasi/white noise, $E(u_t)=0$, $\mathrm{Var}(u_t)=\sigma^2$

Step 3 — Penentuan orde

• Gunakan ACF/PACF + AIC/BIC.

Step 4 — Estimasi
Biasanya melalui Maximum Likelihood / conditional least squares (software).

Step 5 — Diagnostik residual

• Residual harus white noise (uji Ljung–Box), cek normalitas bila dibutuhkan.

Step 6 — Forecasting
Gunakan model terestimasi untuk $\hat{y}_{t+h}$​ dan interval prediksi.

---

4) VAR(p)

Tujuan
Memodelkan interaksi dinamis beberapa variabel endogen (makro/keuangan).

Step 1 — Definisikan vektor variabel$$\mathbf{y}_t=[y_{1t},y_{2t},\dots,y_{mt}]’$$

Legend

• $m$: jumlah variabel endogen

Step 2 — Spesifikasi VAR(p)$$\mathbf{y}_t=\mathbf{c}+\mathbf{A}_1\mathbf{y}_{t-1}+\cdots+\mathbf{A}_p\mathbf{y}_{t-p}+\boldsymbol{\varepsilon}_t$$

Legend

• $\mathbf{c}$: vektor konstanta ($m\times 1$)
• $\mathbf{A}_\ell$​: matriks koefisien lag $\ell$ ($m\times m$)
• $\boldsymbol{\varepsilon}_t$: inovasi ($m\times 1$), kovarians $\mathbf{\Sigma}_\varepsilon$

Step 3 — Pilih lag $p$

• AIC/BIC/HQ + cek stabilitas.

Step 4 — Estimasi

• OLS equation-by-equation (karena RHS sama).

Step 5 — Diagnostik

• Stabilitas VAR (akar karakteristik < 1), uji autokorelasi residual, heteroskedastisitas, normalitas (opsional).

Step 6 — Analisis hasil

• Granger causality
• IRF, FEVD (dengan identifikasi: Cholesky atau struktural bila dipakai)

---

5) Unit Root, Cointegration, dan ECM

Tujuan
Menghindari regresi palsu dan memodelkan hubungan jangka panjang + penyesuaian jangka pendek.

Step 1 — Uji unit root (konsep proses I(1))
Random walk$$y_t=y_{t-1}+u_t$$

Legend

• Jika $y_t$, maka $\Delta y_t$​ cenderung I(0)

Step 2 — Uji cointegration (gagasan)$$z_t=y_t-\beta x_t \sim I(0)$$

Legend

• $z_t$: error keseimbangan jangka panjang (stasioner)

Step 3 — Bangun ECM$$\Delta y_t=\alpha+\lambda(y_{t-1}-\beta x_{t-1})+\sum_i \gamma_i \Delta y_{t-i}+\sum_j \delta_j \Delta x_{t-j}+u_t$$

Legend

• $\Delta$: beda pertama
• $\lambda$: speed of adjustment (biasanya negatif agar kembali ke equilibrium)
• $\gamma_i,\delta_j$​: dinamika jangka pendek
• $u_t$​: error jangka pendek

Step 4 — Diagnostik

• Signifikansi $\lambda$λ, uji residual stasioner, stabilitas parameter.

---

6) ARCH(q) dan GARCH(p,q)

Tujuan
Memodelkan volatilitas bersyarat (clustering volatilitas pada return finansial).

Step 1 — Mean equation (opsional, contoh sederhana)$$r_t=\mu+u_t$$

Legend

• $r_t$: return; $\mu$: mean; $u_t$​: shock

Step 2 — Struktur error bersyarat$$u_t=\sigma_t \varepsilon_t,\quad \varepsilon_t\sim iid(0,1)$$

Legend

• $\sigma_t^2$​: conditional variance
• $\varepsilon_t$: shock standar

Step 3 — ARCH(q)$$\sigma_t^2=\omega+\sum_{i=1}^{q}\alpha_i u_{t-i}^2$$

Legend

• $\omega>0$, $\alpha_i\ge 0$

Step 4 — GARCH(p,q)$$\sigma_t^2=\omega+\sum_{i=1}^{q}\alpha_i u_{t-i}^2+\sum_{j=1}^{p}\beta_j\sigma_{t-j}^2$$

Legend

• $\beta_j\ge 0$; persistensi volatilitas sering diukur $\sum\alpha_i+\sum\beta_j$

Step 5 — Estimasi

• Maximum Likelihood (pilih distribusi error: normal/t-student bila heavy tails).

Step 6 — Diagnostik

• Cek sisa ARCH pada residual standar $\hat{\varepsilon}_t=u_t/\sigma_t$ ​, uji Ljung–Box pada $\hat{\varepsilon}_t$ dan $\hat{\varepsilon}_t^2$.

---

7) Threshold Model (TAR) / Regime-based (konseptual)

Tujuan
Menangkap perilaku berbeda ketika variabel melewati ambang (regime).

Step 1 — Tentukan threshold variable dan nilai ambang $c$c

Step 2 — Spesifikasi dua regime$$y_t= \begin{cases} \beta_0^{(1)}+\beta_1^{(1)}x_t+u_t, & x_t\le c\\ \beta_0^{(2)}+\beta_1^{(2)}x_t+u_t, & x_t>c \end{cases}$$​

Legend

• $c$: threshold
• superskrip $(1),(2)$: parameter regime 1 dan 2

Step 3 — Estimasi

• Grid search untuk $c$ + OLS per regime (umum di praktik).

Step 4 — Diagnostik

• Cek signifikansi perbedaan koefisien antar regime dan kestabilan.

---

8) State Space Model dan Kalman Filter

Tujuan
Mewakili sistem dinamis dengan state tak teramati; cocok untuk parameter time-varying.

Step 1 — Measurement equation$$y_t=\mathbf{H}_t\boldsymbol{\alpha}_t+v_t$$

Step 2 — Transition equation$$\boldsymbol{\alpha}_t=\mathbf{F}_t\boldsymbol{\alpha}_{t-1}+w_t$$

Legend

• $y_t$​: observasi
• $\boldsymbol{\alpha}_t$: state vector (unobserved)
• $\mathbf{H}_t$​: measurement matrix
• $\mathbf{F}_t$​: transition matrix
• $v_t$​: measurement error, var $\mathbf{R}$
• $w_t$​: state disturbance, var $\mathbf{Q}$

Step 3 — Estimasi

• Kalman filter untuk memprediksi/memperbarui state; parameter $(\mathbf{Q},\mathbf{R})$ biasanya via ML.

Step 4 — Diagnostik

• Cek residual inovasi filter, stabilitas, dan plausibilitas evolusi state.

---

9) Panel Data: Fixed Effects dan Random Effects

Tujuan
Mengestimasi hubungan $x\to y$ dengan heterogenitas antar-unit.

Step 1 — Fixed Effects (FE)$$y_{it}=\alpha_i+\mathbf{x}_{it}’\boldsymbol{\beta}+u_{it}$$

Legend

• $y_{it}$​: dependen unit $i$i waktu $t$t
• $\alpha_i$​: efek tetap tiap unit
• $\mathbf{x}_{it}$​: vektor regressor
• $u_{it}$​: error idiosinkratik

Step 2 — Random Effects (RE)$$y_{it}=\alpha+\mathbf{x}_{it}’\boldsymbol{\beta}+(\mu_i+u_{it})$$

Legend

• $\mu_i$​: komponen acak unit; $\alpha$: intercept umum

Step 3 — Estimasi

• FE: within transformation / LSDV
• RE: GLS (dengan asumsi $\mu_i$μi​ tidak berkorelasi dengan $\mathbf{x}_{it}$​)

Step 4 — Pemilihan FE vs RE

• Hausman test (intuisi: cek korelasi $\mu_i$μi​ dengan regressor).

---

10) Limited Dependent Variable: Logit/Probit

Tujuan
Memodelkan probabilitas $y_i\in\{0,1\}$.

Step 1 — Spesifikasi probabilitas$$P(y_i=1\mid \mathbf{x}_i)=F(\mathbf{x}_i’\boldsymbol{\beta})$$

Legend

• $F(\cdot)$F(⋅): CDF logistik (logit) atau normal (probit)
• $\mathbf{x}_i$: vektor kovariat; $\boldsymbol{\beta}$: parameter

Step 2 — Estimasi

• Maximum Likelihood.

Step 3 — Interpretasi

• Gunakan marginal effects: perubahan $P(y=1)$ akibat perubahan $x$.

Step 4 — Diagnostik

• Pseudo-$R^2$, uji signifikansi, ROC/AUC (opsional), goodness-of-fit.

---

11) GMM (Generalized Method of Moments)

Tujuan
Estimasi parameter ketika ada endogenitas/struktur momen tertentu.

Step 1 — Tentukan kondisi momen$$E[g(z_t,\theta)]=0$$

Legend

• $z_t$: instrumen/variabel informasi
• $\theta$: parameter
• $g(\cdot)$: fungsi momen

Step 2 — Bentuk momen sampel$$\mathbf{g}_T(\theta)=\frac{1}{T}\sum_{t=1}^{T} g(z_t,\theta)$$

Legend

• $T$: ukuran sampel

Step 3 — Masalah minimisasi GMM$$\hat{\theta}=\arg\min_{\theta}\; \mathbf{g}_T(\theta)’\mathbf{W}\mathbf{g}_T(\theta)$$

Legend

• $\mathbf{W}$: weighting matrix (optimal terkait var-kov momen)

Step 4 — Diagnostik

• Uji overidentifying restrictions (J-test) bila instrumen lebih banyak dari parameter.