GPT-Based Multi-Domain Prediction Models

本仓库包含基于GPT的多领域时空预测模型集合。

项目概述

本仓库整合了三个相关的GPT-based预测模型项目：

🌍 SeisMoLLM - 地震数据分析

• 功能: 地震波形数据处理、相位拾取、震级估算
• 技术: GPT + LoRA微调
• 目录: SeisMoLLM/

🚗 ST-LLM - 时空交通预测

• 功能: 交通流量时空预测
• 技术: GPT + 时空编码
• 目录: ST-LLM/

🚗+ ST-LLM-Plus - 增强交通预测

• 功能: 图增强的交通预测模型
• 技术: GPT + 图神经网络 + LoRA
• 目录: ST-LLM-Plus/

🌌 电离层预测研究

• 功能: 总电子含量(TEC)时空预测
• 文档: docs/ 目录下的相关研究计划和实施指南

快速开始

1. 环境配置

每个子项目都有自己的环境配置文件，请参考各自目录下的README或环境文件。

2. 运行项目

SeisMoLLM

cd SeisMoLLM
python main.py

ST-LLM

cd ST-LLM
# 创建环境
conda env create -f env_ubuntu.yaml
conda activate st-llm
# 训练
CUDA_VISIBLE_DEVICES=0 python train.py --data taxi_pick

ST-LLM-Plus

cd ST-LLM-Plus
# 安装依赖
pip install -r requirements.txt
# 或使用conda
conda env create -f env_ubuntu.yaml
# 训练
CUDA_VISIBLE_DEVICES=0 python train_plus.py --data taxi_pick

项目结构

GPTbasedModel/
├── README.md                    # 本文件
├── SeisMoLLM/                   # 地震预测模型
│   ├── config.py
│   ├── main.py
│   ├── models/
│   ├── datasets/
│   └── training/
├── ST-LLM/                      # 基础交通预测模型
│   ├── model_ST_LLM.py
│   ├── train.py
│   ├── env_ubuntu.yaml
│   └── README.md
├── ST-LLM-Plus/                 # 增强交通预测模型
│   ├── model_ST_LLM_plus.py
│   ├── train_plus.py
│   ├── requirements.txt
│   └── README.md
└── docs/                        # 文档和研究计划
    ├── data_descrption.md
    ├── iono_llm_*.md
    └── Optimized_TEC_*.md

技术特点

共同技术栈

• 深度学习框架: PyTorch
• 基础架构: GPT/Transformer
• 微调技术: LoRA (Parameter-Efficient Fine-tuning)
• 数据类型: 时空序列数据

各项目特色

• SeisMoLLM: 多任务学习，支持相位拾取、震级估算等
• ST-LLM: 时空大语言模型，专门用于交通预测
• ST-LLM-Plus: 引入图神经网络，增强空间依赖关系建模

数据集

各项目使用不同的数据集：

• SeisMoLLM: STEAD、DiTing等地震数据集
• ST-LLM系列: 交通流量数据集（taxi_pick、taxi_drop、bike等）
• 电离层研究: 中国区域TEC数据集（详见docs/data_descrption.md）

贡献

欢迎提交Issue和Pull Request来改进项目。

许可证

各子项目可能有不同的许可证，请查看各自目录下的LICENSE文件。

引用

如果使用了本仓库的代码，请引用相关论文：

@inproceedings{liu2024spatial,
  title={Spatial-Temporal Large Language Model for Traffic Prediction},
  author={Liu, Chenxi and Yang, Sun and Xu, Qianxiong and Li, Zhishuai and Long, Cheng and Li, Ziyue and Zhao, Rui},
  booktitle={MDM},
  year={2024}
}

@article{liu2025stllm_plus,
  title={ST-LLM+: Graph Enhanced Spatial-Temporal Large Language Model for Traffic Prediction},
  author={Liu, Chenxi and Hettige, Kethmi Hirushini and Xu, Qianxiong and Long, Cheng and Xiang, Shili and Cong, Gao and Li, Ziyue and Zhao, Rui},
  journal={IEEE Transactions on Knowledge and Data Engineering},
  year={2025}
}