TradeMaster强化学习
TradeMaster 是一款面向量化交易(QT)的开源平台,它将强化学习(RL) 技术全面融合到量化交易全流程中。从数据准备、算法实现、评估到部署,TradeMaster为开发者与研究者提供了一套“一站式”解决方案。
一、最新动态¶
更新内容 | 状态 |
---|---|
新增 FinAgent 与 EarnMore | 🔨 2024年10月29日更新 |
更新 Market Simulator | 🔨 2023年9月21日更新 |
更新 Market Dynamics Modeling Tool | 🔧 2023年7月7日更新 |
支持自动特征生成与选择 | 🔨 2023年5月11日教程更新 |
发布 Python 包 | 🐳 2023年5月11日更新 |
搭建 TradeMaster 网站 | 🐳 2023年4月23日 |
撰写软件文档 | 💬 2023年4月11日更新 |
发布Colab版本 | 💬 2023年3月29日更新 |
增加港股与期货数据集 | 🧭 2023年3月27日更新 |
支持Alpha158指标 | 🔨 2023年3月20日更新 |
正式发布TradeMaster 1.0.0 | 2023年3月5日 |
二、TradeMaster概览¶
TradeMaster将量化交易工作流划分为6大模块:
- 多模态市场数据:涵盖不同金融资产与多种频率;
- 完整数据预处理流水线:自动清洗、特征生成等;
- 高保真市场模拟器:包含多种主流量化交易场景;
- 13+ 强化学习算法实现:大幅提升交易策略效率;
- 系统化评估工具:6个维度、17种衡量指标,评估策略表现;
- 多样化接口:满足跨学科用户(科研、工程)的需求。
三、安装与使用¶
1. 安装方法¶
- Linux/Windows/MacOS
- Docker
官方在Installation里提供了详细的环境配置指南。
2. 核心教程¶
TradeMaster自带了一系列“样例代码”和Colab在线教程,涵盖以下场景:
算法 | 数据集 | 市场 | 任务 | 代码 |
---|---|---|---|---|
EIIE | DJ 30 | 美股 | 投资组合管理 | tutorial |
DeepScalper | BTC | 加密货币 | 日内交易 | tutorial |
SARL | DJ 30 | 美股 | 投资组合管理 | tutorial |
PPO | SSE 50 | A股 | 投资组合管理 | tutorial |
ETEO | Bitcoin | 加密货币 | 订单执行 | tutorial |
Double DQN | Bitcoin | 加密货币 | 高频交易 | tutorial |
四、实用脚本¶
TradeMaster附带的脚本功能十分丰富:
- 自动超参数调优
- 自动特征生成
- 基于扩散模型的数据插值修复
- 结合Alpha158技术指标进行RL训练
- TradeMaster Sandbox 沙盒测试
此外,还提供Market Dynamics建模工具及相应网站接口。
五、数据集¶
平台收录了多种常见的市场数据:
数据集 | 来源 | 类型 | 范围与频率 | 数据类型 | 链接 |
---|---|---|---|---|---|
S&P500 | Yahoo | 美股 | 2000/01/01-2022/01/01, 1day | OHLCV | SP500 |
DJ30 | Yahoo | 美股 | 2012/01/01-2021/12/31, 1day | OHLCV | DJ30 |
BTC | Kaggle | 外汇 | 2000/01/01-2019/12/31, 1day | OHLCV | FX |
Crypto | Kaggle | 加密货币 | 2013/04/29-2021/07/06, 1day | OHLCV | Crypto |
SSE50 | Yahoo | A股 | 2009/01/02-2021/01/01, 1day | OHLCV | SSE50 |
Bitcoin | Binance | 加密货币 | 2021/04/07-2021/04/19, 1min | LOB | Binance |
Future | AKshare | 期货 | 2023/03/07-2023/03/28, 5min | OHLCV | Future |
HS30 | AKShare | 港股 | 1988/12/30-2023/03/27, 1day | OHLCV | HS30 |
可从Google Drive或Baidu Cloud(提取码:x24b)下载。
六、模型库(Model Zoo)¶
TradeMaster中包含了多种RL交易算法的高效实现,包括:
- DeepScalper (CIKM 22)
- OPD (AAAI 21)
- DeepTrader (AAAI 21)
- SARL (AAAI 20)
- ETEO (20)
- Investor-Imitator (KDD 18)
- EIIE (17)
以及基于Pytorch或Ray的经典强化学习算法,如PPO、A2C、Rainbow、SAC、DDPG、DQN、PG、TD3等。
七、可视化工具¶
TradeMaster提供了大量可视化工具,以多维度评估强化学习量化策略。
例如PRIDE-Star雷达图,可以直观展示收益率、夏普比率等多项指标结果,一图概览策略的优劣势。
相关论文¶
- PRUDEX-Compass: Systematic Evaluation of RL in Financial Markets (TMLR 2023)
- Reinforcement Learning for Quantitative Trading (Survey) (ACM TIST 2023)
- Deep RL for Quantitative Trading: Challenges & Opportunities (IEEE Intelligent Systems 2022)
- DeepScalper (CIKM 2022)
- Commission Fee is not Enough (AAAI 2021)
关于LLMQuant¶
LLMQuant是由一群来自世界顶尖高校和量化金融从业人员组成的前沿社区,致力于探索人工智能(AI)与量化(Quant)领域的无限可能。我们的团队成员来自剑桥大学、牛津大学、哈佛大学、苏黎世联邦理工学院、北京大学、中科大等世界知名高校,外部顾问来自Microsoft、HSBC、Citadel、Man Group、Citi、Jump Trading、国内顶尖私募等一流企业。欢迎加入知识星球获取内部资料。