README.md 3.16 KB
Newer Older
BO ZHANG's avatar
tweaks    
BO ZHANG committed
1
# `csst-dag`
BO ZHANG's avatar
BO ZHANG committed
2

BO ZHANG's avatar
tweaks    
BO ZHANG committed
3
# Change log
4
5
- [2025-09-15] 旧版csst-dag命令行工具安装方式
  - `pip install git+https://csst-tb.bao.ac.cn/code/csst-cicd/csst-dag.git@7a0108f3 --force-reinstall`
BO ZHANG's avatar
BO ZHANG committed
6
7
8
9
10
11
- [2025-09-09] csst-dag将被封装为Docker镜像,原有的基于`python -m csst_dag.cli`的命令行调用方式将被放弃

# Usages

运行之前,需要确定一个本地的 `.csst` 文件夹。

12
`.bashrc` 中加入以下代码
BO ZHANG's avatar
BO ZHANG committed
13

14
[//]: # (--pull=always)
BO ZHANG's avatar
BO ZHANG committed
15
16
```shell
# 确定本地 .csst 文件夹路径
17
export DOT_CSST=~/.csst
BO ZHANG's avatar
BO ZHANG committed
18
# 用自定义命令
19
alias csst='docker run --rm -v ${DOT_CSST}:/pipeline/app/.csst csu-harbor.csst.nao:10443/csst/csst-dag csst'
BO ZHANG's avatar
BO ZHANG committed
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
```

使 `DOT_CSST``csst` 命令生效:

```shell
source ~/.bashrc   # or source ~/.zshrc
```

创建 `.csst` 文件夹:

```shell
# 创建`.csst`文件夹
mkdir -p ${DOT_CSST}
```

35
测试 `csst` 命令是否可以执行:
BO ZHANG's avatar
BO ZHANG committed
36
37
38
39

```shell    
# 执行命令
csst --help
40
41
# 查看版本
csst --version
BO ZHANG's avatar
BO ZHANG committed
42
43
```

44
45
46
47
48
49
50
更新:
```shell
docker pull csu-harbor.csst.nao:10443/csst/csst-dag:latest
```

主要有以下几个命令组

BO ZHANG's avatar
tweaks    
BO ZHANG committed
51
52
- `csst env`: 预设环境变量
- `csst plan`: 编排数据查询
53
  - `csst plan --obs-group=111`
BO ZHANG's avatar
tweaks    
BO ZHANG committed
54
55
56
57
58
59
60
  - `csst plan --dataset=111 --stats=obs_group --to-json`
- `csst dag`: DAG任务操作
  - `csst dag start --dataset=xxx --batch-id=xxx` 
  - `csst dag cancel --dataset=xxx --batch-id=xxx` (需要Scalebox、DFS支持)
  - `csst dag status --dataset=xxx --batch-id=xxx` (需要Scalebox、DFS支持)
  - `csst dag logs --dataset=xxx --batch-id=xxx --status=0` (需要Scalebox、DFS支持)
- `csst file`: 原始数据查询
61
62
  - `csst data --data-model=raw --obs-id=10100000001 --stats=obs_group`
    - 查询原始数据,并按照obs_group进行统计
BO ZHANG's avatar
tweaks    
BO ZHANG committed
63
  - `csst data --data-model=csst-msc-l1-mbi --obs-id=10100000001 --stats=obs_group` --output=json
64
65
66
67
    - 查询数据产品,并按照obs_group进行统计
- `csst catalog` DFS星表查询
  - `csst catalog list` 列出可用的星表
  - `csst catalog show --name=trilegal` 列出指定星表的具体信息
BO ZHANG's avatar
tweaks    
BO ZHANG committed
68
- `csst ccds`: CCDS
69
70
71
  - `csst ccds pmap?`

## 1. `csst env` 环境变量
BO ZHANG's avatar
BO ZHANG committed
72
73
74
75
76
77
78
79

```shell
# 1. 查看所有预定义环境变量
csst env list

# 2. 查看环境变量
csst env show --name csu

80
81
# 3. 保存环境变量到文件 预设name
csst env set --name csu
BO ZHANG's avatar
BO ZHANG committed
82
83
```

84
## 2. ``csst plan``
BO ZHANG's avatar
BO ZHANG committed
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
```shell
# 1. 查看编排数据
csst plan \
    --dataset=csst-msc-c9-25sqdeg-v3 \
    --instrument=MSC \
    --obs-type=WIDE \
    --obs-group=W1 \
    --obs-id=10100232366
```


## ``csst dag``
```shell
1. 发起任务
csst dag run **kwargs # 发起任务

2. 查看任务状态(批量)
csst dag status **kwargs # 查看任务状态

3. 查看任务日志(批量和单个)
csst dag log **kwargs # 查看任务日志

4. 取消任务(按条件批量取消,按任务ID取消,或者取消所有)
csst dag cancel **kwargs # 取消任务

5. 0级数据查看
111
csst data --data-model=raw **kwargs # 查看原始数据
BO ZHANG's avatar
BO ZHANG committed
112
113

6. 数据产品查看 (可能要区分DFS1/2)
114
csst data --data-model=csst-msc-l1-mbi **kwargs # 查看产品数据
BO ZHANG's avatar
BO ZHANG committed
115

116
117
# TODO: 增加一个--stats命令/选项,按照某些列来统计数据产品
# TODO: 增加一个--print-columns命令/选项,打印数据产品的列名
BO ZHANG's avatar
BO ZHANG committed
118
```