PBS命令和使用

PBS是公开源代码的作业管理系统,在此环境下运行,用户不需要指定程序在哪些节点上运行,程序所需的硬件资源由PBS管理和分配。

PBS(Portable Batch System)是由NASA开发的灵活的批处理系统。它被用于集群系统、超级计算机和大规模并行系统。PBS主要有如下特征:

  • 易用性:为所有的资源提供统一的接口,易于配置以满足不同系统的需求,灵活的作业调度器允许不同系统采用自己的调度策略。
  • 移植性:符合POSIX 1003.2标准,可以用于shell和批处理等各种环境。
  • 适配性:可以适配与各种管理策略,并提供可扩展的认证和安全模型。支持广域网上的负载的动态分发和建立在多个物理位置不同的实体上的虚拟组织。
  • 灵活性:支持交互和批处理作业。

OpenPBS( http://www.OpenPBS.org/)是PBS的Open Source的实现。商业版本的PBS可以参照: http://www.pbspro.com/

1、PBS命令

PBS提供4条命令用于作业管理。

(1)qsub 命令—用于提交作业脚本 命令格式:

qsub  [-a date_time] [-c interval] [-C directive_prefix] [-e path] [-I] [-j join] [-k keep] [-l resource_list]  [-m mail_options] [-M user_list][-N name] [-o path] [-p priority] [-q destination] [-r c] [-S path_list] [-u user_list][-v variable_list] [-V] [-W additional_attributes] [-z]
[script]

参数说明:因为所采用的选项一般放在pbs脚本中提交,所以具体见PBS脚本选项。

例:# qsub  aaa.pbs       提交某作业,系统将产生一个作业号

(2)qstat 命令—用于查询作业状态信息

命令格式:qatat [-f][-a][-i] [-n][-s] [-R] [-Q][-q][-B][-u]

参数说明:

-f  jobid  列出指定作业的信息

-a         列出系统所有作业

-i         列出不在运行的作业

-n         列出分配给此作业的结点

-s         列出队列管理员与scheduler所提供的建议

-R    列出磁盘预留信息

-Q         操作符是destination id,指明请求的是队列状态

-q         列出队列状态,并以alternative形式显示

-au userid 列出指定用户的所有作业

-B         列出PBS Server信息

-r         列出所有正在运行的作业

-Qf queue  列出指定队列的信息

-u         若操作符为作业号,则列出其状态。若操作符为destination id,则列出运行在其上的属于user_list中用户的作业状态。

例:# qstat -f 211 查询作业号为211的作业的具体信息。

(3) qdel 命令—用于删除已提交的作业

命令格式:qdel  [-W 间隔时间] 作业号

命令行参数: 例:# qdel -W 15 211 15秒后删除作业号为211的作业

(4) qmgr 命令—用于队列管理

qmgr -c "create queue batch queue_type=execution"

qmgr -c "set queue batch started=true"

qmgr -c "set queue batch enabled=true"

qmgr -c "set queue batch resources_default.nodes=1"

qmgr -c "set queue batch resources_default.walltime=3600"

qmgr -c "set server default_queue=batch"

2、PBS脚本文件 PBS脚本文件由脚本选项和运行脚本两部分组成。

(1) PBS作业脚本选项 (若无-C选项,则每项前面加‘#PBS’)

-a  date_time : date_time格式为:[[[[CC]YY]MM]DD]hhmm[.SS] 表示经过date_time时间后作业才可以运行。

-c  interval   : 定义作业的检查点间隔,如果机器不支持检查点,则忽略此选项。

-C  directive_prefix :在脚本文件中以directive_prefix开头的行解释为qsub的命令选项。(若无此选项,则默认为’#PBS’ )

-e  path     :将标准错误信息重定向到path

-I           :以交互方式运行

-j  join     :将标准输出信息与标准错误信息合并到一个文件join中去。

-k  keep     :定义在执行结点上保留标准输出和标准错误信息中的哪个文件。  keep为o 表示保留前者,e表示后者,oe或eo表示二者都保留,n表示皆不保留。若忽略此选项,二者都不保留。

-l  resource_list  : 定义资源列表。

以下为几个常用的资源种类。

cput=N         : 请求N秒的CPU时间; N也可以是hh:mm:ss的形式。

mem=N[K|M|G][B|W]:请求N {kilo|mega|giga}{bytes|words} 大小的内存。

nodes=N:ppn=M     :请求N个结点,每个结点M个处理器。

-m  mail_options :mail_option为a:作业abort时给用户发信;为b:作业开始运行发信;为e:作业结束运行时发信。若无此选项,默认为a。

-M  user_list    : 定义有关此作业的mail发给哪些用户。

-N  name         : 作业名,限15个字符,首字符为字母,无空格。

-o  path         : 重定向标准输出到path。

-p  priority     : 任务优先级,整数,[-1024,1023],若无定义则为0.

-q  destination  : destination有三种形式: queue , @server,[email protected]。

-r  y|n          : 指明作业是否可运行,y为可运行,n为不可运行。

-S  shell        : 指明执行运行脚本所用的shell,须包含全路径。

-u  user_list    : 定义作业将在运行结点上以哪个用户名来运行。

-v  variable_list : 定义export到本作业的环境变量的扩展列表。

-V                : 表明qsub命令的所有环境变量都export到此作业。

-W  additional_attributes  : 作业的其它属性。

-z               : 指明qsub命令提交作业后,不在终端显示作业号。

(2)     运行脚本同LINUX下一般的运行脚本文件。

[注]:脚本文件中的mpirun_rsh命令行中的节点列表文件要用环境变量表示

$PBS_NODEFILE,这个环境变量表示由pbs自动分配给作业的节点列表;

节点数为命令行中指定的进程数。

格式如下:

mpirun_rsh –np 进程数 –hostfile $PBS_NODEFILE 可执行程序名

命令详解如下:

Getting Status on the System, Queues, and Jobs Submitting a Job Using the Graphical User Interface (GUI)

Command Short Description Tutorial Manual Page
qstat list information about queues and jobs Using qstat qstat man page
qstat -q list all queues on system HTML and PS qstat man page
qstat -Q list queue limits for all queues HTML and PS qstat man page
qstat -a list all jobs on system Using qstat qstat man page
qstat -au userid list all jobs owned by user userid Using qstat qstat man page
qstat -s list all jobs with status comments HTML and PS qstat man page
qstat -r list all running jobs HTML and PS qstat man page
qstat -f jobid list all information known about specified job Using qstat qstat man page
qstat -Qf queue list all information known about specified queue Using qstat qstat man page
qstat -B List summary information about the PBS server HTML and PS qstat man page
qsub jobscript submit jobscript to PBS Using qsub qsub man page
qsub -I submit an interactive-batch job Using qsub qsub man page
qsub -q queue submit job directly to a specified queue Using qsub qsub man page
xpbs Graphical User Interface to PBS commands Using xpbs xpbs man page

3、PBS环境下运行示例

(1)脚本文件编辑示例

实例1:运行mpi程序 命令行:#vi  aaa.pbs

编辑的内容:

#PBS -N myjob  #PBS -o /home/jz/my.out 标准输出文件

#PBS -e /home/jz/my.err错误输出文件

#PBS –l nodes=2:ppn=2 规定使用的节点数以及每个节点能跑多少核

cd 目录(你们原来直接在节点上运行时所在的目录)

mpirun –np 4 –hostfile $PBS_NODEFILE  /home/jz/helloworld

解释:原先大家都是在中断输入 mpirun_rsh…..这些命令执行程序的,现在只要把这些提交命令放在.pbs配置文件的最后,由PBS来调度执行 (自动分配节点和其它资源)。Myjob是为你此次要运行的程序起的任务名,可以改成你自己想要的名字原先输出信息都是直接在屏幕上显示的,现在屏幕上的 显示全部输出到文件中,上例中输出文件是/home/jz/my.out文件,大家可以根据自己的需要修改(目录,文件名)。程序运行时遇到的一些错误会 记录在.err文件中。好处:因为对每个任务都设定了不同的输出文件,所以看结果只要打开相应文件看就可以了,不需要开多个终端,里面有任务的详细信息, 比如实际分配的是哪些节点计算,运行时间等。

#PBS –l nodes=2:ppn=2,你们程序需要几个节点只要修改nodes后的数字就可以了,ppn=2保持不变,因为我们的机器每个节点都是双cpu的。

mpirun –np 4 –hostfile $PBS_NODEFILE  /home/jz/helloworld 此例中-np后的4是并行数(2×2=4个cpu),–hostfile $PBS_NODEFILE不需要改变。/home/jz/helloworld是你编译好的可执行文件名,需修改。

对于每个你要运行的mpi程序都需要这样一个.pbs配置文件     也就是说大家原来的操作是:mpirun…………     现在改成2步走:1)写个pbs配置文件(比如xxx.pbs);2)向pbs提交(qsub xxx.pbs)

   实例2:运行非mpi程序 有些用户并不是自己编写mpi程序,同样也可以用pbs提交。

比如物理系运行程序时一般输入的命令是 RunDMol3.sh TiFeCp2-pbe-dspp-m=1-opt  ,那么配置文件可以这样写:

命令行:#vi  job.pbs 编辑的内容:

#PBS -N physics_job

#PBS -o /home/physics/physics_job.out

#PBS -e /home/physics/physics_job.err

#PBS -l nodes=1:ppn=2

#PBS -r y

cd 目录(你们原来直接在节点上运行时所在的目录)

RunDMol3.sh TiFeCp2-pbe-dspp-m=1-opt

解释:也就是说把原来在终端直接输入的命令RunDMol3.sh TiFeCp2-pbe-dspp-m=1-opt放到pbs配置文件中,因为你们只要一个节点,所以nodes=1,至于用哪个节点系统自动分配,你们 肯定很关心是分配了哪个节点给你们,那么可以用qstat命令查询(比如qstat -n)。

(2) 提交作业示例

命令行:#qsub aaa.pbs

作业提交后会有一个作业号

[[email protected] pbstest]$ qsub pbsjob

48.master

(3) 作业状态查询示例

qstat 后加不同参数可以查看不同的信息(各参数的意思,上面有详细的说明,你们可以一个个试验一下,以后就知道查看哪些信息,需要哪些参数) 实例:

命令行:#qstat –a   (查看作业的状态)

解释:Job id 是给你提交的任务分配的任务号,S(任务状态,R表示正在运行,Q表示正在排队等候调度)

命令行:#qstat –n   (查看作业使用的节点)

命令行:#qstat –f  211   (查看有关作业运行具体信息)
删除作业:qdel 作业号 [[email protected] pbstest]$ qdel 48

转自http://student.csdn.net/space.php?uid=124962&do=blog&id=13699

时间: 04-25

PBS命令和使用的相关文章

pbs 作业管理命令

PBS 提供4 条命令用于作业管理. (1) qsub 命令—用于提交作业脚本 命令格式: qsub [-a date_time] [-c interval] [-C directive_prefix] [-e path] [-I] [-j join] [-k keep] [-l resource_list] [-m mail_options] [-M user_list][-N name] [-o path] [-p priority] [-q destination] [-r c] [-S

ubuntu 12.04下配置单机pbs(torque)

配置环境 ubuntu 12.04 torque 2.4.6 配置步骤及出现问题解决(以root运行) 1.安装torque 官方网站的torque安装帮助文档没有针对ubuntu的安装步骤,安装起来非常费劲,因此这里采用apt-get来安装 apt-get install torque-server torque-client torque-mom torque-pam torque-server负责接收任务请求 torque-client在每个提交任务的节点上,负责提交任务到服务器 torq

如何在Rocks HPC集群里安装PBS Pro开源版

PBS Pro可以算是torque的商业版本.功能强大.尤其是在其开源之后,成为了最强大的免费任务调度软件. 但是PBS Pro开源版本的预编译版本是针对CEntos7的,而Rocks 集群管理软件只支持到CEntos6.8.因此使用PBS Pro开源版本,必须要从源代码安装.安装过程中有很多的困难.因此再次记录一下过程,供大家参考. 首先,rocks集群安装的时候最好使用6.1.1,不要使用6.2;不要安装sge; OS roll最好不要使用自带的,而是用标准的centos6.7或者6.8安装

linux常用命令--netstat

简介 Netstat 命令用于显示各种网络相关信息,如网络连接,路由表,接口状态 (Interface Statistics),masquerade 连接等等. 常用参数 -a (all)显示所有选项,提示:LISTEN和LISTENING的状态只有用-a或者-l才能看到-t (tcp)仅显示tcp相关选项-u (udp)仅显示udp相关选项-n 拒绝显示别名,能显示数字的全部转化成数字.-l 仅列出有在 Listen (监听) 的服務状态 -p 显示建立相关链接的程序名-r 显示路由信息,路由

使用fruitstrap实现命令行将IPA包安装到iOS设备上

Requirements Mac OS X. Tested on Snow Leopard only. You need to have a valid iPhone development certificate installed. Xcode must be installed, along with the SDK for your iOS version. Usage fruitstrap [-d] -b <app> [device_id] Optional -d flag laun

Linux基础命令小结

注意:Linux严格区分大小写 老男孩方法论经验之谈: 有一种方法叫做没方法 有两种方法,左右为难 有三种方法才叫有方法 停止一个命令:CTR + C 1.创建目录 英文:make directorys 命令:mkdir 实例:三种方式 mkdir /data cd / mkdir data cd /;mkdir data mkdir x y z    表示同时创建多个目录 mkdir -p /data/x/y   表示同时创建多级目录(递归创建),切记不可用mkdir /data/x/y 2.

10.6 监控io性能 - 10.7 free命令 - 10.8 ps命令 - 10.9 查看网络状态 - 10.10 linux下抓包

- 10.6 监控io性能 - 10.7 free命令 - 10.8 ps命令 - 10.9 查看网络状态 - 10.10 linux下抓包 - 扩展tcp三次握手四次挥手 http://www.doc88.com/p-9913773324388.html  - tshark几个用法:http://www.aminglinux.com/bbs/thread-995-1-1.html  # 10.6 监控io性能 ![mark](http://oqxf7c508.bkt.clouddn.com/b

uboot下的命令使用示例

1.usb 可以使用此命令读取u盘里的内容,此命令加上相关参数可以有以下功能: 1.1usb start 在使用u盘之前必须启动此命令以初始化好fat文件系统环境,笔者的输出如下: jello # usb start(Re)start USB...USB:   Starting the controllerscanning bus for devices... 5 USB Device(s) found       scanning bus for storage devices... usb_

reset master和reset slave命令解析和区别

reset master删除所有index file 中记录的所有binlog 文件,将日志索引文件清空,创建一个新的日志文件,这个命令通常仅仅用于第一次用于搭建主从关系的时的主库, 注意: reset master 不同于purge binary log的两处地方1.reset master 将删除日志索引文件中记录的所有binlog文件,创建一个新的日志文件 起始值从000001 开始,然而purge binary log 命令并不会修改记录binlog的顺序的数值2.reset maste