...
本文以IoTDB为例,介绍了IoTDB从0.811.0版本发布到0.811.1的流程,本文对于那些使用maven来管理的项目是直接适用的。
附:新增了对0.12的版本发布方法。
目录:
Table of Contents | ||
---|---|---|
|
1. 创建一个 gpg KEY
对于第一次当RM的人来说,需要将进行这个步骤。
创建gpg key的要求是:使用RSA key,并且长度要大于4096 bits。
...
c. 上传你的key到公共服务器
$ gpg2 --keyserver pgpkeys.mitopenpgp.eduorg --send-keys <key id>
这个 <key id> 就是 ~/.gnupg/openpgp-revocs.d/下的一个.rev文件的文件名,打开可以看到以下信息
...
接下来在下边的链接通过邮箱查询上传成功没,大概需要一分钟才能查到
httphttps://keys.gnupgopenpgp.netorg/
查询时候把 advance 下边的 show full-key hashes 勾上
...
Code Block |
---|
-----BEGIN PGP PUBLIC KEY BLOCK----- mQINBF2LLTABEACRM0lzt9BMSsIg9cCfcEBRH6Fc2etS7vrOt8NPq2VTuHYHUMzA ... -----END PGP PUBLIC KEY BLOCK----- |
接下来手动上传上述内容,上传链接 http接下来手动上传上述内容,上传链接 https://pgp.mit.edu/ https://keys.gnupgopenpgp.netorg/
到现在应该能查到了。。。
c.2 寻找你认识的Apache社区的Committer来给你的公钥认证 (这一步不是必须的,可以先往后走)
参考链接 https://gist.github.com/F21/b0e8c62c49dfab267ff1d0c6af39ab84 主要都是对方有事情要做,所以就不详细解释了。
可以找黄向东,刘大伟,乔佳林帮你签名可以找黄向东,刘大伟,乔嘉林帮你签名
d. 将你的gpg 公钥加入KEYS文件中
这个步骤需要使用SVN。MacOS已经默认安装了SVN。
本文以IoTDB从已有0.811.0的情况下发布0.811.1为例。
并新增了0.12的发版内容。
d.1 在dev分支中添加公钥到KEYS,用于发布RC版本
...
接下来会输用户名和密码,就用 apache的用户名和密码。
d.2 在release分支中添加公钥到KEYS,用于发布正式版本在release分支中添加公钥到KEYS,用于发布正式版本(只有PMC有release分支的写权限)
注意,以下命令又会建个 iotdb-dist-release的文件夹,最好 cd .. 到 iotdb-dist-dev 的上级目录
...
$ (gpg2 --list-sigs YOUR_NAME@apache.org && gpg2 --export --armor YOUR_NAME@apache.org) >> KEYS
$ svn $ svn ci -m "add gpg key for YOUR_NAME"(如果不是PMC,可以将KEYS文件发给PMC,让PMC帮忙执行这一步)
这里注意检查一下你追加到 KEYS 里的东西千万不要有中文,出现下图这种文字的时候:
...
Code Block | ||||
---|---|---|---|---|
| ||||
<?xml version="1.0" encoding="UTF-8"?> <settings xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.1.0 http://maven.apache.org/xsd/settings-1.1.0.xsd" xmlns="http://maven.apache.org/SETTINGS/1.1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"> <servers> <!-- Apache Repo Settings --> <server> <id>apache.snapshots.https</id> <username>{user-id}</username> <password>{user-pass}</password> </server> <server> <id>apache.releases.https</id> <username>{user-id}</username> <password>{user-pass}</password> </server> </servers> </settings> <profiles> <profile> <id>apache-release</id> <properties> <gpg.keyname>你的KEYID</gpg.keyname><!-- Your GPG Keyname here --> <!-- Use an agent: Prevents being asked for the password during the build --> <gpg.useagent>true</gpg.useagent> <gpg.passphrase>你的私钥的密码</gpg.passphrase> </properties> </profile> </profiles> </settings> |
f. 上传GPG公钥到Github账户s
!!重要!! 许多教程中都没提及这一步,而如果不做这一步的话,你在做一些步骤的时候,maven会告诉你没有权限。。
...
如果添加后你发现这个密钥后面写了“未经过验证” (unverified),记得去将GPG key中用到的邮箱绑定到你的github账户上 (https://github.com/settings/emails )。
g. 配置Github ssh模式访问
方法:
把自己的 ~/.ssh/id_rsa.pub 拷贝到github上
进入 https://github.com/settings/keys ,添加ssh KEYS。
2. 准备发布版本
(注意:不同的项目可能采用不同的分支管理方法,此处仅供参考)
这里有两个情况:
- 我只是发一个小版本的改动,例如已经有了0.811.0版本,我需要发布0.811.1。特点是:代码仓库中已经有了rel/0.8这个分支。11这个分支。
- 我要发一个大的版本,特点是:代码仓库中有rel/0.811,但是没有rel/0.912
对于第一种情况,只需要将本地分支切换到远程的这个分支上:
$git checkout -b rel/0.8 11 origin/rel/0.8 11
对于第二种情况,需要创建一个新分支rel/0.9,并推送到github上:12,并推送到github上:
$git checkout -b rel/0.912
$git push -u origin rel/0.912
2.1 准备发布的代码
我们以要发布0.811.1为例,假设当前本地工作分支已经切换到了rel/0.8下。11下。
这是当前的分支图,rel/0.8创建后最后一次更新位置如图黄色所示,master则还在不断地前进中。11创建后最后一次更新位置如图黄色所示,master则还在不断地前进中。
首先我们要确定哪些内容需要进入新的release中,例如我们要将1、2放入0.811.1中,那么就通过 `git cherry-pick`的方法逐一地将这两个PR的提交加入到rel/0.8分支中(你可能要解决大量冲突。。)。11分支中(你可能要解决大量冲突。。)。
然后,修改RELEASE_NOTES.md文件,写上本次发布都有什么更新。
...
然后目前为止,准备工作就做好了。
注意,目前为止,pom中的版本号为:0.811.1-SNAPSHOT
然后把本地的所有修改都提交到远端。
当你频繁切换分支时,会遗留一些垃圾文件在本地。例如,master分支中增加了一个文件夹session,而0.8中并没有,当你从master切换到rel11中并没有,当你从master切换到rel/0.8时,session这个文件夹并不能被mvn 11时,session这个文件夹并不能被mvn clean清理掉。
建议先将这些文件夹都删除(根据PLC4X的文档介绍,不删除的话,这些文件都会被打包到source.zip中。。。。)
...
!然后!务必检查所有的版本是否正确。比如如果你是从0.811.0升级成0.811.1,那就:
- 搜索 /0.811.0/ (包含左右两边的”/“),这样可以把所有文档中的链接替换成/0.811.1/
- 搜索0.811.0,检查所有文档中出现的和0.811.0版本相关的功能描述是否正确,并修改为0.811.1
- 搜索0.811.0,注意Java代码中的控制台输出是否需要修改(例如CLI会打印版本号)
- 注意TsFile的magic number不一定要修改。这个需要讨论着来。
- 所有 pom 里的 version 的 -SNAPSHOT 不要去掉,去掉之后下边的命令会报错。
...
release note可以从jira来筛选,也可以从github来筛选(推荐,确保修改全部都能找到)。github的搜索方法:在PR的filters输入框中输入: is:pr is:closed base:rel/0.10 11 其中base就是你希望查询合并到哪个分支的PR。
然后维护对应的release-note,在邮件列表发邮件通知下release note,看是否有人修改。
...
可以通过以下命令:
a. 编译并生成第三方license集合:
mvn clean package license:add-third-party license:addaggregate-third-party-report -Dlicense.useMissingFile -DskipTests
b. 检查所有catalogX的license:
mac/linux下运行:
find . -name THIRD-PARTY.txt| xargs cat | grep -E 'BCL|Intel|JSR-275|Microsoft Limited Public License|ASL|Java SDK for Satori RTM| Redis Source Available License|RSAL|Booz Allen Public License|Creative Commons|Sun Community|GPL|Affero|LGPL|QPL|Sleepycat|Server Side|SSPL|Code Project|CPOL|BSD-4|Facebook BSD+|Solipsistic Eclipse Public|Be A Dick|JSON License' | grep -v CDDL |grep -v Apache
然后开始正式的发版。
3.发布版本
3.1 自动在github上打tag,并生成各种签名文件
| grep -v MIT | grep -v "Creative Commons CC0"
2.4 手动修改client-py的版本(新增内容)
手动修改 client-py/setup.py 文件中的版本号为当前发布版。
2.5 手动修改 jdbc feature.xml 的版本
手动修改 jdbc/src/main/feature/feature.xml 文件中的版本号为当前发布版。
2.6 在仓库中新增当前发布版本的 Dockerfile
然后开始正式的发版。
3.发布版本
3.1 自动在github上打tag,并生成各种签名文件
这里坑比较多!!!!一定要注意!!!!!!
如果你的机器有多个key,一定要检查~/.gnupg/gpg.conf 文件中的默认key是之前apache邮箱的那个key,否则签名会出大问题!!!!!
先在项目源码中删除 .mvn/wrapper/*.先在项目源码中删除 .mvn/wrapper/*.jar
删除可能的 data 目录
保证本地没有 iotdb server在运行,不然测试会端口占用
再确认一下现在在 rel/0.8 分支,别在 12 分支,别在 master 分支
merge 一下远程 rel/0.8 12 分支,确保现在的本地分支是最新的
确认一下本地和远程的 release/0v0.812.1 的 0 的 tag 被删掉了:
(在这个文档中,一定不要把下面的分支名字换成一个真实存在的名字,防止有人直接复制粘贴,故以0.12.x替代0.12.0)
删本地 tag:$git tag -d release/0v0.812.1x
删远端 tag:git push origin :refs/tags/release/0v0.812.1x
执行:
$ mvn release:prepare -DautoVersionSubmodules=true -P sitesite
执行时,会让你输入三个内容:
a. 希望发布的版本号,默认值为pom中的版本号去掉“-SNAPSHOT”,一般可以不修改
b. 希望在github打的tag名字是什么,默认值为rel/0.8.1,注意我们目前使用的命名风格是: release/0.8.1
c. 下一个版本号是什么,默认值一般也是对的。
(踩坑注:已知Windows中使用CRLF标识一行的结束,而在Linux/UNIX系统中只使用LF标识一行的结束。git设置core.autocrlf=true后,检出时git会把文本文件的换行符转化为CRLF(只转化纯 LF 的文件),提交时把暂存区的内容(也就是我们对工作区做的改动)转化为 LF 然后放入版本库。 也就是说,如果你是windows环境且core.autocrlf=true,那么从github上下载到本地的incubator-iotdb换行符会变成CRLF,所以直接这样执行mvn release:prepare -DautoVersionSubmodules=true,打出来的zip包里使用的仍然是CRLF,这样的影响之一是把zip复制到linux环境解压之后,会发现shell文件不可直接执行。网上似乎搜到一种办法是下载源码时暂时设置core.autocrlf=input,但是我没有试过,可能有其他副作用。我直接转到ubuntu虚拟机重新做这件事的,记得gpg key导入。)
(问题记录:有可能该mvn命令会编译失败。此时不要慌张,记录原因,并回滚。若编译失败,那么不会进行新的提交,即查看git log 发现没有变化,然后首先
$ git checkout -- .
$ git clean -f
将本地库恢复如初。
然后看一下具体是什么问题。
例如,Some Enforcer rules have failed. Look above for specific messages explaining why the rule failed. 这个是指的有项目中的依赖的jar包版本冲突,这时候要用exclusion来进行排除。具体内容可以google。
)
这个过程会自动地把pom中版本的“-SNAPSHOT”删除,然后在云端创建tag。
最后会提示 success,并且除了第一个parent 的pom,其他的都 skippted 了。
注:0.12版本中的编译命令:
mvn release:prepare -DautoVersionSubmodules=true -P site -P compile-cpp -P code-coverage -P get-jar-with-dependencies
注:0.13版本中的编译命令:
mvn release:prepare -DautoVersionSubmodules=true -P site -P compile-grafana-plugin -P compile-cpp -P code-coverage -P get-jar-with-dependencies
注2,若自身电脑没有docker,建议将testcontainer模块中的版本号进行手动修改。
如果出现sign失败,可以尝试以下命令
export GPG_TTY=$(tty)
执行时,会让你输入三个内容:
a. 希望发布的版本号,默认值为pom中的版本号去掉“-SNAPSHOT”,一般可以不修改
b. 希望在github打的tag名字是什么,注意我们目前使用的命名风格是: v0.12.0
c. 下一个版本号是什么,默认值一般也是对的。
(踩坑注:已知Windows中使用CRLF标识一行的结束,而在Linux/UNIX系统中只使用LF标识一行的结束。git设置core.autocrlf=true后,检出时git会把文本文件的换行符转化为CRLF(只转化纯 LF 的文件),提交时把暂存区的内容(也就是我们对工作区做的改动)转化为 LF 然后放入版本库。 也就是说,如果你是windows环境且core.autocrlf=true,那么从github上下载到本地的incubator-iotdb换行符会变成CRLF,所以直接这样执行mvn release:prepare -DautoVersionSubmodules=true,打出来的zip包里使用的仍然是CRLF,这样的影响之一是把zip复制到linux环境解压之后,会发现shell文件不可直接执行。网上似乎搜到一种办法是下载源码时暂时设置core.autocrlf=input,但是我没有试过,可能有其他副作用。我直接转到ubuntu虚拟机重新做这件事的,记得gpg key导入。)
(问题记录:有可能该mvn命令会编译失败。此时不要慌张,记录原因,并回滚。若编译失败,那么不会进行新的提交,即查看git log 发现没有变化,然后首先
$ git checkout -- .
$ git clean -f
将本地库恢复如初。
然后看一下具体是什么问题。
例如,Some Enforcer rules have failed. Look above for specific messages explaining why the rule failed. 这个是指的有项目中的依赖的jar包版本冲突,这时候要用exclusion来进行排除。具体内容可以google。
)
这个过程会自动地把pom中版本的“-SNAPSHOT”删除,然后在云端创建tag。
最后会提示 success,并且除了第一个parent 的pom,其他的都 skippted 了。
如果成功了,根据PLC4X的文档,还应该去apache的仓库看一看是否有最新的记录。地址是 https://gitbox.apache.org/repos/asf?p=iotdb.git;a=如果成功了,根据PLC4X的文档,还应该去apache的仓库看一看是否有最新的记录。地址是 https://gitbox.apache.org/repos/asf?p=incubator-iotdb.git;a=shortlog;h=refs/heads/rel/0.8 注意分支名。12 注意分支名。
应该能看到刚才mvn release:prepare自动做的git操作,commit日志是:[maven-release-plugin] prepare release release/0.811.1 和 [maven-release-plugin] prepare for next development iteration
...
target目录下:
apache-iotdb-0.811.1-incubating-source-release.zip
apache-iotdb-0.811.1-incubating-source-release.zip.asc
apache-iotdb-0.811.1-incubating-source-release.zip.sha512
distribution/target/目录下:
apache-iotdb-0.811.1-incubating-bin.zip
apache-iotdb-0.811.1-incubating-bin.zip.asc
apache-iotdb-0.811.1-incubating-bin.zip.sha512
验证!有问题赶紧改,这里还有悔过的机会,不然RC++
gpg2 --verify target/apache-iotdb-0.911.01-incubating-source-release.zip.asc target/apache-iotdb-0.911.0-incubating1-source-release.zip
gpg2 --verify distribution/target/apache-iotdb-0.911.01-incubating-bin.zip.asc distribution/target/apache-iotdb-0.911.01-incubating-bin.zip
shasum -a512 target/apache-iotdb-0.911.0-incubating1-source-release.zip
shasum -a512 distribution/target/apache-iotdb-0.911.01-incubating-bin.zip
然后和.sha512文件对比下,确认一致。
...
然而这个rollback并不会删除tag,还需要手动删除。
删本地 tag:$git tag -d release/0v0.812.1x
删远端 tag:git push origin :refs/tags/release/0v0.812.1x
(
我的话,没有用rollback这个指令,而是直接覆盖重新再来:
git fetch origin
git reset --hard origin/rel/0.911
git clean -fx -d // To remove ignored and non-ignored directories ⭐
git status // 检查确认一下
git log // 检查确认一下
...
执行:
$ mvn release:perform -P site
就开始真正的发布并上传到apache的服务器了。
。。。
。。。
漫长的等待
。。。
。。。
我使用教育网花费了46分钟。。
(注:建议在北京时间的早晨执行该步,网速比晚上快很多)
site
0.12版本开始,命令改为:
mvn release:perform -P site -P compile-cpp -P code-coverage -P get-jar-with-dependencies
0.13版本开始,命令改为:
mvn release:perform -P site -P compile-grafana-plugin -P compile-cpp -P code-coverage -P get-jar-with-dependencies
就开始真正的发布并上传到apache的服务器了。
。。。
。。。
漫长的等待
。。。
。。。
我使用教育网花费了46分钟。。
(注:建议在北京时间的早晨执行该步,网速比晚上快很多)
maven官方参考链接:https://mavenmaven官方参考链接:https://maven.apache.org/maven-release/maven-release-plugin/examples/perform-release.html
...
如果close失败了,可以再 close 一下。我遇到了没有找到我的 公钥的问题,但是其实网上可以搜到,再close 一次就可以了。
如果之前的~/.gnupg/gpg.conf中的 key不对,会导致close失败。只能重新3从来过!!!
注:close成功后,点击activity一栏会看到如下成功操作的信息:
...
对于每次发布,可以先发布RC1版本,有问题要修改的话再发布RC2版,以此类推。在投票通过前,都发布到dev下,通过后再移动到release下。
3.3.1 发布到dev下
地址是https://dist.apache.org/repos/dist/dev/incubator/iotdb
这其实是一个SVN仓库,我们在1.d1操作步骤的时候已经将这个SVN仓库下载到本地了,本地文件夹名字叫做 iotdb-dist-dev。
下面暂时以iotdb-dist-dev为根目录,你会看到当前的目录如下图所示(应该没有0.8.1这个文件夹)
然后就按照上图所示,创建0.811.1文件夹,再创建0.811.1/rc1文件夹。
然后从iotdb源码的根目录下的target/checkout/将README.md,README_ZH.md和RELEASE_NOTES.md拷贝进来。
再从iotdb源码再从iotdb源码/targettarget/checkout/target/apache-iotdb-0.811.1-incubating-source-release.zip* (zip, zip.asc, zip.sha512三个文件)拷贝进来;
再从Iotdb源码/target/checkout/distribution/target/apache-iotdb-0.811.1-incubating-bin.zip* (zip, zip.asc, zip.sha512三个文件)拷贝进来;
(注:0.12版本的二进制文件更多,源码包要注意checkout的路径,“target/checkout/target”)
然后用svn命令提交:
$ svn add 0.811.1
如果这个目录以及添加了,需要添加 svn add 0.911.01/rc2
$ svn commit -m "perparing RC1 of 0.811.1 of IoTDB release"
在孵化期阶段,release那个svn,最多保留5个版本的下载!如果过多了,请记得删除之前的版本!release那个svn,最多保留5个版本的下载!如果过多了,请记得删除之前的版本!
3.4 标记github上的release为pre-release
到https://github.com/apache/incubator-iotdb/releases,找到刚打的release,点击edit tag ,选中 This is a pre-release ,然后 Save draft。
...
邮件标题:[VOTE] Apache IoTDB 0.811.1 (incubating) RC2 release
邮件模板:
Hi all,
(这一句是可选的) Apache IoTDB (incubating) IoTDB 0.811.1 is a bug-fix version from 0.811.0. You can get its mainly changes from [5].
Apache IoTDB (Incubating) IoTDB 0.8.1 has been staged under [2] and it’s time to vote
on accepting it for release. All Maven artifacts are available under [1].
If approved we will seek final release approval from the IPMC.
Voting will be open for 72hr.
A minimum of 3 binding +1 votes and more binding +1 than binding -1
are required to pass.
Release tag: release/v0.811.1
Hash for the release tag: 37b213b6ab6fc8ca13ab60f21dff099042a0e295
Per [3] "Before voting +1 [P], PMC members are required to download
the signed source code package, compile it as provided, and test
the resulting executable on their own platform, along with also
verifying that the package meets the requirements of the ASF policy
on releases." [3]
You can achieve the above by following [4].
...
[1] https://repository.apache.org/content/repositories/orgapacheiotdb-10051050
[2] https://dist.apache.org/repos/dist/dev/incubator/iotdb/0.811.1/rc2
[3] https://www.apache.org/dev/release.html#approving-a-release
[4] https://cwiki.apache.org/confluence/display/IOTDB/Validating+a+staged+Release
[5] https://dist.apache.org/repos/dist/dev/incubator/iotdb/0.811.1/rc2/RELEASE_NOTES.md
[6] https://dist.apache.org/repos/dist/dev/incubator/iotdb/KEYS
上面红色的字都是需要改的。
其中tag的hash值可以通过如下命令拿到:
$ git show release/0v0.811.1 --name-only
4 投票失败了怎么办
投票失败时,需要先清理战场,然后重新发布。
首先把Nexus上的发布关闭掉,方法是登录到 repository.apache.org 后,然后选中刚才的行,点击 Drop 按钮。
然后手动删除github上的release和tag,以及本地的tag。
(在这个文档中,一定不要把下面的分支名字换成一个真实存在的名字,防止有人直接复制粘贴)
删本地 tag:$git tag -d v0.12.x
删远端 删除远端 tag:git push origin :refs/tags/v0.12.x
删除远端 tag:git push origin :refs/tags/release/0.811.1x
删除本地 tag:git tag -d release/0.811.1x
然后使用maven插件来管理版本就好:
$ mvn release:prepare -DautoVersionSubmodules=true
...
然后开始修改各种投票中大家发现的问题。并提交到rel/0.811.
之后跳转到步骤3重新开始。
并且投票失败了也要写一个RESULT邮件告知情况和下一步的打算,比如参考以前发布经理的例子:https://lists.apache.org/thread.html/89b0af63c0af7455641f738e2500a8a92a2cb4f9efca5456371bf06f%40%3Cdev.iotdb.apache.org%3E
5. 投票通过后怎么办
投票72小时之后要做一个总结邮件:
参考例子:(自己写的时候一定要仔细检查更新)
Panel |
---|
主题:[RESULT][VOTE] Release Apache IoTDB (Incubating) {current-full-version} RC10.9.0 Hi all, The vote closes now as 72hr have passed. The vote PASSES with
xxx donon-binding vote: I will now bring the vote to general@incubator.apache.org to get approval by the IPMC. Thank you for your support. / (自由感谢) Regards,
你的名字 |
这个 vote thread 可以去这个网页搜:https://lists.apache.org/list.html?dev@iotdb.apache.org
用 apache 账户登录,找到投票的 thread,然后右边这个 permalink 是永久链接,点进去之后拷贝网址就行了。
如果有分裂开的投票线程,可以直接粘贴多个
订阅 general邮件列表
往 general-subscribe@incubator.apache.org 发一封邮件,然后再确认一下
6. 通过后怎么办
把发布好的文件从dev仓库中移动到release的svn项目中。
release的svn地址是:https://dist在孵化器阶段,需要发邮件给general邮件列表 general@incubator.apache.org ,交给IPMC们投票,通过后才可以。
参考例子:(自己写的时候一定要仔细检查更新),要记得邮件的模板里,什么是IPMC什么是PPMC,要修改正确
...
主题:[VOTE] Release Apache IoTDB 0.9.0
...
The vote will be passed if there is no -1 vote ( as there are 3 IPMC +1 votes already), but we still hope all other IPMCs vote for it.
如果第一次的话,可以clone这个仓库,然后增加文件,然后提交。
$svn co https://dist.apache.org/repos/dist/release/iotdb
$cd iotdb
$拷贝文件过来,放在 版本下,例如 下面的0.11.1就是我刚刚放过去的。
MacBook-Pro-3:iotdb-rel hxd$ tree .
.
├── 0.11.0
│ ├── README.md
│ ├── RELEASE_NOTES.md
│ ├── apache-iotdb-0.11.0-bin.zip
│ ├── apache-iotdb-0.11.0-bin.zip.asc
│ ├── apache-iotdb-0.11.0-bin.zip.sha512
│ ├── apache-iotdb-0.11.0-source-release.zip
│ ├── apache-iotdb-0.11.0-source-release.zip.asc
│ └── apache-iotdb-0.11.0-source-release.zip.sha512
├── 0.11.1-incubating
│ ├── README.md
│ ├── RELEASE_NOTES.md
│ ├── apache-iotdb-0.11.1-bin.zip
│ ├── apache-iotdb-0.11.1-bin.zip.asc
│ ├── apache-iotdb-0.11.1-bin.zip.sha512
│ ├── apache-iotdb-0.11.1-source-release.zip
│ ├── apache-iotdb-0.11.1-source-release.zip.asc
│ └── apache-iotdb-0.11.1-source-release.zip.sha512
└── KEYS
然后提交:
$svn add 0.11.1
$svn commit -m "upload 0.11.1 release files"(只有PMC有写权限,可以把文件夹打个包发给PMC,让PMC帮忙执行这一步)
如果你的keys也修改了,可能还要在更新下keys文件。
注意:所有的apache 镜像都会开始同步这些文件了,一般会在24小时内同步完成。
这里可能会可以很快加载出下载页面,但是里面的下载链接都是无法打开和下载的,必须等到下载链接可以正常下载,才表示同步真正完成
d
7. 删除旧版本的发布文件
Apache似乎要求当新版本都同步好后,删除掉旧版本的文件(例如本例中是0.11.0),但是我查看了几个项目,这个不是绝对要求的。。建议保留一些版本。
删除方法是用 svn delete命令删除文件夹即可。
例如:$svn delete https://dist.apache.org/repos/dist/release/iotdb/0.8.0/ -m"deleted version 0.11.0"
还可以如下删除:
svn delete 要删除的文件或者文件夹
svn commit -m "写上提交日志"
8. 正式发布Maven文件
进入https://repository.apache.org/#welcome,登录账号,然后到Staging Repositories中选中你之前close的版本,选择release。完事儿。
9. github publish release
到https://github.com/apache/iotdb/releases,把之前this is a pre-release & save draft的改为publish release。
10. 将release分支的代码更新到最新
我们项目中,release分支始终指向最新的发布版本。
git checkout release
git merge release/0.11.1
如果有有冲突,那么全盘接收tag上的修改,可以使用如下命令:
git merge -X theirs release/0.11.1
11. 更新JIRA
Set the released version to "released" and set the "release-date"
Add the next version to the versions.
目前这个操作只能够由ppmc执行
12. 修改master分支代码
如果只是小版本发布,可以直接跳过本节。
当有大版本发布时,例如从0.9.3发布到0.10.0时,需要(1)修改master分支的版本号到0.11.0-SNAPSHOT;(2)更复杂的是修改官网的文档目录;(3)修改官网链接。
(1)master分支代码主要是修改版本号。
方法:
首先运行 `mvn clean -P site` 把target目录都清理下。
然后在IDEA中全局搜索 0.10.0-SNAPSHOT,逐个检查并替换成0.11.0-SNAPSHOT。
(2)修改官网的文档目录。该项工作也仅需要在发布大版本时操作。
方法:以添加0.10.x的文档为例,增加如下代码:
(2.1)在site/pom.xml中找到 ”<!-- download lagecy docs from iotdb repo -->“,在该plugin下的exectuions进行修改。
Code Block | ||
---|---|---|
| ||
<execution>
<id>get-0.10-docs</id>
<phase>generate-sources</phase>
<goals>
<goal>wget</goal>
</goals>
<configuration>
<url>https://github.com/apache/incubator-iotdb/archive/rel/0.10.zip</url>
<outputDirectory>${project.build.directory}/download</outputDirectory>
<outputFileName>0.10.x.zip</outputFileName>
</configuration>
</execution> |
注意上述代码中仅需要把0.10替换成对应的版本就行(注意版本号中的x保留)。
(2.2)找到"<!-- unpack lagecy docs from the zip files-->",在plugin下的exectuions进行修改。
Code Block | ||
---|---|---|
| ||
<execution>
<id>copy-0.10-documentation</id>
<goals>
<goal>copy</goal>
</goals>
<phase>generate-sources</phase>
<configuration>
<fileset>
<directory>${project.build.directory}/download/0.10.x.zip/incubator-iotdb-rel-0.10/docs/UserGuide</directory>
<outputDirectory>${project.build.directory}/vue-source/src/UserGuide/V0.10.x</outputDirectory>
</fileset>
</configuration>
</execution>
<execution>
<id>copy-0.10-zh-documentation</id>
<goals>
<goal>copy</goal>
</goals>
<phase>generate-sources</phase>
<configuration>
<fileset>
<directory>${project.build.directory}/download/0.10.x.zip/incubator-iotdb-rel-0.10/docs/zh/UserGuide</directory>
<outputDirectory>${project.build.directory}/vue-source/src/zh/UserGuide/V0.10.x</outputDirectory>
</fileset>
</configuration>
</execution> |
同理也只需要修改版本号就行(注意版本号中的x保留)。
(2.3)修改site/src/main/.vuepress/config.js 中的siderbar模块,添加相应链接。
格式上,每个文档的格式为:
Code Block | ||||
---|---|---|---|---|
| ||||
{
title: '0-Get Started',
children: [
['0-Get Started/1-QuickStart','QuickStart'],
['0-Get Started/2-Frequently asked questions','Frequently asked questions'],
['0-Get Started/3-Publication','Research Papers']
]
} |
title是显示给用户的文档一级目录名字。
children下每个是一个文档。逗号前面是docs/UserGuide文件夹下的相对路径(不含文件名上的".md"),逗号后面是显示给用户的文档名。
但是实际中一般不需要自己手动写这些条目:理论上'/UserGuide/Master/' 下对应的内容就直接拷贝过来,然后改名称当前版本号就行了。
注意中文、英文两个都要做。
此外再搜索nav模块,添加新版本的文档链接。
Code Block | ||||
---|---|---|---|---|
| ||||
items: [
{ text: 'In progress', link: '/UserGuide/Master/Get Started/QuickStart' },
{ text: 'V0.10.x', link: '/UserGuide/V0.10.x/Get Started/QuickStart' },
{ text: 'V0.9.x', link: '/UserGuide/V0.9.x/0-Get Started/1-QuickStart' },
{ text: 'V0.8.x', link: '/UserGuide/V0.8.x/0-Get Started/1-QuickStart'},
] |
和
Code Block | ||||
---|---|---|---|---|
| ||||
items: [
{ text: 'In progress', link: '/zh/UserGuide/Master/Get Started/QuickStart' },
{ text: 'V0.10.x', link: '/zh/UserGuide/V0.10.x/Get Started/QuickStart' },
{ text: 'V0.9.x', link: '/zh/UserGuide/V0.9.x/0-Get Started/1-QuickStart' },
{ text: 'V0.8.x', link: '/zh/UserGuide/V0.8.x/0-Get Started/1-QuickStart'},
] |
(2.4)因为这个改动太大了。建议做一遍编译检查下。
进入到site目录,运行`mvn generate-sources`。
然后再进入site目录下的target/vue-source,运行`npm install`, `npm run dev`。
就能在本地测试网页了。(也可以在第13节的下载链接修改完成后但是还没部署前做测试)
13. 更新官网的下载链接
修改master分支的 docs/Download/README.md 和 zh/Download/README.md,注意表格中只保留每个大版本的最新版本。
具体的:
官网下载链接目前要求都用镜像总站,
二进制下载链接 binary-distribution:https://www.apache.org/dyn/closer.cgi/incubator/iotdb/0.8.0-incubating/apache-iotdb-0.8.0-incubating-bin.zip
SHA文件和ASC文件可以用svn上的地址:
源码下载版本 source-release:https://www.apache.org/dyn/closer.cgi/incubator/iotdb/0.8.0-incubating/apache-iotdb-0.8.0-incubating-source-release.zip
SHA文件和ASC文件可以用svn上的地址:
RELEASE_NOTE文件其实也可以用SVN上的,但是我们这个项目svn上的在网页上打开就丢了换行符。。所以可以用github的raw文件:
https://raw.githubusercontent.com/apache/incubator-iotdb/release/0.8.1/RELEASE_NOTES.md
将上面的版本改成你最终的版本即可。
当发布大版本的时候,还需要更新docs/UserGuide/UserGuideReadme.md 和docs/zh/UserGuide/UserGuideReadme.md ,
将大版本对应的网页链接放进去,如:
Code Block |
---|
- [In progress version](https://iotdb.apache.org/UserGuide/Master/Get%20Started/QuickStart.html)
- [Version 0.8.x](/zh/UserGuide/V0.8.x/0-Get%20Started/1-QuickStart.html) - [Version 0.10.x](https://iotdb.apache.org/UserGuide/V0.10.x/Get%20Started/QuickStart.html)
- [Version 0.9.x](/zh/UserGuide/V0.9.x/0-Get%20Started/1-QuickStart.html) - [Version 0.9.x](https://iotdb.apache.org/UserGuide/V0.9.x/0-Get%20Started/1-QuickStart.html)
- [Version 0.8.x](https://iotdb.apache.org/UserGuide/V0.8.x/0-Get%20Started/1-QuickStart.html)
|
往master分支提个pr,pr合进master后网页会自动部署,等待部署成功、官网更新后,再昭告天下:
14. 昭告天下!
当你确认多数镜像都同步好了之后,可以昭告天下发布新版本的信息了:
发邮件的邮箱:务必是apache.org的邮箱,否则会被拒收。邮件必须是纯文本,否则,也会被拒收。
发送邮件到:announce@apache.org
抄送邮件到:dev@iotdb.apache.org
消息主题:[ANNOUNCE] Apache IoTDB 0.12.6 released
消息内容示例:
Panel |
---|
The Apache IoTDB team is pleased to announce the release of Apache IoTDB 0.12.6.
|
更多参考例子:https://lists.apache.org/list.html?dev@iotdb.apache.org:gte=1d:announce
发布Python包到Pypi
首先,你要有一个账号,在这里注册:https://pypi.org/account/register/
其次,最好在注册一个测试仓库的账号,在这里https://test.pypi.org/account/register/
注意:在正式发布之前要先在测试仓库确保没有问题。因为正式发布之后PyPI does not allow for a filename to be reused, even once a project has been deleted and recreated.
即正式发布之后再发现有问题,即便删除了那个包,已经用过的名字(比如apache-iotdb 0.11.1)也不可再用于重新上传了。
自己电脑上需要安装python3、pip3;安装后,还需要安装setuptools和wheel和twine
python3 -m pip install --user --upgrade setuptools wheel
python3 -m pip install --user --upgrade twine
我执行上面这个指令时候,报错: creating build/temp.linux-x86_64-3.6/build/temp.linux-x86_64-3.6
x86_64-linux-gnu-gcc -pthread -DNDEBUG -g -fwrapv -O2 -Wall -g -fstack-protector-strong -Wformat -Werror=format-security -Wdate-time -D_FORTIFY_SOURCE=2 -fPIC -I/usr/include/python3.6m -c build/temp.linux-x86_64-3.6/_openssl.c -o build/temp.linux-x86_64-3.6/build/temp.linux-x86_64-3.6/_openssl.o -Wconversion -Wno-error=sign-conversion
build/temp.linux-x86_64-3.6/_openssl.c:22:24: fatal error: pyconfig.h: No such file or directory
compilation terminated.
error: command 'x86_64-linux-gnu-gcc' failed with exit status 1
解决办法:sudo apt install python3.6-dev (我的python是3.6版本)
然后,在整个项目编译后,进入client-py/文件夹。
注意一定要在进行下一步前编译项目,否则发布出来的版本会缺少thrift 相关的依赖。。。。(血的教训)
(注意:iotdb/client-py/src/pypi/setup.py和iotdb/client-py/src/pypi/README.md中的版本号、链接等,应该在上述第2步“准备发布版本”就已完成更新。)
如果是第一次发布,可以在测试仓库进行实验:
python3 setup.py sdist bdist_wheel
python3 -m twine upload --repository-url https://test.pypi.org/legacy/ dist/*
注意:上传测试版本时,python3 setup.py sdist bdist_wheel使用的setup.py里的name要修改,可以在后面后缀上自己的用户名(像这样:name="example-pkg-YOUR-USERNAME-HERE"),否则无法会报错:The credential associated with user 'xxx' isn't allowed to upload to project 'apache-iotdb'。正式上传之前,记得把setup.py里的name改回来,删掉egg-info,dist,build这三个文件夹,之后重新生成。
完成后的输出示例:
Panel |
---|
MacMini-FIT:generated-sources-python hxd$ python3 -m twine upload --repository-url https://test.pypi.org/legacy/ dist/* View at: |
网页的效果:https://test.pypi.org/project/apache-iotdb/
然后本地可以下载下来试用试用:
Panel |
---|
(官方教程建议使用virtualevn,但是我在virtualevn中pip install的包不生效 很奇怪): python3 -m pip install --index-url https://test.pypi.org/simple/ apache-iotdb==0.9.0-rc5 (假设版本是0.9.0-rc5) python3 -m pip install --index-url https://test.pypi.org/simple/ --no-deps apache-iotdb==0.9.0-rc5 (假设版本是0.9.0-rc5) 不过并没有什么用。。因为没有thrift就没法运行。。 所以准确流程是: python3 -m pip install thrift==0.13.0 python3 -m pip install --index-url https://test.pypi.org/simple/ --no-deps apache-iotdb==0.9.0-rc5 然后跑一下client-py下的client-example.py看是否正确。 如果不是在virtualevn环境下,记得用完后删除这个临时包:python3 -m pip uninstall apache-iotdb |
一切OK,就可以正式发布了:(注:如果之前为了测试修改过setup.py,这里记得把setup.py里的name改回来重新生成dist文件夹)
控制台运行:python3 setup.py sdist bdist_wheel
python3 -m twine upload dist/*
注:如果没有上传权限找项目管理员。
这部分内容参考了
https://packaging.python.org/tutorials/packaging-projects/
发布Docker 镜像包到DockerHub
首先,你需要有dockerhub网站下的用户名。
其次,需要去JIRA的INFRA项目中申请(在模仿
Jira | ||||||
---|---|---|---|---|---|---|
|
注意,每个项目的 dockerhub 只允许 5 个名额,如果需要新增用户进 dockerhub 的 iotdb/committer,则需要在 Jira 中说明被替换走的用户是谁。
以上准备工作就做好了。
然后编写Dockerfile脚本,0.9.1的示例如下(该脚本需要根据每个版本的实际部署方式不同进行修改):
No Format |
---|
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
#&& wget https://www-us.apache.org/dist/incubator/iotdb/0.9.1-incubating/apache-iotdb-0.9.1-incubating-bin.zip \
&& wget http://mirrors.tuna.tsinghua.edu.cn/apache/incubator/iotdb/0.9.1-incubating/apache-iotdb-0.9.1-incubating-bin.zip \
&& unzip apache-iotdb-0.9.1-incubating-bin.zip \
&& rm apache-iotdb-0.9.1-incubating-bin.zip \
&& mv apache-iotdb-0.9.1-incubating /iotdb \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
EXPOSE 6667
EXPOSE 31999
EXPOSE 5555
EXPOSE 8181
VOLUME /iotdb/data
VOLUME /iotdb/logs
ENV PATH="/iotdb/sbin/:/iotdb/tools/:${PATH}"
ENTRYPOINT ["/iotdb/sbin/start-server.sh"] |
Dockerfile-0.12.4-node的示例
No Format |
---|
#
# Licensed to the Apache Software Foundation (ASF) under one
# or more contributor license agreements. See the NOTICE file
# distributed with this work for additional information
# regarding copyright ownership. The ASF licenses this file
# to you under the Apache License, Version 2.0 (the
# "License"); you may not use this file except in compliance
# with the License. You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing,
# software distributed under the License is distributed on an
# "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
# KIND, either express or implied. See the License for the
# specific language governing permissions and limitations
# under the License.
#
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
&& wget https://downloads.apache.org/iotdb/0.12.4/apache-iotdb-0.12.4-server-bin.zip \
# if you are in China, use the following URL
#&& wget https://mirrors.tuna.tsinghua.edu.cn/apache/iotdb/0.12.4/apache-iotdb-0.12.4-server-bin.zip \
&& unzip apache-iotdb-0.12.4-server-bin.zip \
&& rm apache-iotdb-0.12.4-server-bin.zip \
&& mv apache-iotdb-0.12.4-server-bin /iotdb \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
# rpc port
EXPOSE 6667
# JMX port
EXPOSE 31999
# sync port
EXPOSE 5555
# monitor port
EXPOSE 8181
VOLUME /iotdb/data
VOLUME /iotdb/logs
ENV PATH="/iotdb/sbin/:/iotdb/tools/:${PATH}"
ENTRYPOINT ["/iotdb/sbin/start-server.sh"] |
Dockerfile-0.12.4-cluster的示例
No Format |
---|
#
# Licensed to the Apache Software Foundation (ASF) under one
# or more contributor license agreements. See the NOTICE file
# distributed with this work for additional information
# regarding copyright ownership. The ASF licenses this file
# to you under the Apache License, Version 2.0 (the
# "License"); you may not use this file except in compliance
# with the License. You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing,
# software distributed under the License is distributed on an
# "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
# KIND, either express or implied. See the License for the
# specific language governing permissions and limitations
# under the License.
#
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
&& wget https://downloads.apache.org/iotdb/0.12.4/apache-iotdb-0.12.4-cluster-bin.zip \
# if you are in China, use the following URL
#&& wget https://mirrors.tuna.tsinghua.edu.cn/apache/iotdb/0.12.4/apache-iotdb-0.12.4-cluster-bin.zip \
&& unzip apache-iotdb-0.12.4-cluster-bin.zip \
&& rm apache-iotdb-0.12.4-cluster-bin.zip \
&& mv apache-iotdb-0.12.4-cluster-bin /iotdb \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y \
# modify the seeds in configuration file
&& sed -i '/^seed_nodes/cseed_nodes=127.0.0.1:9003' /iotdb/conf/iotdb-cluster.properties \
&& sed -i '/^default_replica_num/cdefault_replica_num=1' /iotdb/conf/iotdb-cluster.properties
# rpc port
EXPOSE 6667
# JMX port
EXPOSE 31999
# sync port
EXPOSE 5555
# monitor port
EXPOSE 8181
# internal meta port
EXPOSE 9003
# internal data port
EXPOSE 40010
VOLUME /iotdb/data
VOLUME /iotdb/logs
ENV PATH="/iotdb/sbin/:/iotdb/tools/:${PATH}"
ENTRYPOINT ["/iotdb/sbin/start-node.sh"] |
Dockerfile-0.12.4-grafana的示例
No Format |
---|
#
# Licensed to the Apache Software Foundation (ASF) under one
# or more contributor license agreements. See the NOTICE file
# distributed with this work for additional information
# regarding copyright ownership. The ASF licenses this file
# to you under the Apache License, Version 2.0 (the
# "License"); you may not use this file except in compliance
# with the License. You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing,
# software distributed under the License is distributed on an
# "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
# KIND, either express or implied. See the License for the
# specific language governing permissions and limitations
# under the License.
#
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
&& wget https://downloads.apache.org/iotdb/0.12.4/apache-iotdb-0.12.4-grafana-bin.zip \
# if you are in China, use the following URL
#&& wget https://mirrors.tuna.tsinghua.edu.cn/apache/iotdb/0.12.4/apache-iotdb-0.12.4-grafana-bin.zip \
&& unzip apache-iotdb-0.12.4-grafana-bin.zip \
&& rm apache-iotdb-0.12.4-grafana-bin.zip \
&& mv apache-iotdb-0.12.4-grafana-bin /iotdb-grafana \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
# rpc port
EXPOSE 8888
VOLUME /iotdb-grafana/config
RUN echo "#!/bin/bash" > /iotdb-grafana/runboot.sh
RUN echo "java -Djava.security.egd=file:/dev/./urandom -jar /iotdb-grafana/iotdb-grafana.war" >> /iotdb-grafana/runboot.sh
RUN chmod a+x /iotdb-grafana/runboot.sh
WORKDIR /iotdb-grafana
ENTRYPOINT ["./runboot.sh"] |
Dockerfile-0.13.0-grafana-connector的示例
No Format |
---|
#
# Licensed to the Apache Software Foundation (ASF) under one
# or more contributor license agreements. See the NOTICE file
# distributed with this work for additional information
# regarding copyright ownership. The ASF licenses this file
# to you under the Apache License, Version 2.0 (the
# "License"); you may not use this file except in compliance
# with the License. You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing,
# software distributed under the License is distributed on an
# "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
# KIND, either express or implied. See the License for the
# specific language governing permissions and limitations
# under the License.
#
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
&& wget https://downloads.apache.org/iotdb/0.13.0/apache-iotdb-0.13.0-grafana-connector-bin.zip \
# if you are in China, use the following URL
#&& wget https://mirrors.tuna.tsinghua.edu.cn/apache/iotdb/0.13.0/apache-iotdb-0.13.0-grafana-connector-bin.zip \
&& unzip apache-iotdb-0.13.0-grafana-connector-bin.zip \
&& rm apache-iotdb-0.13.0-grafana-connector-bin.zip \
&& mv apache-iotdb-0.13.0-grafana-connector-bin /iotdb-grafana-connector \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
# rpc port
EXPOSE 8888
VOLUME /iotdb-grafana-connector/config
RUN echo "#!/bin/bash" > /iotdb-grafana-connector/runboot.sh
RUN echo "java -Djava.security.egd=file:/dev/./urandom -jar /iotdb-grafana-connector/iotdb-grafana-connector.war" >> /iotdb-grafana-connector/runboot.sh
RUN chmod a+x /iotdb-grafana-connector/runboot.sh
WORKDIR /iotdb-grafana-connector
ENTRYPOINT ["./runboot.sh"] |
注意该脚本可以存储到docker/src/main下。
然后本地构造image (注意运行的时候 要确保Dockerfile文件夹内没有别的文件):
docker build -t apache/iotdb:0.9.1 .
0.12.X版本可以用下面的命令
docker build -t apache/iotdb:0.12.4-node . -f Dockerfile-0.12.4-node
docker build -t apache/iotdb:0.12.4-cluster . -f Dockerfile-0.12.4-cluster
docker build -t apache/iotdb:0.12.4-grafana . -f Dockerfile-0.12.4-grafana
0.13.X版本可以用下面的命令
docker build -t apache/iotdb:0.13.0-node . -f Dockerfile-0.13.0-node
docker build -t apache/iotdb:0.13.0-cluster . -f Dockerfile-0.13.0-cluster
docker build -t apache/iotdb:0.13.0-grafana-connector . -f Dockerfile-0.13.0-grafana-connector
然后本地尝试运行:
docker run -d -p 6667:6667 -p 31999:31999 -p 8181:8181 apache/iotdb:0.12.4-node
如果需要杀死该镜像,使用docker ps 查看容器id,然后使用docker kill 容器id即可。
进行测试,启动iotdb-client进行连接和增删改查操作:
docker exec -it a4434aff6123(需要替换成上一步自己运行的的CONTAINER ID) /bin/bash
都没问题的话,可以上传镜像了:
首先需要登录docker:
docker login --username=yourhubusername
使用docker images再确认一遍容器,以及容器的tag:
以上图为例,其中apache/iotdb 0.9.0和0.9.1拥有相同的Image ID的原因是,我在构建0.9.1的时候,错误地将版本号指定成了0.9.0。
因此构建完成镜像后一定要使用客户端连接iotdb进行测试。
如果构建镜像的时候,名字不是apache/iotdb这种类型,或者版本号不正确,还有机会修改:
docker tag 6a6365cd99d0 apache/iotdb:0.12.4-node
上传吧:
docker push apache/iotdb:0.12.4-node
如果是最新版本(比如还没有0.10,那么0.9.x就是最新版本。但是假设0.10.0已经发布,那么再上传0.9.5就不算最新版),还要更新下latest标签:
docker tag apache/iotdb:0.12.4-node apache/iotdb:latest
docker push apache/iotdb:latest
(注意目前有三个镜像要打:node,cluster,grafana)。
完成。
docker push apache/iotdb:0.12.4-node
docker push apache/iotdb:0.12.4-cluster
docker push apache/iotdb:0.12.4-grafana
0.13.x之后
docker push apache/iotdb:0.13.0-node
docker push apache/iotdb:0.13.0-cluster
docker push apache/iotdb:0.13.0-grafana-connector
发布 跨平台的docker镜像
以0.13.1为例,在 Docker 19.03+ 版本中可以使用 docker buildx build 命令使用 BuildKit 构建镜像。该命令支持 --platform 参数可以同时构建支持多种系统架构的 Docker 镜像。(例如linux/amd64,linux/arm64)
dockerfile如下:
只修改了第一行,将jdk 替换成了eclipse-temurin:11-jre-focal,因为这个JDK支持amd64、arm/v7、arm64/v8三种版本,并且是ubuntu-focal,可以正常使用apt-get
No Format |
---|
FROM --platform=$TARGETPLATFORM eclipse-temurin:11-jre-focal
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
&& wget https://downloads.apache.org/iotdb/0.13.1/apache-iotdb-0.13.1-server-bin.zip \
# if you are in China, use the following URL
#&& wget https://mirrors.tuna.tsinghua.edu.cn/apache/iotdb/0.13.1/apache-iotdb-0.13.1-server-bin.zip \
&& unzip apache-iotdb-0.13.1-server-bin.zip \
&& rm apache-iotdb-0.13.1-server-bin.zip \
&& mv apache-iotdb-0.13.1-server-bin /iotdb \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
# rpc port
EXPOSE 6667
# JMX port
EXPOSE 31999
# sync port
EXPOSE 5555
# monitor port
EXPOSE 8181
VOLUME /iotdb/data
VOLUME /iotdb/logs
ENV PATH="/iotdb/sbin/:/iotdb/tools/:${PATH}"
ENTRYPOINT ["/iotdb/sbin/start-server.sh"] |
安装buildx:
# 确定可以使用buildx,否则要升级docker
docker buildx version
# 指定buildx使用docker-container
docker buildx create --name mybuilder --driver docker-container
docker buildx use mybuilder
# 开启用于多平台镜像构建的镜像
docker run --rm --privileged tonistiigi/binfmt:latest --install all
构建并上传
## apache/iotdb:latest
docker buildx build --platform linux/amd64,linux/arm64/v8,linux/arm/v7 -t apache/iotdb:latest -f Dockerfile-0.13.1-node . --push
## apache/iotdb:0.13.1-node
docker buildx build --platform linux/amd64,linux/arm64/v8,linux/arm/v7 -t apache/iotdb:0.13.1-node -f Dockerfile-0.13.1-node . --push
发布 Go client (如果有需要发布)
本地clone go client 代码
git clone https://github.com/apache/iotdb-client-go
checkout 到相应的 rel/xx 分支,检查是否有遗漏的commit,如果有,可以从main分支cherry-pick过来。
打tag 并push到 github 仓库
git tag v0.xx.x
git push origin v0.xx.x
进入下面的链接,点 draft a new release,选刚才打的那个tag 之后 release 就行。
https://github.com/apache/iotdb-client-go/releases
...
6. General列表投票也通过后怎么办
首先发总结邮件到general邮件列表
参考例子:(自己写的时候一定要仔细检查更新)
...
主题:[RESULT][VOTE] Release Apache IoTDB 0.9.0
...
xxx
...
你的名字
把发布好的文件从dev仓库中移动到release的svn项目中。
release的svn地址是:https://dist.apache.org/repos/dist/release/incubator/iotdb
如果第一次的话,可以clone这个仓库,然后增加文件,然后提交。
$svn co https://dist.apache.org/repos/dist/release/incubator/iotdb
$cd iotdb
$拷贝文件过来,放在 版本-incubating下,例如 下面的0.8.1-incubating就是我刚刚放过去的。
MacBook-Pro-3:iotdb-rel hxd$ tree .
.
├── 0.8.0-incubating
│ ├── README.md
│ ├── RELEASE_NOTES.md
│ ├── apache-iotdb-0.8.0-incubating-bin.zip
│ ├── apache-iotdb-0.8.0-incubating-bin.zip.asc
│ ├── apache-iotdb-0.8.0-incubating-bin.zip.sha512
│ ├── apache-iotdb-0.8.0-incubating-source-release.zip
│ ├── apache-iotdb-0.8.0-incubating-source-release.zip.asc
│ └── apache-iotdb-0.8.0-incubating-source-release.zip.sha512
├── 0.8.1-incubating
│ ├── README.md
│ ├── RELEASE_NOTES.md
│ ├── apache-iotdb-0.8.1-incubating-bin.zip
│ ├── apache-iotdb-0.8.1-incubating-bin.zip.asc
│ ├── apache-iotdb-0.8.1-incubating-bin.zip.sha512
│ ├── apache-iotdb-0.8.1-incubating-source-release.zip
│ ├── apache-iotdb-0.8.1-incubating-source-release.zip.asc
│ └── apache-iotdb-0.8.1-incubating-source-release.zip.sha512
└── KEYS
然后提交:
$svn add 0.8.1-incubating
$svn commit -m "upload 0.8.1 release files"
如果你的keys也修改了,可能还要在更新下keys文件。
注意:所有的apache 镜像都会开始同步这些文件了,一般会在24小时内同步完成。
这里可能会可以很快加载出下载页面,但是里面的下载链接都是无法打开和下载的,必须等到下载链接可以正常下载,才表示同步真正完成
7. 删除旧版本的发布文件
Apache似乎要求当新版本都同步好后,删除掉旧版本的文件(例如本例中是0.8.0-incubating),但是我查看了几个项目,这个不是绝对要求的。。建议保留一些版本。
删除方法是用 svn delete命令删除文件夹即可。
例如:$svn delete https://dist.apache.org/repos/dist/release/incubator/iotdb/0.8.0-incubating/ -m"deleted version 0.8.0"
还可以如下删除:
svn delete 要删除的文件或者文件夹
svn commit -m "写上提交日志"
8. 正式发布Maven文件
...
9. github publish release
到https://github.com/apache/incubator-iotdb/releases,把之前this is a pre-release & save draft的改为publish release。
10. 将release分支的代码更新到最新
我们项目中,release分支始终指向最新的发布版本。
git checkout release
git merge release/0.8.1
如果有有冲突,那么全盘接收tag上的修改,可以使用如下命令:
git merge -X theirs release/0.8.1
11. 更新JIRA
Set the released version to "released" and set the "release-date"
Add the next version to the versions.
目前这个操作只能够由ppmc执行
12. 修改master分支代码
如果只是小版本发布,可以直接跳过本节。
当有大版本发布时,例如从0.9.3发布到0.10.0时,需要(1)修改master分支的版本号到0.11.0-SNAPSHOT;(2)更复杂的是修改官网的文档目录;(3)修改官网链接。
(1)master分支代码主要是修改版本号。
方法:
首先运行 `mvn clean -P site` 把target目录都清理下。
然后在IDEA中全局搜索 0.10.0-SNAPSHOT,逐个检查并替换成0.11.0-SNAPSHOT。
(2)修改官网的文档目录。该项工作也仅需要在发布大版本时操作。
方法:以添加0.10.x的文档为例,增加如下代码:
(2.1)在site/pom.xml中找到 ”<!-- download lagecy docs from iotdb repo -->“,在该plugin下的exectuions进行修改。
Code Block | ||
---|---|---|
| ||
<execution>
<id>get-0.10-docs</id>
<phase>generate-sources</phase>
<goals>
<goal>wget</goal>
</goals>
<configuration>
<url>https://github.com/apache/incubator-iotdb/archive/rel/0.10.zip</url>
<outputDirectory>${project.build.directory}/download</outputDirectory>
<outputFileName>0.10.x.zip</outputFileName>
</configuration>
</execution> |
...
Code Block | ||
---|---|---|
| ||
<execution>
<id>copy-0.10-documentation</id>
<goals>
<goal>copy</goal>
</goals>
<phase>generate-sources</phase>
<configuration>
<fileset>
<directory>${project.build.directory}/download/0.10.x.zip/incubator-iotdb-rel-0.10/docs/UserGuide</directory>
<outputDirectory>${project.build.directory}/vue-source/src/UserGuide/V0.10.x</outputDirectory>
</fileset>
</configuration>
</execution>
<execution>
<id>copy-0.10-zh-documentation</id>
<goals>
<goal>copy</goal>
</goals>
<phase>generate-sources</phase>
<configuration>
<fileset>
<directory>${project.build.directory}/download/0.10.x.zip/incubator-iotdb-rel-0.10/docs/zh/UserGuide</directory>
<outputDirectory>${project.build.directory}/vue-source/src/zh/UserGuide/V0.10.x</outputDirectory>
</fileset>
</configuration>
</execution> |
同理也只需要修改版本号就行(注意版本号中的x保留)。
(2.3)修改site/src/main/.vuepress/config.js 中的siderbar模块,添加相应链接。
格式上,每个文档的格式为:
Code Block | ||||
---|---|---|---|---|
| ||||
{
title: '0-Get Started',
children: [
['0-Get Started/1-QuickStart','QuickStart'],
['0-Get Started/2-Frequently asked questions','Frequently asked questions'],
['0-Get Started/3-Publication','Research Papers']
]
} |
title是显示给用户的文档一级目录名字。
children下每个是一个文档。逗号前面是docs/UserGuide文件夹下的相对路径(不含文件名上的".md"),逗号后面是显示给用户的文档名。
但是实际中一般不需要自己手动写这些条目:理论上'/UserGuide/Master/' 下对应的内容就直接拷贝过来,然后改名称当前版本号就行了。
注意中文、英文两个都要做。
此外再搜索nav模块,添加新版本的文档链接。
Code Block | ||||
---|---|---|---|---|
| ||||
items: [
{ text: 'In progress', link: '/UserGuide/Master/Get Started/QuickStart' },
{ text: 'V0.10.x', link: '/UserGuide/V0.10.x/Get Started/QuickStart' },
{ text: 'V0.9.x', link: '/UserGuide/V0.9.x/0-Get Started/1-QuickStart' },
{ text: 'V0.8.x', link: '/UserGuide/V0.8.x/0-Get Started/1-QuickStart'},
] |
...
Code Block | ||||
---|---|---|---|---|
| ||||
items: [
{ text: 'In progress', link: '/zh/UserGuide/Master/Get Started/QuickStart' },
{ text: 'V0.10.x', link: '/zh/UserGuide/V0.10.x/Get Started/QuickStart' },
{ text: 'V0.9.x', link: '/zh/UserGuide/V0.9.x/0-Get Started/1-QuickStart' },
{ text: 'V0.8.x', link: '/zh/UserGuide/V0.8.x/0-Get Started/1-QuickStart'},
] |
(2.4)因为这个改动太大了。建议做一遍编译检查下。
进入到site目录,运行`mvn generate-sources`。
然后再进入site目录下的target/vue-source,运行`npm install`, `npm run dev`。
就能在本地测试网页了。(也可以在第13节的下载链接修改完成后但是还没部署前做测试)
13. 更新官网的下载链接
修改 docs/Download/README.md 和 zh/Download/README.md,注意表格中只保留每个大版本的最新版本。
具体的:
官网下载链接目前要求都用镜像总站,
二进制下载链接 binary-distribution:https://www.apache.org/dyn/closer.cgi/incubator/iotdb/0.8.0-incubating/apache-iotdb-0.8.0-incubating-bin.zip
SHA文件和ASC文件可以用svn上的地址:
源码下载版本 source-release:https://www.apache.org/dyn/closer.cgi/incubator/iotdb/0.8.0-incubating/apache-iotdb-0.8.0-incubating-source-release.zip
SHA文件和ASC文件可以用svn上的地址:
RELEASE_NOTE文件其实也可以用SVN上的,但是我们这个项目svn上的在网页上打开就丢了换行符。。所以可以用github的raw文件:
https://raw.githubusercontent.com/apache/incubator-iotdb/release/0.8.1/RELEASE_NOTES.md
将上面的版本改成你最终的版本即可。
当发布大版本的时候,还需要更新docs/UserGuide/UserGuideReadme.md 和docs/zh/UserGuide/UserGuideReadme.md ,
将大版本对应的网页链接放进去,如:
Code Block |
---|
- [In progress version](https://iotdb.apache.org/UserGuide/Master/Get%20Started/QuickStart.html)
- [Version 0.8.x](/zh/UserGuide/V0.8.x/0-Get%20Started/1-QuickStart.html) - [Version 0.10.x](https://iotdb.apache.org/UserGuide/V0.10.x/Get%20Started/QuickStart.html)
- [Version 0.9.x](/zh/UserGuide/V0.9.x/0-Get%20Started/1-QuickStart.html) - [Version 0.9.x](https://iotdb.apache.org/UserGuide/V0.9.x/0-Get%20Started/1-QuickStart.html)
- [Version 0.8.x](https://iotdb.apache.org/UserGuide/V0.8.x/0-Get%20Started/1-QuickStart.html)
|
之后需要手动部署网页,等待部署成功、官网更新后,再昭告天下:
14. 昭告天下!
当你确认多数镜像都同步好了之后,可以昭告天下发布新版本的信息了:
发邮件的邮箱:务必是apache.org的邮箱,否则会被拒收。
发送邮件到:announce@apache.org
抄送邮件到:dev@iotdb.apache.org
消息主题:[ANNOUNCE] Apache IoTDB (incubating) 0.10.0 released
消息内容示例:
...
The Apache IoTDB team is pleased to announce the release of Apache IoTDB (incubating) 0.10.0.
Apache IoTDB (incubating) (Database for Internet of Things) is an integrated data management engine designed for timeseries data. It provides users with services for data collection, storage and analysis.
The current release is the 3rd major version of IoTDB, which provides many new features and improvements. A part of features are as follows:
* IOTDB-217 A new GROUPBY syntax, e.g., select avg(s1) from root.sg.d1.s1 GROUP BY ([1, 50), 5ms) * IOTDB-220 Add hot-load configuration function * IOTDB-292 Add load external tsfile feature * IOTDB-298 Support new Last point query. e.g, select last * from root * IOTDB-305 Add value filter function while executing align by device * IOTDB-396 Support new query clause: disable align, e.g., select * from root disable align * IOTDB-447 Support querying non-existing measurement and constant measurement * IOTDB-448 Add IN operation, e.g., where time in (1,2,3) * IOTDB-456 Support GroupByFill Query, e.g., select last_value(s1) from root.sg.d1 GROUP BY ([1, 10), 2ms) FILL(int32[previousUntilLast]) * IOTDB-497 Support Apache Flink Connector with IoTDB * IOTDB-565 MQTT Protocol Support, disabled by default, open in iotdb-engine.properties * IOTDB-588 Add tags and attributes management * Online upgrade from 0.9.x * Make JDBC OSGi usable and added a feature file * Allow count timeseries group by level=x using default path * IOTDB-700 Add OpenID Connect based JWT Access as alternative to Username / Password * IOTDB-715 Support previous time range in previousuntillast * IOTDB-719 add avg_series_point_number_threshold in config * IOTDB-734 Add Support for NaN in Double / Floats in SQL Syntax.
The full release note is available at:
https://raw.githubusercontent.com/apache/incubator-iotdb/release/0.10.0/RELEASE_NOTES.md
The release is available for download at:
http://iotdb.apache.org/Download
Maven artifacts for JDBC driver, session SDK, TsFile SDK, Spark-connector, Hadoop-connector, Hive-connector and Flink-connector can be found at:
https://search.maven.org/search?q=g:org.apache.iotdb
Docker image of IoTDB server can be found at:
https://hub.docker.com/r/apache/iotdb
Python API package can be found at:
https://pypi.org/project/apache-iotdb/
Regards,
The Apache IoTDB team
=====
Disclaimer
Apache IoTDB (incubating) is an effort undergoing incubation at The
Apache Software Foundation (ASF), sponsored by the Apache Incubator.
Incubation is required of all newly accepted projects until a further
review indicates that the infrastructure, communications, and decision
making process have stabilized in a manner consistent with other
successful ASF projects. While incubation status is not necessarily a
reflection of the completeness or stability of the code, it does
indicate that the project has yet to be fully endorsed by the ASF.
更多参考例子:https://lists.apache.org/list.html?dev@iotdb.apache.org:gte=1d:announce
发布Python包到Pypi
首先,你要有一个账号,在这里注册:https://pypi.org/account/register/
其次,最好在注册一个测试仓库的账号,在这里https://test.pypi.org/account/register/
注意:在正式发布之前要先在测试仓库确保没有问题。因为正式发布之后PyPI does not allow for a filename to be reused, even once a project has been deleted and recreated.
即正式发布之后再发现有问题,即便删除了那个包,已经用过的名字(比如apache-iotdb 0.9.1)也不可再用于重新上传了。
自己电脑上需要安装python3、pip3;安装后,还需要安装setuptools和wheel和twine
python3 -m pip install --user --upgrade setuptools wheel
...
然后,在整个项目编译后(事实上执行完service-rpc的generate-sources后就行),进入service-rpc/target/generate-sources-python文件夹。
(注意:incubator-iotdb/service-rpc/src/pypi/setup.py和incubator-iotdb/service-rpc/src/pypi/README.md中的版本号、链接等,应该在上述第2步“准备发布版本”就已完成更新。)
控制台运行:python3 setup.py sdist bdist_wheel
然后就可以发布了:
如果是第一次发布,可以在测试仓库进行实验:
python3 -m twine upload --repository-url https://test.pypi.org/legacy/ dist/*
注意:上传测试版本时,python3 setup.py sdist bdist_wheel使用的setup.py里的name要修改,可以在后面后缀上自己的用户名(像这样:name="example-pkg-YOUR-USERNAME-HERE"),否则无法会报错:The credential associated with user 'xxx' isn't allowed to upload to project 'apache-iotdb'。正式上传之前,记得把setup.py里的name改回来重新生成。
完成后的输出示例:
Panel |
---|
MacMini-FIT:generated-sources-python hxd$ python3 -m twine upload --repository-url https://test.pypi.org/legacy/ dist/* View at: |
网页的效果:https://test.pypi.org/project/apache-iotdb/
然后本地可以下载下来试用试用:
...
(官方教程建议使用virtualevn,但是我在virtualevn中pip install的包不生效 很奇怪):
...
python3 -m pip install --index-url https://test.pypi.org/simple/ --no-deps apache-iotdb==0.9.0-rc5 (假设版本是0.9.0-rc5)
不过并没有什么用。。因为没有thrift就没法运行。。
所以准确流程是:
python3 -m pip install thrift==0.13.0
python3 -m pip install --index-url https://test.pypi.org/simple/ --no-deps apache-iotdb==0.9.0-rc5
然后跑一下client-py下的client-example.py看是否正确。
如果不是在virtualevn环境下,记得用完后删除这个临时包:python3 -m pip uninstall apache-iotdb
一切OK,就可以正式发布了:(注:如果之前为了测试修改过setup.py,这里记得把setup.py里的name改回来重新生成dist文件夹)
python3 -m twine upload dist/*
注:如果没有上传权限找项目管理员。
这部分内容参考了
https://packaging.python.org/tutorials/packaging-projects/
发布Docker 镜像包到DockerHub
首先,你需要有dockerhub网站下的用户名。
其次,需要去JIRA的INFRA项目中申请,给自己的用户名增加dockerhub中apache/iotdb项目的权限。
以上准备工作就做好了。
然后编写Dockerfile脚本,0.9.1的示例如下(该脚本需要根据每个版本的实际部署方式不同进行修改):
No Format |
---|
FROM openjdk:11-jre-slim
RUN apt update \
# procps is for `free` command
&& apt install wget unzip lsof procps -y \
#&& wget https://www-us.apache.org/dist/incubator/iotdb/0.9.1-incubating/apache-iotdb-0.9.1-incubating-bin.zip \
&& wget http://mirrors.tuna.tsinghua.edu.cn/apache/incubator/iotdb/0.9.1-incubating/apache-iotdb-0.9.1-incubating-bin.zip \
&& unzip apache-iotdb-0.9.1-incubating-bin.zip \
&& rm apache-iotdb-0.9.1-incubating-bin.zip \
&& mv apache-iotdb-0.9.1-incubating /iotdb \
&& apt remove wget unzip -y \
&& apt autoremove -y \
&& apt purge --auto-remove -y \
&& apt clean -y
EXPOSE 6667
EXPOSE 31999
EXPOSE 5555
EXPOSE 8181
VOLUME /iotdb/data
VOLUME /iotdb/logs
ENV PATH="/iotdb/sbin/:/iotdb/tools/:${PATH}"
ENTRYPOINT ["/iotdb/sbin/start-server.sh"] |
注意该脚本可以存储到docker/src/main下。
然后本地构造image (注意运行的时候 要确保Dockerfile文件夹内没有别的文件):
docker build -t apache/iotdb:0.9.1 .
然后本地尝试运行:
docker run -d -p 6667:6667 -p 31999:31999 -p 8181:8181 apache/iotdb:0.9.1
如果需要杀死该镜像,使用docker ps 查看容器id,然后使用docker kill 容器id即可。
进行测试,启动iotdb-client进行连接和增删改查操作:
docker exec -it a4434aff6123 /bin/bash
都没问题的话,可以上传镜像了:
首先需要登录docker:
docker login --username=yourhubusername
使用docker images再确认一遍容器,以及容器的tag:
以上图为例,其中apache/iotdb 0.9.0和0.9.1拥有相同的Image ID的原因是,我在构建0.9.1的时候,错误地将版本号指定成了0.9.0。
因此构建完成镜像后一定要使用客户端连接iotdb进行测试。
如果构建镜像的时候,名字不是apache/iotdb这种类型,或者版本号不正确,还有机会修改:
docker tag 6a6365cd99d0 apache/iotdb:0.9.1
上传吧:
docker push apache/iotdb:0.9.1
如果是最新版本(比如还没有0.10,那么0.9.x就是最新版本。但是假设0.10.0已经发布,那么再上传0.9.5就不算最新版),还要更新下latest标签:
docker tag apache/iotdb:0.9.1 apache/iotdb:latest
docker push apache/iotdb:latest
完成。
That is all.