
v0.3.0
===================

特性变更
-----------------


.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

* 升级至社区core_r0.6.0版本。
* 新增 addons 模块支持额外特性。
* 新增 adamw 优化器。
* 支持 grouped_gemm 融合算子。
* 支持 llama3 网络。
* 支持 MoE 网络。
* 优化 adlr-autoresume 流程。


已修复问题
---------------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

已知遗留问题
--------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

v0.2.2
===================

特性变更
-----------------


.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。



已修复问题
---------------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

* 修复Megatron-LM上同时使用TransformerEngine和GQA出现的精度和性能异常问题。

已知遗留问题
--------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

v0.2.1
===================

特性变更
-----------------


.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。



已修复问题
---------------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

* 修复GPT网络在transformer_engine模式下运行出错的问题。

已知遗留问题
--------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

v0.2.0
===================

特性变更
-----------------


.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

* 升级至社区core_r0.5.0版本。
* 新增 Context Parallel特性。
* 新增 Demo 测试。
* 新增 Benchmark 测试。
* 支持Pytorch 2.1 和Pytorch 2.3 。



已修复问题
---------------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

已知遗留问题
--------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

v0.1.0
===================

特性变更
-----------------


.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

* 同步至2024/01/16的社区 main 分支, commit-id为6e7ded3a 。
* 支持Pytorch 1.13 和Pytorch 2.1 。

已修复问题
---------------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。

已知遗留问题
--------------

.. 以下为注释内容，无需删除：
   参考README.rst的要求和格式写作。
   没内容请写“无。”，不能空着。

无。
