基于提升决策树算法预测镁合金屈服强度-FlyAI

基于提升决策树算法预测镁合金屈服强度

机器学习

最后更新 2020-06-29 11:29 阅读 72

最后更新 2020-06-29 11:29

阅读 72

机器学习

摘要
可生物降解的镁合金植入材料可以实现永久性植入体的临床功能，并且在完成其支撑上的功能而对组织修复不再有用时，装置可在人体环境中降解。作为一种新型植入材料研究，目前镁合金材料的力学性能与腐蚀速率往往不能兼顾，支撑强度不够是其发展的一项阻碍。机器学习旨在从数据库中提取信息并获得分析能力，根据以往的数据计算训练，以产生可靠、可重复的决策和结果，在分类、回归和与高维数据相关的其他任务中表现出良好的适用性。机器学习在许多领域发挥了重要作用，现已被用于解决材料科学中的各种问题，例如新材料发现和材料特性预测。本文从目前已发表的镁合金的研究数据出发，应用机器学习算法主要针对镁合金材料的合金元素、热处理对其力学性能的影响进行分析和模型组建，并得出一个可以泛化的预测模型。
金属材料作为生物医用材料一直以来发挥着重要的作用，目前已经研究了很多金属材料用于辅助修复或替换已经患病或受损的骨组织。相比于陶瓷或聚合物材料，金属因为具有高机械强度和断裂韧性而适合于承载应用，目前常用的金属生物材料包括不锈钢、Ti和Co-Cr基合金。金属材料在长期植入后可能通过腐蚀或磨损过程释放有毒金属离子、诱发炎症同时破坏材料的生物相容性并导致组织损伤，实际上金属材料存在这样的问题因此在使用中受到颇多局限。
GBDT(Gradient Boosting Decision Tree) 也可以称之为MART(Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，在回归问题的处理上采用CART决策树进行。该方法背后的基本原理是：许多简单学习器的预测加权平均值可能优于复杂的学习器。其中所谓的Boosting是指构建全局预测模型的一般方案。每一个独立的决策树可能是弱的预测器，提升算法基于在训练数据的变化模型上生成大量的简单模型（即弱的预测器），并将所有树输出的加权和作为最终预测结果，那么这个集成的模型会产生更好的预测。它在被提出之初就和SVM一起被认为是泛化能力较强的算法。需要声明的一点是GBDT中的树完全是回归树，用来做回归预测。
使用回归树和平方误差损失函数的提升算法的主要步骤可归纳如下：
i.首先用开始的目标平均值作为预测：

ii.对于m=1到M的多个树：
a)计算在训练集中的预测误差：

b)从训练集中抽取一个随机子样本Sm
c)考虑Sm重新建立回归树并拟合到前一个集合的残差中：

d)更新整体决策树，将上一树的预测值与第m颗树产生的残差相加作为整体决策树的预测值：

iii.最后将作为最终的提升预测值，通常在这个过程中认为这个过程容易因为训练误差随着每次迭代而减少，产生过度拟合的情况，为了克服这个问题，添加正则化参数以进行改进。

目前总计采用研究文章50篇中的实验数据进行计算分析，其中包括中文研究文章21篇（其中包括4篇硕、博士论文），外文研究文章29篇，包含发表时间在2000-2018年间的文章。收集有镁合金数据215组，所谓“组”是指包括材料的合金元素成分、处理工艺（包括处理温度、时间）、以及材料的屈服强度(Yield Strength)的一个数据集。本研究采集到的每组数据在成份、加工、热处理上都有着明确的差异。
在调查近十年关于镁合金的研究、收集了大量的铸造态镁合金的合金添加数据、热处理数据以及相应的合金屈服强度数据后，通过Microsoft Azure ML Studio机器学习实验室的算法，包括：线性回归、贝叶斯回归、神经网络回归、以及提升决策树算法回归分别建立了对应与数据集的训练模型。其中提升决策树算法模型的决定系数最高R2=0.8088，训练误差集中在0-35之间，是为相对适合该数据集的算法。针对该模型进行大量参数组合的覆盖式调参训练，共计9862次，最终得出最优的参数组合，在该参数下，模型的决定系数提高到R2=0.8930，提高决定系数的同时降低了模型的各项训练误差。在此基础上建立了预测模型以及用户交互界面，可以通过终端输入相关参数对未知镁合金的屈服强度进行初步的预测。最终对一则并未出现在数据集中的镁合金数据应用该预测模型，以预测其屈服强度并与实验数据进行了对比，预测结果较为接近且误差普遍在10以内。另外，受限与数据集的规模较小，该模型的泛化能力有限，未来在吸纳更多的镁合金相关数据后，可以对模型进行改进并得出更逼近实验值的预测数据。

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可，转载请附上原文出处链接和本声明。
本文链接地址：https://www.flyai.com/article/592

讨论

500字

表情

每日参与讨论奖励 20FAI

发送

每日参与讨论奖励 20FAI

删除确认

是否删除该条评论？

取消删除