北京科技大学唐晓龙团队&英国伯明翰大学丨ACS Appl. Mater. Interfaces，机器学习赋能NH3-SCR脱硝催化剂研发丨ChemRxiv，GPT大语言模型助力脱硝催化剂性能预测。
机器学习赋能NH3-SCR脱硝酸催化剂研发
第一作者：路穆雨，高凤雨
通讯作者：唐晓龙，陈林江
通讯单位：北京科技大学，英国伯明翰大学
DOI：https://doi.org/10.1021/acsami.3c18490
研究背景
大气污染，特别是酸雨、烟雾和霾的形成很大程度由氮氧化物（NOx）排放造成，这对公共和环境健康构成了重大威胁。选择性催化还原（NH3-SCR）运用NH3作为还原剂将NH3转化为N2是一种从源头解决排放的应用技术。金属混合氧化物催化剂特别是基于钒（V）、钨（W）和钛（Ti）的催化剂在NH3-SCR的应用已经成熟，主要是在煤电厂为代表的300-450℃的温度范围内。然而，随着环境标准的严格，新型NH3-SCR催化剂的研究迫在眉睫，主要目标包括在更低温度下提高活性（非电气行业排放的冷却废气在300℃以下）、增强对H2O和SO2等毒物的抵抗力，以及在各种严酷工况下的稳定性。
稀土元素铈（Ce）展现了作为NH3-SCR催化剂的重要潜力，主要取决于其杰出的氧存储能力和强大的氧化还原特性。在二元混合金属氧化物体系的Ce基催化剂上的研究证明其在对抗由SO2和H2O引起的中毒方面，保持在低至中等温度范围内的NH3-SCR活性存在有限性。三元混合金属氧化物复合体展现出的增强低温下的电荷转移、酸性和氧化还原反应以及更好的抗性和稳定性的协同作用提升了NH3-SCR催化剂的性能。然而，在开发Ce基三元催化剂的过程中需要在广泛的组合空间中寻找解决方案，而实验资源有限，这成为进展的一个挑战。此外，汇集和理解零散发表在科学文献中的大量数据对研究者来说是巨大的挑战，如果能将这些数据格式化为机器可解读的形式，机器学习技术可以揭示其中不明显的模式和复杂的关系，从而显著加快新型高活性和稳定催化剂的开发。
在本研究中，我们首先通过文献综述系统地分析了当前关于二元和三元铈基复合氧化物的研究动态。在此基础上，我们建立了一个全面的Ce基金属复合氧化物的NH3-SCR实验数据库，其中详细记录了5,654种不同催化体系，涵盖了它们的合成条件和催化活性数据。利用这些收集的数据，研究团队进而训练了具有解释能力的机器学习模型以预测催化剂性能。通过比较不同模型，我们最终采用了集成了极限梯度提升（Xgboost）模型和SHapley Additive exPlanations（SHAP）的复合模型。模型的虚拟筛选评估了多个催化剂在包括温度以及H2O和SO2存在条件下的表现。这一计算分析为实验步骤提供了指导，促进了CeO2–MoO3–Fe2O3这一鲜为研究的催化剂的开发和优化。后续的深入性能测试和特性分析确证了该催化剂在NH3-SCR应用中的高效能。这种以数据驱动和实验验证为方向的研究方法，为催化剂的发现和开发提供了新的思路和方向。
文本要点
//要点1
数据库建立和开发：研究者通过数据分析对相关领域进行了综述性挖掘，并将发现整合到引言中，为进一步研究奠定基础。然后，研究团队构建了一个包含实验组成、制备和反应条件详细信息的大规模Ce基数据集，对其他研究者的工作具有辅助和参考价值。
//要点2
模型选择与训练：利用多元机器学习模型进行对比和筛选，最终精准地采用Xgboost（XGB）模型，展现了在众多备选模型中选取最优的策略，然后和SHapley Additive exPlanations（SHAP）组合解释NH3-SCR催化反应中各个特征的作用。
//要点3
催化剂发现与优化：精准预测引领了对鲜为研究的CeO2-Fe2O3-MoO3催化剂的探索，通过性能测试和表征实验说明了其高效的性能和微观结构，展现了以数据为基础的预测方法在发现优异催化剂组合的潜力。
本文内容
Step 1: 数据库建立和特征工程（Cater for the objective and machine readability）
Fig. 1: Database construction and feature engineering. Pipeline showing data extraction from the literature, data cleansing and preparation, and feature engineering.
我们之前的研究表明含CeO2的金属氧化物复合材料在低温催化和抵御H2O和SO2方面表现卓越。所以我们调研了668篇有关Ce基SCR催化剂文献，选取了126篇与我们研究相关的高质量论文并建立了数据库。数据库中包含了催化剂的合成、反应条件和NOx转化率的详细信息。研究了气体气氛中的成分对催化性能的影响及其稳定性，并发现低温和共抗性催化剂较少。对文献中的数据进行了整理分析，没有发现实验参数之间的显著线性关系。创建了一个含有5654个催化体系的数据库，对其进行特征处理构建了特征和活性矩阵。数据填补采用多变量输入方法，而一些分类特征经过一次性编码并整合到特征矩阵中。
Step 2: 模型训练和选择（For the best of the best）
Fig. 2: Selection of ML models. (a) A radar plot showing the comparison of prediction errors for the training and test datasets across different ML models. (b) Comparison of predicted and actual (experimentally measured) NOx conversion for a top-performing XGB model with train:test=80:20. (c) Learning curves for KNN, GB and XGB models, charting various train-to-test split ratios, ranging from 10% to 90% training data, with increments of 10%.
Fig. S7. Comparison of predicted and actual (experimental) NOx conversion for a range of ML models.
采用监督学习方法预测NOx转化率，并测试了多种机器学习模型。GB和XGB模型表现最佳，XGB略优，具有0.99的R2和9.26%的均方根误差。通过学习曲线比较，这些模型优于KNN，尤其在大训练集的训练中速度更快，误差下降速度更快。这表明催化性能预测的复杂，更先进的模型能捕捉其复杂的催化反应关系。
Step 3: 解释模型（Get the insight for each feature）
Fig. 3: XGB model explanations for the prediction of the experimentally measured NOx conversion. (a,c,e) Bar plots of feature importance, showing the average absolute SHAP values of each input feature across all instances in the dataset. (b,d,f) Beeswarm plots of feature importance, showing the distribution of SHAP values for each input feature across all instances in the dataset. All the SHAP values were computed for the same XGB models that used all of these input features collectively; the results are presented in categorized groups for better visualization.
我们利用SHAP框架对最佳XGB模型进行解释分析，以预测NOx转换率的影响特征。对我们所有5654个催化系统的数据计算SHAP值，分析了制备条件、催化反应条件和组成特征的相对重要性。结果显示反应条件的影响尤为显著，反应温度是最关键的特征，与较高NOx转换率呈正相关，而高锰含量在催化剂组成中显得尤为重要。不过，没有显现出任何特定元素含量与高催化活性的强关联。部分依赖分析揭示了特定的干燥和煅烧温度对提高催化效率的潜在重要性。这些见解帮助理解催化剂性能背后的复杂机理，同时也为催化剂的优化合成和使用提供建议。
Step 4: 精准虚拟筛选三元混合氧化物（Shoot the optimal）
Fig. 4: Virtual screening of catalytic systems by trained ML models. (a) ML input features; specific values indicate the f eatures that were kept constant, while the variable features are marked by xi and their corresponding value ranges. (b,c): Violin plots of NOx conversion for ten ternary combinations of metal oxides, with dashed vertical lines demarcating the different ternary composites. For each ternary combination, two violin plots are shown: before (left) and after (right) the introduction of H2O and SO2. Each violin represents the distribution of 40,000 different compositions of the ternary combination. In cases where H2O and SO2 were introduced, their volume concentrations were set at 5% and 0.05%, respectively. Reaction time was 5h for all cases. (d,e) Activity maps showing NOx conversion for diverse compositions of CeO2–MoO3–Fe2O3, in the absence (d) and presence (e) of H2O and SO2.
通过构建含有5654个催化体系的数据库，我们建立了一个可预测和可解释的XGB模型，有效地为NH3-SCR中的金属氧化物三元复合材料进行虚拟筛选。专注于三元合金，我们排除了Ti和W基氧化物，选定了包括MnO2、MoO3、Nb2O5、SnO2和Fe2O3的五种金属氧化物。虚拟筛选包括催化反应条件，而制备条件由于对模型预测影响较小，保持不变。结果显示，反应温度对活性影响显著，CeO2配合Fe2O3和MoO3的组合在各种温度和有毒气体条件下均表现出较高的催化活性和稳定性。我们还产生了CeO2-Fe2O3-MoO3的三元活性图，识别了该组合下的最优成分比例。通过引入改进的转化损失L'，我们鉴定出CeO2、MoO3和Fe2O3以43%、39%和18%质量比混合的特定组合展现了最优的稳定性和对H2O和SO2的抗性。
Step 5: 精准实验一种CeO2–MoO3–Fe2O3混合氧化物（Verify and explore the fruits）
Fig. 5: NOx conversion, selectivity, and resistance of the synthesized CeO2–MoO3–Fe2O3 catalyst. (a) Comparison of the herein synthesized catalyst’s NOx conversion performance with the catalyst of Zhu et al. composed of the same three metal oxides, alongside ML predictions for the herein synthesized catalyst. (b) Time-course results for NOx conversion (left axis) and N2 selectivity (right axis) following the introduction of H2O (0–180 minutes) and subsequently H2O and SO2 (180–500 minutes); the supply of H2O and SO2 to the reactant gas mixture was turned off post-500 minutes. (c) Retesting of a pre-poisoned, by H2O and SO2, sample of the herein synthesized catalyst under the same catalytic reaction conditions as for a fresh sample. (d) Comparison of predicted and experimentally observed NOx conversion for diverse H2O and SO2 resistance scenarios.
我们的研究通过虚拟筛选识别出CeO2-MoO3-Fe2O3为最佳催化剂组合，表现超过其他含CeO2组合体系。确定的最佳比例为43% CeO2, 39% MoO3, 18% Fe2O3，显示出优异的催化性能。实验观察表明，与现有研究相比，我们的方法通过更均匀的氧化物分布增强了NOx转化效率。催化剂在225°C转化率达到95%，在320°C保持稳定。实验亦显示我们的催化剂抗H2O和SO2中毒能力强，且机器学习模型准确预测了NOx转化率在不同条件下的性能。
Fig. 6: Comprehensive characterization of the synthesized CeO2–MoO3–Fe2O3 catalyst. (a) SEM images revealing the catalyst's morphology and SEM-EDS elemental mapping identifying the distribution of Ce, Fe, and Mo. (b) XRD analysis depicting the crystalline phases and structural features. (c) FTIR spectra showcasing the chemical functionalities and vibrational modes. (d) NH3-TPD profiles highlighting the presence and strength of acid sites. (e) H2-TPR traces indicating the reducibility and redox properties. (f) In situ DRIFTS spectra illustrating the evolution of NH3 adsorption (500ppm) at 250 °C for 32 mins. B denotes as Brønsted acid sites while L as Lewis acid sites. (g) The in-situ DRIFT is further employed to elucidate the interaction of pre-adsorbed NH3 with NO (500ppm) and O2 (5 vol%) at 250 °C for 32 mins, providing insights into the catalytic mechanism.
我们综合分析了合成CeO2-MoO3-Fe2O3催化剂的结构和化学特性。BET和SEM研究显示我们的催化剂具有高BET表面积和独特的棒状CeO2结构，富集了Ce、Fe和Mo，有利于形成固溶相和多种活性位点。EDS和XRD进一步证实了元素的均匀分布和多维晶体生长，FTIR显示了表面羟基和金属-氧键的存在。H2-TPR分析表明我们的催化剂具有更好的还原能力，NH3-TPD揭示了丰富的弱酸位点有助于氨的吸附。原位DRIFTS实验结果表明，这些催化剂在NH3-SCR反应中遵循Eley-Rideal机制，强酸位点促进了NH3的保留。此研究结果揭示了CeO2-MoO3-Fe2O3在低反应温度和有毒气体存在下的良好性能的物理化学基础。
GPT大语言模型预测脱硝催化剂性能
文章概述
本文讨论了大型语言模型（LLM），如GPT-4，在化学研究领域的潜在革命性应用。文中提出了一个问题：LLMs可以如何增强和推动化学领域的进步。研究探索了LLMs在解释和预测基于实验变量的结果方面的潜力，尤其是在处理关于金属氧化物和NH3选择性催化还原NOx反应的复合材料的问题。
研究使用了“思维链”（Chain of Thought, CoT）概念来创建推理路径，这些路径类似于人类解决问题时发现数据间连接的方式。推理路径的结果被用来提升GPT-4推断的深度和准确性，形成一种反馈循环。
作者提出了一种特殊的CoT提示策略称为“有序和结构化的思维链”（OSCoT），系统地逐一检查问题的每个特征或方面。这与将所有信息同时处理的“一锅”（OPCoT）方法形成对比。OSCoT策略显著提高了GPT-4在处理每个问题方面时产出的推理质量和精确度。研究表明，通过OSCoT驱动的GPT-4能够准确预测双元和三元金属氧化物复合材料的催化性能。
总的来说，这项工作表明LLMs（特别是GPT-4），通过采用有序化、结构化的思维链策略，可以显著提升化学领域数据分析的质量和预测实验结果的准确性，代表着化学研究领域中AI融合的一个令人兴奋的未来方向。
欢迎引用：
1. Lu, M.; Gao, F.; Tan, Y.; Yi, H.; Gui, Y.; Xu, Y.; Wang, Y.; Zhou, Y.; Tang, X.; Chen, L. Knowledge-driven Experimental Discovery of Ce-based Metal-oxide Composites for Selective Catalytic Reduction of NOx with NH3 through Interpretable Machine Learning. ACS Appl. Mater. Interfaces. 2023, DOI: https://doi.org/10.1021/acsami.3c18490.
2. Lu, M.; Gao, F.; Tang, X.; Chen, L. GPT-4-powered analysis and prediction of experiments through an effective chain-of-thought prompting strategy: a case study of selective catalytic reduction of NOx with NH3 by metal-oxide composites. ChemRxiv. 2023; DOI: https://doi.org/10.26434/chemrxiv-2023-gxmxr.
来源：科转院
转自：“北科科研”微信公众号
如有侵权，请联系本站删除！
