首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI+Drug 文献速递 | ADiT,一种统一的框架,创新地提出统一原子表示和基于Transformer的潜在扩散

AI+Drug 文献速递 | ADiT,一种统一的框架,创新地提出统一原子表示和基于Transformer的潜在扩散

作者头像
MindDance
发布2026-01-08 11:48:49
发布2026-01-08 11:48:49
3160
举报

1. MKFGO: Integrating Multi-Source Knowledge Fusion with Pre-Trained Language Model for High-Accuracy Protein Function Prediction

期刊: bioRxiv preprint 链接: https://doi.org/10.1101/2025.03.27.645685 代码: https://github.com/yiheng-zhu/MKFGO

简介: 该论文提出MKFGO这一复合深度学习方法,通过融合多源生物数据的五条互补管道预测蛋白质功能,其创新点在于整合多种数据及在决策层融合手工和预训练语言模型特征。研究构建基准数据集,采用五种不同驱动的管道构建模型,其中HFRGO利用手工特征和LSTM-注意力网络,PLMGO使用预训练蛋白质语言模型。在1522个非冗余蛋白质上的实验表明,MKFGO性能优于11种现有方法,且对新物种和非同源蛋白质具有良好的泛化性。该方法为蛋白质功能预测提供了更有效的途径。


2. All-atom Diffusion Transformers: Unified generative modelling of molecules and materials

期刊: arXiv 链接: https://arxiv.org/abs/2503.03965v1 代码: https://github.com/facebookresearch/all-atom-diffusion-transformer

简介: 论文介绍了All-atom Diffusion Transformer (ADiT),这是一种统一的潜在扩散框架,能联合生成周期性材料和非周期性分子系统,创新地提出统一原子表示和基于Transformer的潜在扩散。研究使用QM9和MP20数据集训练模型,先通过变分自编码器学习共享潜在空间,再用扩散Transformer生成新样本。实验结果显示,ADiT在生成晶体和分子时表现优异,超过了特定模型,且联合训练可提升性能,模型扩展性良好,在生成速度上也有显著优势。这一成果推动了生成化学领域基础模型的发展。


3. Improving Diseases Predictions Utilizing External Bio-Banks

期刊: arXiv 链接: https://arxiv.org/abs/2504.00036v1

简介: 本文利用外部生物样本库提升疾病预测能力,通过训练LightGBM模型进行代谢组学特征插补,并结合生存分析和全基因组关联研究挖掘生物医学信息。研究使用10K和UK Biobank (UKBB)数据集,先在10K数据上训练模型并应用于UKBB,再用CoxPH模型评估插补特征。结果表明,插补特征虽未显著提升疾病预测能力,但揭示了血管性痴呆与吸烟、肥胖与代谢物质的关联。该研究为利用外部生物样本库进行疾病研究提供了新方法和思路。


4. Do LLMs Surpass Encoders for Biomedical NER?

期刊: arXiv 链接: https://arxiv.org/abs/2504.00664v1 代码: https://github.com/bionlproc/LLMs-vs-Encoders-for-BioNER

简介: 该论文对比了大语言模型(LLMs)和编码器模型在生物医学命名实体识别(NER)任务中的表现,发现LLMs在处理长实体时更具优势,但存在推理时间长和硬件成本高的问题。研究选用5个生物医学数据集,涵盖不同比例的长实体,采用BIO实体标记方案,对3种编码器模型和2种LLMs进行实验。结果显示,除一个数据集外,所选LLMs(Mistral和Llama)在F分数上比最佳编码器模型(如BERT、BiomedBERT等)高出2-8% ,在处理长度≥3个词元的实体时优势更明显。不过,LLMs推理时间比编码器模型长一到两个数量级。因此,在性能差异小或需实时反馈的场景中,编码器模型更适用。


5. Lorentzian Graph Isomorphic Network

期刊: arXiv 链接: https://arxiv.org/abs/2504.00142v1 代码: https://github.com/Deceptrax123/LGIN

简介: 论文提出洛伦兹图同构网络(LGIN),这是一种新型图神经网络,在双曲空间中运行,利用洛伦兹模型增强图表示学习,能有效区分非同构图。研究使用9个基准数据集,包括分子和蛋白质结构相关数据,设置不同超参数训练模型。实验结果表明,LGIN在多个数据集上表现出色,在MUTAG、PTC等数据集上,LGIN的固定曲率和可变曲率版本分别取得最高准确率,在分子性质预测任务中也超越了部分基线模型。这表明LGIN在处理复杂图结构时具有较强的鲁棒性和有效性,为双曲图学习的发展提供了新方向。


6. WHY RISK MATTERS FOR PROTEIN BINDER DESIGN

期刊: Published at the GEM workshop, ICLR 2025 链接: https://arxiv.org/abs/2504.00146v1

简介: 文章强调风险分析在蛋白质结合剂设计的贝叶斯优化(BO)算法选择中的重要性,采用新指标量化风险等因素。研究在11个蛋白质结合剂适应性景观数据集上,模拟BO实验,测试72种模型组合。结果显示,在GB1景观数据集上能明显看出风险-性能模型偏好,不同优化目标会导致模型选择差异;但从整体来看,考虑风险进行模型排名是否能节省成本,在统计上并不显著。同时发现,景观的上位性与模型平均和最差情况的性能紧密相关,是优化风险、成本的重要预测指标。该研究为蛋白质结合剂优化的模型选择提供了重要参考。


7. Optimizing generative AI by backpropagating language model feedback

期刊: Nature 链接: https://doi.org/10.1038/s41586-025-08661-4 代码: https://github.com/zou-group/textgrad、 https://doi.org/10.5281/zenodo.14497017

简介: 文章提出TextGrad框架,通过反向传播大语言模型生成的反馈来优化生成式AI系统,突破了传统优化方法的局限。该框架将AI系统转化为计算图,利用语言模型提供文本反馈指导变量修改。研究使用多个数据集,在代码优化、科学问题解答、提示优化、放疗治疗计划优化及复合AI系统优化等任务上进行实验。结果显示,TextGrad在多个任务上表现出色,如在LeetCode Hard数据集上,其代码优化完成率达36%,超过基准模型。这表明TextGrad能有效优化生成式AI系统,提升其性能。


8. GLiNER-biomed: A Suite of Efficient Models for Open Biomedical Named Entity Recognition

期刊: arXiv 链接: https://arxiv.org/abs/2504.00676v1 代码: https://github.com/ds4dh/GLiNER-biomed

简介: 论文介绍了GLiNER-biomed,这是一套专为生物医学命名实体识别设计的模型,通过自然语言描述推断实体类型,实现零样本识别,解决传统模型的局限。研究先利用蒸馏方法生成合成数据,再训练单编码器和双编码器两种架构的模型。在八个生物医学数据集上的实验显示,GLiNER-biomed在零样本和少样本场景下均优于现有基线模型,如在大模型类别中,其F1得分比表现第二好的模型高5.96个百分点。消融实验表明合成数据预训练和通用领域数据微调相结合可提升模型性能。该模型为生物医学命名实体识别提供了更有效的解决方案。


9. Accelerating drug discovery with Artificial: a whole-lab orchestration and scheduling system for self-driving labs

期刊: arXiv 链接: https://arxiv.org/abs/2504.00986v1

简介: 本文介绍了Artificial,这是一个用于自动驾驶实验室的整体编排和调度系统,旨在解决药物发现中复杂工作流程协调、仪器与AI模型集成及数据管理等问题。该系统通过集成AI/ML模型(如NVIDIA BioNeMo),统一实验室操作、自动化工作流程并融入AI决策。在以SARS-CoV-2病毒主要蛋白酶为靶点的虚拟筛选案例中,系统结合BioNeMo的分子建模工具和自身的自动化编排与反馈系统,经过三次迭代达到设定标准,成功加速虚拟筛选和药物发现进程。这表明Artificial能有效提升实验室自动化水平,推动药物研发。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-04-03,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 MindDance 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1. MKFGO: Integrating Multi-Source Knowledge Fusion with Pre-Trained Language Model for High-Accuracy Protein Function Prediction
  • 2. All-atom Diffusion Transformers: Unified generative modelling of molecules and materials
  • 3. Improving Diseases Predictions Utilizing External Bio-Banks
  • 4. Do LLMs Surpass Encoders for Biomedical NER?
  • 5. Lorentzian Graph Isomorphic Network
  • 6. WHY RISK MATTERS FOR PROTEIN BINDER DESIGN
  • 7. Optimizing generative AI by backpropagating language model feedback
  • 8. GLiNER-biomed: A Suite of Efficient Models for Open Biomedical Named Entity Recognition
  • 9. Accelerating drug discovery with Artificial: a whole-lab orchestration and scheduling system for self-driving labs
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档