浸大创新 TRAFICA 模型 革新转录因子结合分析

转录因子是基因调控的核心，负责通过结合特定的 DNA 序列来主导各种生物过程。虽然计算预测工具长期以来致力於解析这些相互作用的图谱，但现有模型主要依赖体外结合数据，往往忽略了体内环境的一项根本约束：转录因子通常只能结合开放染色质区域内的序列。

由副校长（研究及拓展）兼研究院院长吕爱平教授，以及计算机科学系副教授张璐教授带领的跨学科研究团队，推出了一款专为克服此限制而设计的开放染色质语言模型。该模型名为「TRAFICA」，通过将开放染色质区域的序列特徵与高通量体外结合数据相结合，在预测转录因子与 DNA 结合亲和力方面，实现了领先的预测性能。

染色质可及性的生物学实态

在活细胞中，核小体的物理定位限制了基因组的可及性，这意味著转录因子只能与结构上具可及性的 DNA 相互作用。因此，体内结合亲和力是一个极为复杂的机制，受到协同结合动力学（cooperative binding dynamics）及内在序列偏好的共同影响。传统的机器学习和深度学习工具，包括 DeepBind 和 DNAshapeR，通常只评估核苷酸序列本身，不会考量将这些序列是否处於可及区域。

本研究提出的 TRAFICA 架构通过全面的预训练阶段直接解决了这一盲区。研究人员采用由逾 280 万条可及基因组序列组成的庞大数据集来训练该模型，这些数据源自涵盖 115 种独特人类细胞株的 197 项 ATAC-seq 实验。通过遮罩语言模型训练，系统成功掌握了自然的体内结合规律。对该数据集的验证显示，其中93.23% 的序列与已知的增强子重合，37.64% 与启动子重合，证实了它们至关重要的基因调控功能。

双阶段训练架构

这款预测工具的核心是采用旋转位置嵌入（Rotary Position Embedding, RoPE）进行优化的 Transformer 编码器（Transformer-encoder）结构，使其能够处理不同长度的序列。在完成开放染色质数据的预训练后，模型会进入高度针对性的微调阶段。在此阶段，研究人员采用了「低秩适应」（Low-Rank Adaptation, LoRA）技术，仅更新多头自注意力（multi-head self-attention）模组中特定的投影层。这种冻结部分参数的策略，能确保模型在学习特定转录因子的内在结合偏好时，仍完整保留预训练中获得的开放染色质底层特徵。微调过程则采用了来自蛋白质结合微阵列（Protein Binding Microarrays, PBM）及指数富集配体系统进化技术（HT-SELEX）实验的大型数据集。

预测优势与基准评估

系统性的基准测试表明，引入染色质可及性特徵能显著提高预测的准确度。当使用 DREAM5 挑战赛数据集进行评估时，TRAFICA 的表现一致优於现有的分析工具以及 DNABERT2 等先进的 DNA 语言模型。具体而言，采用 5-mer 序列标记化（sequence tokenisation）的 TRAFICA 版本展现出极强的稳健性，平均皮尔森相关系数达到 0.647，显著超越其他竞争方法。

研究团队进行的消融实验进一步证实了该方法的有效性。结果显示，若不进行初始的 ATAC-seq 预训练而直接从头训练模型，其预测能力会出现大幅下降。这证实了将自然染色质状态作为先验知识引入模型是不可或缺的。此外，在涵盖 18 种不同细胞系中 141 个转录因子的体内 ChIP-seq 数据集上进行测试时，TRAFICA 依然保持其技术优势，超越了仅在整个人类参考基因组上进行预训练的模型。

生物学关联与未来应用潜力

除了出色的性能指标外，注意力权重（attention-score）分析亦表明，TRAFICA 确实捕捉到了具备生物学意义的结合模式。直接从模型的自注意力机制中提取的序列基序，与权威数据库 JASPAR 中记录并经实验证实的基序高度吻合。详细分析还发现，网络中各个独立的注意力头（attention heads）能够成功识别不同的序列特徵，范围涵盖特定基序片段以至更广泛的核苷酸组成。

TRAFICA 采用相对精简的架构，有约 2,600 万个参数，与其他超大型模型相比，所需的运算资源大幅减少。虽然在面对含有大量噪声的极大型微调数据集时，其泛化能力（generalisability）可能会有所下降，但本研究构建的框架已为未来的计算生物学奠定了强大的基础。团队下一步将致力於把该模型与单细胞多组学相结合，以预测具备高度细胞类型特异性（cell-type-dependent）的转录结合亲和力。
 

论文发表於《Bioinformatics》：https://academic.oup.com/bioinformatics/article/41/11/btaf469/8240329

吕爱平教授

中医药学院

张璐教授

科学与科技学院