首页 > 试题广场 >

在大语言模型中,什么是"Sparse Fine-tuning

[单选题]
在大语言模型中,什么是"Sparse Fine-tuning"?
  • 在微调过程中只更新模型中的稀疏参数
  • 使用稀疏数据集进行微调
  • 一种产生稀疏激活的微调技术
  • 通过正则化使微调后的模型参数变得稀疏
"Sparse Fine-tuning" 是一种高效的微调方法,旨在通过仅更新模型中的一小部分(稀疏)参数来减少计算和存储开销。相比于传统的全量微调(Full Fine-tuning),这种方法能够显著降低资源需求,同时仍然保持较好的性能。
发表于 2025-04-11 18:08:20 回复(0)