File size: 23,237 Bytes
d7290fe |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 |
<!DOCTYPE html>
<html lang="zh">
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1.0">
<title>Hugging Face 2025年2月热门论文</title>
<style>
body {
font-family: 'Inter', -apple-system, BlinkMacSystemFont, 'Segoe UI', Roboto, Oxygen, Ubuntu, Cantarell, 'Open Sans', 'Helvetica Neue', sans-serif;
background-color: #f5f8fa;
color: #1a1a1a;
line-height: 1.5;
padding: 20px;
max-width: 1200px;
margin: 0 auto;
}
h1 {
color: #333;
text-align: center;
font-size: 28px;
margin-bottom: 30px;
}
.cards-container {
display: grid;
grid-template-columns: repeat(auto-fill, minmax(350px, 1fr));
gap: 25px;
}
.card {
background: white;
border-radius: 12px;
overflow: hidden;
box-shadow: 0 4px 12px rgba(0, 0, 0, 0.08);
transition: transform 0.3s ease, box-shadow 0.3s ease;
}
.card:hover {
transform: translateY(-5px);
box-shadow: 0 10px 20px rgba(0, 0, 0, 0.12);
}
.card-header {
background-color: #FF9D00;
color: white;
padding: 12px 20px;
position: relative;
}
.card-vote {
position: absolute;
right: 15px;
top: 12px;
background: rgba(255, 255, 255, 0.25);
border-radius: 20px;
padding: 2px 10px;
font-size: 14px;
font-weight: bold;
}
.card-title {
font-size: 18px;
font-weight: 600;
margin: 0;
padding-right: 60px;
}
.card-body {
padding: 20px;
}
.card-image {
width: 100%;
height: 200px;
display: flex;
justify-content: center;
align-items: center;
overflow: hidden;
margin-bottom: 15px;
border-radius: 8px;
background-color: #f7f7f7;
}
.card-image img {
width: 100%;
height: 100%;
object-fit: cover;
}
.card-description {
font-size: 14px;
color: #444;
margin-bottom: 15px;
overflow: hidden;
display: -webkit-box;
-webkit-line-clamp: 6;
-webkit-box-orient: vertical;
height: 150px;
}
.card-link {
display: inline-block;
text-decoration: none;
background-color: #FF9D00;
color: white;
padding: 8px 16px;
border-radius: 6px;
font-weight: 500;
font-size: 14px;
transition: background-color 0.2s;
}
.card-link:hover {
background-color: #e58e00;
}
@media (max-width: 768px) {
.cards-container {
grid-template-columns: 1fr;
}
}
</style>
</head>
<body>
<div style="background-color: #f8f9fa; padding: 10px; border-radius: 6px; margin-bottom: 20px; text-align: center; color: #666;">
<p>⚠️ 注意:本页面内容由InternLM等LLM生成,内容可能有误,请以原始论文为准。</p>
</div>
<h1>🔥 Hugging Face 2025年2月热门论文 🚀</h1>
<div class="cards-container">
<!-- 论文卡片1 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">SmolLM2: 当小变大 - 小型语言模型的数据中心训练</h3>
<span class="card-vote">193票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/picgo/20250227080524.png" alt="SmolLM2论文图示">
</div>
<div class="card-description">
由Hugging Face团队提出的SmolLM2是一个具有先进性能的"小型"(1.7B参数)语言模型。为了获得强大的性能,研究者在约11万亿个token的数据上对SmolLM2进行了过度训练,采用多阶段训练过程,混合网络文本与专业数学、代码和指令遵循数据。
</div>
<a href="https://huggingface.co/papers/2502.02737" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片2 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">OmniHuman-1: 重新思考一阶段条件人类动画模型的规模扩大</h3>
<span class="card-vote">183票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.01061/images/3583e10fff609ad1dc5362b5789ed46e6277c44eb0fafcb8492786a6ffe4c6c4.jpg" alt="OmniHuman-1论文图示">
</div>
<div class="card-description">
由ByteDance提出的OmniHuman是一个基于Diffusion Transformer的框架,通过在训练阶段混合与动作相关的条件来扩展数据规模。支持各种人像内容(面部特写、肖像、半身、全身),支持对话和歌唱,处理人物与物体的交互和具有挑战性的身体姿势。
</div>
<a href="https://huggingface.co/papers/2502.01061" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片3 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">PhysiCo: LLM肩膀上的随机鹦鹉 - 物理概念理解的总结性评估</h3>
<span class="card-vote">181票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.08946/images/aec57b459804ceb552566142d7b684195508a8fa8e3af958b54f4a3d097c64f5.jpg" alt="PhysiCo论文图示">
</div>
<div class="card-description">
由WeChat AI、HKUST、JHU联合提出的PhysiCo是物理概念理解任务的总结性评估,使用网格格式输入抽象地描述物理现象。研究表明:包括GPT-4o、o1和Gemini 2.0在内的最先进LLM在理解能力上落后于人类约40%。
</div>
<a href="https://huggingface.co/papers/2502.08946" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片4 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">MLGym: 推进AI研究代理的新框架和基准</h3>
<span class="card-vote">161票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.14499/images/19208b638d7455ed955799717c2443e5aa7cc80e30f73323684b46115c6b934a.jpg" alt="MLGym论文图示">
</div>
<div class="card-description">
由Meta等机构提出的MLGym和MLGym-Bench是一个新的框架和基准,用于评估和开发用于AI研究任务的LLM代理。这是第一个用于机器学习(ML)任务的Gym环境,包含13个来自计算机视觉、自然语言处理、强化学习和博弈论等多样化领域的开放式AI研究任务。
</div>
<a href="https://huggingface.co/papers/2502.14499" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片5 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">Qwen2.5-VL技术报告</h3>
<span class="card-vote">143票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.13923/images/da9a2f9c22c71c3441338bc0e9f9907ae353b21ddc8d5563c431e4bea693879a.jpg" alt="Qwen2.5-VL论文图示">
</div>
<div class="card-description">
由Qwen团队提出的Qwen2.5-VL是Qwen视觉-语言系列的最新旗舰模型,展示了基础能力和创新功能的显著进步。突出特点是能够使用边界框或点准确定位物体,提供从文档中提取结构化数据的能力,以及对图表和布局的详细分析。
</div>
<a href="https://huggingface.co/papers/2502.13923" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片6 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">InfiniteHiP: 在单个GPU上将语言模型上下文扩展至300万令牌</h3>
<span class="card-vote">141票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.08910/images/c99cc39fdfc9cfdb68b43c5e8993e63ba650db8d0a43b133889f8805e429f585.jpg" alt="InfiniteHiP论文图示">
</div>
<div class="card-description">
研究者引入了InfiniteHiP,这是一个新颖且实用的LLM推理框架,通过模块化层次化token修剪算法动态消除不相关的上下文token来加速处理。此外,他们在推理期间将键值缓存卸载到主机内存,显著减少了GPU内存压力,使其能够在单个L40s 48GB GPU上处理多达300万个token。
</div>
<a href="https://huggingface.co/papers/2502.08910" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片7 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">1B LLM能否超越405B LLM? 重新思考计算最优化测试时间扩展</h3>
<span class="card-vote">137票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.06703/images/2a5900e913f0319598d70ed801e63f5fe8267c8300330e70d4dbb475a6a2b194.jpg" alt="计算最优化TTS论文图示">
</div>
<div class="card-description">
研究表明,通过使用计算最优TTS策略,极小的政策模型可以超越更大的模型,例如,1B LLM可以在MATH-500上超越405B LLM。此外,在MATH-500和AIME24上,0.5B LLM优于GPT-4o,3B LLM超过405B LLM,7B LLM击败o1和DeepSeek-R1,同时具有更高的推理效率。
</div>
<a href="https://huggingface.co/papers/2502.06703" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片8 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">LLM-Microscope: 揭示标点符号在Transformer上下文记忆中的隐藏作用</h3>
<span class="card-vote">135票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.15007/images/9eeadaf9829ae7ac4f8df5223c123326e33bb36f6183e8464643d797196b37cd.jpg" alt="LLM-Microscope论文图示">
</div>
<div class="card-description">
由AIRI、Skoltech等机构提出的方法用于量化大型语言模型(LLMs)如何编码和存储上下文信息,揭示了通常被视为次要的标记(如限定词、标点)携带的上下文信息惊人地多。移除这些标记会一致地降低模型在MMLU和BABILong-4k的性能。
</div>
<a href="https://huggingface.co/papers/2502.15007" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片9 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">NSA: 硬件对齐和原生可训练的稀疏注意力</h3>
<span class="card-vote">134票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.11089/images/6e9f6ef180c548c840789d3a79c06ee82c58140191532cbdd53ae52743352662.jpg" alt="NSA论文图示">
</div>
<div class="card-description">
由DeepSeek-AI和北京大学提出的NSA(Natively trainable Sparse Attention)是一种集算法创新和硬件对齐优化于一体的机制,用于实现高效的长上下文建模。NSA在64k长度序列上的解码、正向传播和反向传播阶段都比完全注意力取得了显著加速。
</div>
<a href="https://huggingface.co/papers/2502.11089" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片10 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">FailSafeQA: 为金融领域打造的期待意外情况的长上下文问答测试</h3>
<span class="card-vote">124票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.06329/images/bc9fed935f07e7289f351009c2968700d12ab7c40c8fec0c75a7e6d529196800.jpg" alt="FailSafeQA论文图示">
</div>
<div class="card-description">
由Writer, Inc团队提出了一个新的长上下文金融基准FailSafeQA,旨在测试LLM在金融领域基于LLM的查询-回答系统中面对六种人机界面交互变化时的稳健性和上下文感知能力。值得注意的是,被认为是最合规的模型在17%的测试案例中难以维持稳健预测。
</div>
<a href="https://huggingface.co/papers/2502.06329" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片11 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">通过潜在推理扩展测试时间计算:递归深度方法</h3>
<span class="card-vote">117票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.05171/images/910fdab6af5b7b00f518cbc5e8df986b13da7716ffbb984990a8fc5f93e4d030.jpg" alt="潜在推理论文图示">
</div>
<div class="card-description">
研究者研究了一种新颖的语言模型架构,能够通过在潜在空间中隐式推理来扩展测试时间计算。该模型通过迭代递归块工作,从而在测试时展开到任意深度。研究者证明了所得模型可以改进其在推理基准上的性能,达到相当于500亿参数的计算负载。
</div>
<a href="https://huggingface.co/papers/2502.05171" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片12 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">SigLIP 2: 具有改进语义理解、定位和密集特征的多语言视觉语言编码器</h3>
<span class="card-vote">115票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.14786/images/c9ca17f56904f05d4df0bc520bc9325fda024cb6b1faebb5338294b286d6ca5e.jpg" alt="SigLIP 2论文图示">
</div>
<div class="card-description">
由Google DeepMind提出的SigLIP 2是一个新的多语言视觉语言编码器系列。通过扩展原始图像-文本训练目标与多种技术,SigLIP 2模型在所有模型规模上的核心能力超过了其前作,包括零样本分类、图像-文本检索,以及为VLM提取视觉表示的迁移性能。
</div>
<a href="https://huggingface.co/papers/2502.14786" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片13 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">直接对齐算法之间的差异是模糊的</h3>
<span class="card-vote">111票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.01237/images/699615725d3173dc4fe5f37afd3f643cbd417310701e31b3198686b3daf8fecf.jpg" alt="直接对齐算法论文图示">
</div>
<div class="card-description">
研究首先表明直接对齐算法(DAA)中的单阶段方法表现不如两阶段方法。为解决这个问题,研究者将显式SFT阶段引入单阶段ORPO和ASFT中,并引入了β参数来控制偏好优化的强度。分析表明,关键因素是方法是使用成对还是逐点目标,而不是特定的隐式奖励或损失函数。
</div>
<a href="https://huggingface.co/papers/2502.01237" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片14 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">s1: 简单的测试时间扩展</h3>
<span class="card-vote">106票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2501.19393/images/2efe8daf66e63bf26718c1bc5bbf12ca79b080ce93679598d808fbad2ab7cf79.jpg" alt="s1论文图示">
</div>
<div class="card-description">
研究者寻求实现测试时间扩展和强大推理性能的最简单方法。他们精心策划了一个名为s1K的小型数据集,包含1,000个配对问题和推理痕迹。使用预算强制来控制测试时间计算,使模型能够复查其答案,经常修复不正确的推理步骤。他们的模型s1在竞赛数学问题上超过了o1-preview高达27%。
</div>
<a href="https://huggingface.co/papers/2501.19393" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片15 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">SuperGPQA: 跨285个研究生学科扩展LLM评估</h3>
<span class="card-vote">91票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.14739/images/e86591de8d5c85fde8432fc47be52d2e35885764194b7a44f468599823b57cef.jpg" alt="SuperGPQA论文图示">
</div>
<div class="card-description">
由ByteDance提出的SuperGPQA是一个全面的基准,评估LLM在285个研究生水平学科中的知识和推理能力。该基准采用了人类-LLM协作过滤机制,通过基于LLM响应和专家反馈的迭代细化,消除琐碎或模糊的问题。注重推理的模型DeepSeek-R1在SuperGPQA上达到了61.82%的最高准确率。
</div>
<a href="https://huggingface.co/papers/2502.14739" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片16 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">Goku: 基于流的视频生成基础模型</h3>
<span class="card-vote">88票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.04896/images/7b9d82d237981450faae03a773d1634a11a6779aaa14147ac75f6f7fa17c4d8c.jpg" alt="Goku论文图示">
</div>
<div class="card-description">
由香港大学和ByteDance提出的Goku是一个最先进的联合图像和视频生成模型系列,利用矫正流Transformer实现行业领先的性能。Goku在定性和定量评估中表现出卓越的性能,在文本到图像生成方面在GenEval上达到0.76,在DPG-Bench上达到83.65,在文本到视频任务的VBench上达到84.85。
</div>
<a href="https://huggingface.co/papers/2502.04896" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片17 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">SynthDetoxM: 现代LLM是少样本平行解毒数据标注器</h3>
<span class="card-vote">85票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.06394/images/699615725d3173dc4fe5f37afd3f643cbd417310701e31b3198686b3daf8fecf.jpg" alt="SynthDetoxM论文图示">
</div>
<div class="card-description">
由AIRI、Skoltech等机构提出的SynthDetoxM是一个手动收集和合成生成的多语言平行文本解毒数据集,包括德语、法语、西班牙语和俄语的16,000对高质量解毒句对。实验表明,在生成的合成数据集上训练的模型比在人类标注的MultiParaDetox数据集上训练的模型表现更好。
</div>
<a href="https://huggingface.co/papers/2502.06394" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片18 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">SurveyX: 通过大型语言模型实现学术调查自动化</h3>
<span class="card-vote">83票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.14776/images/b0b6ad3bac2e0254a89fcb257e9f480c61e7086480bd7f3d14850cdd2df9c6df.jpg" alt="SurveyX论文图示">
</div>
<div class="card-description">
由中国人民大学等机构提出的SurveyX是一个高效且有组织的自动调查生成系统,将调查撰写过程分解为准备阶段和生成阶段。通过创新地引入在线参考检索、AttributeTree预处理方法和重新润色过程,SurveyX在内容质量和引用质量方面显著优于现有系统。
</div>
<a href="https://huggingface.co/papers/2502.14776" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片19 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">大型语言扩散模型</h3>
<span class="card-vote">80票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.09992/images/6bee8d45604746c71819666e5d36ab7f32d63a9b199ba52bd33968dad96e5d61.jpg" alt="语言扩散模型论文图示">
</div>
<div class="card-description">
研究者通过引入LLaDA挑战了自回归模型(ARMs)是LLM基石的观念。LLaDA是一个从头训练的扩散模型,采用前向数据掩码过程和由vanilla Transformer参数化的反向过程来建模分布。LLaDA 8B在上下文学习方面与LLaMA3 8B等强大的LLM相比具有竞争力,并解决了逆转诅咒问题。
</div>
<a href="https://huggingface.co/papers/2502.09992" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
<!-- 论文卡片20 -->
<div class="card">
<div class="card-header">
<h3 class="card-title">Soundwave: 在LLM中语音-文本对齐的少即是多</h3>
<span class="card-vote">76票</span>
</div>
<div class="card-body">
<div class="card-image">
<img src="https://cdn.vansin.top/papers/2502.12900/images/4ef92e8f784c18e74185aceb46b40bd200ccd64eb31785a154b88dde5dc2bc2a.jpg" alt="Soundwave论文图示">
</div>
<div class="card-description">
由香港中文大学(深圳)提出的Soundwave关注语音和文本之间的两个基本问题:表示空间差距和序列长度不一致。Soundwave利用一种高效的训练策略和新颖的架构来解决这些问题。结果表明,Soundwave在语音翻译和AIR-Bench语音任务上的表现优于先进的Qwen2-Audio,仅使用了五十分之一的训练数据。
</div>
<a href="https://huggingface.co/papers/2502.12900" class="card-link" target="_blank">阅读论文</a>
</div>
</div>
</div>
</body>
</html> |