https://terms-en.ai-term-hub.com/zh/tags/phenomena/Recent content in Phenomena on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:45 +0000https://terms-en.ai-term-hub.com/zh/terms/grokking/Sat, 18 Jul 2026 11:20:24 +0000https://terms-en.ai-term-hub.com/zh/terms/grokking/<h2 id="definition">Definition</h2> <p>顿悟学习（Grokking）是指深度学习中观察到的一种反直觉行为：模型在训练数据上长时间过拟合，表现出较差的泛化能力，但在经过漫长的训练周期后，突然在测试集上实现近乎完美的泛化。这种现象表明，优化过程可能存在两个截然不同的阶段：首先是记忆训练样本，随后是理解数据背后的潜在规律。顿悟学习对于理解神经网络的泛化界限、训练动力学以及记忆与学习之间的关系具有重要意义，尤其是在小数据集场景下。</p> <h3 id="summary">Summary</h3> <p>一种现象，指神经网络在小数据集上经过长时间训练后，突然展现出良好的泛化能力，远超记忆训练数据的阶段。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>延迟泛化</li> <li>过拟合</li> <li>小数据集</li> <li>优化动力学</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>研究模型泛化能力的极限</li> <li>分析训练动力学</li> <li>理解记忆与学习的区别</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/overfitting-%E8%BF%87%E6%8B%9F%E5%90%88/">overfitting (过拟合)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/generalization-%E6%B3%9B%E5%8C%96/">generalization (泛化)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/deep_learning_theory-%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E7%90%86%E8%AE%BA/">deep_learning_theory (深度学习理论)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/training_dynamics-%E8%AE%AD%E7%BB%83%E5%8A%A8%E5%8A%9B%E5%AD%A6/">training_dynamics (训练动力学)</a></li> </ul>