尺度定律在2020年OpenAI的一篇论文中首次提出，其基本概念简单明了：在训练人工智能模型时，随着模型参数数量、训练数据量和计算量的增加，模型的性能会以可靠且可预测的方式提高（从技术上讲，其测试损失会减少）。