什么没多少人这么做？

伊芙·卡莉觉得主要原因是：

大部分人并不善于找到知识的共性。

在不善于找到知识共性的情况下，一部分人虽然会尝试着找知识共性。

但实际上操作的时候找到80%知识的共性完全是奢望。

可能只能找到30%、20%甚至更少知识的共性。

如此一来这些人非但没有能够找到主体知识的共性。

反而在找共性的时候不知不觉将其余一些原本是普通的内容给异化成了这些人眼中的“非共性知识”。

而非共性知识在这些人心中又被这些尝试找共性的人心理暗示成了比较麻烦的知识。

这些原本并不是特别难的知识，在心理暗示的debuff下。

效率甚至比不找共性时的效率还要低。

如此，未找到共性的人反而有可能成为这些尝试寻找共性的人的所需要耗费大量时间去攻克的内容。

第251章 意义空前的贡献

第251章意义空前的贡献

这种情况下，找知识的共性非但没对他们造成帮助。

反而成为了他们学习时候的拖累。

就很苦逼了。

与其出现这种情况，这些人干脆放弃了找知识的共性。

直接一视同仁，至少不会聪明反被聪明误。

类似于学习上这些人面对的窘境。

或许机器学习方面的学者也是因为同样的境遇才放弃了对训练数据共性的寻找。

至少在伊芙·卡莉这是因为这个原因。

纵然是现在知道了林灰在模型训练中引入了预训练方式。

伊芙·卡莉现在也不知道林灰究竟是如何做的。

按照林灰在论文中补充内容进行的阐述。

传统的训练机制下，文本摘要模型的产生思路是：

语料训练→模型

而按照林灰的思路引入预训练机制后。

文本摘要模型的产生思路是：

语料预训练→预训练模型→微调→模型

这个思路的本身是没问题的。

但伊芙·卡莉面对着这个全新的模型产生思路却满脑子全是问题。

具体应用的时候究竟引入何种的预训练方式才能够起到事半功倍的训练效率？

什么样的预训练模型才是预训练的目标？

对于预训练模型的“微调”究竟应该如何理解呢？

前两个问题是就林灰鼓捣的理论而产生的疑问。

第三个问题是因为语言方面的阐述而产生的一些疑问。

尽管伊芙·卡莉最近在向米娜·卡莉努力地学习汉语了。

但汉语显然并不是短时期内能够速成的。

对于预训练模型林灰所谓的“微调”的“微”究竟应该如何理解呢？

只是一点点小小的调整么？

还是说所谓的“微”只是因为林灰本人对这一事情难度的蔑视。

伊芙·卡莉觉得应该是后者。

不太可能是微小的调整。

为什么伊芙·卡莉这样想呢？

伊芙·卡莉觉得涉及到文本摘要方面的模型往往都是极其复杂的。

一个正式模型所涉及到的参数都是极其繁多的。

更何况是预训练产生的预训练模型呢？

这种先于正式模型产生的粗模型可能参数要更加复杂。

当然，这只是伊芙·卡莉的一点猜测。