词汇A和B的语义相似性：依赖于语料库中A和B的出现频率？

Question

背景：

给定一个语料库，我想用word2wec（Gensim）的实现来训练它。你知道吗

想了解两个标记之间的最终相似性是否取决于语料库中A和B的频率（所有上下文都保留了），或者它的不可知性。你知道吗

示例： （可能不理想，但用它来阐述问题陈述）

假设单词“A”在语料库中的3个不同上下文中使用：

Context 1 : 1000 times
Context 2 : 50000 times
Context 3 : 50000 times

“B”用于两种不同的上下文：

Context 1 : 300 times 
Context 5 : 1000 time

问题：

如果我改变语料库中“A”的频率（确保没有上下文丢失，即“A”在所有上下文中仍像在原始语料库中一样至少被使用一次），那么snd和B之间的相似性会是相同的吗？你知道吗

“A”在上下文中的新分布

 Context 1 : 5 times
 Context 2 : 10 times
 Context 3 : 5000 times

有什么线索吗

Answer 1

我的感觉是（#翻译成直觉，而不是数学）：

相似度将根据这两个词彼此接近或在同一上下文中使用的频率来计算。你知道吗

如果你从那里出发：

如果这两个词事实上是相似的，那么使用频率越高=>；您拥有的训练数据越多=>；模型越好=>；它们就越接近。你知道吗

如果使用这两个词时有更多的上下文，那么它们的关系就会更密切。你知道吗

然而，如果它们在语料库中出现的频率较低，而在一起出现的频率较高，它们之间的关系也会更紧密。你知道吗

所以它更像是一个（frequency\u same\u context）/（frequency\u overall）。 如果你不改变，我想你应该没事吧？你知道吗