提示:
信息检索:文档评分-词项权重计算-向量空间模型
第二部分:词项频率
文章目录
- 词项频率
- 词袋模型
- 词项文档计数矩阵
- 词项频率tf
词项频率
回顾词项文档关联矩阵
词袋模型
不考虑词项在文档中出现的顺序。如“A is bigger than B”和“B is bigger than A”在词袋模型中是一样的。
显然,这相对于位置索引呢是一种退步。
词项文档计数矩阵
考虑的是词项在文档中出现的次数,区别词项文档关联矩阵(只显示词项在文档中是否存在)。
词项频率tf
词项t在文档d中出现的次数记作:tft,d
那么如何使用tf来计算评分呢?
采用原始的tf值
但是并不是很合适,如果词项A在文档1中出现10次,而在文档2中只出现一次,文档1比文档2更相关,但是相关度不可能是10倍关系。
相关性不随词项频率成比例增加。
采用tf对数表示
文档-词项的匹配得分是所有查询和文档中同时出现的词项对数词频之和