From 54d833dd4c54ad98b3ca9a6b30a987e7cd936493 Mon Sep 17 00:00:00 2001 From: hello19883 Date: Wed, 29 Mar 2017 22:38:34 +0800 Subject: [PATCH 1/2] =?UTF-8?q?=E6=B7=BB=E5=8A=A0=E5=AE=9E=E7=8E=B0?= =?UTF-8?q?=E5=9B=BE=E5=83=8F=E5=8E=8B=E7=BC=A9=E4=BB=A3=E7=A0=81?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- src/python/14.SVD/svdRec.py | 122 +++++++++++++++++++++++++++++++----- 1 file changed, 105 insertions(+), 17 deletions(-) diff --git a/src/python/14.SVD/svdRec.py b/src/python/14.SVD/svdRec.py index 1cb6b482..5544a726 100644 --- a/src/python/14.SVD/svdRec.py +++ b/src/python/14.SVD/svdRec.py @@ -1,11 +1,13 @@ #!/usr/bin/python +# -*- coding: utf-8 -*- # encoding: utf-8 -from numpy import * from numpy import linalg as la +from numpy import * def loadExData(): + """ # 利用SVD提高推荐效果，菜肴矩阵 return[[2, 0, 0, 4, 4, 0, 0, 0, 0, 0, 0], [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 5], @@ -18,7 +20,7 @@ def loadExData(): [0, 0, 0, 0, 0, 0, 5, 0, 0, 5, 0], [0, 0, 0, 3, 0, 0, 0, 0, 4, 5, 0], [1, 1, 2, 1, 1, 2, 1, 0, 4, 5, 0]] -""" + # 推荐引擎示例矩阵 return[[4, 4, 0, 2, 2], [4, 0, 0, 3, 3], @@ -27,8 +29,8 @@ def loadExData(): [2, 2, 2, 0, 0], [1, 1, 1, 0, 0], [5, 5, 5, 0, 0]] - - 原矩阵 + """ + # 原矩阵 return[[1, 1, 1, 0, 0], [2, 2, 2, 0, 0], [1, 1, 1, 0, 0], @@ -36,25 +38,24 @@ def loadExData(): [1, 1, 0, 2, 2], [0, 0, 0, 3, 3], [0, 0, 0, 1, 1]] -""" -# 欧氏距离相似度，假定inA和inB 都是列向量 -# 计算向量的第二范式，相当于计算了欧氏距离 +# 相似度计算，假定inA和inB 都是列向量 +# 基于欧氏距离 def ecludSim(inA, inB): return 1.0/(1.0 + la.norm(inA - inB)) # pearsSim()函数会检查是否存在3个或更多的点。 -# corrcoef直接计算皮尔逊相关系数 +# corrcoef直接计算皮尔逊相关系数，范围[-1, 1]，归一化后[0, 1] def pearsSim(inA, inB): # 如果不存在，该函数返回1.0，此时两个向量完全相关。 if len(inA) < 3: return 1.0 - return 0.5 + 0.5*corrcoef(inA, inB, rowvar=0)[0][1] + return 0.5 + 0.5 * corrcoef(inA, inB, rowvar = 0)[0][1] -# 计算余弦相似度 +# 计算余弦相似度，如果夹角为90度，相似度为0；如果两个向量的方向相同，相似度为1.0 def cosSim(inA, inB): num = float(inA.T*inB) denom = la.norm(inA)*la.norm(inB) @@ -80,10 +81,11 @@ def standEst(dataMat, user, simMeas, item): # 变量overLap 给出的是两个物品当中已经被评分的那个元素 overLap = nonzero(logical_and(dataMat[:, item].A>0, dataMat[:, j].A>0))[0] # 如果相似度为0，则两着没有任何重合元素，终止本次循环 - if len(overLap) == 0:similarity =0 + if len(overLap) == 0: + similarity = 0 # 如果存在重合的物品，则基于这些重合物重新计算相似度。 - else: similarity = simMeas(dataMat[overLap,item], \ - dataMat[overLap,j]) + else: + similarity = simMeas(dataMat[overLap, item], dataMat[overLap, j]) # print 'the %d and %d similarity is : %f'(iten,j,similarity) # 相似度会不断累加，每次计算时还考虑相似度和当前用户评分的乘积 # similarity 用户相似度， userRating 用户评分 @@ -105,8 +107,9 @@ def recommend(dataMat, user, N=3, simMeas=cosSim, estMethod=standEst): # 如果不存在未评分物品，那么就退出函数 if len(unratedItems) == 0: return 'you rated everything' - # 在所有的未评分物品上进行循环 + # 物品的编号和评分值 itemScores = [] + # 在未评分物品上进行循环 for item in unratedItems: estimatedScore = estMethod(dataMat, user, simMeas, item) # 寻找前N个未评级物品，调用standEst()来产生该物品的预测得分，该物品的编号和估计值会放在一个元素列表itemScores中 @@ -118,10 +121,12 @@ def recommend(dataMat, user, N=3, simMeas=cosSim, estMethod=standEst): # 基于SVD的评分估计 # 在recommend() 中，这个函数用于替换对standEst()的调用，该函数对给定用户给定物品构建了一个评分估计值 def svdEst(dataMat, user, simMeas, item): + # 物品数目 n = shape(dataMat)[1] # 对数据集进行SVD分解 simTotal = 0.0 ratSimTotal = 0.0 + # 奇异值分解 # 在SVD分解之后，我们只利用包含了90%能量值的奇异值，这些奇异值会以NumPy数组的形式得以保存 U, Sigma, VT = la.svd(dataMat) # 如果要进行矩阵运算，就必须要用这些奇异值构建出一个对角矩阵 @@ -138,7 +143,7 @@ def svdEst(dataMat, user, simMeas, item): similarity = simMeas(xformedItems[item, :].T,xformedItems[j, :].T) # for 循环中加入了一条print语句，以便了解相似度计算的进展情况。如果觉得累赘，可以去掉 print 'the %d and %d similarity is: %f' % (item, j, similarity) - # 对相似度求和 + # 对相似度不断累加求和 simTotal += similarity # 对相似度及对应评分值的乘积求和 ratSimTotal += similarity * userRating @@ -149,7 +154,90 @@ def svdEst(dataMat, user, simMeas, item): return ratSimTotal/simTotal +# 图像压缩函数 +# 打印矩阵 +def printMat(inMat, thresh=0.8): + # 由于矩阵保护了浮点数，因此定义浅色和深色，遍历所有矩阵元素，当元素大于阀值时打印1，否则打印0 + for i in range(32): + for k in range(32): + if float(inMat[i, k]) > thresh: + print 1, + else: + print 0, + print '' + + +# 实现图像压缩，允许基于任意给定的奇异值数目来重构图像 +def imgCompress(numSV=3, thresh=0.8): + # 构建一个列表 + myl = [] + # 打开文本文件，并从文件以数组方式读入字符 + for line in open('testData/testDigits/0_5.txt').readlines(): + newRow = [] + for i in range(32): + newRow.append(int(line[i])) + myl.append(newRow) + # 矩阵调入后，就可以在屏幕上输出该矩阵 + myMat = mat(myl) + print "****original matrix****" + # 对原始图像进行SVD分解并重构图像e + printMat(myMat, thresh) + # 通过Sigma 重新构成SigRecom来实现 + # Sigma是一个对角矩阵，因此需要建立一个全0矩阵，然后将前面的那些奇异值填充到对角线上。 + U, Sigma, VT = la.svd(myMat) + SigRecon = mat(zeros((numSV, numSV))) + for k in range(numSV): + SigRecon[k, k] = Sigma[k] + reconMat = U[:, :numSV] * SigRecon * VT[:numSV, :] + print "****reconstructed matrix using %d singular values *****" % numSV + printMat(reconMat, thresh) + + if __name__ == "__main__": + """ + # 对矩阵进行SVD分解 + Data = loadExData() + U, Sigma, VT = linalg.svd(Data) + # 打印Sigma的结果，因为前3个数值比其他的值大了很多，为9.72140007e+00，5.29397912e+00，6.84226362e-01 + # 后两个值比较小，每台机器输出结果可能有不同可以将这两个值去掉 + # print Sigma + + # 重构一个3x3的矩阵Sig3 + # Sig3 = mat([[Sigma[0], 0, 0], [0, Sigma[1], 0], [0, 0, Sigma[2]]]) + # print U[:, :3] * Sig3 * VT[:3, :] + """ + + """ + # 计算欧氏距离 myMat = mat(loadExData()) - print myMat - print recommend(myMat, 1, estMethod=svdEst) + # print myMat + print ecludSim(myMat[:, 0], myMat[:, 4]) + print ecludSim(myMat[:, 0], myMat[:, 0]) + + # 计算余弦相似度 + print cosSim(myMat[:, 0], myMat[:, 4]) + print cosSim(myMat[:, 0], myMat[:, 0]) + + # 计算皮尔逊相关系数 + print pearsSim(myMat[:, 0], myMat[:, 4]) + print pearsSim(myMat[:, 0], myMat[:, 0]) + + """ + + """ + # 默认推荐 + print recommend(myMat, 2) + """ + + """ + # 计算相似度的方法 + # 计算相似度的第一种方式 + # print recommend(myMat, 1, estMethod=svdEst) + # 计算相似度的第二种方式 + print recommend(myMat, 1, estMethod = svdEst, simMeas=pearsSim) + """ + + """ + # 压缩图片 + # imgCompress(2) + """ \ No newline at end of file From eb4cc758bbe8efb0a9702a4e94e9abf51a03bfc8 Mon Sep 17 00:00:00 2001 From: hello19883 Date: Wed, 29 Mar 2017 22:45:23 +0800 Subject: [PATCH 2/2] =?UTF-8?q?=E6=B7=BB=E5=8A=A0=E5=8E=8B=E7=BC=A9?= =?UTF-8?q?=E5=9B=BE=E7=89=87=E4=BB=A3=E7=A0=81?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- src/python/14.SVD/svdRec.py | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/src/python/14.SVD/svdRec.py b/src/python/14.SVD/svdRec.py index 5544a726..1c877e05 100644 --- a/src/python/14.SVD/svdRec.py +++ b/src/python/14.SVD/svdRec.py @@ -240,4 +240,4 @@ if __name__ == "__main__": """ # 压缩图片 # imgCompress(2) - """ \ No newline at end of file + """