14.svd 添加压缩图片代码

src/python/14.SVD/svdRec.py

@@ -1,11 +1,13 @@
 #!/usr/bin/python
+# -*- coding: utf-8 -*-  
 # encoding: utf-8
 
-from numpy import *
 from numpy import linalg as la
+from numpy import *
 
 
 def loadExData():
+    """
     # 利用SVD提高推荐效果，菜肴矩阵
     return[[2, 0, 0, 4, 4, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 5],
@@ -18,7 +20,7 @@ def loadExData():
            [0, 0, 0, 0, 0, 0, 5, 0, 0, 5, 0],
            [0, 0, 0, 3, 0, 0, 0, 0, 4, 5, 0],
            [1, 1, 2, 1, 1, 2, 1, 0, 4, 5, 0]]
-"""
+
     # 推荐引擎示例矩阵
     return[[4, 4, 0, 2, 2],
            [4, 0, 0, 3, 3],
@@ -27,8 +29,8 @@ def loadExData():
            [2, 2, 2, 0, 0],
            [1, 1, 1, 0, 0],
            [5, 5, 5, 0, 0]]
-
-    原矩阵
+    """
+    # 原矩阵
     return[[1, 1, 1, 0, 0],
            [2, 2, 2, 0, 0],
            [1, 1, 1, 0, 0],
@@ -36,25 +38,24 @@ def loadExData():
            [1, 1, 0, 2, 2],
            [0, 0, 0, 3, 3],
            [0, 0, 0, 1, 1]]
-"""
 
 
-# 欧氏距离相似度，假定inA和inB 都是列向量
-# 计算向量的第二范式，相当于计算了欧氏距离
+# 相似度计算，假定inA和inB 都是列向量
+# 基于欧氏距离
 def ecludSim(inA, inB):
     return 1.0/(1.0 + la.norm(inA - inB))
 
 
 # pearsSim()函数会检查是否存在3个或更多的点。
-# corrcoef直接计算皮尔逊相关系数
+# corrcoef直接计算皮尔逊相关系数，范围[-1, 1]，归一化后[0, 1]
 def pearsSim(inA, inB):
     # 如果不存在，该函数返回1.0，此时两个向量完全相关。
     if len(inA) < 3:
         return 1.0
-    return 0.5 + 0.5*corrcoef(inA, inB, rowvar=0)[0][1]
+    return 0.5 + 0.5 * corrcoef(inA, inB, rowvar = 0)[0][1]
 
 
-# 计算余弦相似度
+# 计算余弦相似度，如果夹角为90度，相似度为0；如果两个向量的方向相同，相似度为1.0
 def cosSim(inA, inB):
     num = float(inA.T*inB)
     denom = la.norm(inA)*la.norm(inB)
@@ -80,10 +81,11 @@ def standEst(dataMat, user, simMeas, item):
         # 变量overLap 给出的是两个物品当中已经被评分的那个元素
         overLap = nonzero(logical_and(dataMat[:, item].A>0, dataMat[:, j].A>0))[0]
         # 如果相似度为0，则两着没有任何重合元素，终止本次循环
-        if len(overLap) == 0:similarity =0
+        if len(overLap) == 0:
+            similarity = 0
         # 如果存在重合的物品，则基于这些重合物重新计算相似度。
-        else: similarity = simMeas(dataMat[overLap,item], \
-                                    dataMat[overLap,j])
+        else:
+            similarity = simMeas(dataMat[overLap, item], dataMat[overLap, j])
         # print 'the %d and %d similarity is : %f'(iten,j,similarity)
         # 相似度会不断累加，每次计算时还考虑相似度和当前用户评分的乘积
         # similarity  用户相似度，   userRating 用户评分
@@ -105,8 +107,9 @@ def recommend(dataMat, user, N=3, simMeas=cosSim, estMethod=standEst):
     # 如果不存在未评分物品，那么就退出函数
     if len(unratedItems) == 0:
         return 'you rated everything'
-    # 在所有的未评分物品上进行循环
+    # 物品的编号和评分值
     itemScores = []
+    # 在未评分物品上进行循环
     for item in unratedItems:
         estimatedScore = estMethod(dataMat, user, simMeas, item)
         # 寻找前N个未评级物品，调用standEst()来产生该物品的预测得分，该物品的编号和估计值会放在一个元素列表itemScores中
@@ -118,10 +121,12 @@ def recommend(dataMat, user, N=3, simMeas=cosSim, estMethod=standEst):
 # 基于SVD的评分估计
 # 在recommend() 中，这个函数用于替换对standEst()的调用，该函数对给定用户给定物品构建了一个评分估计值
 def svdEst(dataMat, user, simMeas, item):
+    # 物品数目
     n = shape(dataMat)[1]
     # 对数据集进行SVD分解
     simTotal = 0.0
     ratSimTotal = 0.0
+    # 奇异值分解
     # 在SVD分解之后，我们只利用包含了90%能量值的奇异值，这些奇异值会以NumPy数组的形式得以保存
     U, Sigma, VT = la.svd(dataMat)
     # 如果要进行矩阵运算，就必须要用这些奇异值构建出一个对角矩阵
@@ -138,7 +143,7 @@ def svdEst(dataMat, user, simMeas, item):
     similarity = simMeas(xformedItems[item, :].T,xformedItems[j, :].T)
     # for 循环中加入了一条print语句，以便了解相似度计算的进展情况。如果觉得累赘，可以去掉
     print 'the %d and %d similarity is: %f' % (item, j, similarity)
-    # 对相似度求和
+    # 对相似度不断累加求和
     simTotal += similarity
     # 对相似度及对应评分值的乘积求和
     ratSimTotal += similarity * userRating
@@ -149,7 +154,90 @@ def svdEst(dataMat, user, simMeas, item):
         return ratSimTotal/simTotal
 
 
+# 图像压缩函数
+# 打印矩阵
+def printMat(inMat, thresh=0.8):
+    # 由于矩阵保护了浮点数，因此定义浅色和深色，遍历所有矩阵元素，当元素大于阀值时打印1，否则打印0
+    for i in range(32):
+        for k in range(32):
+            if float(inMat[i, k]) > thresh:
+                print 1,
+            else:
+                print 0,
+        print ''
+
+
+# 实现图像压缩，允许基于任意给定的奇异值数目来重构图像
+def imgCompress(numSV=3, thresh=0.8):
+    # 构建一个列表
+    myl = []
+    # 打开文本文件，并从文件以数组方式读入字符
+    for line in open('testData/testDigits/0_5.txt').readlines():
+        newRow = []
+        for i in range(32):
+            newRow.append(int(line[i]))
+        myl.append(newRow)
+    # 矩阵调入后，就可以在屏幕上输出该矩阵
+    myMat = mat(myl)
+    print "****original matrix****"
+    # 对原始图像进行SVD分解并重构图像e
+    printMat(myMat, thresh)
+    # 通过Sigma 重新构成SigRecom来实现
+    # Sigma是一个对角矩阵，因此需要建立一个全0矩阵，然后将前面的那些奇异值填充到对角线上。
+    U, Sigma, VT = la.svd(myMat)
+    SigRecon = mat(zeros((numSV, numSV)))
+    for k in range(numSV):
+        SigRecon[k, k] = Sigma[k]
+    reconMat = U[:, :numSV] * SigRecon * VT[:numSV, :]
+    print "****reconstructed matrix using %d singular values *****" % numSV
+    printMat(reconMat, thresh)
+
+
 if __name__ == "__main__":
+    """
+    # 对矩阵进行SVD分解
+    Data = loadExData()
+    U, Sigma, VT = linalg.svd(Data)
+    # 打印Sigma的结果，因为前3个数值比其他的值大了很多，为9.72140007e+00，5.29397912e+00，6.84226362e-01
+    # 后两个值比较小，每台机器输出结果可能有不同可以将这两个值去掉
+    # print Sigma
+
+    # 重构一个3x3的矩阵Sig3
+    # Sig3 = mat([[Sigma[0], 0, 0], [0, Sigma[1], 0], [0, 0, Sigma[2]]])
+    # print U[:, :3] * Sig3 * VT[:3, :]
+    """
+
+    """
+    # 计算欧氏距离
     myMat = mat(loadExData())
-    print myMat
-    print recommend(myMat, 1, estMethod=svdEst)
+    # print myMat
+    print ecludSim(myMat[:, 0], myMat[:, 4])
+    print ecludSim(myMat[:, 0], myMat[:, 0])
+
+    # 计算余弦相似度
+    print cosSim(myMat[:, 0], myMat[:, 4])
+    print cosSim(myMat[:, 0], myMat[:, 0])
+
+    # 计算皮尔逊相关系数
+    print pearsSim(myMat[:, 0], myMat[:, 4])
+    print pearsSim(myMat[:, 0], myMat[:, 0])
+
+    """
+
+    """
+    # 默认推荐
+    print recommend(myMat, 2)
+    """
+
+    """
+    # 计算相似度的方法
+    # 计算相似度的第一种方式
+    # print recommend(myMat, 1, estMethod=svdEst)
+    # 计算相似度的第二种方式
+    print recommend(myMat, 1, estMethod = svdEst, simMeas=pearsSim)
+    """
+
+    """
+    # 压缩图片
+    # imgCompress(2)
+    """