0
517
Views¿Cómo calcular los coeficientes de correlación usando el módulo sklearn CCA?
Necesito medir la similitud entre los vectores de características usando el módulo CCA. Vi que sklearn tiene un buen módulo CCA disponible: https://scikit-learn.org/stable/modules/generated/sklearn.cross_decomposition.CCA.html
En diferentes artículos que revisé, vi que la forma de medir la similitud usando CCA es calcular la media de los coeficientes de correlación, por ejemplo, como se hace en el siguiente ejemplo de cuaderno: https://github.com/google/svcca/blob/ 1f3fbf19bd31bd9b76e728ef75842aa1d9a4cd2b/tutorials/001_Introducción.ipynb
¿Cómo calcular los coeficientes de correlación (como se muestra en el cuaderno) utilizando el módulo sklearn CCA?
from sklearn.cross_decomposition import CCA import numpy as np U = np.random.random_sample(500).reshape(100,5) V = np.random.random_sample(500).reshape(100,5) cca = CCA(n_components=1) cca.fit(U, V) cca.coef_.shape # (5,5) U_c, V_c = cca.transform(U, V) U_c.shape # (100,1) V_c.shape # (100,1)Este es un ejemplo del módulo sklearn CCA, sin embargo, no tengo idea de cómo recuperar los coeficientes de correlación de él.
1 answers
Answer question0
En referencia al cuaderno que proporcionó, que es un artefacto de apoyo e implementa ideas de los siguientes dos documentos
- "SVCCA: análisis de correlación canónica de vector singular para dinámicas de aprendizaje profundo e interpretabilidad" . Sistemas de procesamiento de información neuronal (NeurIPS) 2017
- "Perspectivas sobre la similitud representacional en redes neuronales profundas con correlación canónica" . Sistemas de procesamiento de información neuronal (NeurIPS) 2018
Los autores allí calculan 50 = min(A_falsas neuronas, B_falsas neuronas) componentes y trazan las correlaciones entre los vectores transformados de cada componente (es decir, 50).
Con la ayuda del siguiente código, usando sklearn CCA , estoy tratando de reproducir su Toy Example . Como veremos, las gráficas de correlación coinciden. La verificación de cordura que usaron en el cuaderno fue muy útil: también pasó sin problemas con este código.
import numpy as np from matplotlib import pyplot as plt from sklearn.cross_decomposition import CCA # rows contain the number of samples for CCA and the number of rvs goes in columns X = np.random.randn(2000, 100) Y = np.random.randn(2000, 50) # num of components n_comps = min(X.shape[1], Y.shape[1]) cca = CCA(n_components=n_comps) cca.fit(X, Y) X_c, Y_c = cca.transform(X, Y) # calculate and plot the correlations of all components corrs = [np.corrcoef(X_c[:, i], Y_c[:, i])[0, 1] for i in range(n_comps)] plt.plot(corrs) plt.xlabel('cca_idx') plt.ylabel('cca_corr') plt.show()Producción:
Para la verificación de cordura, reemplace la matriz de datos Y por una transformación invertible escalada de X y vuelva a ejecutar el código.
Y = np.dot(X, np.random.randn(100, 100))Producción:
