[ https://issues.apache.org/jira/browse/MATH-1417?page=com.atlassian.jira.plugin.system.issuetabpanels:comment-tabpanel&focusedCommentId=16002798#comment-16002798 ]
Gilles commented on MATH-1417: ------------------------------ Have you checked out the git "master" branch? With your example (and no change to the source), I obtain 4 as the rank value. > weird result in RRQR decomposition. > ----------------------------------- > > Key: MATH-1417 > URL: https://issues.apache.org/jira/browse/MATH-1417 > Project: Commons Math > Issue Type: Bug > Affects Versions: 3.6.1 > Environment: linux RH6 > netbeans 8.2 > java 1.8 > Reporter: Lecomte > > When using RRQRDecomposition on rank deficient matrix, results are wrong. > double[][] Xi = { > {0, 0, 0, 0, 0, 0, 0, 0, 0}, > {0, 1, 0, 0, 0, 0, 0, 0, 0}, > {0, 0, 1, 0, 0, 0, 0, 0, 0}, > {0, 0, 1, 0, 0, 0, 0, 0, 0}, > {0, 0, 1, 0, 0, 0, 0, 0, 0}, > {0, 0, 0, 1, 0, 0, 0, 0, 0}, > {0, 0, 0, 0, 0, 0, 1, 0, 0}, > {0, 0, 0, 0, 0, 0, 0, 0, 0},}; > With this matrix, i obtain: > rank 6 > R: > |1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 1,000 1,000 1,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > Q: > |0,000 0,000 1,000 0,000 0,000 0,000 0,000 0,000 0,000| > |1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000| > |0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000| > Where Scipy (lapack) or ejml gives me: > rank 4 > Type = dense real , numRows = 9 , numCols = 8 > -1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 -1,000 0,000 0,000 -1,000 0,000 -1,000 0,000 > 0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 -1,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > Type = dense real , numRows = 9 , numCols = 9 > 0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000 > -1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 -1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000 > 0,000 0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000 > 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000 > That are the results i expect. > -- This message was sent by Atlassian JIRA (v6.3.15#6346)