求解直角坐标系坐标转换,过渡矩阵

有两个3维坐标系A 和 B,已知3个点在两个坐标系 的坐标列向量 Av 和 Bv. 求 A坐标系中其它点(列向量a) 在 B坐标系的坐标(列向量b)。
我使用eigen 矩阵来计算过渡矩阵P , P = Av 的逆 * Bv,那么任意坐标 b = P * a;但检查发现 Av和 Bv3个 点可以互相转换,但其他点转出来为异常值。 比较急,求指教。因为代码暂不方便上传,有能解决该问题的请留下联系方式,因问题较急,可协商支付报酬。非常感谢。

从你上面说的我感觉你求出来的过渡矩阵是个3×3阶的矩阵,但对于两个三维坐标系,他们的转换是由旋转矩阵(3×3)和平移矩阵(3×1),所以在计算时要使用坐标的其次形式