obj2 = sum((1/t)*sum((P,3)./sum(P(:))).^2,2));哪错了
它缺少一个左括号,应该是:
obj2 = sum((1/t)*sum((P,3)./sum(P(:))).^2,2);
其次,(P,3)的意思不太清楚,可能应该是P(:,:,3)或者P(:,3,:)。最后,代码中缺少一个左括号,不过我无法确定缺少的位置。