matlab算矩阵这个该怎么算表示

这个怎么写不会表示出来时老是说我表达式错误
然后我用逆也写过不对希望可以帮助一下我
写不完了