CPU在用户态和内核态下分别是如何工作的

我们知道程序在用户态下执行的时候，不能访问内核态的数据结构或内核的程序。那么这是由硬件或者操作系统的什么结构/机制造成的呢？