文件系统中能否使用utf-16编码

例如创建一个文件"ABCDEF"，utf-8编码是"414243444546"，utf-16编码是"410042004300440045004600"，utf-16编码中有字符是0x00和字符串的结束符区分不了，这样应该怎么处理？

文件系统和文本文件的编码毫无关系。文件系统只是用来组织文件的，而文件是以字节为基本单元的顺序，有长度的数据流。
如何规定字符串用什么字节表示，这个是应用程序的事情，文本编码是一种程序之间的规范的约定。