并行框架（fork-join）请教

请教大家一个问题，小弟用java7的fork-join框架编了一个并行程序，2核和4核环境下加速比达到1.95和3.85，但是，当核数达到8或8以上时，CPU使用率就很低（分解12个任务在12核上计算，CPU使用率才65%），这是为啥？

小弟的并行程序框架如下：

while(){
for(){
fork-join();
}
}

也就是说小弟fork-join()方法多次调用（只有那一层循环里面可以并行计算），这样是不是会有影响？