最近在写一个项目的时候遇到一个很怪异的线程问题.
在处理流数据的时候由于要向多个地方写入流就使用了管道(PipedInputStream).
对于每一个输入流,读出其中的数据同时向几个PipedOutputStrem写入,然后其他线程从对应的PipedOutputStream中把数据读出来。
在并发不大的时候没有问题。
当并发大的时候,开始处理的速度就很慢了,同时还出现了一些线程被永远的blocked。
具体blocked的线程是在PipedOutputStream这端(也就是写入管道的一端)。
通过jstack查看有好多个线程被blocked而没有发现一个从管道中读数据的那一端(也就是PipedInputStream端)的线程。查看piped的源代码发现这种情况应该报read end dead的异常进而退出线程的。想了好几天都没有结果。
补充下:一直卡在awaitSpace方法里面。
问题补充
现在关键的是在并发上出后消费者线程好像已经dead拉。在jstack中查看不到消费者的存在。
但是生产者一直在等待消费者来读取数据。在PipedInputStream的awaitSpace方法里面。如果按照pipedinputstream的源代码来看会抛出io异常的(在并发不高的时候确实是只有抛出io异常),但是并发高了不抛异常却一直被blocked
问题补充
谢谢你的回复,看来还是真的是这种情况。开始我也考虑到了这种情况,但是由于用jmap看的时候内存里面有消费者线程就排除了。
消费者线程挂掉了,你要看下抛出Read end dead的条件:
if (readSide != null && !readSide.isAlive()) {
throw new IOException("Read end dead");
}
只有存在读的线程并且线程挂掉的情况下才会抛出这个异常,如果读的线程根本不存在,那肯定不会抛了,一直等待有新的消费者来读。简单来说,可能这些被blocked住的pipeinputstream根本没有被读过。
这种问题是“生产者-消费者”模式的典型应用场景,实际使用中往往还会用到缓冲区
[img]http://dl.iteye.com/upload/attachment/195618/8c29bb52-f686-3f94-9177-4f53530db259.jpg[/img]
仔细地分析一下你程序各线程的功能,应该不难发现问题。
我没辄了,等高手给你分析下
把你的消费代码 和生产代码贴出才能帮你分析
[color=indigo]在关键的地方加上System.out.println()输出点标记性的语言;或者干脆加上日志,虽然麻烦点 但是能帮你很好分析出这个问题。多线程,打断点还没法跟踪[/color]