我现在在做一个搜索引擎爬虫的课题,遇到的问题是不知道怎么获取所有网站的域名。是不是可以通过爬取域名解析根服务器上的内容来获取呢?
如果实在不行,能够获取百度或google上收录的域名也可以,不知道哪位大虾可以指点一二。
1. 生成网站的字符串的域名;
2. 扫描 IP地址,全扫一次;
3. 假如你有浏览器,那么你就可以肆意的收集用户访问的IP地址; 特别是那些DNS相关的存在比如:114等
4. 就是如果你是微软操作系统等,那么你就可以通过这些很方便的在底层收集这些东西;
至于其它的我还想不出来,但我觉得不管怎么收集,在国内肯定不行的,因为国内它把网站给闭关锁国了一部分,当你想要寻找所有网站的存在时,就会受到阻碍;