判断题 通用网路爬虫会访问与预定主题相关的网页。

判断题 网络爬虫是一个模拟真人浏览互联网行为的程序。

判断题 Robots.txt协议可以限制爬虫程序采集某些网页的数据。