爬虫面试常见问题
一.项目问题:
你写爬虫的时候都遇到过什么反爬虫措施,你是怎样解决的
用的什么框架。为什么选择这个框架
二.框架问题:
scrapy的基本结构(五个部分都是什么,请求发出去的整个流程)
scrapy的去重原理(指纹去重到底是什么原理)
scrapy中间件有几种类,你用过哪些中间件
scrapy中间件在哪里起的作业(面向切片编程)
三.代理问题:
为什么会用到代理
代理怎么使用(具体代码, 请求在什么时候添加的代理)
代理失效了怎么处理
四.验证码处理:
登陆验证码处理
爬取速度过快出现的验证码处理
如何用机器识别验证码
五.模拟登陆问题:
模拟登陆流程
cookie如何处理
如何处理网站传参加密的情况
六.分布式:
分布式原理
分布式如何判断爬虫已经停止了
分布式的去重原理
七.数据存储和数据库问题:
关系型数据库和非关系型数据库的区别
爬下来数据你会选择什么存储方式,为什么
各种数据库支持的数据类型,和特点
是否支持事务...
八.Python基础问题:
基础问题非常多,但是因为爬虫性质,还是有些问的比较多的,下面总结:
Python2和Python3的区别,如何实现python2代码迁移到Python3环境
Python2和Python3的编码方式有什么差别
迭代器,生成器,装饰器
Python的数据类型
九.协议问题:
http协议,请求由什么组成,每个字段分别有什么用,https和http有什么差距
证书问题
TCP,UDP各种相关问题
十.数据提取问题:
主要使用什么样的结构化数据提取方式,可能会写一两个例子
正则的使用
动态加载的数据如何提取
json数据如何提取
十一.算法问题:
算法:你们要善用Python的数据类型,对Python的数据结构深入了解
Python WEB面试常见问题
一. python语法以及其他基础部分:
可变与不可变类型
浅拷贝与深拷贝的实现方式、区别;deepcopy如果你来设计,如何实现
new() 与 init()的区别
你知道几种设计模式
编码和解码你了解过么
列表推导list comprehension和生成器的优劣
什么是装饰器;如果想在函数之后进行装饰,应该怎么做
手写个使用装饰器实现的单例模式
使用装饰器的单例和使用其他方法的单例,在后续使用中,有何区别
手写:正则邮箱地址
介绍下垃圾回收:引用计数/分代回收/孤立引用环
多进程与多线程的区别,CPU密集型适合用什么
进程通信的方式有几种
介绍下协程,为何比线程还快
range和xrange的区别
二. 算法排序部分:
手写快排;堆排;几种常用排序的算法复杂度是多少;快排平均复杂度多少,最坏情况如何优化
手写:已知一个长度n的无序列表,元素均是数字,要求把所有间隔为d的组合找出来,你写的解法算法复杂度多少
手写:一个列表A=[A1,A2,…,An],要求把列表中所有的组合情况打印出来;
手写:用一行python写出1+2+3+…+10**8
手写python:用递归的方式判断字符串是否为回文
单向链表长度未知,如何判断其中是否有环
单向链表如何使用快速排序算法进行排序
手写:一个长度n的无序数字元素列表,如何求中位数,如何尽快的估算中位数,9).你的算法复杂度是多少;
如何遍历一个内部未知的文件夹(两种树的优先遍历方式)
三. 网络基础部分:
TCP/IP分别在模型的哪一层
socket长连接是什么意思
select和epoll你了解么,区别在哪
TCP UDP区别;三次握手四次挥手讲一下
TIME_WAIT过多是因为什么
http一次连接的全过程:你来说下从用户发起request——到用户接收到 response
http连接方式。get和post的区别,你还了解其他的方式么
restful你知道么
状态码你知道多少,比如200/403/404/504等等
四. 数据库部分:
MySQL锁有几种;死锁是怎么产生的; 为何,以及如何分区、分表;
MySQL的char varchar text的区别:
了解join么,有几种有何区别,A LEFT JOIN B,查询的结果中,B没有的那部分是如何显示的(NULL)索引类型有几种,BTree索引和hash索引的区别
手写:如何对查询命令进行优化
NoSQL了解么,和关系数据库的区别,redis有几种常用存储类型
五. Linux部分:
讲一下你常用的Linux/git命令和作用;
查看当前进程是用什么命令,除了文件相关的操作外,你平时还有什么操作命令;
六. Django项目部分:
都是让简单的介绍下你在公司的项目,不管是不是后端相关的,主要是要体现出你干了什么
你在项目中遇到最难的部分是什么,你是怎么解决的; 你看过django的admin源码么
看过flask的源码么,你如何理解开源
MVC / MTV, 缓存怎么用, 中间件是干嘛的
CSRF是什么,django是如何避免的,XSS
如果你来设计login,简单的说一下思路
session和cookie的联系与区别,session为什么说是安全的
uWSGI和Nginx的作用;
每个公司各有特点,但是这些算是基础,也是常见问题。
作者:空山丶
链接:https://www.jianshu.com/p/59a9bbd13001
共同学习,写下你的评论
评论加载中...
作者其他优质文章