职位职责:1、负责设计和优化分布式采集系统,参与采集系统的存储、调度、解析、监控等研发;2、负责进行前沿技术研究,难点攻关,为团队做逆向工程方面做技术储备;3. 针对相关系统的调整能够快速应对,保证公司的业务正常运转;4. 研究和解决数据采集中遇到的各种反爬问题,优化采集的策略;任职要求:1.计算机相关专业本科及以上学历,三年以上基于python的爬虫开发工作经验,能熟练运用多线程技术;2.熟练掌握python语言,了解scrapy框架及分布式爬虫,自主搭建过分布式爬虫框架者优先;3.熟练使用requests基本库,selenium,pyppeteer等相关爬虫框架;4.能熟练使用各类抓包工具,如charles、fiddler等;5.熟悉mysql、redis、mongodb至少一种数据库;6.熟悉各类反爬策略并有较强的应对能力,精通JS防护、混淆、原型链、逆向分析、验证码破解等技能,有突破某山、某数加密经验者优先考虑;7.具备较强的分析和解决问题的能力,积极主动,责任心强,良好的沟通能力及团队合作精神,能承担较强工作。