为了账号安全,请及时绑定邮箱和手机立即绑定

从零开始实现一个终端小词典

标签:
Python

最近花了一点时间写了一个词典小工具。复制你需要查询的单词,在终端输入ss即可得到查询结果。查询过的单词和结果会被追加写入本地的文件,生成生词本。

 coderDic.gif

实际Mac上单词的查询非常的简单:你可以 command + control + d 来自动划词查询,也可以设置手势三指轻拍来唤出结果。我不满意的地方在于这种查询方式无法汇总我查询过的单词,另外翻译的结果很多时候我看起来太过冗余。

 mac自带词典的查询结果

另外一个我动手的原因是:之前的文章一直太过理论了,为了整理这些内容花了太多精力在概念的理解上,我希望能够找一个机会动手写一写代码。

项目地址:CoderDic
编程语言:python 2.7.10
系统环境:macOS 10.12.6
依赖库:参见requirements.txt


要实现这样一个小工具,第一步需要思考的是翻译来源。我本身是希望借助已有的翻译 api来做这件事情,比如百度翻译和有道翻译。可是查看文档以后我觉得不是特别满意,理由如下:

  • 需要自己去弄一个key

  • 这部分api应用场景是给出一个最贴切的翻译结果,所以查询结果单一不全面。

举一个简单的例子,我利用Postman向百度翻译请求翻译apple

{     "from": "en",     "to": "zh",     "trans_result": [         {             "src": "apple",             "dst": "苹果"         }     ] }

作为翻译api,这样的返回没有问题,按照用户查询的内容给出最可能的翻译;但是作为词典,这样的结果不太能够接受。所以我放弃了这种方案,选择了爬取百度搜索得到的结果。

比如我需要查询apple,我可以百度搜索apple 翻译

 apple 翻译

“单词” + 翻译 组合搜索的方式,返回的第一条就是百度翻译的结果,附带音标,多语义解释,例句和包括复数过去式等其他的解释。

这样第一步就明确了,我们模拟向百度发起一个搜索请求,获取返回结果,代码如下

def searchWord(word):     # get html text     request = urllib2.Request('http://www.baidu.com/s?wd='+urllib.quote(word + "翻译"))     response = urllib2.urlopen(request)     #parse html     soup = BeautifulSoup(response.read(), "lxml")

利用urllib2和BeautifulSoup来获取百度返回的结果并进行解析。借助Chrome的开发者工具,我们来分析一下返回界面,确定我们需要的翻译结果在哪里。

 Chrome 开发者工具

可以发现所有的结果都包含在一个class=op_dict_contentdiv

content = soup.find_all("div", {'class':"op_dict_content"})     if content:             print 'get success'     else:             print ‘get fail! Please check your word is correct!'

我们尝试获取这个div,如果获取成功继续解析,失败则提示检查输入单词。重复上述步骤,我们逐个获取需要的内容。

        #get word symbol         symbol = ''         symbols_table = soup.find(class_="op_dict_table")         symbol_trs = symbols_table.find_all("tr")         for tr in symbol_trs:             for td in tr.find_all('td'):                 symbol += stringHandle(td.getText()) + ' '             print symbol         #get translations         translations = []         translation_table = soup.find_all(class_ = re.compile("op_dict3_english_result_table"));         for tr in translation_table:             aaa = ''             for td in tr.find_all('td'):                 temp = stringHandle(td.getText())                 if temp == '[其他]':                      temp = '\n' + temp + '\n'                 translations.append(temp);                 aaa += temp + ' '             print aaa         print '\n'

音标和翻译都成功获取,但是在拿例句的时候发生了一些问题,在返回的网页源码当中是没有这部分内容的。

原因非常简单,这部分的内容是通过Ajax动态获取的。要获得这部分的内容显然直接抓取不太现实,为了获取这部分动态的资源我们可以利用Selenium+PhantomJS来模拟浏览器的环境,从而请求获取这部分的内容。

但是,但是!这个框架太重了!我们只是要例句这么一点内容,不至于这么复杂。让我们分析一下网页到底请求了什么,简单模拟一下就可以了。

我查看了网页的源码,确实在一个<script>里找到了相关的代码。这部分代码很长,我格式化以后把有用的部分展示出来。

var cbName = "bd_cb_dict3_" + +new Date; $.ajax({             url: _this.data.sensearchUrl + "?wd=" +  encodeURIComponent(_this.data.wd) + "&cb=" + cbName,             jsonpCallback: cbName,             dataType: "jsonp",             success: function(data) {                 if (!ajaxFinished) if (0 == data.err_no && data.liju_result) { ...

虽然我不太了解js这部分,但是依然可以看出这里发起了一个Ajax请求。但是url部分的_this.data.sensearchUrl我不确定是什么,让我们再借助一下Chrome来看看能不能发现什么。打开Network里我发现了这样一个请求

 Network

很显然这就是我们想要的那部分内容!让我们仔细分析一下这个请求:这是一个GET请求,包含了四个参数wd,cb,callback和_;请求地址是https://sp1.baidu.com/5b11fzupBgM18t7jm9iCKT-xh_,我不太确定后面随机字符串的含义,但这不重要,我们不必关心。

这里有一个小坑。如果你输入的是一个错误的单词,百度搜索会联想相近的结果;而这个接口需要准确的单词,不能够联想。

让我们重新回头查看一下js的代码,来分析一下各个参数的含义。

  • wd应该是word的缩写,也就是我们想要查询的单词。注意这里的单词不带 翻译 后缀

  • cb的含义结合js代码看是固定前缀 'bd_cb_dict3_' 加上当前时间戳

  • callback是Ajax请求指定的回调名称,和cb参数一致

  • _是当前时间戳

让我们来模拟一下这部分的请求

base_url = 'https://sp1.baidu.com/5b11fzupBgM18t7jm9iCKT-xh_/sensearch?' refererStr = ('https://www.baidu.com/s?ie=utf-8&f=8&'         'rsv_bp=1&'         'tn=baidu&'         'wd=well%20%E7%BF%BB%E8%AF%91&'         'oq=learn%2520%25E7%25BF%25BB%25E8%25AF%2591&'         'rsv_pq=8a7812c70001e773&'         'rsv_t=85ae5zPCwmuK3yQhbD%2BYFkooE%2BMpMYpZQ5kot35E%2FTPqoYXS6tHMjVP4%2BYo&'         'rqlang=cn&'         'rsv_enter=1&'         'rsv_sug3=5&'         'rsv_sug1=5&'         'rsv_sug7=100&'         'rsv_sug2=0&'         'inputT=1168&rsv_sug4=2102') headers = {     'Host': 'sp1.baidu.com',     'Referer': refererStr,     'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36',     'X-Requested-With': 'XMLHttpRequest', } def fetchExampleWord(word):     cbName = "bd_cb_dict3_" + str(int(time.time()));     params = {         'wd': word,         'cb': cbName,         'callback': cbName,         '_':  str(int(time.time()))     }     url = base_url + urllib.urlencode(params)     try:         response = requests.get(url, headers=headers)         if response.status_code == 200:            print 'get success'     except requests.ConnectionError as e:         print('Error', e.args)

返回的是一个json字符串,但是并不规范,格式是/**/bd_cb_dict3_1522221579963(json),我们需要自己对response做一个截断然后再解析,结果如下

 response json解析结果

  • err_no是状态码,0是成功

  • err_msg是消息反馈,成功情况下是success

  • liju_result是一个数组,里面有4个对象:两个包含了例句信息的数组,一个数字和一个字符串。字符串应该是例句来源,数字是ID,这些都不重要,我们可以忽略。

重点放在liju_result里的两个数组。第一个数组包含的是英语例句,第二个数组是中文翻译的内容。

 词组内容

数组里嵌套的是多个数组。第一个对象是单词或者文字;第二个对象是w_x格式的字符串,其中x代表第几个;第三个字符串的含义不明,没有找到特别明显的规则。

第四个和第五个对象开始我并没有特别在意,开始我直接就去拼接字符串了,但是出现一个问题:中文拼接每个汉字中间不需要空格,而英文的单词之间需要。同时英文拼接还有一个问题在于,单词后面需要加空格,而标点符号后面不需要。

回头来看第四个和第五个对象,当第四个对象为0时表示这是一个后面需要拼接空格的部分,通常这个数组会有第五个对象,也就是一个‘ ’字符串;当第四个对象为1时表示这个部分后面不需要额外的拼接,也就没有第五个对象了。

分析到这里后面的工作就非常好处理了

        if response.status_code == 200:             str1 = response.text[27:-1]                          json1 = json.loads(str1)             words = json1['liju_result']             for x in xrange(0,2):                 temp = ''                 word = words[x]                 for char in word:                     extraStr = ''                     if len(char) == 5:                         extraStr = char[4]                     if char[3] == 1:                         temp += str(char[0]) + extraStr                     else:                         temp += (str(char[0]) + extraStr                                                            print temp

到这一步基本的内容都已经获取成功。我们需要依次把他们打印输出到终端,单纯的黑色太过单调,我们想要用颜色来标识不同的部分,为此在打印部分我们分别设置了一下颜色

print "\033[1;32m%s\033[0m" %('\n' + word + " 查询成功!") print "\033[0;32m%s\033[0m" %('===============================') print "\n"

查询的结果我们需要写入本地,至于写入的格式其实并不确定,可以自己定义。因为想要后期添加一个后台管理,所以我仿照POST请求里Body的方式,把每一个查询结果的字符串写入文件,以一个随机字符串Boundary来分割。写入的路径依据环境变量ENV_CODERDIC_PATH来决定,如果为空就按照os.getcwd()写入当前的工作路径。

def writeCotent(jsonStr):     path = os.getenv('ENV_CODERDIC_PATH')     if not path:         path = os.getcwd()         os.putenv('ENV_CODERDIC_PATH', path)     if not os.path.exists(path):         print "\033[1;31m%s\033[0m" %('Error: Path "' + path + '" is not exist!')         return     filePath = os.path.join(path, __CODERDICNAME)     with open(filePath, 'a+') as f:         f.write(jsonStr + '\n')         f.write(__BOUNDARY + '\n')

考虑到每次输入命令还需要再粘贴一次单词非常的麻烦,所以我想直接从粘贴板获取单词而不必再自己写入参数了。

if __name__ == '__main__':     content = pyperclip.paste()     searchWord(str(content))

终端输入

ln 文件路径 \usr\bin\自定义命令

一个简单的词典就完成了。



作者:Noskthing
链接:https://www.jianshu.com/p/84f9cfca2e45


点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消