來源公眾號:Python爬蟲實踐之路
前一段時間書荒的時候,在喜馬拉雅APP發現一個主播播講的小說-大王饒命。聽起來感覺很好笑,挺有意思的,但是隻有前200張是免費的,後面就要收費。一章兩毛錢,本來是想要買一下,發現說的進度比較慢而且整本書要1300多張,算了一下,需要200大洋才行,而且等他說完,還不知道要到什麼時候去。所以就找文字版的來讀,文字版又有它的缺點,你必須手眼聯動才行。如果要忙別的事情,但是又抑制不住想看的衝動,就很糾結了。在網上找了一圈,沒有其他的音訊。而且以前用的那些有閱讀功能的軟體,比如微信閱讀、追書神器也都開始收費了。那怎麼辦呢?這能難倒一個程式員嗎?必須滴、堅決滴不能。我用的可是世界上最好的程式語言-Python
於是乎,自己動手豐衣足食,接下來就讓我們實現自己的小說閱讀器吧。
語音合成選擇
要想讀文字,就必須要用到語音合成。現在這種語音合成的軟體有很多,其中訊飛和百度是比較好的兩種,我們這裡就使用百度語音合成API來實現。
建立語音合成應用
首先註冊百度賬號,然後登入到百度AI開放平臺
),建立一個應用
建立應用
填寫應用名和描述資訊提交
記住AppID、API Key、Secret Key,在使用API的時候會用到,檢視一下技術檔案
),使用pip install baidu-aip
安裝完API,檔案內有詳細的示例程式碼,很容易就上手了。裡面有各種引數解釋,比如音量、語調、語速、發聲人等。現在語音合成已經有了,已經有了閱讀的前提,下麵就是獲取小說內容了。
獲取小說內容
小說內容的獲取我們從筆趣閣網站上獲取,一方面免費,另一方面沒有反爬,找到網站首頁https://www.biquge.info/40_40289/,使用requests大法就可以了。簡單分析一下頁面
所有章節資訊都在dd元素下,而且連結也是很有規律的,直接用xpath獲取所有章節串列資訊。
def get_chapters(self):
url = "https://www.biquge.info/40_40289/"
r = self.session.get(url)
r.encoding = chardet.detect(r.content).get("encoding", "utf-8")
html = etree.HTML(r.text)
for item in html.xpath("//dl/dd/a"):
yield item.attrib["title"], url + item.attrib["href"]
章節內容獲取也非常簡單,就不分析了
def get_content(self, url):
r = self.session.get(url)
r.encoding = chardet.detect(r.content).get("encoding", "utf-8")
html = etree.HTML(r.text)
title = html.xpath(r'//*[@class="bookname"]/h1')[0].text
for info in html.xpath("//div[@id='content']"):
text = info.xpath("string(.)")
這裡有一點要註意的,獲取的章節內容中有html元素,xpath為我們提供了string(.),提取多個子節點的文字,非常好用。
合成儲存
小說內容獲取成功了,與語音合成結合一下,小說閱讀器的雛形就有了。簡單實現如下:
import chardet
import requests
from lxml import etree
from aip import AipSpeech
class CollectNovels:
def __init__(self):
self.session = requests.session()
self.session.essay-headers["user-agent"] = "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36"
""" 你的 APPID AK SK """
APP_ID = '16416498'
API_KEY = 'oEWGafQkaUGqmsmPbfkE5OMx'
SECRET_KEY = '6jdsUcH0PXz5TYoELU47u58W5vPV9lwf'
self.client = AipSpeech(APP_ID, API_KEY, SECRET_KEY)
def get_chapters(self, url):
r = self.session.get(url)
r.encoding = chardet.detect(r.content).get("encoding", "utf-8")
html = etree.HTML(r.text)
for item in html.xpath("//dl/dd/a"):
yield item.attrib["title"], url + item.attrib["href"]
def get_content(self, url):
r = self.session.get(url)
r.encoding = chardet.detect(r.content).get("encoding", "utf-8")
html = etree.HTML(r.text)
for info in html.xpath("//div[@id='content']"):
text = info.xpath("string(.)")
for line in text.split("。"):
content = self.client.synthesis(line, 'zh', 1, {"per": 0})
with open("auido.mp3", "rb") as fp:
fp.write(content)
if __name__ == '__main__':
novel = CollectNovels()
home_url = "https://www.biquge.info/40_40289/"
for title, url in novel.get_chapters(home_url):
novel.get_content(url)
這裡是生成了mp3檔案,按行生成以後,再使用合成軟體合成後,我們就可以放在任意地方去聽了。但是這樣也有缺陷,必須提前生成,然後才能使用播放器聽,這樣不是很方便。如果可以邊生成邊播放是不是更好呢?
播放合成語音
我們可以使用python的pygame庫,其他的好幾個庫都不太好用,有些已經年久失修了,所以就不用了。
import time
import pygame
from io import BytesIO
pygame_mixer = pygame.mixer
pygame_mixer.init(frequency=frequency)
byte_obj = BytesIO()
byte_obj.write(content)
byte_obj.seek(0, 0)
pygame_mixer.music.load(byte_obj)
pygame_mixer.music.play()
while pygame_mixer.music.get_busy():
time.sleep(0.1)
pygame_mixer.stop()
這裡使用BytesIO將語音合成的二進位制檔案儲存在記憶體中,就不需要再儲存成本地mp3了,有一個需要註意的地方pygame_mixer.init(frequency=frequency)
,這個frequency引數是音訊頻率,如果不設定的話預設是22050,播放出來的聲音和mp3播放相差太大了,一直以為是這個庫有問題,換了好幾個,有的是用不了,有的有問題,後來我才發現需要設定這個引數,那麼這個引數從哪裡來呢?檢視之前生成的mp3檔案屬性
然後將頻率設定為16000就可以了。
最終處理
要生成我們最終可以使用的閱讀器還有幾個問題需要處理。
- 合成一句播放一句,這樣會有停頓,所以要使用並行處理。
- 每次合成如果不進行儲存,下一次就必須要重新合成。所以我們使用資料庫儲存合成的語音。
- 獲取章節內容、合成語音、播放內容需要獨立處理。
最終程式碼已經上傳到我的GitHub上,請關註我的公眾號,傳送:小說 獲取
後期規劃
後期可以增加前端頁面,透過前端增加爬取小說資訊,顯示合成進度、播放進度、選擇章節播放等功能。
朋友會在“發現-看一看”看到你“在看”的內容