起始页面URL
    https://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__1.html
    终止页面URL
    https://www.shicimingju.com/shicimark/tangshisanbaishou_16_0__1.html
    查看网址,可以发现,改变tangshisanbaishou_1_0__1.htmltangshisanbaishou_(*)_0__1.html 星号位置的数字,设置从1到16,便可以获得全部页面的URL。

    1. for i in range(1, 17):
    2. url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_' + str(i) + '_0__0.html'

    image.png
    以第一个页面为例:

    1. import requests
    2. from bs4 import BeautifulSoup
    3. url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__0.html'
    4. r = requests.get(url)
    5. demo = r.text # 服务器返回响应
    6. soup = BeautifulSoup(demo, "html.parser")
    7. print(soup)

    查看解析结果:

    1. <!DOCTYPE html>
    2. <html lang="zh">
    3. <head>
    4. <meta charset="utf-8"/>
    5. <title>唐诗三百首(306首)_诗词分类_诗词名句网</title>
    6. <meta content="width=device-width,user-scalable=no" name="viewport">
    7. <meta content="" name="description"/>
    8. <link href="/public/css/www_v3.css" rel="stylesheet"/>
    9. <link href="/public/css/font_576092_m2icqcebp7evzpvi.css" rel="stylesheet"/>
    10. <script src="/public/js/device.js"></script>
    11. <script src="/public/js/jq.js"></script>
    12. <script src="/public/js/www_v3.js"></script>
    13. </meta></head>
    14. <body>
    15. <div id="top_bar">
    16. <div id="top_bar_main">
    17. <div id="top_left">
    18. <a href="/"><img id="logo" src="/public/image/logo.png"/></a>
    19. <div id="top_left_menu">
    20. <ul>
    21. <li><a href="/">首页</a></li>
    22. <li><a href="/shicimark">分类</a></li>
    23. <li><a href="/category/all">作者</a></li>
    24. <li><a href="/paiming">排行榜</a></li>
    25. <li><a href="/cate?cate_id=4">课本古诗</a></li>
    26. <li><a href="/cipai/index.html">词牌名</a></li>
    27. <li><a href="/cangtoushi/index.html">藏头诗</a></li>
    28. <li><a href="/hecheng/index.html">合称</a></li>
    29. <li><a href="/book/">古籍</a></li>
    30. <li><a href="/app/">安卓下载</a></li>
    31. </ul>
    32. </div>
    33. <div style="clear: both"></div>
    34. </div>
    35. <div id="top_right">
    36. <div id="top_right_nav">
    37. <ul>
    38. <li><a data-cate="all" href="javascript:void(0)">综合</a> </li>
    39. <li><a data-cate="zuozhe" href="javascript:void(0)">作者</a> </li>
    40. <li><a data-cate="title" href="javascript:void(0)">标题</a> </li>
    41. <li><a data-cate="shiju" href="javascript:void(0)">诗句</a> </li>
    42. <li><a data-cate="first" href="javascript:void(0)">句首</a> </li>
    43. <li><a data-cate="end" href="javascript:void(0)">句尾</a> </li>
    44. <li><a data-cate="book" href="javascript:void(0)">古籍</a> </li>
    45. <li><a data-cate="chengyu" href="javascript:void(0)">成语</a> </li>
    46. </ul>
    47. </div>
    48. <div id="input_div">
    49. <input autocomplete="off" id="search_input" name="kw" placeholder="" type="text" value=""/>
    50. <a href="javascript:doSearch();"><img class="www-icon" src="/public/image/web_search.png"/></a>
    51. <div style="clear: both"></div>
    52. </div>
    53. <div class="card" id="tip_result">
    54. <ul>
    55. </ul>
    56. <div id="tip_content">
    57. </div>
    58. </div>
    59. </div>
    60. <div style="clear: both;"></div>
    61. </div>
    62. </div>
    63. <div id="nav-top"><a href="/">主页</a><span class="nav-arrow"></span><a href="/shicimark/">诗词分类</a><span class="nav-arrow"></span><a href="/shicimark/tangshisanbaishou.html">唐诗三百首</a></div>
    64. <div id="main">
    65. <div id="main_left">
    66. <div class="card">
    67. <h1>唐诗三百首(306首)</h1>
    68. <div class="filter-container">
    69. <a class="current-filter" href="/shicimark/tangshisanbaishou.html">全部</a>
    70. <a href="/shicimark/tangshisanbaishou_1_0__1.html">唐(305)</a>
    71. <a href="javascript:filter_show_more()" id="filter_show_more">展开</a>
    72. </div>
    73. <div class="filter-hide" style="height: 1px;background: #eee;margin: 5px 0"></div>
    74. <div class="filter-container filter-hide">
    75. <a class="current-filter" href="/shicimark/tangshisanbaishou.html">全部</a>
    76. <a href="/shicimark/tangshisanbaishou_1_1__0.html">李白(33)</a>
    77. <a href="/shicimark/tangshisanbaishou_1_2__0.html">韩翃(3)</a>
    78. ...
    79. <a href="/shicimark/tangshisanbaishou_1_448__0.html">邱为(1)</a>
    80. <a href="/shicimark/tangshisanbaishou_1_484__0.html">朱庆馀(1)</a>
    81. </div>
    82. </div>
    83. <div class="card shici_card">
    84. <div>
    85. <div class="list_num_info">
    86. 1 <br/>
    87. [唐]
    88. <br/>
    89. 王昌龄
    90. </div>
    91. <div class="shici_list_main">
    92. <h3><a href="/chaxun/list/2973.html">《出塞》</a> </h3>
    93. <div class="shici_content">
    94. 秦时明月汉时关,万里长征人未还。<br/>但使龙城飞将在,不教胡马度阴山。 </div>
    95. </div>
    96. <div class="shici_list_pic">
    97. <a href="/chaxun/list/2973.html"><img src="/pics/600/600/item/2973.jpg"/></a>
    98. </div>
    99. <div style="clear: both"></div>
    100. </div>
    101. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    102. <div>
    103. <div class="list_num_info">
    104. 2 <br>
    105. [唐]
    106. <br/>
    107. 孟浩然 </br>
    108. </div>
    109. <div class="shici_list_main">
    110. <h3><a href="/chaxun/list/3020.html">《春晓》</a> </h3>
    111. <div class="shici_content">
    112. 春眠不觉晓,处处闻啼鸟。<br/>夜来风雨声,花落知多少。 </div>
    113. </div>
    114. <div class="shici_list_pic">
    115. <a href="/chaxun/list/3020.html"><img src="/pics/600/600/item/3020.jpg"/></a>
    116. </div>
    117. <div style="clear: both"></div>
    118. </div>
    119. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    120. <div>
    121. <div class="list_num_info">
    122. 3 <br>
    123. [唐]
    124. <br/>
    125. 王维 </br></div>
    126. <div class="shici_list_main">
    127. <h3><a href="/chaxun/list/3025.html">《杂诗》</a> </h3>
    128. <div class="shici_content">
    129. 君自故乡来,应知故乡事。<br/>来日绮窗前,寒梅著花未? </div>
    130. </div>
    131. <div class="shici_list_pic">
    132. <a href="/chaxun/list/3025.html"><img src="/pics/600/600/item/3025.jpg"/></a>
    133. </div>
    134. <div style="clear: both"></div>
    135. </div>
    136. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    137. <div>
    138. <div class="list_num_info">
    139. 4 <br/>
    140. [唐]
    141. <br/>
    142. 贾岛 </div>
    143. <div class="shici_list_main">
    144. <h3><a href="/chaxun/list/3035.html">《寻隐者不遇》</a> </h3>
    145. <div class="shici_content">
    146. 松下问童子,言师采药去。<br/>只在此山中,云深不知处。 </div>
    147. </div>
    148. <div class="shici_list_pic">
    149. <a href="/chaxun/list/3035.html"><img src="/pics/600/600/item/3035.jpg"/></a>
    150. </div>
    151. <div style="clear: both"></div>
    152. </div>
    153. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    154. <div>
    155. <div class="list_num_info">
    156. 5 <br>
    157. [唐]
    158. <br/>
    159. 李白 </br></div>
    160. <div class="shici_list_main">
    161. <h3><a href="/chaxun/list/3045.html">《早发白帝城》</a> </h3>
    162. <div class="shici_content">
    163. 朝辞白帝彩云间,千里江陵一日还。<br/>两岸猿声啼不住,轻舟已过万重山。 </div>
    164. </div>
    165. <div class="shici_list_pic">
    166. <a href="/chaxun/list/3045.html"><img src="/pics/600/600/item/3045.jpg"/></a>
    167. </div>
    168. <div style="clear: both"></div>
    169. </div>
    170. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    171. <div>
    172. <div class="list_num_info">
    173. 6 <br>
    174. [唐]
    175. <br/>
    176. 王维 </br></div>
    177. <div class="shici_list_main">
    178. <h3><a href="/chaxun/list/3055.html">《九月九日忆山东兄弟》</a> </h3>
    179. <div class="shici_content">
    180. 独在异乡为异客,每逢佳节倍思亲。<br/>遥知兄弟登高处,遍插茱萸少一人。 </div>
    181. </div>
    182. <div class="shici_list_pic">
    183. <a href="/chaxun/list/3055.html"><img src="/pics/600/600/item/3055.png"/></a>
    184. </div>
    185. <div style="clear: both"></div>
    186. </div>
    187. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    188. <div>
    189. <div class="list_num_info">
    190. 7 <br>
    191. [唐]
    192. <br/>
    193. 王之涣 </br></div>
    194. <div class="shici_list_main">
    195. <h3><a href="/chaxun/list/3165.html">《登鹳雀楼》</a> </h3>
    196. <div class="shici_content">
    197. 白日依山尽,黄河入海流。<br/>欲穷千里目,更上一层楼。 </div>
    198. </div>
    199. <div style="clear: both"></div>
    200. </div>
    201. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    202. <div>
    203. <div class="list_num_info">
    204. 8 <br>
    205. [唐]
    206. <br/>
    207. 王翰 </br></div>
    208. <div class="shici_list_main">
    209. <h3><a href="/chaxun/list/3179.html">《凉州词》</a> </h3>
    210. <div class="shici_content">
    211. 葡萄美酒夜光杯,欲饮琵琶马上催。<br/>醉卧沙场君莫笑,古来征战几人回? </div>
    212. </div>
    213. <div style="clear: both"></div>
    214. </div>
    215. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    216. <div>
    217. <div class="list_num_info">
    218. 9 <br>
    219. [唐]
    220. <br/>
    221. 杜牧 </br></div>
    222. <div class="shici_list_main">
    223. <h3><a href="/chaxun/list/3261.html">《赤壁》</a> </h3>
    224. <div class="shici_content">
    225. 折戟沉沙铁未销,自将磨洗认前朝。<br/>东风不与周郎便,铜雀春深锁二乔。 </div>
    226. </div>
    227. <div class="shici_list_pic">
    228. <a href="/chaxun/list/3261.html"><img src="/pics/600/600/item/3261.jpg"/></a>
    229. </div>
    230. <div style="clear: both"></div>
    231. </div>
    232. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    233. <div>
    234. <div class="list_num_info">
    235. 10 <br>
    236. [唐]
    237. <br/>
    238. 朱庆余 </br></div>
    239. <div class="shici_list_main">
    240. <h3><a href="/chaxun/list/3271.html">《近试上张籍水部》</a> </h3>
    241. <div class="shici_content">
    242. 洞房昨夜停红烛,待晓堂前拜舅姑。<br/>妆罢低声问夫婿,画眉深浅入时无? </div>
    243. </div>
    244. <div style="clear: both"></div>
    245. </div>
    246. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    247. <div>
    248. <div class="list_num_info">
    249. 11 <br>
    250. [唐]
    251. <br/>
    252. 益嘉运 </br></div>
    253. <div class="shici_list_main">
    254. <h3><a href="/chaxun/list/3281.html">《春怨》</a> </h3>
    255. <div class="shici_content">
    256. 打起黄莺儿,莫教枝上啼。<br/>啼时惊妾梦,不得到辽西。 </div>
    257. </div>
    258. <div style="clear: both"></div>
    259. </div>
    260. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    261. <div>
    262. <div class="list_num_info">
    263. 12 <br>
    264. [唐]
    265. <br/>
    266. 西鄙人 </br></div>
    267. <div class="shici_list_main">
    268. <h3><a href="/chaxun/list/3286.html">《哥舒歌》</a> </h3>
    269. <div class="shici_content">
    270. 北斗七星高,哥舒夜带刀。<br/>至今窥牧马,不敢过临洮。 </div>
    271. </div>
    272. <div style="clear: both"></div>
    273. </div>
    274. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    275. <div>
    276. <div class="list_num_info">
    277. 13 <br>
    278. [唐]
    279. <br/>
    280. 张祜 </br></div>
    281. <div class="shici_list_main">
    282. <h3><a href="/chaxun/list/3291.html">《宫词》</a> </h3>
    283. <div class="shici_content">
    284. 故国三千里,深宫二十年。<br/>一声何满子,双泪落君前。 </div>
    285. </div>
    286. <div style="clear: both"></div>
    287. </div>
    288. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    289. <div>
    290. <div class="list_num_info">
    291. 14 <br>
    292. [唐]
    293. <br/>
    294. 王维 </br></div>
    295. <div class="shici_list_main">
    296. <h3><a href="/chaxun/list/3296.html">《山中送别》</a> </h3>
    297. <div class="shici_content">
    298. 山中相送罢,日暮掩柴扉。<br/>春草明年绿,王孙归不归。 </div>
    299. </div>
    300. <div class="shici_list_pic">
    301. <a href="/chaxun/list/3296.html"><img src="/pics/600/600/item/3296.jpg"/></a>
    302. </div>
    303. <div style="clear: both"></div>
    304. </div>
    305. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    306. <div>
    307. <div class="list_num_info">
    308. 15 <br/>
    309. [唐]
    310. <br/>
    311. 杜甫 </div>
    312. <div class="shici_list_main">
    313. <h3><a href="/chaxun/list/3301.html">《八阵图》</a> </h3>
    314. <div class="shici_content">
    315. 功盖三分国,名成八阵图。<br/>江流石不转,遗恨失吞吴。 </div>
    316. </div>
    317. <div style="clear: both"></div>
    318. </div>
    319. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    320. <div>
    321. <div class="list_num_info">
    322. 16 <br/>
    323. [唐]
    324. <br/>
    325. 王维 </div>
    326. <div class="shici_list_main">
    327. <h3><a href="/chaxun/list/3306.html">《相思》</a> </h3>
    328. <div class="shici_content">
    329. 红豆生南国,春来发几枝。<br/>愿君多采撷,此物最相思。 </div>
    330. </div>
    331. <div class="shici_list_pic">
    332. <a href="/chaxun/list/3306.html"><img src="/pics/600/600/item/3306.jpg"/></a>
    333. </div>
    334. <div style="clear: both"></div>
    335. </div>
    336. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    337. <div>
    338. <div class="list_num_info">
    339. 17 <br>
    340. [唐]
    341. <br/>
    342. 王维 </br></div>
    343. <div class="shici_list_main">
    344. <h3><a href="/chaxun/list/3311.html">《鹿柴》</a> </h3>
    345. <div class="shici_content">
    346. 空山不见人,但闻人语响。<br/>返景入深林,复照青苔上。 </div>
    347. </div>
    348. <div class="shici_list_pic">
    349. <a href="/chaxun/list/3311.html"><img src="/pics/600/600/item/3311.jpg"/></a>
    350. </div>
    351. <div style="clear: both"></div>
    352. </div>
    353. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    354. <div>
    355. <div class="list_num_info">
    356. 18 <br>
    357. [唐]
    358. <br/>
    359. 李白 </br></div>
    360. <div class="shici_list_main">
    361. <h3><a href="/chaxun/list/3316.html">《黄鹤楼送孟浩然之广陵》</a> </h3>
    362. <div class="shici_content">
    363. 故人西辞黄鹤楼,烟花三月下扬州。<br/>孤帆远影碧空尽,唯见长江天际流。 </div>
    364. </div>
    365. <div class="shici_list_pic">
    366. <a href="/chaxun/list/3316.html"><img src="/pics/600/600/item/3316.jpg"/></a>
    367. </div>
    368. <div style="clear: both"></div>
    369. </div>
    370. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    371. <div>
    372. <div class="list_num_info">
    373. 19 <br>
    374. [唐]
    375. <br/>
    376. 柳宗元 </br></div>
    377. <div class="shici_list_main">
    378. <h3><a href="/chaxun/list/3341.html">《江雪》</a> </h3>
    379. <div class="shici_content">
    380. 千山鸟飞绝,万径人踪灭。<br/>孤舟蓑笠翁,独钓寒江雪。 </div>
    381. </div>
    382. <div class="shici_list_pic">
    383. <a href="/chaxun/list/3341.html"><img src="/pics/600/600/item/3341.png"/></a>
    384. </div>
    385. <div style="clear: both"></div>
    386. </div>
    387. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    388. <div>
    389. <div class="list_num_info">
    390. 20 <br>
    391. [唐]
    392. <br/>
    393. 张继 </br></div>
    394. <div class="shici_list_main">
    395. <h3><a href="/chaxun/list/3346.html">《枫桥夜泊》</a> </h3>
    396. <div class="shici_content">
    397. 月落乌啼霜满天,江枫渔火对愁眠。<br/>姑苏城外寒山寺,夜半钟声到客船。 </div>
    398. </div>
    399. <div class="shici_list_pic">
    400. <a href="/chaxun/list/3346.html"><img src="/pics/600/600/item/3346.jpg"/></a>
    401. </div>
    402. <div style="clear: both"></div>
    403. </div>
    404. <div style="background: #eee;height: 1px;margin: 10px 0;"></div>
    405. </div>
    406. <div id="flag"></div>
    407. <div id="list_nav">
    408. <div id="list_nav_title">分页导航<a href="javascript:void(0)" id="hide_all_nav" style="float: right">关闭</a> <div style="clear: both"></div></div>
    409. <div id="list_nav_all" style="display: none">
    410. <a class="list_nav_current" href="/shicimark/tangshisanbaishou.html">1</a>
    411. <a href="/shicimark/tangshisanbaishou_2_0__0.html">2</a>
    412. ...
    413. <a href="/shicimark/tangshisanbaishou_16_0__0.html">16</a>
    414. </div>
    415. <div id="list_nav_part">
    416. ...
    417. </div>
    418. </div>
    419. </div>
    420. <div id="main_right">
    421. <div class="card hc_other">
    422. <div class="aside_title">诗词分类</div>
    423. <ul>
    424. <li><a href="/shicimark/tianyuanshi.html">田园诗</a></li>
    425. <li><a href="/shicimark/sonbieshi.html">送别诗</a></li>
    426. ...
    427. <li><a href="/shicimark/laodong.html">劳动</a></li>
    428. <li><a href="/shicimark/zhuangzhinanchou.html">壮志难酬</a></li>
    429. <div style="clear: both"></div>
    430. </ul>
    431. </div>
    432. </div>
    433. <div style="clear: both;"></div>
    434. </div><a href="javascript:toTop();"><div id="toTop">顶部</div></a>
    435. <div id="footer">
    436. <div id="footer_main">
    437. <div id="bottom_nav">
    438. ...
    439. Copyright © 2010-2020 <a href="http://www.miibeian.gov.cn" target="_blank">晋ICP20006382号-1</a> 邮箱:
    440. </div>
    441. </div>
    442. </div><script>
    443. var _hmt = _hmt || [];
    444. (function() {
    445. var hm = document.createElement("script");
    446. hm.src = "https://hm.baidu.com/hm.js?6181c6e4531be00fa696eb631fbd2a4b";
    447. var s = document.getElementsByTagName("script")[0];
    448. s.parentNode.insertBefore(hm, s);
    449. })();
    450. </script>
    451. </body>
    452. </html>

    单独查看一首诗的信息

    <div class="list_num_info">
                        18                    <br>
                        [唐]
                        <br/>
                        李白                </br>
    </div>
    <div class="shici_list_main">
        <h3><a href="/chaxun/list/3316.html">《黄鹤楼送孟浩然之广陵》</a> </h3>
        <div class="shici_content">
                            故人西辞黄鹤楼,烟花三月下扬州。<br/>
                            孤帆远影碧空尽,唯见长江天际流。
        </div>
    </div>
    

    从解析内容上看,所有诗的序号、朝代和作者信息都在

    中,诗的名字信息在
    中,诗的内容信息在
    中的
    中,用soup.findall(class=’listnum_info’)、soup.find_all(class=‘shici_list_main’)。获取这部分信息。

    import requests
    from bs4 import BeautifulSoup
    
    
    url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__0.html'
    r = requests.get(url)
    demo = r.text  # 服务器返回响应
    soup = BeautifulSoup(demo, "html.parser")
    # print(soup)
    html1 = soup.find_all(class_='list_num_info')
    for text in html1:
        print(text.get_text())
    
                        1                    
                        [唐]
    
                        王昌龄                
    
                        2                    
                        [唐]
    
                        孟浩然                
    
                        3                    
                        [唐]
    
                        王维                
    
                        4                    
                        [唐]
    
                        贾岛                
    
                        5                    
                        [唐]
    
                        李白                
    
                        6                    
                        [唐]
    
                        王维                
    
                        7                    
                        [唐]
    
                        王之涣                
    
                        8                    
                        [唐]
    
                        王翰                
    
                        9                    
                        [唐]
    
                        杜牧                
    
                        10                    
                        [唐]
    
                        朱庆余                
    
                        11                    
                        [唐]
    
                        益嘉运                
    
                        12                    
                        [唐]
    
                        西鄙人                
    
                        13                    
                        [唐]
    
                        张祜                
    
                        14                    
                        [唐]
    
                        王维                
    
                        15                    
                        [唐]
    
                        杜甫                
    
                        16                    
                        [唐]
    
                        王维                
    
                        17                    
                        [唐]
    
                        王维                
    
                        18                    
                        [唐]
    
                        李白                
    
                        19                    
                        [唐]
    
                        柳宗元                
    
                        20                    
                        [唐]
    
                        张继
    
    import requests
    from bs4 import BeautifulSoup
    
    
    url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__0.html'
    r = requests.get(url)
    demo = r.text  # 服务器返回响应
    soup = BeautifulSoup(demo, "html.parser")
    # print(soup)
    html1 = soup.find_all(class_='shici_list_main')
    for text in html1:
        print(text.get_text())
    
    《出塞》 
    
                            秦时明月汉时关,万里长征人未还。但使龙城飞将在,不教胡马度阴山。                                            
    
    
    《春晓》 
    
                            春眠不觉晓,处处闻啼鸟。夜来风雨声,花落知多少。                                            
    
    
    《杂诗》 
    
                            君自故乡来,应知故乡事。来日绮窗前,寒梅著花未?                                            
    
    
    《寻隐者不遇》 
    
                            松下问童子,言师采药去。只在此山中,云深不知处。                                            
    
    
    《早发白帝城》 
    
                            朝辞白帝彩云间,千里江陵一日还。两岸猿声啼不住,轻舟已过万重山。                                            
    
    
    《九月九日忆山东兄弟》 
    
                            独在异乡为异客,每逢佳节倍思亲。遥知兄弟登高处,遍插茱萸少一人。                                            
    
    
    《登鹳雀楼》 
    
                            白日依山尽,黄河入海流。欲穷千里目,更上一层楼。                                            
    
    
    《凉州词》 
    
                            葡萄美酒夜光杯,欲饮琵琶马上催。醉卧沙场君莫笑,古来征战几人回?                                            
    
    
    《赤壁》 
    
                            折戟沉沙铁未销,自将磨洗认前朝。东风不与周郎便,铜雀春深锁二乔。                                            
    
    
    《近试上张籍水部》 
    
                            洞房昨夜停红烛,待晓堂前拜舅姑。妆罢低声问夫婿,画眉深浅入时无?                                            
    
    
    《春怨》 
    
                            打起黄莺儿,莫教枝上啼。啼时惊妾梦,不得到辽西。                                            
    
    
    《哥舒歌》 
    
                            北斗七星高,哥舒夜带刀。至今窥牧马,不敢过临洮。                                            
    
    
    《宫词》 
    
                            故国三千里,深宫二十年。一声何满子,双泪落君前。                                            
    
    
    《山中送别》 
    
                            山中相送罢,日暮掩柴扉。春草明年绿,王孙归不归。                                            
    
    
    《八阵图》 
    
                            功盖三分国,名成八阵图。江流石不转,遗恨失吞吴。                                            
    
    
    《相思》 
    
                            红豆生南国,春来发几枝。愿君多采撷,此物最相思。                                            
    
    
    《鹿柴》 
    
                            空山不见人,但闻人语响。返景入深林,复照青苔上。                                            
    
    
    《黄鹤楼送孟浩然之广陵》 
    
                            故人西辞黄鹤楼,烟花三月下扬州。孤帆远影碧空尽,唯见长江天际流。                                            
    
    
    《江雪》 
    
                            千山鸟飞绝,万径人踪灭。孤舟蓑笠翁,独钓寒江雪。                                            
    
    
    《枫桥夜泊》 
    
                            月落乌啼霜满天,江枫渔火对愁眠。姑苏城外寒山寺,夜半钟声到客船。
    

    到这里,我们已经获得了想要的诗的信息,接下来要做的就是过滤掉无用的空格、回车、[]和《》,再把数据加入到列表便可以了。

    import requests
    from bs4 import BeautifulSoup
    
    
    numbers = []
    dynasties = []
    poets = []
    names = []
    poems = []
    
    
    for i in range(1, 17):
        url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_' + str(i) + '_0__0.html'
    
        r = requests.get(url)
        demo = r.text  # 服务器返回响应
    
        soup = BeautifulSoup(demo, "html.parser")
        # print(soup)
        """
        demo 表示被解析的html格式的内容
        html.parser表示解析用的解析器
        """
    
        html1 = soup.find_all(class_='list_num_info')
        for text in html1:
            print(text)
            text = text.get_text().replace('\n', '').replace(' ', '').replace('[', '|').replace(']', '|')
            text = text.split('|')
            numbers.append(text[0])
            dynasties.append(text[1])
            poets.append(text[2])
    
    import requests
    from bs4 import BeautifulSoup
    
    
    url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__0.html'
    r = requests.get(url)
    demo = r.text  # 服务器返回响应
    soup = BeautifulSoup(demo, "html.parser")
    # print(soup)
    html1 = soup.find_all(class_='list_num_info')
    for text in html1:
        text = text.get_text().replace('\n', '').replace(' ', '').replace('[', '|').replace(']', '|')
        text = text.split('|')
        print(text)
    
    ['1', '唐', '王昌龄']
    ['2', '唐', '孟浩然']
    ['3', '唐', '王维']
    ['4', '唐', '贾岛']
    ['5', '唐', '李白']
    ['6', '唐', '王维']
    ['7', '唐', '王之涣']
    ['8', '唐', '王翰']
    ['9', '唐', '杜牧']
    ['10', '唐', '朱庆余']
    ['11', '唐', '益嘉运']
    ['12', '唐', '西鄙人']
    ['13', '唐', '张祜']
    ['14', '唐', '王维']
    ['15', '唐', '杜甫']
    ['16', '唐', '王维']
    ['17', '唐', '王维']
    ['18', '唐', '李白']
    ['19', '唐', '柳宗元']
    ['20', '唐', '张继']
    
    import requests
    from bs4 import BeautifulSoup
    
    
    url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_1_0__0.html'
    r = requests.get(url)
    demo = r.text  # 服务器返回响应
    soup = BeautifulSoup(demo, "html.parser")
    # print(soup)
    html1 = soup.find_all(class_='shici_list_main')
    for text in html1:
        text = text.get_text().replace('\n', '').replace(' ', '').replace('[', '|').replace(']', '|')
        text = text.split('|')
        print(text)
    
    ['《出塞》秦时明月汉时关,万里长征人未还。但使龙城飞将在,不教胡马度阴山。']
    ['《春晓》春眠不觉晓,处处闻啼鸟。夜来风雨声,花落知多少。']
    ['《杂诗》君自故乡来,应知故乡事。来日绮窗前,寒梅著花未?']
    ['《寻隐者不遇》松下问童子,言师采药去。只在此山中,云深不知处。']
    ['《早发白帝城》朝辞白帝彩云间,千里江陵一日还。两岸猿声啼不住,轻舟已过万重山。']
    ['《九月九日忆山东兄弟》独在异乡为异客,每逢佳节倍思亲。遥知兄弟登高处,遍插茱萸少一人。']
    ['《登鹳雀楼》白日依山尽,黄河入海流。欲穷千里目,更上一层楼。']
    ['《凉州词》葡萄美酒夜光杯,欲饮琵琶马上催。醉卧沙场君莫笑,古来征战几人回?']
    ['《赤壁》折戟沉沙铁未销,自将磨洗认前朝。东风不与周郎便,铜雀春深锁二乔。']
    ['《近试上张籍水部》洞房昨夜停红烛,待晓堂前拜舅姑。妆罢低声问夫婿,画眉深浅入时无?']
    ['《春怨》打起黄莺儿,莫教枝上啼。啼时惊妾梦,不得到辽西。']
    ['《哥舒歌》北斗七星高,哥舒夜带刀。至今窥牧马,不敢过临洮。']
    ['《宫词》故国三千里,深宫二十年。一声何满子,双泪落君前。']
    ['《山中送别》山中相送罢,日暮掩柴扉。春草明年绿,王孙归不归。']
    ['《八阵图》功盖三分国,名成八阵图。江流石不转,遗恨失吞吴。']
    ['《相思》红豆生南国,春来发几枝。愿君多采撷,此物最相思。']
    ['《鹿柴》空山不见人,但闻人语响。返景入深林,复照青苔上。']
    ['《黄鹤楼送孟浩然之广陵》故人西辞黄鹤楼,烟花三月下扬州。孤帆远影碧空尽,唯见长江天际流。']
    ['《江雪》千山鸟飞绝,万径人踪灭。孤舟蓑笠翁,独钓寒江雪。']
    ['《枫桥夜泊》月落乌啼霜满天,江枫渔火对愁眠。姑苏城外寒山寺,夜半钟声到客船。']
    

    将两部分内容合并到一个列表中,完整代码为:

    import requests
    from bs4 import BeautifulSoup
    import pandas as pd
    
    
    poem_title = []
    poem_content = []
    poems = []
    
    for i in range(1, 17):
        url = 'http://www.shicimingju.com/shicimark/tangshisanbaishou_' + str(i) + '_0__0.html'
        r = requests.get(url)
        demo = r.text  # 服务器返回响应
        soup = BeautifulSoup(demo, "html.parser")
        # print(soup)
        title = soup.find_all(class_='list_num_info')
    
        for text in title:
            text = text.get_text().replace('\n', '').replace(' ', '').replace('[', '|').replace(']', '|')
            text = text.split('|')
            poem_title.append(text)
    
    
        content = soup.find_all(class_='shici_list_main')
        for text in content:
            text = text.get_text().replace('\n', '').replace(' ', '')
            text = text.replace('展开全文', '').replace('收起', '').replace('《', '').replace('》', '|')
            text = text.split('|')
            poem_content.append(text)
    
    
    for i in range(len(poem_title)):
        poems.append(poem_title[i] + poem_content[i])
    
    print(poems)
    poems_df = pd.DataFrame(poems, columns=['序号', '朝代', '作者','诗名', '诗句', ''])
    poems_df.to_csv('./唐诗三百首.csv', index=False)
    
    [['1', '唐', '王昌龄', '出塞', '秦时明月汉时关,万里长征人未还。但使龙城飞将在,不教胡马度阴山。'], 
     ['2', '唐', '孟浩然', '春晓', '春眠不觉晓,处处闻啼鸟。夜来风雨声,花落知多少。'], 
     ...
     ['306', '唐', '柳宗元', '晨诣超师院读禅经', '汲井漱寒齿,清心拂尘服。闲持贝叶书,步出东斋读。真源了无取,妄迹世所逐。遗言冀可冥,缮性何由熟。道人庭宇静,苔色连深竹。日出雾露馀,青松如膏沐。澹然离言说,悟悦心自足。']]
    
    序号,朝代,作者,诗名,诗句,
    1,唐,王昌龄,出塞,秦时明月汉时关,万里长征人未还。但使龙城飞将在,不教胡马度阴山。,
    2,唐,孟浩然,春晓,春眠不觉晓,处处闻啼鸟。夜来风雨声,花落知多少。,
    
    
    
    ...
    305,唐,常建,宿王昌龄隐居,清溪深不测,隐处唯孤云。松际露微月,清光犹为君。茅亭宿花影,药院滋苔纹。余亦谢时去,西山鸾鹤群。,
    306,唐,柳宗元,晨诣超师院读禅经,汲井漱寒齿,清心拂尘服。闲持贝叶书,步出东斋读。真源了无取,妄迹世所逐。遗言冀可冥,缮性何由熟。道人庭宇静,苔色连深竹。日出雾露馀,青松如膏沐。澹然离言说,悟悦心自足。,