万字xpath详细教程,手把手系列

网友投稿 785 2022-05-30

@[TOC]

一、必看内容!!!

1)简短介绍

XPath 是一种用于寻址 XML 文档部分的语言。它在 XSLT 中使用并且是 XQuery 的子集。这个库也可用于大多数其他编程语言。

2)必备知识

了解基本的html和xml语法和格式

没有了,如果你不会html和xml,超过2000,我出一篇html详细教程,至于怎么达到2000赞,看各位粉丝了。

3)为什么我要写这篇文章?

在我前面的几十篇文章,写了上百万字把python的所有基础已经讲得很明白了,不管你是不是小白,跟着学都能学会,同时在我的粉丝群,我还会对教程中的问题进行答疑,所以包教包会的口号,我从来不是吹的。

这里是我的基础教程专栏:python全栈基础详细教程专栏系列

当然,如果你对qq机器人制作感兴趣请查看专栏:qq机器人制作详细教程专栏

这两个专栏,我为什么放在一起?第一个专栏是基础教程,第二个专栏是进阶,所以你在不会基础之前,请不要冒然学习机器人制作。

说了半天,我还没说为什么写这一篇的原因,前面的基础我已经差不多写完了,基础不会的自己去看我专栏,上百万字写基础,我已经很用心教大家了。基础过后,我们即将开始学爬虫,因此xpath你不得不掌握。认真跟着我学,多看几天就会了。

4)强烈推荐教程专栏

python全栈基础教程系列

qq机器人小白教程系列

matlab数学建模小白到精通系列

Linux操作系统教程

SQL入门到精通教程系列

其它专栏,看你自己个人兴趣,这五个专栏我是主打,并是我强烈推荐。

有任何问题可以粉丝群问我:

428335755

二、开始使用xpath

2.1 常见的 HTML 操作

如果有一段html如下:

link

Element One

Element Two

在整个页面中查找具有特定 id 的元素:

//*[@id='divone'] # 返回

在特定路径中查找具有特定 id 的元素:

/html/body/div/p[@id='enclosedone'] # 返回

Element One

选择具有特定 id 和 class 的元素:

//p[@id='enclosedone' and @class='common'] #返回

Element One

选择特定元素的文本:

//*[@id='enclosedone']/text() # 返回 Element One

2.2 常见XML操作

比如有如下xml:

Text 1 Text 2 Text 3 Text 4

用xpath

/r/e

将选择此元素:

用xpath:

/r/f/text()

将选择具有此字符串值的文本节点:

"Text 1"

而这个 XPath:

string(/r/f)

返回同样是:

"Text 1"

2.3 浏览器使用xpath调试

步骤如下:

按F12进入控制台

按ctrl+F进入搜索框

将自己写的xpath输入进去,回车看看能不能匹配到

以我自己的主页网址为例:

https://blog.csdn.net/weixin_46211269?spm=1000.2115.3001.5343

分析:

锁定定位为:

user-profile-statistics-num

则xpath写为:

//div[@class="user-profile-statistics-num"]

以上就是一种简单的调试xpath方法,难的我就不介绍了,没必要吧,如果大家觉得有必要,评论区留言,人多我就重新编辑补充。

三、检查节点是否存在

我们使用布尔来检查我们写的xpath是否存在,布尔真是一个很不错的东西。

3.1 案例一

这里我就构造一个xml如下:

使用布尔来判断:

boolean(/House//plant)

输出:

true

说明该路径正确。

3.2 案例二

假设有这样一个xml:

4 2 2 1

使用布尔判断:

boolean(/Animal/tusks)

输出:

false

说明这个路径是错的。

四、检查节点的文本是否为空

语法:

布尔(路径到节点/文本())

字符串(路径节点)!= ‘’ ”

其他用途:

检查节点是否存在

检查参数是否不是数字 (NaN) 或 0

4.1 案例一

假设我构造这样一个xml:

Dark world
Babadi #0 red evil

用布尔判断:

boolean(/Deborah/master/text())

或者用string判断:

string(/Deborah/master) != ''

输出都为:

true

说明文本不为空。

4.2 案例二

假设我构造这样一个xml:

Hogwartz
wheatish all good

用布尔判断:

boolean(/Dobby/master/text())

或者用string判断:

string(/Dobby/master) != ''

输出:

false

说明文本为空。

五、通过属性查询

说一些比较常见的语法:

/从当前节点选取直接子节点

//从当前节点选取子孙节点

.选取当前节点

…选取当前节点的父节点

@选取属性

*代表所有

例如:

//title[@lang=’chuan’]

这就是一个 XPath 规则,它就代表选择所有名称为 title,同时属性 lang 的值为 chuan的节点。

5.1 查找具有特定属性的节点

假设有这样一个xml:

Milky Way

路径匹配如下:

/Galaxy/*[@name]

或者:

//*[@name]

输出:

5.2 通过属性值的子串匹配来查找节点

假设有如下例子:

Milky Way

路径:

/Galaxy/*[contains(@name,'Ear')]

值得补充的是,这里的contains函数就是代表包含的意思,这里就是查找Galaxy路径下,所有name属性中含有Ear的节点。

如上,我们也可以如下方式匹配:

//*[contains(@name,'Ear')]

双引号也可以用来代替单引号:

/Galaxy/*[contains(@name, "Ear")]

输出:

5.3 通过属性值的子字符串匹配查找节点(不区分大小写)

假设有xml如下:

Milky Way

路径

/Galaxy/*[contains(lower-case(@name),'ear')]

这里又出现了新的东西,加入 lower-case() 函数就是来保证我们可以包括所有的大小写情况。

路径

/Galaxy/*[contains(lower-case(@name),'ear')]

或者

//*[contains(lower-case(@name),'ear')]

或者,使用双引号中的字符串:

//*[contains(lower-case(@name), "ear")]

输出

5.4 通过匹配属性值末尾的子字符串查找节点

假设有xml如下:

Milky Way

路径

/Galaxy/*[ends-with(lower-case(@type),'tar')]

补充:这里又出现了新的函数,ends-with就是匹配以xx结尾。

或者

//*[ends-with(lower-case(@type),'tar')]

输出

5.5 通过匹配属性值开头的子字符串查找节点

假设有这个xml:

Milky Way

路径

/Galaxy/*[starts-with(lower-case(@name),'ear')]

补充:这里又出现了新的函数,starts-with就是匹配以什么开头。

或者

//*[starts-with(lower-case(@name),'ear')]

输出

5.6 查找具有特定属性值的节点

假设有这个xml:

Milky Way

路径

/Galaxy/*[@name='Sun']

补充:这里就是我开头说到的,星号代表所有,@用来选取属性

或者

//*[@name='Sun']

输出

六、查找包含特定属性的元素

6.1 查找具有特定属性的所有元素(1)

假设有xml如下:

xpath匹配:

/root/element[@foobar]

返回:

6.2 查找具有特定属性值的所有元素(2)

假设有xml如下:

以下 XPath 表达式:

/root/element[@foobar = 'hello_world']

将返回

也可以使用双引号:

/root/element[@foobar="hello_world"]

粉丝群:970353786

七、查找包含特定文本的元素

假设有xml如下:

hello hello Hello, I am an example .

以下 XPath 表达式:

//*[text() = 'hello']

将返回hello元素,但不返回元素。这是因为该元素包含hello文本周围的空格。

要同时检索and ,可以使用:

//*[normalize-space(text()) = 'hello']

补充:这里又多了新的函数,normalize-space作用就是去除空白的意思。

要查找包含特定文本的元素,您可以使用该contains函数。以下表达式将返回元素:

//example[contains(text(), 'Hello')]

如果要查找跨越多个子/文本节点的文本,则可以使用.代替text()。.指元素及其子元素的整个文本内容。

例如:

//example[. = 'Hello, I am an example .']

要查看多个文本节点,您可以使用:

//example//text()

这将返回:

“hello, ”

“I am an example”

“.”

为了更清楚地看到一个元素的整个文本内容,可以使用该string函数:

string(//example[1])

要不就

string(//example)

依然返回:

Hello, I am an example .

八、多次强调的语法

8.1 XPath 轴的语法

现在我们要补充新的东西,又要开始记住了:

ancestor 选取当前节点的所有先辈(父、祖父等)。 ancestor-or-self 选取当前节点的所有先辈(父、祖父等)以及当前节点本身。 attribute 选取当前节点的所有属性。 child 选取当前节点的所有子元素。 descendant 选取当前节点的所有后代元素(子、孙等)。 descendant-or-self 选取当前节点的所有后代元素(子、孙等)以及当前节点本身。 following 选取文档中当前节点的结束标签之后的所有节点。 namespace 选取当前节点的所有命名空间节点。 parent 选取当前节点的父节点。 preceding 选取文档中当前节点的开始标签之前的所有节点。 preceding-sibling 选取当前节点之前的所有同级节点。 self 选取当前节点。

8.2 XPath选取节点语法

为什么我在这里又来强调一下?因为很重要!

nodename 选取此节点的所有子节点。 / 从根节点选取。 // 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。 . 选取当前节点。 .. 选取当前节点的父节点。 @ 选取属性。

在下面的表格中,列出了一些路径表达式以及表达式的结果:

万字xpath详细教程,手把手系列

bookstore 选取 bookstore 元素的所有子节点。 /bookstore 选取根元素 bookstore。 注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径! bookstore/book 选取属于 bookstore 的子元素的所有 book 元素。 //book 选取所有 book 子元素,而不管它们在文档中的位置。 bookstore//book 选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。 //@lang 选取名为 lang 的所有属性。

8.3 Xpath谓语

谓语用来查找某个特定的节点或者包含某个指定的值的节点。谓语被嵌在方括号中。

看一些例子就知道了:

路径表达式 结果 /bookstore/book[1] 选取属于 bookstore 子元素的第一个 book 元素。 /bookstore/book[last()] 选取属于 bookstore 子元素的最后一个 book 元素。 /bookstore/book[last()-1] 选取属于 bookstore 子元素的倒数第二个 book 元素。 /bookstore/book[position()<3] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 //title[@lang] 选取所有拥有名为 lang 的属性的 title 元素。 //title[@lang='eng'] 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 /bookstore/book[price>35.00] 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 /bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

8.4 Xpath选取未知节点

XPath 通配符可用来选取未知的 XML 元素。

通配符 描述 * 匹配任何元素节点。 @* 匹配任何属性节点。 node() 匹配任何类型的节点。

在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式 结果 /bookstore/* 选取 bookstore 元素的所有子元素。 //* 选取文档中的所有元素。 //title[@*] 选取所有带有属性的 title 元素。

8.5 Xpath选取若干路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

在下面的表格中,列出了一些路径表达式,以及这些表达式的结果:

路径表达式 结果 //book/title | //book/price 选取 book 元素的所有 title 和 price 元素。 //title | //price 选取文档中的所有 title 和 price 元素。 /bookstore/book/title | //price 选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。

九、获取相对于当前节点的节点

假设我们有xml如下:

Harry Potter 29.99 Learning XML 39.95

9.1 基本语法

其实这些内容,大可不必都掌握,但是你一定要知道,你想用的时候,再来本文查一下会用就行。

这是相关实例:

问题是:这里提到的祖先,孩子,兄弟,父母节点,大家知道吗?如果你会html的话,你应该知道。超过2000赞我可以出一篇html的教程,本篇我就暂时默认大家知道了。

9.2 寻找祖先节点

假设有xml如下:(这里已经很形象说明了祖先,孩子,兄弟,父母节点的关系了,仔细看看)

路径

//Me/ancestor::node()

输出:

9.4 寻找兄弟节点

假设有xml如下:

路径:

//Me/following-sibling::brother

输出:

9.5 寻找祖父节点(2)

假设有xml如下:

路径

//Me/ancestor::GrandFather

或者

//Me/parent::node()/parent::node()

输出:

9.6 寻找父母节点

还是假设xml如下:

路径

//Me/ancestor::Dad

或者

//Me/parent::node()

输出:

9.7 寻找当前节点之后的所有节点

假设有xml如下:

路径

//Avatar[@name='Parashurama']/following-sibling::node()

输出:

9.8 寻找当前节点之前的所有节点

假设有xml如下:

路径

//Avatar[@name='Parashurama']/preceding-sibling::node()

输出:

9.9 实例一

获取 House 中的所有房间名为 Room 的孩子。

假设有xml如下:

4

路径

/House/child::Room

或者

/House/*[local-name()='Room']

输出:

9.10 实例二

获得 House 中的所有房间(不考虑位置)。

假设有xml如下:

4

路径

/House/descendant::Room

输出

十、获取节点数

我们主要用到count函数,实战中我们来感悟。

10.1 实例一

假设有xml如下:

路径

count(/Goku/child)

输出

2.0

10.2 实例二

假设有如下xml

路径

count(/House//plant)

输出

4.0

十一、根据子节点数选择节点

11.1 实例一

假设有xml如下:

Ashley Smith A B A Bill Edwards A

选择至少记录了 2 个成绩的所有学生

//Student[count(./Grades/*) > 1]

输出

Ashley Smith A B A

11.2 实例二

假设有xml如下:

Ashley Smith A B A Bill Edwards A

选择所有记录了 Exam2 分数的学生

//Student[./Grades/Exam2]

或者

//Student[.//Exam2]

输出

Ashley Smith A B A

十二、选择名称等于或包含某个字符串的节点

语法如下:

1.在特定节点内:

{path-to-parent}/name()='搜索字符串']

2.文档中的任何位置:

//*[name()='搜索字符串']

12.1 搜索名称包含 Light 的节点

假设有xml如下:

Firefly Insect Fire Natural element flint Sun Star helium

路径

/Data/*[contains(local-name(),"Light")]

或者

//*[contains(local-name(),"Light")]

输出:

Firefly Insect Fire Natural element flint Sun Star helium

12.2 搜索名称以 Ball 结尾的节点

假设xml如下:

20 Archie Theron Wild cats David Perry 24 Tim Jose Avengers Lindsay Rowen 22 Rahul Mehra Playerz Amanda Ren

路径

/College/*[ends-with(local-name(),"Ball")]

或者

//*[ends-with(local-name(),"Ball")]

输出:

20 Archie Theron Wild cats David Perry 24 Tim Jose Avengers Lindsay Rowen 22 Rahul Mehra Playerz Amanda Ren

12.3 搜索名称以 Star 开头的节点

假设xml如下:

20 Archie Theron Wild cats David Perry 100 Tim Jose VII Lindsay Rowen

路径

/College/*/*[starts-with(local-name(),"Star")]

或者

//*[starts-with(local-name(),"Star")]

输出

David Perry Lindsay Rowen

12.4 搜索名称为 Light、Device 或 Sensor 的节点

假设xml如下:

sun satellite human Milky Way

路径

/Galaxy/*[local-name()='Light' or local-name()='Device' or local-name()='Sensor']

说白了就是多了几个or而已。

或者

//*[local-name()='Light' or local-name()='Device' or local-name()='Sensor']

输出

sun satellite human

12.5 搜索名称为 light 的节点(不区分大小写)

假设xml如下:

sun satellite human Milky Way

路径

/Galaxy/*[lower-case(local-name())="light"]

或者

//*[lower-case(local-name())="light"]

输出

sun

12.6 搜索名称为 light 的节点(不区分大小写)

假设xml如下:

sun satellite human Milky Way

路径

/Galaxy/*[lower-case(local-name())="light"]

或者

//*[lower-case(local-name())="light"]

输出

sun

十三、粉丝福利

前期已经送出很多基础书和数据分析书籍,本次送人工智能的书籍如下:

参与活动方式:

三连本篇文章(评论),截好图

加入粉丝群:970353786私聊我(群主),截图发给我

送书仅在于个人心意,以此鼓励大家学习,只随机送两本。这本书还不错,喜欢的也可以去京东购买。

十四、总结

这位大佬也写了一篇xpath:十五分钟掌握python爬虫XPath库 感兴趣可以对照我的看看。

python全栈基础专栏我已经讲完大部分基础,现在我们进军爬虫,本篇内容希望大家一定掌握。超过2000,我补一篇html网页基础。写了我周末两个通宵,希望大家这次支持,谢谢。至于我送书活动,货真价实,仅代表个人心意,鼓励大家学习。

公众号 发送:xpath 即可领取本篇文章的电子版。

XML

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:为什么说 TypeScript 是开发大型前端项目的必备语言
下一篇:曲鸟全栈UI自动化教学(九):Selenium为什么慢?那是你加载策略设置不对
相关文章