oracle中对JSON数据处理的详细指南
背景
在公司接手的项目碰到这么一个表,里面有一列数据保存的是JSON字符串。如果说这一列是一些配置数据,不需要应用到筛选和过滤,只是跟着主键去获得的数据,那你这么做并没有什么不妥。但事实是,这一列需要检索和过滤数据,这**居然是遍历全表,再把json数据转换成对象去遍历匹配。我服了,你咋这么能呢?喜欢这样玩为什么当初不用MongoDB?查了一下文档,知道Oracle 在12C之后有对JSON数据的操作方法,网上关于这部分的文章非常非常非常少(毕竟没几个人会把oracle当成MongoDB这么地**是吧),就整理一下,方便自己以后查看。
入门探究
有一说一这官方文档非常地硬,啃了好久都啃不动,而且很多理想当然的用法都不行。Oracle中关于JSON的操作函数有JSON_ARRAY、JSON_EXISTS、JSON_VALUES、JSON_TABLE、JSON_QUERY,其中JSON_ARRAY是用来构建JSON数组的,而不是用来查找结果的。在文中也会小篇幅简单说一下用法。
JSON_EXISTS
JSON_EXISTS是一个SQL函数,用于判断是否存在符合条件的JSON数据。它可以在WHERE子句中使用,用于筛选JSON列中符合特定条件的数据。
官方给出的语法是这样的:
JSON_EXISTS(json_column, json_path_expression, [returning_clause])
其中,json_column是指要查询的JSON列,json_path_expression是指JSON路径表达式,用于指定要查找的JSON数据的位置和条件。
JSON路径表达式中可以使用各种操作符和函数,以及通配符和其他特殊字符。例如:
- $: 表示根元素
- .: 表示当前元素
- [*]: 表示匹配数组中的所有元素
- []: 表示过滤数组中符合条件的元素
- @: 表示当前元素的属性
在json_path_expression中,可以使用一些函数,如JSON_VALUE、JSON_QUERY、JSON_TABLE等来处理JSON数据。例如:
- JSON_VALUE(json_column, '$.name'): 返回json_column列中name字段的值
- JSON_QUERY(json_column, '$.name'): 返回json_column列中address字段的值
- JSON_TABLE(json_column, '$.hobbies[*]' COLUMNS (phone_number VARCHAR2(20) PATH '$')): 返回json_column列中phones数组中的所有元素的phone_number字段的值
返回值:
如果符合条件的JSON数据存在,则返回TRUE;否则返回FALSE。如果使用returning_clause子句,则返回符合条件的JSON数据。
例如:
SELECT * FROM my_table WHERE JSON_EXISTS(json_data, '$.name');
这个例子查询my_table表中json_data列中是否存在name字段的值。如果存在,返回TRUE,否则返回FALSE。
JSON_ARRAY
JSON_ARRAY 是一个 Oracle SQL 函数,用于创建一个 JSON 数组。下面是使用 JSON_ARRAY 的一些示例:
语法:
JSON_ARRAY(value1 [, value2] [, value3] ...);
其中,value1, value2, value3 等是一个或多个要添加到 JSON 数组的值。这些值可以是任何有效的 SQL 值,例如字符串、数字、日期、布尔值等。如果没有指定任何值,JSON_ARRAY 将生成一个空的 JSON 数组。
创建一个包含两个字符串值的 JSON 数组
SELECT JSON_ARRAY('apple', 'orange') FROM dual;
输出结果:
["apple", "orange"]
创建一个包含两个数字值的 JSON 数组
SELECT JSON_ARRAY(10, 20) FROM dual;
输出结果:
[10, 20]
创建一个包含多个元素的 JSON 数组
SELECT JSON_ARRAY('apple', 10, TRUE) FROM dual;
输出结果:
["apple", 10, true]
在上述示例中,JSON_ARRAY 函数接受一个或多个参数,并将它们作为一个 JSON 数组返回。你可以在 JSON_ARRAY 中使用不同类型的参数,例如字符串,数字和布尔值,它们都将被转换为相应的 JSON 类型。
JSON_VALUE
JSON_VALUE函数用于提取JSON文档中的值。它的语法如下:
JSON_VALUE(json_document, path_expression [RETURNING datatype])
其中:
- json_document是包含JSON文档的字符串或BLOB列。
- path_expression是用于指定要提取的值的路径表达式。
- datatype是可选的,用于指定返回值的数据类型。
以下是一些示例:
提取JSON文档中的单个值:
SELECT JSON_VALUE('{"name": "John", "age": 30}', '$.name') as name FROM dual;
输出:
NAME----John
提取JSON文档中的数组:
SELECT JSON_VALUE('{"fruits": ["apple", "banana", "orange"]}', '$.fruits') as fruits FROM dual;
输出:
FRUITS
-----------------------
["apple", "banana", "orange"]
提取JSON文档中的数组元素:
SELECT JSON_VALUE('{"fruits": ["apple", "banana", "orange"]}', '$.fruits[0]') as first_fruit FROM dual;
输出:
FIRST_FRUIT
-----------
apple
指定返回值的数据类型:
SELECT JSON_VALUE('{"price": 9.99}', '$.price' RETURNING NUMBER) as price FROM dual;
输出:
PRICE
-----
9.99
在使用JSON_VALUE函数时,需要注意以下几点:
- 如果路径表达式不匹配JSON文档中的任何内容,则返回NULL。
- 如果未指定返回值的数据类型,则返回的值将是一个字符串。
- JSON_VALUE函数还有一个类似的兄弟函数JSON_QUERY,不同的是,它返回JSON对象或数组,而不是标量值。
JSON_QUERY
JSON_QUERY函数用于从JSON文档中查询数据,返回一个JSON对象或数组。它的语法如下:
JSON_QUERY(json_document, path_expression [RETURNING datatype])
其中:
- json_document是包含JSON文档的字符串或BLOB列。
- path_expression是用于指定要查询的值的路径表达式。
- datatype是可选的,用于指定返回值的数据类型。
以下是一些示例:
查询JSON文档中的单个值:
SELECT JSON_QUERY('{"name": "John", "age": 30}', '$.name') as name FROM dual;
输出:
NAME
----
null
查询JSON文档中的数组:
SELECT JSON_QUERY('{"fruits": ["apple", "banana", "orange"]}', '$.fruits') as fruits FROM dual;
输出:
FRUITS
-----------------------
["apple", "banana", "orange"]
查询JSON文档中的数组元素:
SELECT JSON_QUERY('{"fruits": ["apple", "banana", "orange"]}', '$.fruits[0]') as first_fruit FROM dual;
输出:
FIRST_FRUIT
-----------
null
因为是单值,json_query无法展示
在使用JSON_QUERY函数时,需要注意以下几点:
- 如果路径表达式不匹配JSON文档中的任何内容,则返回NULL。
- 如果未指定返回值的数据类型,则返回的值将是一个字符串。
- JSON_QUERY函数还有一个类似的兄弟函数JSON_VALUE,不同的是,它返回标量值,而不是JSON对象或数组。
总之,JSON_QUERY函数在处理JSON文档时非常有用,可以轻松地查询和提取需要的数据。
JSON_TABLE
JSON_TABLE函数可以将JSON数据转换为表格形式。以下是JSON_TABLE的用法:
语法:
JSON_TABLE(json, path COLUMNS (column1 expr1 [, column2 expr2]...))
参数说明:
- json:要转换的JSON数据。
- path:要提取的JSON元素的路径。
- COLUMNS:指定要转换的列及其表达式。
- column1 expr1 [, column2 expr2]...:指定要转换的列及其表达式。
示例:
假设我们有以下JSON数据:
{ "employees": [ { "name": "John", "age": 30, "gender": "male" }, { "name": "Jane", "age": 25, "gender": "female" }, { "name": "Bob", "age": 35, "gender": "male" } ] }
我们可以使用以下查询将其转换为表格形式:
SELECT name, age, gender FROM JSON_TABLE('{ "employees": [ { "name": "John", "age": 30, "gender": "male" }, { "name": "Jane", "age": 25, "gender": "female" }, { "name": "Bob", "age": 35, "gender": "male" } ] }', '$.employees[*]' COLUMNS ( name VARCHAR2(50) PATH '$.name', age NUMBER PATH '$.age', gender VARCHAR2(10) PATH '$.gender' ));
输出结果:
NAME AGE GENDER
------ ---- ------
John 30 male
Jane 25 female
Bob 35 male
在上面的例子中,$.employees[*]指定要处理的JSON元素路径,name, age, 和 gender 列使用 PATH 关键字指定表达式的路径。
进阶实战篇
我举个实际的例子,我有一列,对应的一列的数据大概是这样的:
{ "name": "cxk", // string "sex": "female", // stirng "hobbies": ["sing", "dance", "rap", "basketball"], // 普通数组 "company": {"name": "unknow", "staffNum": "unknow"}, // 对象属性 "fans": [ // 对象数组 {"name": "ncFans1"}, {"name": "ncFans2"} ] }
1. JSON_QUERY与JSON_VALUE的区别
看了前面的介绍,可能有些同学对这个完全不能理解,有什么区别?
查询单值
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.name' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.name' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
--------------------------------
null cxk
区别1:json_query无法返回单值,json_value可以返回单值
查询对象
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.company' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.company' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
{"name": "unknow", "staffNum": "unknow"} null
区别2:json_query能返回对象,json_value不能返回对象值
查询普通数组
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
["sing", "dance", "rap", "basketball"] null
区别3:json_query能返回普通数组,json_value不能返回数组
结合1、2、3点,我们给hobbies加个下标
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies[0]' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies[0]' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
null sing
查询对象数组
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.fans' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.fans' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
[{"name": "ncFans1"},{"name": "ncFans2"}] null
区别4:JSON_QUERY可以匹配对象数组的值,JSON_VALUE不可以
2. JSON_EXISTS判断某个值是否等于目标值
这是比较难的一个步骤,我自己摸索了很久很久才懂,我这里举例都写到了谓动词的位置,实际上JSON_EXISTS是用在where后的。
案例1:找出存在name属性的行
SELECT case when JSON_EXISTS('{"name": "John", "age": 30, "city": "New York"}', '$.name') then 'true' else 'false' end as result FROM dual;
输出:
RESULT
---------
true
但其实,我们更多都是在匹配name值等于具体的值,这就要用匹配的机制,但愿你还记得前面介绍的用法
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.name ? (@ == "cxk")') then 'true' else 'false' end as result FROM dual;
@表示当前name属性这一层,值一定要用双引号括起来
多值匹配
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.company ? (@.name == "unknow" && @.staffNum == "unknow")') then 'true' else 'false' end as result FROM dual;
如果是不同层级的多值匹配,建议在where后用AND连接起来,比如:
select * from mytable where JSON_EXISTS(my_cloumn, '$.name ? (@ == "cxk")') AND JSON_EXISTS(my_cloumn, '$.company ? (@.name == "unknow" && @.staffNum == "unknow")')
JSON_EXISTS可以检索普通数组中的值
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.hobbies[*] ? (@ == "sing")') then 'true' else 'false' end as result FROM dual;
执行结果为true
JSON_EXISTS无法检索对象数组
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.fans")') then 'true' else 'false' end as result FROM dual;
无论是$.fans还是$.fans[*]返回结果都是false,完全无法获取对象数组中的值。无法判断里面的值的对比情况。
JSON_EXISTS遇到空数组时,返回的是true
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [] } ', '$.fans")') then 'true' else 'false' end as result FROM dual;
但如果是$.fans[0]返回的是false
3. $.xx中不能用字符串拼接、不能用任何函数会报ORA-40442错误
4. 比较非对象数组的值除了JSON_EXISTS可以用JSON_VALUE与JSON_QUERY
select * from mytable where JSON_VALUE(my_cloumn, '$.name') = 'cxk' and JSON_QUERY(my_cloumn, '$.fans') = '[]' -- 判空
5. JSON_QUERY不支持通配符,查询全部就是$.fans,不需要$.fans[*];支持使用下标指定
6. JSON_VALUE与JSON_QUERY可以嵌套使用,比如
SELECT * from mytable where JSON_VALUE(JSON_QUERY(my_cloumn, '$.fans'), '$.name') = 'ncFans1'
这个语句就是查找出fans中有ncFans1的记录
7. 数组判空 使用JSON_QUERY
select * from mytable where JSON_QUERY(my_cloumn, '$.fans') = '[]'
使用JSON_EXISTS
select * from mytable where not JSON_EXISTS(my_cloumn, '$.fans[0]')
8. 使用JSON_TABLE可以解决任何复杂的问题
但是JSON_TABLE本身就很复杂,如果用来筛选数据,那这个语句太难维护了。
9. 在mybatis框架中,由于$.xx的语句要放在单引号中',切不能使用任何函数,不能字符拼接
所以用#{}无法注入,要用${},这在有些公司是不被允许的。目前我是这么用了,等安全部门的渗透测试结果出来,是否有sql注入风险再来更新。
注意事项
以上提到的操作均需要在Oracle12以上版本中使用,但并不是12以上版本都能使用。这个和数据库设置的compatible值有关。compatible必须大于12.0才可以使用。
你可以使用拥有DBA权限的用户执行以下语句查看compatible值
SELECT name, value FROM v$parameter WHERE name = 'compatible'
否则,你会得到这样的一个报错
ORA-00406: COMPATIBLE parameter needs to be 12.0 or greater
然后你就白忙活了,因为一般都不会为了你特地升级compatible的。没事,我就是白忙活了。
总结
关于oracle中对JSON数据处理的文章就介绍至此,更多相关oracle中JSON数据处理内容请搜索编程宝库以前的文章,希望以后支持编程宝库!
简介Oracle 存储过程是 Oracle 数据库中的一种数据处理对象,它可以在数据库中定义一组预定义的 SQL 语句,用于完成特定的数据库操作。存储过程可以被授权的用户调用,并且可以执行多个语句, ...