外部数据用于查询处理
ClickHouse 允许服务器在处理查询时, साथ ही SELECT
查询一起发送所需的数据。 这些数据被放入临时表中(请参阅“临时表”部分),并可以在查询中使用(例如,在 IN
运算符中)。
例如,如果您有一个包含重要用户标识符的文本文件,您可以将其与使用此列表进行过滤的查询一起上传到服务器。
如果您需要使用大量外部数据运行多个查询,请不要使用此功能。 最好提前将数据上传到数据库。
可以使用命令行客户端(在非交互模式下)或使用 HTTP 接口上传外部数据。
在命令行客户端中,您可以在参数部分中指定格式
--external --file=... [--name=...] [--format=...] [--types=...|--structure=...]
您可以有多个这样的部分,用于传输的表数量。
–external – 标记子句的开始。 –file – 表转储文件的路径,或 -,表示 stdin。 只能从 stdin 检索单个表。
以下参数是可选的:–name – 表的名称。 如果省略,则使用 _data。 –format – 文件中的数据格式。 如果省略,则使用 TabSeparated。
以下参数之一是必需的:–types – 以逗号分隔的列类型列表。 例如:UInt64,String
。 列将被命名为 _1, _2, ... –structure – 表结构,格式为 UserID UInt64
, URL String
。 定义列名和类型。
在“file”中指定的文件将使用“format”中指定的格式,使用“types”或“structure”中指定的数据类型进行解析。 该表将被上传到服务器,并在那里作为名为“name”的临时表访问。
示例
$ echo -ne "1\n2\n3\n" | clickhouse-client --query="SELECT count() FROM test.visits WHERE TraficSourceID IN _data" --external --file=- --types=Int8
849897
$ cat /etc/passwd | sed 's/:/\t/g' | clickhouse-client --query="SELECT shell, count() AS c FROM passwd GROUP BY shell ORDER BY c DESC" --external --file=- --name=passwd --structure='login String, unused String, uid UInt16, gid UInt16, comment String, home String, shell String'
/bin/sh 20
/bin/false 5
/bin/bash 4
/usr/sbin/nologin 1
/bin/sync 1
当使用 HTTP 接口时,外部数据以 multipart/form-data 格式传递。 每个表都作为单独的文件传输。 表名取自文件名。 query_string
传递参数 name_format
、name_types
和 name_structure
,其中 name
是这些参数对应的表的名称。 参数的含义与使用命令行客户端时相同。
示例
$ cat /etc/passwd | sed 's/:/\t/g' > passwd.tsv
$ curl -F '[email protected];' 'https://127.0.0.1:8123/?query=SELECT+shell,+count()+AS+c+FROM+passwd+GROUP+BY+shell+ORDER+BY+c+DESC&passwd_structure=login+String,+unused+String,+uid+UInt16,+gid+UInt16,+comment+String,+home+String,+shell+String'
/bin/sh 20
/bin/false 5
/bin/bash 4
/usr/sbin/nologin 1
/bin/sync 1
对于分布式查询处理,临时表将发送到所有远程服务器。