投影
投影以优化查询执行的格式存储数据,此功能对于以下情况很有用:
- 在不是主键一部分的列上运行查询
- 预聚合列,这将减少计算和 IO
您可以为一个表定义一个或多个投影,在查询分析期间,ClickHouse 将选择扫描数据最少的投影,而无需修改用户提供的查询。
投影将在内部创建一个新的隐藏表,这意味着将需要更多的 IO 和磁盘空间。例如,如果投影定义了不同的主键,则原始表中的所有数据都将被复制。
您可以在此页面上查看有关投影如何在内部工作的更多技术细节。
不使用主键的过滤示例
创建表
CREATE TABLE visits_order
(
`user_id` UInt64,
`user_name` String,
`pages_visited` Nullable(Float64),
`user_agent` String
)
ENGINE = MergeTree()
PRIMARY KEY user_agent
使用 ALTER TABLE
,我们可以将投影添加到现有表
ALTER TABLE visits_order ADD PROJECTION user_name_projection (
SELECT
*
ORDER BY user_name
)
ALTER TABLE visits_order MATERIALIZE PROJECTION user_name_projection
插入数据
INSERT INTO visits_order SELECT
number,
'test',
1.5 * (number / 2),
'Android'
FROM numbers(1, 100);
即使原始表中的 user_name
未定义为 PRIMARY_KEY
,投影也允许我们快速按 user_name
进行过滤。在查询时,ClickHouse 确定如果使用投影,则将处理更少的数据,因为数据按 user_name
排序。
SELECT
*
FROM visits_order
WHERE user_name='test'
LIMIT 2
要验证查询是否正在使用投影,我们可以查看 system.query_log
表。在 projections
字段中,我们有使用的投影的名称;如果没有使用任何投影,则为空
SELECT query, projections FROM system.query_log WHERE query_id='<query_id>'
预聚合查询示例
使用投影创建表
CREATE TABLE visits
(
`user_id` UInt64,
`user_name` String,
`pages_visited` Nullable(Float64),
`user_agent` String,
PROJECTION projection_visits_by_user
(
SELECT
user_agent,
sum(pages_visited)
GROUP BY user_id, user_agent
)
)
ENGINE = MergeTree()
ORDER BY user_agent
插入数据
INSERT INTO visits SELECT
number,
'test',
1.5 * (number / 2),
'Android'
FROM numbers(1, 100);
INSERT INTO visits SELECT
number,
'test',
1. * (number / 2),
'IOS'
FROM numbers(100, 500);
我们将使用字段 user_agent
执行第一个使用 GROUP BY
的查询,此查询将不使用定义的投影,因为预聚合不匹配。
SELECT
user_agent,
count(DISTINCT user_id)
FROM visits
GROUP BY user_agent
要使用投影,我们可以执行选择部分或全部预聚合和 GROUP BY
字段的查询。
SELECT
user_agent
FROM visits
WHERE user_id > 50 AND user_id < 150
GROUP BY user_agent
SELECT
user_agent,
sum(pages_visited)
FROM visits
GROUP BY user_agent
如前所述,我们可以查看 system.query_log
表。在 projections
字段中,我们有使用的投影的名称;如果没有使用任何投影,则为空
SELECT query, projections FROM system.query_log WHERE query_id='<query_id>'
操作投影
以下是可用于投影的操作
ADD PROJECTION
ALTER TABLE [db.]name [ON CLUSTER cluster] ADD PROJECTION [IF NOT EXISTS] name ( SELECT <COLUMN LIST EXPR> [GROUP BY] [ORDER BY] )
- 将投影描述添加到表元数据。
DROP PROJECTION
ALTER TABLE [db.]name [ON CLUSTER cluster] DROP PROJECTION [IF EXISTS] name
- 从表元数据中删除投影描述,并从磁盘中删除投影文件。作为 mutation 实现。
MATERIALIZE PROJECTION
ALTER TABLE [db.]table [ON CLUSTER cluster] MATERIALIZE PROJECTION [IF EXISTS] name [IN PARTITION partition_name]
- 该查询在分区 partition_name
中重建投影 name
。作为 mutation 实现。
CLEAR PROJECTION
ALTER TABLE [db.]table [ON CLUSTER cluster] CLEAR PROJECTION [IF EXISTS] name [IN PARTITION partition_name]
- 从磁盘中删除投影文件,但不删除描述。作为 mutation 实现。
ADD、DROP 和 CLEAR 命令是轻量级的,因为它们仅更改元数据或删除文件。
此外,它们是复制的,通过 ClickHouse Keeper 或 ZooKeeper 同步投影元数据。
投影操作仅支持使用 *MergeTree
引擎(包括复制变体)的表。