跳至主要内容

分析器

已知的不兼容性

在 ClickHouse 版本 24.3 中,新的查询分析器默认启用。尽管修复了大量错误并引入了新的优化,但它也引入了一些 ClickHouse 行为的重大更改。请阅读以下更改,以确定如何为新分析器重写您的查询。

无效的查询不再被优化

以前的查询规划基础设施在查询验证步骤之前应用了 AST 级别的优化。优化可以重写初始查询,使其变得有效并可执行。

在新分析器中,查询验证发生在优化步骤之前。这意味着以前可以执行的无效查询现在不受支持。在这种情况下,必须手动修复查询。

示例 1

SELECT number
FROM numbers(1)
GROUP BY toString(number)

以下查询在投影列表中使用 number 列,而聚合后只有 toString(number) 可用。在旧分析器中,GROUP BY toString(number) 被优化为 GROUP BY number, 使查询有效。

示例 2

SELECT
number % 2 AS n,
sum(number)
FROM numbers(10)
GROUP BY n
HAVING number > 5

此查询中出现相同的问题:number 列在与另一个键一起聚合后被使用。以前的查询分析器通过将 number > 5 过滤器从 HAVING 子句移动到 WHERE 子句来修复此查询。

要修复查询,您应该将所有应用于非聚合列的条件移动到 WHERE 部分,以符合标准 SQL 语法。

SELECT
number % 2 AS n,
sum(number)
FROM numbers(10)
WHERE number > 5
GROUP BY n

带有无效查询的 CREATE VIEW

新的分析器始终执行类型检查。以前,可以使用无效的 SELECT 查询创建 VIEW。然后它会在第一次 SELECTINSERT(在 MATERIALIZED VIEW 的情况下)期间失败。

现在,不再可能创建这样的 VIEW

示例

CREATE TABLE source (data String) ENGINE=MergeTree ORDER BY tuple();

CREATE VIEW some_view
AS SELECT JSONExtract(data, 'test', 'DateTime64(3)')
FROM source;

JOIN 子句的已知不兼容性

使用投影中的列进行连接

默认情况下,不能将 SELECT 列表中的别名用作 JOIN USING 键。

当启用新的设置 analyzer_compatibility_join_using_top_level_identifier 时,它会改变 JOIN USING 的行为,优先使用 SELECT 查询投影列表中的表达式来解析标识符,而不是直接使用左侧表的列。

示例

SELECT a + 1 AS b, t2.s
FROM Values('a UInt64, b UInt64', (1, 1)) AS t1
JOIN Values('b UInt64, s String', (1, 'one'), (2, 'two')) t2
USING (b);

analyzer_compatibility_join_using_top_level_identifier 设置为 true 时,连接条件被解释为 t1.a + 1 = t2.b,与早期版本的行为相匹配。因此,结果将是 2, 'two'。当设置 false 时,连接条件默认为 t1.b = t2.b,并且查询将返回 2, 'one'。如果 t1 中不存在 b,则查询将因错误而失败。

JOIN USINGALIAS/MATERIALIZED 列的行为变化

在新分析器中,在涉及 ALIASMATERIALIZED 列的 JOIN USING 查询中使用 * 将默认情况下在结果集中包含这些列。

示例

CREATE TABLE t1 (id UInt64, payload ALIAS sipHash64(id)) ENGINE = MergeTree ORDER BY id;
INSERT INTO t1 VALUES (1), (2);

CREATE TABLE t2 (id UInt64, payload ALIAS sipHash64(id)) ENGINE = MergeTree ORDER BY id;
INSERT INTO t2 VALUES (2), (3);

SELECT * FROM t1
FULL JOIN t2 USING (payload);

在新分析器中,此查询的结果将包含来自两个表的 payload 列以及 id。相反,以前的分析器将只在启用特定设置(asterisk_include_alias_columnsasterisk_include_materialized_columns)时包含这些 ALIAS 列,并且这些列可能会以不同的顺序出现。

为了确保一致且预期结果,特别是在将旧查询迁移到新分析器时,建议在 SELECT 子句中明确指定列,而不是使用 *

处理 USING 子句中列的类型修饰符

在新版本的分析器中,用于确定 USING 子句中指定的列的公共超类型的规则已标准化,以产生更可预测的结果,特别是在处理 LowCardinalityNullable 等类型修饰符时。

  • LowCardinality(T)T:当类型为 LowCardinality(T) 的列与类型为 T 的列连接时,得到的公共超类型将为 T,有效地丢弃 LowCardinality 修饰符。

  • Nullable(T)T:当类型为 Nullable(T) 的列与类型为 T 的列连接时,得到的公共超类型将为 Nullable(T),确保保留可空属性。

示例

SELECT id, toTypeName(id) FROM Values('id LowCardinality(String)', ('a')) AS t1
FULL OUTER JOIN Values('id String', ('b')) AS t2
USING (id);

在此查询中,id 的公共超类型被确定为 String,丢弃了来自 t1LowCardinality 修饰符。

投影列名称更改

在投影名称计算期间,别名不会被替换。

SELECT
1 + 1 AS x,
x + 1
SETTINGS enable_analyzer = 0
FORMAT PrettyCompact

┌─x─┬─plus(plus(1, 1), 1)─┐
1.23
└───┴─────────────────────┘

SELECT
1 + 1 AS x,
x + 1
SETTINGS enable_analyzer = 1
FORMAT PrettyCompact

┌─x─┬─plus(x, 1)─┐
1.23
└───┴────────────┘

不兼容的函数参数类型

在新分析器中,类型推断发生在初始查询分析期间。此更改意味着类型检查在短路评估之前完成;因此,if 函数参数必须始终具有公共超类型。

示例

以下查询将失败,显示 类型 Array(UInt8)、String 没有超类型,因为其中一些是 Array,而另一些不是

SELECT toTypeName(if(0, [2, 3, 4], 'String'))

异构集群

新的分析器显着改变了集群中服务器之间的通信协议。因此,无法在 enable_analyzer 设置值不同的服务器上运行分布式查询。

变异由以前的分析器解释

变异仍在使用旧的分析器。这意味着某些新的 ClickHouse SQL 功能无法在变异中使用。例如,QUALIFY 子句。状态可以在 此处 检查。

不支持的功能

新分析器当前不支持的功能列表

  • Annoy 索引。
  • 假设索引。正在进行中 此处
  • 不支持窗口视图。未来没有计划支持它。