博客 / 用户案例

Trillabit 利用 ClickHouse 的强大功能,在其自助式、搜索驱动的分析产品中实现快速、可扩展的结果

author avatar
Keith Riddolls
2023 年 1 月 30 日 - 9 分钟阅读

我们欢迎 Trillabit 作为我们博客的嘉宾。请继续阅读 Keith Riddolls (CEO/创始人) 的文章,了解他们为什么选择 ClickHouse 而不是 Apache Solr 和 Snowflake 来驱动其报告和商业智能平台。

TrillaBit Quick Intelligence 是一个动态的 SaaS 平台,用于报告和商业智能,利用 ClickHouse 的强大功能实现快速、可扩展的结果。

Quick Intelligence 不仅仅是一个可视化工具,而是一个完整的端到端、企业级平台。处理多租户和安全性,同时允许对大数据进行动态数据探索。Quick Intelligence 可以嵌入或独立部署,可以与部署在任何位置的 ClickHouse 集成。

与 ClickHouse 合作

最初,TrillaBit 从 Apache Solr 开始。为什么不呢?TrillaBit 是一个搜索驱动的分析平台,那么为什么不使用搜索驱动的数据后端呢?Solr 能够进行一定程度的数据聚合,模型是动态的,索引非常适合搜索目的。

然而,我们很快遇到了许多挑战。Solr 作为键值存储,更适合搜索,而不是大容量非线性聚合或数据压缩以提高性能。它的查询语言不如 SQL 成熟,并且实际上不处理连接。

在实施来自多个来源的真实公司数据时,我们发现不同的场景需要更大的灵活性。首先是“尽可能以最少的努力和成本启动并运行”,即按数据所在位置和方式使用数据。然后是“让我们把这件事做好”,即使用星型模式模型和维度事实表构建数据仓库,并将数据移动到这些结构中。这些场景需要更多的数据仓库解决方案,而不是搜索引擎。

目标

目标是从可以以低成本管理并且可以在我们的环境中实施以获得实践经验和理解的事物开始。我们希望在将其移交给托管服务之前详细了解该技术。

Snowflake 作为流行的竞争者,价格太贵,并且不允许完全的本地部署。参见:为什么 Snowflake 如此昂贵?

ClickHouse 是一个极好的替代方案,使用 开源社区版本,具有快速的性能和低成本。在本地/自管理 (AWS) 上设置 ClickHouse,使我们能够获得快速的实践经验,以更好地了解它如何适应我们的环境。

以下是我们在深入研究时发现的一些首选功能

集成引擎

在数据摄取方面,ClickHouse 允许以多种方式让您的生活更轻松。表引擎功能非常适合连接到位于不同存储和形式的数据。

用于集成的表引擎是非常棒的功能,允许直接连接到其他关系型存储,如 MySQL 或 Postgres。只需连接并运行!TrillaBit 产品在关系型存储中管理的元数据上运行。无需移动数据即可连接到此功能,从而允许在 ClickHouse 本身内进行查找、连接和视图,这对于集成速度具有巨大的好处。

TrillaBit 具有流式端点,供客户端发布快速网络和 IoT 流式数据。其背后是 Kafka。Kafka 表引擎非常适合通过 ClickHouse 有效地连接和使用数据。

虽然目前 TrillaBit 的使用程度较低,但 ClickHouse 确实允许通过 S3 表引擎进行直接 S3 集成,用于加载和卸载。

数据管理引擎

在 ClickHouse 中存储和管理数据时,MergeTree 系列具有许多有用的功能。TrillaBit 主要使用 ReplacingMergeTree 根据排序键删除重复项。我们经常收到现有记录的增量更改,通过基于主键替换它们,我们可以轻松地保留当前准确的状态,而不会重复,并且代码最少。AggregatingMergeTree 减少了对不断流动的数据进行增量聚合的编码和管理,再次减少了自定义编码和处理。

AirByte 和 JSON

对于某些需要移动数据的客户端集成,TrillaBit 将使用 Airbyte。对于快速 POC,数据以原始 JSON 格式摄取。然后通过视图,读取 JSON 结构并将其翻转为表结构,并使用如下简单查询

SELECT 	toInt64(JSON_VALUE(_airbyte_data,'$.id')) AS location_id,
JSON_VALUE(_airbyte_data,'$.name') AS location_name,
JSON_VALUE(_airbyte_data,'$.address') AS address,
JSON_VALUE(_airbyte_data,'$.city') AS city,
JSON_VALUE(_airbyte_data,'$.state') AS state,
JSON_VALUE(_airbyte_data,'$.zip') AS zip,
JSON_VALUE(_airbyte_data,'$.country') AS country,
toDecimal64(nullIf(lower(JSON_VALUE(_airbyte_data,'$.longitude')),'null'),12) AS longitude,
toDecimal64(nullIf(lower(JSON_VALUE(_airbyte_data,'$.latitude')),'null'),12) AS latitude,
FROM mydb._airbyte_raw_stg_Location;

像其他功能一样,此功能将我们的实施和实验时间缩短了数天甚至数周!

关于与 ClickHouse 合作的最后一点是为知识做出贡献的伟大社区。从其社区、云支持者和 ClickHouse Inc 找到的关于 ClickHouse 的信息量本身就是宝贵的资源。

借助 ClickHouse 和这个 知识库,TrillaBit 能够快速启动并运行一切,从开源开始。

ClickHouse Cloud

随着 TrillaBit 的发展,我们现在正在转向 ClickHouse Cloud。将集群管理卸载到云端使我们能够专注于我们的产品。ClickHouse Cloud 还具有出色的安全配置文件,符合 PCI 和 SOC II 标准,让客户更加安心。请参阅ClickHouse 信任中心

使用 TrillaBit 的 Quick Intelligence 探索您的 ClickHouse 数据

TrillaBit 正在以经济高效的方式解决 BI 装配线问题。Quick Intelligence 不仅仅是一个工具,而是一个端到端平台,允许用户在搜索栏中提出问题并立即获得可视化答案。

由于 ClickHouse 在规模上的出色性能,它能够找到数据并立即为您绘制图形。一旦您可视化数据,您就可以轻松深入到感兴趣的区域,以发现更深入的见解,并在任何时候公开记录级详细信息。

元数据驱动的系统允许业务用户以自己的方式探索数据,提出新问题并在几秒钟内获得即时答案。

TrillaBit_quickintelligence.png

保存和分享

当用户在他们的数据中发现有趣且有价值的内容时,他们通常希望保存并与他人分享,无论是在工具内部还是外部。有很多方法可以做到这一点。动态创建仪表板并与个人或群体共享是其中一种方式。使用 Quick Intelligence,这就像将可视化固定到仪表板或在几秒钟内创建一个新仪表板一样简单。

Trillabit_securityvuln.png Trillabit_sales.png

用户还可以将其 KPI 导出为图像,用于 PowerPoint 演示文稿、Word 或电子邮件。您还可以直接深入到基础原始数据并将其导出到 Excel 以与同事共享。

是否嵌入 希望将此功能用作自己的功能的公司可以选择将 Quick Intelligence 嵌入到自己的产品中。他们可以对其进行外观定制,使其看起来像他们自己的品牌,或者看起来像他们任何客户的品牌(在帐户级别)。希望在内部使用此功能的其他公司可以在独立的 UI 中拥有所有这些功能。

此外,独立和嵌入式在单个实现中均可用。为了获得两全其美的效果。

Trillabit_dark1.png Trillabit_dark2.png

安全性和规模 TrillaBit Quick Intelligence 利用 ABAC 策略控制。它允许多租户功能,并且可以保护许多部门的数据安全。

后端可扩展性的很大一部分来自 ClickHouse 的高效性能。无论是您的 ClickHouse 环境、ClickHouse Cloud 还是让 TrillaBit 管理一切,该产品都具有通用性,能够处理多种配置。

TrillaBit 可扩展到 IoT 和网络级别的流量数据量,轻松处理数万亿行,同时提供实时分析。

开始使用 ClickHouse 上的 TrillaBit

TrillaBit 是一个企业级平台。如果您已经拥有 ClickHouse,TrillaBit 可以连接到它,您将立即启动并运行!

TrillaBit 是元数据驱动的,因此唯一需要的是数据。

如果您希望在 ClickHouse 中运行自己的数据仓库,并让 TrillaBit 在其上运行,请告诉我们。我们将与您的 ClickHouse 部署集成,并指导您完成整个过程。

如果您想完全放手,TrillaBit 可以为您处理端到端流程。您的业务用户或客户将能够自行开始探索并收集见解。

请随时联系:[email protected]

分享此帖子

订阅我们的新闻资讯

随时了解功能发布、产品路线图、支持和云产品!
正在加载表单...
关注我们
X imageSlack imageGitHub image
Telegram imageMeetup imageRss image
©2025ClickHouse, Inc. 总部位于加利福尼亚州湾区和荷兰阿姆斯特丹。