背景
epilot 是一个专注于能源行业的 SaaS 平台,提供全面的解决方案,帮助公用事业和电网运营商在线建立和管理其业务。它是能源转型领域的 360° 平台。epilot 允许其用户将其销售、服务和电网流程数字化,从最初的客户咨询到持续的支持,以实现更有效的流程、灵活的市场启动和更满意的客户。
挑战
随着 epilot 的规模扩大,其现有的数据基础设施面临着挑战。该公司最初使用 AWS Redshift 和 S3 进行数据存储和处理。但是,这些工具在性能和实时分析方面存在局限性,而这对于 epilot 为其客户提供无缝且响应迅速的平台至关重要。
一个重要的痛点是缺乏集中式数据平台,这使得 epilot 内部不同的团队难以一致地访问和分析数据。轻松访问数据以允许所有团队在数据之上构建产品是关键目标。此外,与 Redshift 相关的成本也成为一个问题,尤其是在公司预计随着新功能和用例的扩展,数据量将会增加的情况下。
解决方案
为了应对这些挑战,epilot 探索了替代的数据库解决方案,最终选择 ClickHouse 作为其核心数据存储层。epilot 的首席工程师 Suresh Sivasankaran 之前在项目中接触过 ClickHouse,并认识到它有可能满足他们的需求。ClickHouse Cloud 在 AWS 上的部署尤其吸引人,因为 epilot 更倾向于无服务器基础设施,这与其现有的技术栈相一致。
切换到 ClickHouse 提供了几个优势
- **性能和可扩展性**: ClickHouse 处理海量数据并保持低延迟的能力是一个改变游戏规则的功能。它允许 epilot 提供实时分析和洞察,这对能源行业的客户至关重要,他们需要最新的信息来做出明智的决策。
- **成本效益**: 与 Redshift 和 Rockset 等其他解决方案相比,ClickHouse 提供了更具成本效益的选择。这对 epilot 来说尤其重要,因为它旨在在性能需求和预算考虑之间取得平衡。
- **灵活性和集成**: ClickHouse 支持复杂查询和与 BI 工具集成的能力使 epilot 能够创建更统一的数据环境。这种集成对于生成仪表板和报表至关重要,这些仪表板和报表可以轻松地被公司内部的各个团队访问和使用。
实施和影响
ClickHouse 在 epilot 中的实施始于概念验证,该验证取得了成功,从而导致更广泛的部署。最初,重点是内部仪表板和指标,但 ClickHouse 的使用很快扩展到其他领域,包括一个数据湖功能,允许客户连接他们的 BI 工具并构建自定义报表。
直接好处之一是查询性能的提高以及处理实时分析的能力。在面向最终客户的门户等新功能中,这种改进尤其明显,这些功能生成了大量数据点。借助 ClickHouse,epilot 可以有效地管理和分析这些数据集,从而提供更好的服务交付和客户洞察。
Suresh 说
“通过集成 ClickHouse,我们的仪表板现在提供了实时指标,而不是依赖于缓存数据和按需更新。此外,我们客户使用的数据湖产品的数据加载速度也得到了显著提高,将数据从 ClickHouse 传输到 BI 工具的时间从 30 多分钟减少到不到 3 分钟。”
此外,ClickHouse 的功能允许 epilot 整合来自不同来源的数据,为整个平台提供一个中心数据基础。这种整合使团队更容易协作和创新,利用数据来增强产品供应并优化内部流程,并有效地在数据基础之上更快地构建产品。
未来方向
展望未来,epilot 计划进一步扩展 ClickHouse 的使用。随着他们吸纳更多客户并开发新功能,公司预计数据量将大幅增长。ClickHouse 的可扩展性和性能对于支持这种增长至关重要,使 epilot 能够继续提供高质量的、数据驱动的服务。
一个令人兴奋的开发领域是将 ClickHouse 与 AWS Bedrock 结合使用,用于 AI 和机器学习应用。这种集成将允许 epilot 根据存储在 ClickHouse 中的数据来改进其模型,从而增强自动化摘要和客户参与工具等功能。
Suresh 补充道
“我们在工程技术栈中从 Redshift 和 InfluxDB 迁移到 ClickHouse,以实现更高的可扩展性和性能。展望未来,我们计划将 ClickHouse 作为我们数据基础设施的核心,应用于更广泛的用例,尤其是在我们朝着为能源市场构建垂直 AI 解决方案的方向前进时。”
结论
epilot 与 ClickHouse 的旅程说明了选择正确的数据基础设施带来的变革性影响。通过采用 ClickHouse,epilot 不仅提高了性能并降低了成本,而且为未来的增长和创新奠定了坚实的基础。epilot 和 ClickHouse 之间的合作关系展示了先进的数据技术如何能够赋能企业,满足复杂的行业需求,提高效率,并创造新的商业机会。