0
88
0
0
首页/专栏/ 查看内容

对话 ClickHouse 创始人 Alexey:不仅是数据库,所有的数据处理系统都能从 AI 受益 ...

 admin   发表于  2024-10-15 10:34
专栏


上一期的采访现场 

时过境迁,ClickHouse 团队如今也扩大到了 200 人,分布在全球各地,包括欧洲、北美、东南亚和澳大利亚。这一增长不仅体现在工程技术团队,还包括支持和市场营销等部门。

Alexey 还向我们介绍,ClickHouse 现在会按照查询引擎、数据存储等不同的专业领域划分团队,同时采用跨区域配置,即某些团队成员分布在不同大洲,以覆盖更广的时区。例如,一个团队可能有成员位于欧洲和美洲,而另一个团队可能覆盖欧洲和亚太地区。

有趣的是,去年采访中,Alexey 曾透露 Slack(类似国内的企业微信)是他们的主要异步沟通方式。而今年为了减少实时会议,所以 Alexey 加大了 Slack 的使用力度。

当时他还吐槽员工们喜欢在 Slack 里偷懒,或是发一些和工作无关的内容,现在也是“真香”了。

一年以来,最大的话题仍然和去年一样,是人工智能。Alexey 对 AI 曾经的见解是“它可以删掉工作中哪些无聊的部分,只留下有趣的部分”。而这一次采访中,Alexey 向我们透露了更多 ClickHouse 和 AI 结合的最新内容,比如:

- 自己的使用体验:“我也使用 Copilot 和 ChatGPT,但只是在写 JavaScript 的时候用一用,因为我不是 JS 的专家。”

说罢,Alexey 还自信地补了一句:“至于写 C++ 的时候,我不会去用 AI,而是自己写。我会多次阅读自己编写的代码,非常认真地对待它,并且比竞争对手做得更早。

- 人工智能的未来:“生成式人工智能会加速每一个人、每一个团队的速度。所以我们必须使用它,我们的竞争对手也必须使用它 —— 而且他们很可能已经在使用了。总之,竞争会更激烈,但进步会更快。我很喜欢这种感觉。

- ClickHouse 的竞争优势:ClickHouse 在数据准备阶段表现出色,能够处理 PB 级的数据集,从而为机器学习模型提供高质量的数据。ClickHouse 也被认为是机器学习模型可观测性的理想解决方案,因为它可以存储和监控模型在生产环境中的表现。

- 关于最近讨论很多的 RAG(语义搜索与检索增强生成)技术:ClickHouse 在处理难以索引的大数据集时表现出色,尤其是在需要进行语义搜索的情况下。它的数组数据类型和距离计算功能使得在大规模数据上进行搜索成为可能。

- 多模态数据处理:在处理图像、文本等多种类型的数据时,ClickHouse 的优势在于它能够同时处理元数据和嵌入数据,这使得最近大模型领域非常火爆的需求——多模态数据处理,操作更为便捷。


中国的工程师文化在西方世界中“代表性不足”?

《新程序员》:ClickHouse 三位创始人之间的角色有何不同?你们的想法总是一致的吗?还是偶尔会有分歧?

Alexey:我们的 CEO Aaron Katz 负责业务方面的事务。工程总裁 Yuri Izrailevsky 负责产品。我则负责技术。我不会说我们总是看法一致。实际上,我们经常有不同的意见,但到目前为止,我不记得有任何一次我们无法做出决定。我们总是通过讨论和相互倾听来达成一致。

《新程序员》:从我的视角来看,你相当于 ClickHouse 的灵魂人物,毕竟经常出席各类活动的是你,在 GitHub 和用户直接互动交流的也是你。大家都想进一步了解你,所以我想知道,你典型的一天是怎么度过的?

Alexey:你可能会感到惊讶,但我通常不安排具体的日程。我有一个待办事项列表,上面列出了不同优先级的项目。有一些项目有明确的截止日期,我必须在特定时间完成。还有一些重要性较低的事项,但仍需要我的关注和回答,因为有人在等待。还有一些是可有可无的事项,这些是我想做的,也许是我个人想做的,但还没有告诉任何人。但我通常随机选择任务,因此不一定优先处理最紧急的事项。

《新程序员》:这次出差来中国都有啥感受?

Alexey:每次到中国旅行,我都很享受美食,也对各个省份不同的文化感到惊讶。我现在迷上了中国茶,经常买茶叶回欧洲。

《新程序员》:你来中国的次数也不少了,请问对中国印象最深的是?

Alexey:我印象最深的是,我第一次来中国后发现自己不会用筷子,但当时非常饿,所以我很快就学会了。另外,我之前到北京的时候是 1 月份,印象中非常冷,大约零下 15 摄氏度,但周围完全没有雪,这也让我感到很惊讶。

《新程序员》:你对中国工程师有哪些观察?

Alexey:关于工程师和文化,我发现中国的工程师文化在西方世界中代表性不足。这可能是因为太过孤立的原因,中国有太多外界看不到的东西 —— 很多人从未到过中国,不了解中国文化。我认为中国有全球最庞大的优秀工程师社区,我很欣赏你们在完成任务上的专注。在数据基础设施方面有许多独特的挑战,这些挑战因为规模的特殊性而存在,而所有这些挑战都在通过现有和新技术的巧妙应用来解决。我仍然觉得中国文化在大部分世界中未被充分探索和了解,希望未来会有更多人能来到中国,了解这里的一切。

《新程序员》:你平时是在荷兰 ClickHouse 总办公室的时间比较多,还是出国参会的时间多?

Alexey:我并没有参加每一次 Meetup,因为有时候我们在同一天在不同的大陆上举办两到三场 Meetup。但偶尔会参加并演讲。虽然经常旅行,但不总是在外。

《新程序员》:那今年到目前为止呢?

Alexey:让我算算……不到 10 次,差不多每月一次。

《新程序员》:你们的成员也遍布世界各地。那你考虑过计划一个大聚会,把来自不同国家的所有成员聚集到一个地方吗?

Alexey:我们其实大约每年会做两次这种活动。上一次,我们在法国尼斯举办了全公司线下活动,位于蔚蓝海岸。那次活动真的非常棒,非常有趣,我们全公司都聚集在一起。顺便提一下,今年我们计划在新加坡举行。

《新程序员》:因为疫情的缘故,你曾说 ClickHouse 去年只组织了一两次开发者活动,那今年肯定改善了吧?

Alexey:是的,今年我们已经突破了 100 次 ClickHouse Meetup 的里程碑,最近的一次在广州,是第 121 次。我们举办的大多数 Meetup 都包括一些实用的话题,比如 ClickHouse 的内部机制、构建分析应用程序,以及客户的使用案例等等。

《新程序员》:有和去年一样举办黑客松这样的代码活动吗?

Alexey:今年我们没有组织 ClickHouse 的黑客松,倒是在公司内部有一次比赛,每个参与者必须在两小时内用 ClickHouse 开发一个应用程序。结果让我非常惊喜,我认为我们可以把它公开。


生成式 AI 会加速每一个人、每一个团队的速度

《新程序员》:自从去年 ChatGPT 推出以来,你有没有看到任何行业机会?ClickHouse 内部又是怎么用 AI 进行开发的?

Alexey:我也和很多人一样,使用 Copilot 和 ChatGPT,但只是在写 JavaScript 的时候用一用,因为我不是 JS 的专家。至于写 C++ 的时候,我不会去用 AI,而是自己写。我会多次阅读自己编写的代码,非常认真地对待它,并且比竞争对手做得更早。重点在于,生成式 AI 会加速每一个人、每一个团队的速度。所以我们必须使用它,我们的竞争对手也必须使用它 —— 而且他们很可能已经在使用了。总之,竞争会更激烈,但进步会更快。我喜欢这种感觉。

《新程序员》:ClickHouse 在 AI 领域的优势是什么?

Alexey:ClickHouse 在许多机器学习和 AI 任务中表现出色。第一个场景是数据收集、清理和准备管道,当然也包括数据分析。第二个是机器学习的可观测性。第三个是语义搜索和检索增强生成(RAG)。

所谓数据准备、数据收集、清理和分析,也就是在使用数据训练机器学习模型之前所做的一切。有时你会收集到 PB 级(1 PB = 1024 TB)的数据,但我们没法直接将这些 PB 数据输入到学习过程中,而是必须提取这些数据中最有价值的部分,并确保它不包含会破坏模型的垃圾数据。ClickHouse 的优势在于其灵活性以及与多种数据源的集成能力,所以 ClickHouse 可能是能够轻松处理和分析 PB 级数据、使其为机器学习训练做好准备的最佳解决方案。Cognitiv 公司就使用了 ClickHouse 在 ClickHouse Cloud 上构建了基于多 PB 数据集的模型。

再就是机器学习的可观测性。这是指当你需要观察和监控模型在生产环境中的表现时,且不仅仅是在生产环境中的表现。当有一个过程来准备和学习这些模型时,你也会收集大量关于这个过程的信息,并且需要将这些信息存储在某处。ClickHouse 可能是机器学习可观测性的最佳解决方案。这一点得到了 Braintrust 和 Langchain 两个案例的佐证。

当前热门的生成式 AI 应用程序需要使用语义搜索和检索增强生成(RAG)。在这种情况下,ClickHouse 也表现良好,特别是当数据无法轻松索引且无法全部放入内存时,因为我们有用于数组、向量和距离计算的数据类型和函数。在 ClickHouse 中,语义搜索也表现良好,因为它在数组数据类型上具有快速的距离计算功能。其主要优势在于,当数据无法在单台机器的内存中适配且无法提前轻松索引时,ClickHouse 可以在其他解决方案停止工作时继续提供答案。在某些情况下,由于数据量巨大,专用数据库停止工作。它们无法索引数据,因为这会带来太多的开销。

我们还计划改进一些功能,比如原生支持量化、向量量化。当用户需要使用类似 float32 的数据类型(每个维度占用四个字节),然后创建类似 int8 或可切换的 8 位迷你浮点格式并直接在其上计算距离的时候,原生量化可以解决最大的问题——内存带宽和存储带宽,避免了数据无法放入内存中的情况。另一个方向是将我们的 HNSW 索引投入生产,这样用户就可以对向量进行索引和搜索。

《新程序员》:最近有很多公司都迁移到了 ClickHouse Cloud,原因是什么?

Alexey:ClickHouse Cloud 现在解决了集群扩展的问题,再也不存在提前规划分片方案之类的麻烦。此外,我们还解决了版本升级问题,并保证在版本变化时行为的兼容性。ClickHouse Cloud 的每个服务都是高可用的,跨多个可用区复制,我们还会自动备份。由于使用了多级缓存的对象存储,ClickHouse Cloud 比自我管理的配置更便宜,也因此比在普通的 EC2 上使用 EBS 设置的速度更快。我们的客户会影响我们的产品优先级。每当你看到类似“通过选择性加载优化主键的内存使用”这样的示例时,那这就肯定是某个客户特定的要求。我甚至可以说,每个版本新发布的功能都是为了某些客户而设计的 —— 如果某个功能不是客户需要的,就有可能是我为了演示而要求的功能。

《新程序员》:你们在中国选择了阿里云作为合作伙伴,那未来你们还是否计划在中国进行其他合作?中国现在有很多 AI 公司和 AI 初创企业,你认为 ClickHouse 对 AI 初创企业的吸引力是什么?

Alexey:今年 4 月我们在阿里云上推出 GA 版本服务后,我们开始探索中国更广泛的市场。阿里巴巴是中国最大的云服务提供商,目前我们刚刚起步,但预计未来会有更多合作。我们正在寻找关于 ClickHouse 的有趣客户案例和应用,不仅限于 AI 公司,还包括其他领域,如可观测性。我们对 ClickHouse 在制造业中的应用也很感兴趣。我计划在中国继续定期举办 Meetup 活动,也愿意开放更多的合作机会。

《新程序员》:对于考虑将 ClickHouse 作为其机器学习应用的 AI 初创公司,你会给出哪些建议?

Alexey:我在这个领域常见的一个陷阱是“数据混乱” —— 当数据管道几乎无法重现,且工件随机分散在对象存储的文件中时,就需要过于频繁地从头开始工作。我想给的两个建议是:一、记录你所做的一切。二、尽量以结构化的形式收集所有数据。其中的陷阱在于,每当你发现一个数据质量问题使你的模型无效时,往往是在已经花费了数千个 GPU 小时后才发现的。因此,切记要监控流程,创建快照并测试

《新程序员》:除了对初创公司的建议,你能不能为年轻工程师也提供一些建议?

Alexey:对于年轻工程师,我建议选择一个感兴趣的领域——不一定是数据处理,可以是计算机图形学、芯片设计或人工智能等。如果你能深入理解这个领域,就能够找到创新的方法。


千里之行,始于 pull request 

《新程序员》:这一年以来,除了和 AI 领域结合的工作,ClickHouse 还有哪些变化?

Alexey:我们最大的成就其实与数据存储和数据类型有关。在最新发布的 24.8 版本中,ClickHouse 支持半结构化数据,这需要在查询引擎中增加三种新数据类型 —— Variant、Dynamic 和 JSON。

Variant 数据类型类似于多个数据类型的判别联合体,Dynamic 是无限制联合,而 JSON 数据类型允许任意嵌套的数据,主要的优势在于性能和可用性,这意味着你可以加载具有未知结构的日志、API 响应和类似的数据,并进行自然查询,使数据可操作化的时间最小化。 

ClickHouse 内部也有很多新的数据处理功能,例如 S3 队列和可刷新物化视图。这使得 ETL 系统显得过时,因为 ClickHouse 提供了所有用户需要的功能。此外,我们先前集成的 Kafka 引擎也被重写,以支持严格的精确一次语义(exactly once semantics)。其中一个特别有趣的新功能是在预览版中的嵌入式时间序列引擎,这使得 ClickHouse 可以作为 Prometheus 的直接后端。

《新程序员》:我感觉自己被一堆技术名词轰炸了。ClickHouse 的一大特色就是你们会在 GitHub 上每年开一个“路线图”(Roadmap)讨论页,然后你本人会直接在 issue 里和用户们进行交流。2024 年的路线图实现的怎么样了?

Alexey:我估计截至今天,我们开源路线图的完成率为 30%,目标是达到 50%,或 60%。我们希望更加关注对数据湖的支持,如 Apache Iceberg 和 Delta Lake,目前它们已经有了基本支持,但仍需要更多关注。

《新程序员》:说到去年,我记得当时其实在社区内有一个热帖,是在讨论大家对 ClickHouse 远离开源的担忧。因为你们宣布许多重要的新功能将仅在 ClickHouse Cloud 上可用,人们担心这对开源版的 ClickHouse 意味着什么。你本人当时还出来澄清了。

现在我想再讨论一次这件事。ClickHouse 现在是否仍然致力于开源原则,还是正在转向一种更加专有的模式?你们是否曾计划在开源和商业路线图之间做出区分,即制定两条路线图?

Alexey:ClickHouse 是在 Apache 2.0 许可下开发的,得到了来自全球超过 2000 名贡献者的开放合作。我是开源模式的坚定信仰者,因为它更具可扩展性,能保证更高质量的产品,并在更广泛的场景中实现更快的增长,这对我们像 ClickHouse Cloud 这样的商业产品来说很重要。

我们也会维护 ClickHouse 的一个专有版本,其中包含为 ClickHouse Cloud 开发的功能,例如 SharedMergeTree——它在云对象存储之上实现了可扩展性,这在为数千个客户构建服务时非常重要。通过这种方式,我们防止公司免费利用我们的服务与我们竞争,而不支付我们的工程工作费用,同时让各个公司可以充分利用自托管的 ClickHouse 的全部功能。

《新程序员》:你说自己是开源的坚定信仰者,这种热情从何而来?在你的职业生涯中,是否有某些特殊的经历巩固了你对开源的信念?

Alexey:我只是会看看周围的例子,其中有很多表明,一些技术过去很流行,但从长远来看,它们不再流行,因为它们不对所有人开放,不是开源的。但实际上,开源并不是万能的,这取决于团队。开源需要一个团队不断推动它前进。有无数开源分析数据库的例子,它们因为缺乏强有力的团队而失败,例如 Greenplum(Postgres 的一个分析分支)或 MonetDB(一种早期的分析数据库,类似于 ClickHouse)。如今,ClickHouse 是最受欢迎的分析型数据库管理系统,这要归功于我们对开源和开放合作的做法。

《新程序员》:我看过你们的官网,你们的每个版本命名都很简单清晰,比如“24.8”,24 代表年份是 2024 年;8 代表月份,八月。也就是说你们是月更的,一年十二个版本,那这些版本更新的方向由谁决定?

Alexey:24.8 是一个非常棒的版本——首先,它是一个长期支持版本。它包含了一些主要的新功能:JSON 数据类型、新的 Kafka 引擎、时间序列引擎以及对 Hive 分区的支持。此外,值得注意的是,在这个版本中,Analyzer(一个用于查询分析和优化的新基础设施)已完全达到生产级别,这突显了两年来团队的努力!演示和视频已经在官网发布,如果有中国的开源开发者愿意从 YouTube 下载它们并上传到 BiliBili 和小红书,我将不胜感激。

《新程序员》:我会把这个写到文章里,催更那些 UP 主。你们每次更新都会标明参与更新的贡献者,并具体列出贡献者的名字。那么,谁来决定是否接受某个贡献?谁是最终决策者?

Alexey:版本中的功能取决于它们的准备情况。在截止日期之前合并的内容将会出现在版本中。哪些功能要合并以及优先级由我们的工程团队决定。团队中至少要有一名成员审核代码并检查实现。有些功能可以快速合并,但有些功能可能需要较长的审查过程,甚至需要进行架构更改。顺便说一句,我很感激社区里的每一份 pull request,哪怕是与架构有冲突的请求,也会是一种展示功能并邀请讨论的好方法。

《新程序员》:你们一直保持月更,就没有“断更”过吗?有没有遇到过无法更新的时候?你们又是如何在如此频繁的发布中确保质量控制的?

Alexey:自 2021 年以来,我从未错过任何一次发布时的网络研讨会(Alexey 每个月会直接在 Youtube 的官方新视频里出镜,亲口介绍最新版本并参与讨论中),所以它们每个月都会如期举行。

我们并不急于在发布中合并功能,每个月有数百个 pull request,总会有新内容可以展示。当某些功能尚未准备好时,我们通常会将其推迟到下一个版本。例如,JSON 数据类型原本预期在 24.7 版本中发布,但最终在 24.8 版本中发布。除了代码审查外,我们还会手动测试每个功能,并评估它的可用性——是否易于用户使用,以及如何融入整个 ClickHouse 架构。有些功能在发布前被撤回进行重新设计,然后再合并。

有时也会有一些不确定性,比如在 24.8 版本发布时,我不确定我们是否能够在 8 月 20 日按时完成。所以我当时说,“如果我们不能在新版本推出 JSON 数据类型,那就取消发布网络研讨会。” 但我们最终没有取消,也按时完成了。

不过,也有一些有趣的故事,比如在 2022 年的某次发布中,我们当时花了很多时间搬迁到新公司的办公室,我没有准备任何内容。于是,我召集了团队的每一个人,请他们即兴发挥,介绍他们的工作和即将推出的功能。当然,最重要的内容将留待下次介绍。那次网络研讨会非常不同寻常,但我希望观众喜欢它。

随着我们公司和客户数量的增长,工作变得更加繁忙。不过,团队成员也在不断壮大,大家都愿意提供支持和帮助。我们现在甚至有一个专门的 SRE 团队和一个小型的 Q&A 团队。

《新程序员》:说到这点,ClickHouse 现在都已经有 200 名员工了。你是如何吸引和留住人才的?

Alexey:我们的开源战略使得吸引人才和培训新员工变得更容易。首先,行业内的人都清楚,从一个 pull request 到生产环境的更改是很容易的,而你的工作会因此产生很大的影响。我们正在努力在整个公司保持这种文化,这让我们能够留住人才。 


不仅仅是数据库,所有的数据处理系统都能从 AI 中获益

《新程序员》:你希望 ClickHouse 的未来怎么发展?

Alexey:我希望 ClickHouse 成为最流行的开源分析数据库,从此任何人考虑分析数据库的时候,脑海里第一个也是显而易见的选择就是 ClickHouse。 

顺便说一句 —— 我们其实已经是最流行的开源分析数据库了,所以我想让这个现状保持下去,以便更多的人能知道这一点。

《新程序员》:你认为现在人们对 ClickHouse 最大的误解是什么?

Alexey:过去大家常说 ClickHouse 很难安装,但这不是真的,因为他们往往看到的是大公司的技术架构。大公司会设置多区域的集群,其中包含数百个分片,并在不同区域进行复制。这些大公司还会经常讨论如何扩展 ZooKeeper 或 ClickHouse Keeper,也就是如何重新分片的问题。

但人们应该明白,如果只是想开始使用 ClickHouse,大多数情况下只需在一台机器上安装它,或者为了高可用性在两台机器上安装它,基本上就可以了。这并不比安装 Postgres 或 MySQL 更难,事实上我感觉更容易。我想看到更多的关于 ClickHouse 的使用体验,并希望大家都先试一试 ClickHouse。只要试一次,那肯定会改变他们的想法,他们会像其他使用者一样,成为 ClickHouse 的粉丝。

《新程序员》:你刚才说 ClickHouse 已经处于领先地位。站在第一名的压力如何?你会怎么维持下去?

Alexey:我们必须继续快速推进,不能失去这种势头。因为我们在 ClickHouse 中开发的每一个创新功能,都会在半年或一年左右的时间内被其他系统实现。但这实际上是非常好的,这代表我们是分析型数据库领域的引领者,同时也意味着我们必须继续发明新的东西,以保持领先地位,比如在查询优化、数据存储、可用性和查询语言方面的创新方法。

到目前为止,我们仍然可以保持创新。我们有一个庞大的团队,并且正在将这些创新内容传播到所有平台和其他团队成员当中。因此,每个人都有机会做出一些真正新的东西。但这也需要保持专注,始终保持快速前进的状态。

《新程序员》:继续展望未来,你觉得 AI 将如何影响数据库技术的发展?

Alexey:我其实准备了一个关于 AI 的笑话。

从前有个人问,什么是智能系统的定义?回答是,一个系统被称为智能,是因为它会犯错。例如,快速排序算法,它并不是智能算法,因为它在 100% 的情况下都能工作,还可以永远保持正确。另一个例子是垃圾邮件过滤算法,这是一个典型的智能算法,因为它有时会犯错误。

所以,数据库在核心上可能仍保持简单,但这并不妨碍它与 AI 集成。AI 可以用于改善用户体验,因为不是每个人都愿意写 SQL,也不是每个人都能写出 100% 正确的 SQL。AI 还可以在缓存、投机优化、用户体验、友好界面、资源共享等方面与数据库结合。数据库测试(尤其是模糊测试)更是可以从生成式 AI 中受益,因为模糊测试需要随机生成测试用例,但完全随机地进行会花费太多时间,所以让系统猜测哪些测试用例可能会导致故障是有意义的。

总的来说,不仅仅是数据库,所有的数据处理系统都能从 AI 中获益。这里面有着很大的前景,我预计 AI 将在整体上改进这一领域 —— 而且不一定是生成式 AI,也可能是传统机器学习,比如贝叶斯模型。

《新程序员》:请设想一下,未来的大数据架构会不会也随之演变?比如必要组件的演变,像湖仓架构。

Alexey:我其实已经观察到了数据湖和开源数据格式正在慢慢接近像 ClickHouse 这种全功能系统的能力,但仍有差距。而且这个差距还会持续存在,甚至可以说它们在能力上稍有落后。专门的分析数据库可以提供更好的性能。

说到趋势,我还注意到不同系统之间有融合的趋势,一些系统和专门化变得不那么重要了。举个例子,特征存储系统。我觉得到了 2024 年,特征存储已经不那么重要了,因为分析数据库——尤其是 ClickHouse——可以更好地解决这些问题。但在 2021 年,它们还挺流行的。可能过不了多久你就会把它们忘得一干二净。

再比如说,语义网数据库。这是 10 年前的老古董,现在已经和主流技术不怎么相关了。

我对专门的向量数据库的前景也不是特别看好。虽然有很多专门的向量数据库,但如果你看看 PgVector 的受欢迎程度——这是 Postgres 的一个模块——你会发现它在流行度上其实超过了那些专门的数据库。

《新程序员》:我正好想问一些和向量数据库有关的问题。现在,向量数据库的竞争正在白热化,很多公司都在为文本数据开发向量数据库。我记得 ClickHouse 也支持向量搜索。你对此有哪些见解?

Alexey:当你把数据转换成嵌入向量时,原始数据是什么类型其实并不重要。你可以为文本创建嵌入向量,也可以为图像创建嵌入向量。数据库直接处理这些嵌入向量。但随之而来的是很多问题,比如数据集有多大?你想做什么类型的搜索?而且很多时候,你不会只在整个数据库中搜索。你可能需要进行混合搜索——先通过元数据过滤,比如客户 ID,如果是电商网站,可能还有类别、商店 ID 等,然后再用向量距离进行向量过滤。

这就意味着,有时候那些专门的向量数据库可能就不太管用了,因为它们不是通用数据库。它们只能做向量搜索,其他的就做不了。比如说,它们可能无法在包含嵌入向量的表和包含元数据的表之间进行联接,或者不支持外部对象存储,又或者不支持事务处理。所以,在更通用的数据库里集成向量搜索其实更好。相比之下,先做一个专门的向量数据库,然后再试图让它变得更通用,这样只会更费时费力。

《新程序员》:我还有个问题很好奇,你们的 AI 客户都是怎么使用你们的产品的?有什么有趣的使用案例吗?

Alexey:嗯,有个挺有意思的公司叫 Cognitive,要是我没记错的话,他们是为广告网络开发人工智能模型的。他们在 ClickHouse Cloud 上存储了好几个 PB 的超大数据集,然后用这些数据来生成模型。说实话,我不太清楚他们具体是怎么生成模型的。我只知道他们在这么做。在我们的博客上记录了他们的故事,里面讲了一些他们的使用体验。

相关链接:https://clickhouse.com/blog/transforming-ad-tech-how-cognitiv-uses-clickhouse-to-build-better-machine-learning-models

《新程序员》:最后一个问题。去年我们其实也问过你同样的问题,那就是关于对未来的规划,但当时你说你通常不怎么规划未来。那你能至少给 ClickHouse 的未来设定一个里程碑或目标吗?

Alexey:嗯,也许可以吧。虽然不是非常具体的里程碑,但我们在云产品上确实还有不少工作要做。比如说,我们已经在三个——姑且说是西方的云服务商和一个中国的云服务商上线了产品。我们还需要实现“自带云”(BYOC)的方案,也就是让用户可以在自己的云账户上运行我们的服务。实际上,这个功能已经快要推出了。我觉得我们肯定能实现这个里程碑。所以请大家保持关注,留意我们网站上的最新消息。

除此之外,我们还有很多优化工作要做,以提高云服务的可扩展性。给你透露一个正在进行的优化项目的名字吧,但具体细节我不能多说,只能说它的名字,请自己猜猜看——分布式缓存

《新程序员》:真的不能多说了吗?那能再复述一遍它的名字吗?

Alexey:不行。我一个字都不会再透露啦。



试用阿里云 ClickHouse企业版


轻松节省30%云资源成本?阿里云数据库ClickHouse架构全新升级,推出和原厂独家合作的ClickHouse企业版,在存储和计算成本上带来双重优势,现诚邀您参与100元指定规格测一个月的活动,了解详情:https://t.aliyun.com/Kz5Z0q9G



征稿启示


路过

雷人

握手

鲜花

鸡蛋

版权声明:本文为 clickhouse 社区用户原创文章,遵循 CC BY-NC-SA 4.0 版权协议,转载请附上原文出处链接和本声明。

评论