Share my life and thoughts
正在加载今日诗词....
Spark 高可用部署中的路径扩容与软链接技巧 Spark 高可用部署中的路径扩容与软链接技巧
Spark 的 work 目录默认位于安装目录下,这在高并发环境中容易造成空间瓶颈。本文介绍了两种路径迁移方法:修改 spark-env.sh 和使用软链接,并分析了各自的优劣。
Spark2.2.0 IDEA && Maven源码编译 Spark2.2.0 IDEA && Maven源码编译
写在前面最近在琢磨Spark2.2.0,通过扩展Spark SQL来支持多模态数据的管理和相似性查询,最终形成一个多模态数据库。在编译Spark源码的过程中遇到过一些奇奇怪怪的问题,希望能对后来的朋友有所帮助。 问题一览 ERROR Tra