实际业务中,我们通常会以时间作为分区来建立Hive表,然后在SparkSQL中以动态分区的形式插入,发现一个优化空间。
Aerospike(3) - Evict机制
发表于
|
分类于
Aerospike
在实时的场景中,我们往往会对Aerospike/Redis等设置evict机制,来防止流量暴增带来的存储系统崩溃。
Spark - 利用WeakReference来清理对象
发表于
|
分类于
Apache Spark
本文描述了在Spark ContextCleaner中利用WeakReference和referenceQueue来清理无效对象的机制和原理