将可迭代转换为RDD
我想从火花流到几个弹性搜索索引。
我创建了成对的<key(index), value>
,当我执行groupByKey时,结果是<key(index), Iterable<value>>
的元组,但为了使用ElasticSearch-Spark插件保存到ElasticSearch,我需要JavaRDD<value>
的值。
我知道有一个可以从List创建Java RDD的SparkConext.parallize(List)选项,但该选项只能在驱动程序上执行。
是否有其他选项可以创建可以在Executor上执行的JavaRDD?或者我可以实现Tuple2<key(index), JavaRDD<value>>
在Executor上工作的另一种方式?
如果没有,我如何才能在驱动程序上仅将Iterator切换到JavaRDD,并在Executor处将插件写入ElasticSearch?
谢谢,
Daniela
解决方案
我想说的是,必须有如下所示的smth
JavaPairRDD<Key, Iterable<Value>> pair = ...;
JavaRDD<Iterable<Value>> values = pair.map(t2 -> t2._2());
JavaRDD<Value> onlyValues = values.flatMap(it -> it);
替代方法是
JavaPairRDD<Key, Iterable<Value>> pair = ...;
JavaRDD<Key, Value> keyValues = pair.flatMapValues(v1 -> v1);
JavaRDD<Value> values = keyValues.map(t2 -> t2._2());
相关文章