将可迭代转换为RDD

我想从火花流到几个弹性搜索索引。 我创建了成对的<key(index), value>,当我执行groupByKey时,结果是<key(index), Iterable<value>>的元组,但为了使用ElasticSearch-Spark插件保存到ElasticSearch,我需要JavaRDD<value>的值。

我知道有一个可以从List创建Java RDD的SparkConext.parallize(List)选项,但该选项只能在驱动程序上执行。

是否有其他选项可以创建可以在Executor上执行的JavaRDD?或者我可以实现Tuple2<key(index), JavaRDD<value>>在Executor上工作的另一种方式? 如果没有,我如何才能在驱动程序上仅将Iterator切换到JavaRDD,并在Executor处将插件写入ElasticSearch?

谢谢,

Daniela


解决方案

我想说的是,必须有如下所示的smth

JavaPairRDD<Key, Iterable<Value>> pair = ...;
JavaRDD<Iterable<Value>> values = pair.map(t2 -> t2._2());
JavaRDD<Value> onlyValues = values.flatMap(it -> it);

替代方法是

JavaPairRDD<Key, Iterable<Value>> pair = ...;
JavaRDD<Key, Value> keyValues = pair.flatMapValues(v1 -> v1);
JavaRDD<Value> values = keyValues.map(t2 -> t2._2());

相关文章