为了账号安全,请及时绑定邮箱和手机立即绑定

如何创建一个类标签来用java构建广播变量spark?

如何创建一个类标签来用java构建广播变量spark?

噜噜哒 2021-10-28 17:30:02
我需要在我的 JAVA 函数中创建一个 borodcast,一个字符串列表的广播Broadcast<List<String>>broadcastSp = sc.broadcast(Tvalue,classTag<T>evidence);T 值是 "my_list" ( List<String>),但问题是如何创建第二部分classTag<T>evidence.
查看完整描述

2 回答

?
慕容森

TA贡献1853条经验 获得超18个赞

这是我的功能:


public static JavaSparkContext sc;

public static Broadcast < List < String >> broadcastP;

public static void main(String args[]) throws Exception {

    sc = new JavaSparkContext("local", "test");

    .

    .

    .

    private static List < String > fFtItemSets(JavaRDD < String > base_initiale) throws Exception {

      List < String > kMinusOneSets;

      List < String > k_sets;


      int i = 1;

      k_sets = remplir_ksets_intiale(base_initiale);

      System.out.println(k_sets);

      List < String > k_sets1 = k_sets;

      int NB = k_sets.size();

      while (NB > 1) {

        kMinusOneSets = k_sets;

        k_sets = Jointure(kMinusOneSets);


        k_sets = Elagage(k_sets, k_sets1, i);

        System.out.println(k_sets);



        Broadcast < List < String >> broadcastSp = sc.broadcast(k - sets, List < String > );

        //main.sc.broadcast(k_sets);


        System.out.println(broadcastSp.value());



        k_sets = tr_freq(k_sets, broadcastnSp, base_initiale, i);

        k_sets1 = k_sets;

        NB++;

        i++;


      }

      return k_sets;

    }


查看完整回答
反对 回复 2021-10-28
  • 2 回答
  • 0 关注
  • 229 浏览

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信