| 注册
请输入搜索内容

热门搜索

Java Linux MySQL PHP JavaScript Hibernate jQuery Nginx
jopen
10年前发布

Storm集群的DRPC模式

   storm的DRPC模式的作用是实现从远程调用storm集群的计算资源,而不需要连接到集群的某一个节点。OK。那么storm实现DRPC主要是 使用LinearDRPCTopologyBuilder这个类。下面就先来看看一个简单的例子,它的源码的github上。

import backtype.storm.Config;  import backtype.storm.LocalCluster;  import backtype.storm.LocalDRPC;  import backtype.storm.StormSubmitter;  import backtype.storm.drpc.LinearDRPCTopologyBuilder;  import backtype.storm.topology.BasicOutputCollector;  import backtype.storm.topology.OutputFieldsDeclarer;  import backtype.storm.topology.base.BaseBasicBolt;  import backtype.storm.tuple.Fields;  import backtype.storm.tuple.Tuple;  import backtype.storm.tuple.Values;        public class BasicDRPCTopology {    public static class ExclaimBolt extends BaseBasicBolt {     //主要需要覆写execute方法和declareoutputfields方法      @Override      public void execute(Tuple tuple, BasicOutputCollector collector) {        String input = tuple.getString(1);        collector.emit(new Values(tuple.getValue(0), input + "!"));      }         @Override      public void declareOutputFields(OutputFieldsDeclarer declarer) {        declarer.declare(new Fields("id", "result"));      }       }       public static void main(String[] args) throws Exception {      LinearDRPCTopologyBuilder builder = new LinearDRPCTopologyBuilder("exclamation");//实现DRPC模式      builder.addBolt(new ExclaimBolt(), 3);         Config conf = new Config();         if (args == null || args.length == 0) {        LocalDRPC drpc = new LocalDRPC();        LocalCluster cluster = new LocalCluster();           cluster.submitTopology("drpc-demo", conf, builder.createLocalTopology(drpc));           for (String word : new String[]{ "hello", "goodbye" }) {          System.out.println("Result for \"" + word + "\": " + drpc.execute("exclamation", word));        }           cluster.shutdown();        drpc.shutdown();      }      else {        conf.setNumWorkers(3);        StormSubmitter.submitTopology(args[0], conf, builder.createRemoteTopology());      }    }  }

 这段代码主要实现的功能是给接收到的每一个输入后面添加一个感叹号。ok,这样就可以编译提交了。

       不过在这之前需要先配置storm集群的drpc server的ip。如图。主要是下面的server的ip需要配置好。并且集群的每一个节点的配置文件都需要配置这项参数!

       Storm集群的DRPC模式

       然后即可使用storm drpc &命令启动drpc模式。(这里的分工是172.17.150.6为客户端,其余的172.17.150.7(.8,.11)为集群的三个节点,.11是nimbus节点。)

       OK,那接下来就使用客户端向集群提交Topology。如图。使用客户端向集群提交名为exclaim的Topology。里面设置的worker数为3。

       Storm集群的DRPC模式

       从下图可以看到两个supervisor分别有一个是运行两个worker,有一个是运行一个worker。

       Storm集群的DRPC模式 

       Storm集群的DRPC模式 

       ok,下面是客户端调用远程资源进行计算的程序。主要是声明DRPCClient的ip以及端口,以及指定执行的方法名和传入的参数(client.execute("exclamation",word))。

       Storm集群的DRPC模式

       运行结果如下。

       Storm集群的DRPC模式

       OK,整个DRPC的过程就是这样。

来自:http://www.cnblogs.com/UUhome/p/4320656.html

 本文由用户 jopen 自行上传分享,仅供网友学习交流。所有权归原作者,若您的权利被侵害,请联系管理员。
 转载本站原创文章,请注明出处,并保留原始链接、图片水印。
 本站是一个以用户分享为主的开源技术平台,欢迎各类分享!
 本文地址:https://www.open-open.com/lib/view/open1425872252888.html
Storm 分布式/云计算/大数据