Storm and Kestrel

本页介绍如何使用Storm消费来自Kestrel集群的项目。

准备阶段

Storm

本教程使用的示例来自于 storm-kestrel 项目和 storm-starter 项目。建议你克隆这些项目并根着示例走。 阅读 Setting up development environment 和 Creating a new Storm project 来设置你的机器。

Kestrel

它假设您可以在本地选择Kestrel 服务器，如上所述 here.

Kestrel 服务 和 队列

单个kestrel服务器具有一组队列。Kestrel 队列是在JVM上运行的非常简单的消息队列，并使用memcache协议(具有一定的扩展名)与客户端进行通信。对于更加详细的信息，你可查看 KestrelThriftClient 类里面提供的 storm-kestrel 项目.

每个队列按照FIFO(先进先出)的原则进行严格排序。跟随性能项目缓存在系统内存中；但是，只有前128MB保存在内存中。当服务器停止时，队列状态存储在日志文件中。

此外，还可以从 here 找到细节。

Kestrel is: fast small durable(耐久) reliable(稳定)

例如，Twitter 使用 Kestrel 作为其消息传递基础设施的骨干，如上所述here.

添加项目至 Kestrel

首先，我们需要一个可以将项目添加到Kestrel队列的程序。以下方法受益于 KestrelClient的实现 storm-kestrel. 它将句子添加到从包含五个可能句子的数组中随机选择的Kestrel队列中。

  1.  private static void queueSentenceItems(KestrelClient kestrelClient, String queueName)
  2.             throws ParseError, IOException {
  4.         String[] sentences = new String[] {
  5.                 "the cow jumped over the moon",
  6.                 "an apple a day keeps the doctor away",
  7.                 "four score and seven years ago",
  8.                 "snow white and the seven dwarfs",
  9.                 "i am at two with nature"};
  11.         Random _rand = new Random();
  13.         for(int i=1; i<=10; i++){
  15.             String sentence = sentences[_rand.nextInt(sentences.length)];
  17.             String val = "ID " + i + " " + sentence;
  19.             boolean queueSucess = kestrelClient.queue(queueName, val);
  21.             System.out.println("queueSucess=" +queueSucess+ " [" + val +"]");
  22.         }
  23.     }

将项目从 Kestrel 移除

此方法将队列中的项目排队，而不是删除。 ``` private static void dequeueItems(KestrelClient kestrelClient, String queueName) throws IOException, ParseError { for(int i=1; i<=12; i++){

  1.  Item item = kestrelClient.dequeue(queueName);
  3.         if(item==null){
  4.             System.out.println("The queue (" + queueName + ") contains no items.");
  5.         }
  6.         else
  7.         {
  8.             byte[] data = item._data;
  10.             String receivedVal = new String(data);
  12.             System.out.println("receivedItem=" + receivedVal);
  13.         }
  14.     }
  1.  此方法将队列中的项目排队，然后将其删除。
  2. This method dequeues items from a queue and then removes them.
  1. private static void dequeueAndRemoveItems(KestrelClient kestrelClient, String queueName)
  2. throws IOException, ParseError
  3.      {
  4.         for(int i=1; i<=12; i++){
  6.             Item item = kestrelClient.dequeue(queueName);
  8.             if(item==null){
  9.                 System.out.println("The queue (" + queueName + ") contains no items.");
  10.             }
  11.             else
  12.             {
  13.                 int itemID = item._id;
  15.                 byte[] data = item._data;
  17.                 String receivedVal = new String(data);
  19.                 kestrelClient.ack(queueName, itemID);
  21.                 System.out.println("receivedItem=" + receivedVal);
  22.             }
  23.         }
  24. }
  1.  ## 连续添加项目至 Kestrel
  3. 这是我们的最终运行程序，以便连续地将句子项添加到本地运行的Kestrel服务器的名为 **sentence_queue** 的队列中。
  5. 为了阻止它在控制台中键入一个关闭括号 char ']' ,然后按 'Enter'。
  1. import java.io.IOException;
  2. import java.io.InputStream;
  3. import java.util.Random;
  5. import org.apache.storm.spout.KestrelClient;
  6. import org.apache.storm.spout.KestrelClient.Item;
  7. import org.apache.storm.spout.KestrelClient.ParseError;
  9. public class AddSentenceItemsToKestrel {
  11.     /**
  12.      * @param args
  13.      */
  14.     public static void main(String[] args) {
  16.         InputStream is = System.in;
  18.         char closing_bracket = ']';
  20.         int val = closing_bracket;
  22.         boolean aux = true;
  24.         try {
  26.             KestrelClient kestrelClient = null;
  27.             String queueName = "sentence_queue";
  29.             while(aux){
  31.                 kestrelClient = new KestrelClient("localhost",22133);
  33.                 queueSentenceItems(kestrelClient, queueName);
  35.                 kestrelClient.close();
  37.                 Thread.sleep(1000);
  39.                 if(is.available()>0){
  40.                  if(val==is.read())
  41.                      aux=false;
  42.                 }
  43.             }
  44.         } catch (IOException e) {
  45.             // TODO Auto-generated catch block
  46.             e.printStackTrace();
  47.         }
  48.         catch (ParseError e) {
  49.             // TODO Auto-generated catch block
  50.             e.printStackTrace();
  51.         } catch (InterruptedException e) {
  52.             // TODO Auto-generated catch block
  53.             e.printStackTrace();
  54.         }
  56.         System.out.println("end");
  58.     }
  59. }
  1. ## 使用 KestrelSpout
  2. 该拓扑结构使用KestrelSpout从Kestrel队列中读取句子，将句子分解成其组成词(Bolt: SplitSentence),然后为每个单词发出它之前(Bolt: WordCount)所见到的次数。数据的处理方式如下所述 [Guaranteeing message processing](Guaranteeing-message-processing.html).
  1. TopologyBuilder builder = new TopologyBuilder();
  2. builder.setSpout("sentences", new KestrelSpout("localhost",22133,"sentence_queue",new StringScheme()));
  3. builder.setBolt("split", new SplitSentence(), 10)
  4.             .shuffleGrouping("sentences");
  5. builder.setBolt("count", new WordCount(), 20)
  6.         .fieldsGrouping("split", new Fields("word"));
  1.  ## 执行
  3. 首先，在生产或开发模式下启动您本地的Kestrel服务器。
  5. 等大约5秒，以避免ConnectionException。
  7. 现在执行程序将项目添加到队列并启动Storm 拓扑。启动程序的排序并不重要。
  9. 如果您使用TOPOLOGY_DEBUG运行拓扑，您应该会看到在拓扑中发出的元组。