Merge pull request #853 from vincentbernat/fix/kafka-unavailable-partitions
authorPierre-Yves Ritschard <pyr@spootnik.org>
Wed, 10 Dec 2014 15:20:15 +0000 (16:20 +0100)
committerPierre-Yves Ritschard <pyr@spootnik.org>
Wed, 10 Dec 2014 15:20:15 +0000 (16:20 +0100)
write_kafka: check for partition availability before selecting one

src/write_kafka.c

index ba76d71..e1d2f12 100644 (file)
@@ -76,8 +76,13 @@ static int32_t kafka_partition(const rd_kafka_topic_t *rkt,
                                int32_t partition_cnt, void *p, void *m)
 {
     u_int32_t key = *((u_int32_t *)keydata );
+    u_int32_t target = key % partition_cnt;
+    int32_t   i = partition_cnt;
 
-    return key % partition_cnt;
+    while (--i > 0 && !rd_kafka_topic_partition_available(rkt, target)) {
+        target = (target + 1) % partition_cnt;
+    }
+    return target;
 }
 
 static int kafka_write(const data_set_t *ds, /* {{{ */