src/tail_csv.c

   1 /**
   2  * collectd - src/tail_csv.c
   3  * Copyright (C) 2013 Kris Nielander
   4  * Copyright (C) 2013 Florian Forster
   5  *
   6  * This program is free software; you can redistribute it and/or modify it
   7  * under the terms of the GNU General Public License as published by the
   8  * Free Software Foundation; only version 2 of the License is applicable.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License for more details.
  14  *
  15  * You should have received a copy of the GNU General Public License along
  16  * with this program; if not, write to the Free Software Foundation, Inc.,
  17  * 51 Franklin St, Fifth Floor, Boston, MA  02110-1301 USA
  18  *
  19  * Authors:
  20  *   Kris Nielander <nielander at fox-it.com>
  21  *   Florian Forster <octo at collectd.org>
  22  **/
  23
  24 #include "collectd.h"
  25 #include "plugin.h" /* plugin_register_*, plugin_dispatch_values */
  26 #include "common.h" /* auxiliary functions */
  27 #include "utils_tail.h"
  28
  29 #include <sys/mman.h>
  30 #include <sys/stat.h>
  31 #include <fcntl.h>
  32 #include <stdlib.h>
  33 #include <string.h>
  34
  35 struct metric_definition_s {
  36     char *name;
  37     char *type;
  38     char *instance;
  39     int data_source_type;
  40     int value_from;
  41     struct metric_definition_s *next;
  42 };
  43 typedef struct metric_definition_s metric_definition_t;
  44
  45 struct instance_definition_s {
  46     char *instance;
  47     char *path;
  48     cu_tail_t *tail;
  49     metric_definition_t **metric_list;
  50     size_t metric_list_len;
  51     cdtime_t interval;
  52     int time_from;
  53     struct instance_definition_s *next;
  54 };
  55 typedef struct instance_definition_s instance_definition_t;
  56
  57 /* Private */
  58 static metric_definition_t *metric_head = NULL;
  59
  60 static int tcsv_submit (instance_definition_t *id,
  61         metric_definition_t *md,
  62         value_t v, cdtime_t t)
  63 {
  64     /* Registration variables */
  65     value_list_t vl = VALUE_LIST_INIT;
  66
  67     /* Register */
  68     vl.values_len = 1;
  69     vl.values = &v;
  70
  71     sstrncpy(vl.host, hostname_g, sizeof (vl.host));
  72     sstrncpy(vl.plugin, "tail_csv", sizeof(vl.plugin));
  73     if (id->instance != NULL)
  74         sstrncpy(vl.plugin_instance, id->instance, sizeof(vl.plugin_instance));
  75     sstrncpy(vl.type, md->type, sizeof(vl.type));
  76     if (md->instance != NULL)
  77         sstrncpy(vl.type_instance, md->instance, sizeof(vl.type_instance));
  78
  79     vl.time = t;
  80     vl.interval = id->interval;
  81
  82     return (plugin_dispatch_values(&vl));
  83 }
  84
  85 static cdtime_t parse_time (char const *tbuf)
  86 {
  87     double t;
  88     char *endptr = 0;
  89
  90     errno = 0;
  91     t = strtod (tbuf, &endptr);
  92     if ((errno != 0) || (endptr == NULL) || (endptr[0] != 0))
  93         return (cdtime ());
  94
  95     return (DOUBLE_TO_CDTIME_T (t));
  96 }
  97
  98 static int tcsv_read_metric (instance_definition_t *id,
  99         metric_definition_t *md,
 100         char **fields, size_t fields_num)
 101 {
 102     value_t v;
 103     cdtime_t t;
 104     int status;
 105
 106     if (md->data_source_type == -1)
 107         return (EINVAL);
 108
 109     if (md->value_from >= fields_num)
 110         return (EINVAL);
 111
 112     if (id->time_from >= 0 && (id->time_from >= fields_num))
 113         return (EINVAL);
 114
 115     t = 0;
 116     if (id->time_from >= 0)
 117         t = parse_time (fields[id->time_from]);
 118
 119     status = parse_value (fields[md->value_from], &v, md->data_source_type);
 120     if (status != 0)
 121         return (status);
 122
 123     return (tcsv_submit (id, md, v, t));
 124 }
 125
 126 static _Bool tcsv_check_index (int index, size_t fields_num, char const *name)
 127 {
 128     if (index < 0)
 129         return 1;
 130     else if (((size_t) index) < fields_num)
 131         return 1;
 132
 133     ERROR ("tail_csv plugin: Metric \"%s\": Request for index %i when "
 134             "only %zu fields are available.",
 135             name, index, fields_num);
 136     return (0);
 137 }
 138
 139 static int tcsv_read_buffer (instance_definition_t *id,
 140         char *buffer, size_t buffer_size)
 141 {
 142     char **metrics;
 143     size_t metrics_num;
 144
 145     char *ptr;
 146     size_t i;
 147
 148     /* Remove newlines at the end of line. */
 149     while (buffer_size > 0) {
 150         if ((buffer[buffer_size - 1] == '\n')
 151                 || (buffer[buffer_size - 1] == '\r')) {
 152             buffer[buffer_size - 1] = 0;
 153             buffer_size--;
 154         } else {
 155             break;
 156         }
 157     }
 158
 159     /* Ignore empty lines. */
 160     if ((buffer_size == 0) || (buffer[0] == '#'))
 161         return (0);
 162
 163     /* Count the number of fields. */
 164     metrics_num = 1;
 165     for (i = 0; i < buffer_size; i++) {
 166         if (buffer[i] == ',')
 167             metrics_num++;
 168     }
 169
 170     if (metrics_num == 1) {
 171         ERROR("tail_csv plugin: last line of `%s' does not contain "
 172                 "enough values.", id->path);
 173         return (-1);
 174     }
 175
 176     /* Create a list of all values */
 177     metrics = calloc (metrics_num, sizeof (*metrics));
 178     if (metrics == NULL) {
 179         ERROR ("tail_csv plugin: calloc failed.");
 180         return (ENOMEM);
 181     }
 182
 183     ptr = buffer;
 184     metrics[0] = ptr;
 185     i = 1;
 186     for (ptr = buffer; *ptr != 0; ptr++) {
 187         if (*ptr != ',')
 188             continue;
 189
 190         *ptr = 0;
 191         metrics[i] = ptr + 1;
 192         i++;
 193     }
 194     assert (i == metrics_num);
 195
 196     /* Register values */
 197     for (i = 0; i < id->metric_list_len; ++i){
 198         metric_definition_t *md = id->metric_list[i];
 199
 200         if (!tcsv_check_index (md->value_from, metrics_num, md->name)
 201                 || !tcsv_check_index (id->time_from, metrics_num, md->name))
 202             continue;
 203
 204         tcsv_read_metric (id, md, metrics, metrics_num);
 205     }
 206
 207     /* Free up resources */
 208     sfree (metrics);
 209     return (0);
 210 }
 211
 212 static int tcsv_read (user_data_t *ud) {
 213     instance_definition_t *id;
 214     id = ud->data;
 215
 216     if (id->tail == NULL)
 217     {
 218         id->tail = cu_tail_create (id->path);
 219         if (id->tail == NULL)
 220         {
 221             ERROR ("tail_csv plugin: cu_tail_create (\"%s\") failed.",
 222                     id->path);
 223             return (-1);
 224         }
 225     }
 226
 227     while (42)
 228     {
 229         char buffer[1024];
 230         size_t buffer_len;
 231         int status;
 232
 233         status = cu_tail_readline (id->tail, buffer, (int) sizeof (buffer));
 234         if (status != 0)
 235         {
 236             ERROR ("tail_csv plugin: File \"%s\": cu_tail_readline failed "
 237                     "with status %i.", id->path, status);
 238             return (-1);
 239         }
 240
 241         buffer_len = strlen (buffer);
 242         if (buffer_len == 0)
 243             break;
 244
 245         tcsv_read_buffer (id, buffer, buffer_len);
 246     }
 247
 248     return (0);
 249 }
 250
 251 static void tcsv_metric_definition_destroy(void *arg){
 252     metric_definition_t *md;
 253     metric_definition_t *next;
 254
 255     md = arg;
 256     if (md == NULL)
 257         return;
 258
 259     next = md->next;
 260     md->next = NULL;
 261
 262     sfree(md->name);
 263     sfree(md->type);
 264     sfree(md->instance);
 265     sfree(md);
 266
 267     tcsv_metric_definition_destroy (next);
 268 }
 269
 270 static int tcsv_config_get_index(oconfig_item_t *ci, int *ret_index) {
 271     int index;
 272
 273     if ((ci->values_num != 1) || (ci->values[0].type != OCONFIG_TYPE_NUMBER)){
 274         WARNING("tail_csv plugin: The \"%s\" config option needs exactly one "
 275                 "integer argument.", ci->key);
 276         return (-1);
 277     }
 278
 279     index = (int) ci->values[0].value.number;
 280     if (index < 0) {
 281         WARNING("tail_csv plugin: The \"%s\" config option must be positive "
 282                 "(or zero).", ci->key);
 283         return (-1);
 284     }
 285
 286     *ret_index = index;
 287     return (0);
 288 }
 289
 290 /* Parse metric  */
 291 static int tcsv_config_add_metric(oconfig_item_t *ci){
 292     metric_definition_t *md;
 293     int status = 0;
 294     int i;
 295
 296     md = (metric_definition_t *)malloc(sizeof(*md));
 297     if (md == NULL)
 298         return (-1);
 299     memset(md, 0, sizeof(*md));
 300     md->name = NULL;
 301     md->type = NULL;
 302     md->instance = NULL;
 303     md->data_source_type = -1;
 304     md->value_from = -1;
 305     md->next = NULL;
 306
 307     status = cf_util_get_string (ci, &md->name);
 308     if (status != 0) {
 309         sfree (md);
 310         return (-1);
 311     }
 312
 313     for (i = 0; i < ci->children_num; ++i){
 314         oconfig_item_t *option = ci->children + i;
 315         status = 0;
 316
 317         if (strcasecmp("Type", option->key) == 0)
 318             status = cf_util_get_string(option, &md->type);
 319         else if (strcasecmp("Instance", option->key) == 0)
 320             status = cf_util_get_string(option, &md->instance);
 321         else if (strcasecmp("ValueFrom", option->key) == 0)
 322             status = tcsv_config_get_index (option, &md->value_from);
 323         else {
 324             WARNING("tail_csv plugin: Option `%s' not allowed here.", option->key);
 325             status = -1;
 326         }
 327
 328         if (status != 0)
 329             break;
 330     }
 331
 332     if (status != 0){
 333         tcsv_metric_definition_destroy(md);
 334         return (-1);
 335     }
 336
 337     /* Verify all necessary options have been set. */
 338     if (md->type == NULL) {
 339         WARNING("tail_csv plugin: Option `Type' must be set.");
 340         status = -1;
 341     } else if (md->value_from < 0) {
 342         WARNING("tail_csv plugin: Option `ValueFrom' must be set.");
 343         status = -1;
 344     }
 345     if (status != 0) {
 346         tcsv_metric_definition_destroy(md);
 347         return (status);
 348     }
 349
 350     if (metric_head == NULL)
 351         metric_head = md;
 352     else {
 353         metric_definition_t *last;
 354         last = metric_head;
 355         while (last->next != NULL)
 356             last = last->next;
 357         last->next = md;
 358     }
 359
 360     return (0);
 361 }
 362
 363 static void tcsv_instance_definition_destroy(void *arg){
 364     instance_definition_t *id;
 365
 366     id = arg;
 367     if (id == NULL)
 368         return;
 369
 370     if (id->tail != NULL)
 371         cu_tail_destroy (id->tail);
 372     id->tail = NULL;
 373
 374     sfree(id->instance);
 375     sfree(id->path);
 376     sfree(id->metric_list);
 377     sfree(id);
 378 }
 379
 380 static int tcsv_config_add_instance_collect(instance_definition_t *id, oconfig_item_t *ci) {
 381     metric_definition_t *metric;
 382     metric_definition_t **metric_list;
 383     size_t metric_list_size;
 384     int i;
 385
 386     if (ci->values_num < 1) {
 387         WARNING("tail_csv plugin: The `Collect' config option needs at least one argument.");
 388         return (-1);
 389     }
 390
 391     metric_list_size = id->metric_list_len + (size_t) ci->values_num;
 392     metric_list = realloc (id->metric_list, sizeof (*id->metric_list) * metric_list_size);
 393     if (metric_list == NULL)
 394         return (-1);
 395     id->metric_list = metric_list;
 396
 397     for (i = 0; i < ci->values_num; i++) {
 398         char *metric_name;
 399
 400         if (ci->values[i].type != OCONFIG_TYPE_STRING) {
 401             WARNING("tail_csv plugin: All arguments to `Collect' must be strings.");
 402             continue;
 403         }
 404         metric_name = ci->values[i].value.string;
 405
 406         for (metric = metric_head; metric != NULL; metric = metric->next)
 407             if (strcasecmp(metric_name, metric->name) == 0)
 408                 break;
 409
 410         if (metric == NULL) {
 411             WARNING ("tail_csv plugin: `Collect' argument not found `%s'.", metric_name);
 412             continue;
 413         }
 414
 415         id->metric_list[id->metric_list_len] = metric;
 416         id->metric_list_len++;
 417     }
 418
 419     return (0);
 420 }
 421
 422 /* <File /> block */
 423 static int tcsv_config_add_file(oconfig_item_t *ci)
 424 {
 425     instance_definition_t* id;
 426     int status = 0;
 427     int i;
 428
 429     /* Registration variables */
 430     char cb_name[DATA_MAX_NAME_LEN];
 431     user_data_t cb_data;
 432     struct timespec cb_interval;
 433
 434     id = malloc(sizeof(*id));
 435     if (id == NULL)
 436         return (-1);
 437     memset(id, 0, sizeof(*id));
 438     id->instance = NULL;
 439     id->path = NULL;
 440     id->metric_list = NULL;
 441     id->time_from = -1;
 442     id->next = NULL;
 443
 444     status = cf_util_get_string (ci, &id->path);
 445     if (status != 0) {
 446         sfree (id);
 447         return (status);
 448     }
 449
 450     /* Use default interval. */
 451     id->interval = plugin_get_interval();
 452
 453     for (i = 0; i < ci->children_num; ++i){
 454         oconfig_item_t *option = ci->children + i;
 455         status = 0;
 456
 457         if (strcasecmp("Instance", option->key) == 0)
 458             status = cf_util_get_string(option, &id->instance);
 459         else if (strcasecmp("Collect", option->key) == 0)
 460             status = tcsv_config_add_instance_collect(id, option);
 461         else if (strcasecmp("Interval", option->key) == 0)
 462             cf_util_get_cdtime(option, &id->interval);
 463         else if (strcasecmp("TimeFrom", option->key) == 0)
 464             status = tcsv_config_get_index (option, &id->time_from);
 465         else {
 466             WARNING("tail_csv plugin: Option `%s' not allowed here.", option->key);
 467             status = -1;
 468         }
 469
 470         if (status != 0)
 471             break;
 472     }
 473
 474     if (status != 0){
 475         tcsv_instance_definition_destroy(id);
 476         return (-1);
 477     }
 478
 479     /* Verify all necessary options have been set. */
 480     if (id->path == NULL){
 481         WARNING("tail_csv plugin: Option `Path' must be set.");
 482         status = -1;
 483     } else if (id->metric_list == NULL){
 484         WARNING("tail_csv plugin: Option `Collect' must be set.");
 485         status = -1;
 486    }
 487
 488     if (status != 0){
 489         tcsv_instance_definition_destroy(id);
 490         return (-1);
 491     }
 492
 493     ssnprintf (cb_name, sizeof (cb_name), "tail_csv/%s", id->path);
 494     memset(&cb_data, 0, sizeof(cb_data));
 495     cb_data.data = id;
 496     cb_data.free_func = tcsv_instance_definition_destroy;
 497     CDTIME_T_TO_TIMESPEC(id->interval, &cb_interval);
 498     status = plugin_register_complex_read(NULL, cb_name, tcsv_read, &cb_interval, &cb_data);
 499
 500     if (status != 0){
 501         ERROR("tail_csv plugin: Registering complex read function failed.");
 502         tcsv_instance_definition_destroy(id);
 503         return (-1);
 504     }
 505
 506     return (0);
 507 }
 508
 509 /* Parse blocks */
 510 static int tcsv_config(oconfig_item_t *ci){
 511     int i;
 512     for (i = 0; i < ci->children_num; ++i){
 513         oconfig_item_t *child = ci->children + i;
 514         if (strcasecmp("Metric", child->key) == 0)
 515             tcsv_config_add_metric(child);
 516         else if (strcasecmp("File", child->key) == 0)
 517             tcsv_config_add_file(child);
 518         else
 519             WARNING("tail_csv plugin: Ignore unknown config option `%s'.", child->key);
 520     }
 521
 522     return (0);
 523 } /* int tcsv_config */
 524
 525 static int tcsv_init(void) { /* {{{ */
 526     static _Bool have_init = 0;
 527     metric_definition_t *md;
 528
 529     if (have_init)
 530         return (0);
 531
 532     for (md = metric_head; md != NULL; md = md->next) {
 533         data_set_t const *ds;
 534
 535         /* Retrieve the data source type from the types db. */
 536         ds = plugin_get_ds(md->type);
 537         if (ds == NULL)
 538         {
 539             ERROR ("tail_csv plugin: Failed to look up type \"%s\" for "
 540                     "metric \"%s\". It may not be defined in the types.db "
 541                     "file. Please read the types.db(5) manual page for more "
 542                     "details.",
 543                     md->type, md->name);
 544             continue;
 545         }
 546         else if (ds->ds_num != 1)
 547         {
 548             ERROR ("tail_csv plugin: The type \"%s\" has %i data sources. "
 549                     "Only types with a single data soure are supported.",
 550                     ds->type, ds->ds_num);
 551             continue;
 552         }
 553
 554         md->data_source_type = ds->ds->type;
 555     }
 556
 557     return (0);
 558 } /* }}} int tcsv_init */
 559
 560 static int tcsv_shutdown (void) {
 561     tcsv_metric_definition_destroy (metric_head);
 562     metric_head = NULL;
 563
 564     return (0);
 565 }
 566
 567 void module_register(void){
 568     plugin_register_complex_config("tail_csv", tcsv_config);
 569     plugin_register_init("tail_csv", tcsv_init);
 570     plugin_register_shutdown("tail_csv", tcsv_shutdown);
 571 }
 572
 573 /* vim: set sw=4 sts=4 et : */