Merge branch 'collectd-4.5' into collectd-4.6
[collectd.git] / src / utils_cache.c
1 /**
2  * collectd - src/utils_cache.c
3  * Copyright (C) 2007,2008  Florian octo Forster
4  *
5  * This program is free software; you can redistribute it and/or modify it
6  * under the terms of the GNU General Public License as published by the
7  * Free Software Foundation; only version 2 of the License is applicable.
8  *
9  * This program is distributed in the hope that it will be useful, but
10  * WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License along
15  * with this program; if not, write to the Free Software Foundation, Inc.,
16  * 51 Franklin St, Fifth Floor, Boston, MA  02110-1301 USA
17  *
18  * Author:
19  *   Florian octo Forster <octo at verplant.org>
20  **/
21
22 #include "collectd.h"
23 #include "common.h"
24 #include "plugin.h"
25 #include "utils_avltree.h"
26 #include "utils_cache.h"
27 #include "utils_threshold.h"
28
29 #include <assert.h>
30 #include <pthread.h>
31
32 typedef struct cache_entry_s
33 {
34         char name[6 * DATA_MAX_NAME_LEN];
35         int        values_num;
36         gauge_t   *values_gauge;
37         counter_t *values_counter;
38         /* Time contained in the package
39          * (for calculating rates) */
40         time_t last_time;
41         /* Time according to the local clock
42          * (for purging old entries) */
43         time_t last_update;
44         /* Interval in which the data is collected
45          * (for purding old entries) */
46         int interval;
47         int state;
48 } cache_entry_t;
49
50 static c_avl_tree_t   *cache_tree = NULL;
51 static pthread_mutex_t cache_lock = PTHREAD_MUTEX_INITIALIZER;
52
53 static int cache_compare (const cache_entry_t *a, const cache_entry_t *b)
54 {
55   assert ((a != NULL) && (b != NULL));
56   return (strcmp (a->name, b->name));
57 } /* int cache_compare */
58
59 static cache_entry_t *cache_alloc (int values_num)
60 {
61   cache_entry_t *ce;
62
63   ce = (cache_entry_t *) malloc (sizeof (cache_entry_t));
64   if (ce == NULL)
65   {
66     ERROR ("utils_cache: cache_alloc: malloc failed.");
67     return (NULL);
68   }
69   memset (ce, '\0', sizeof (cache_entry_t));
70   ce->values_num = values_num;
71
72   ce->values_gauge = (gauge_t *) calloc (values_num, sizeof (gauge_t));
73   ce->values_counter = (counter_t *) calloc (values_num, sizeof (counter_t));
74   if ((ce->values_gauge == NULL) || (ce->values_counter == NULL))
75   {
76     sfree (ce->values_gauge);
77     sfree (ce->values_counter);
78     sfree (ce);
79     ERROR ("utils_cache: cache_alloc: calloc failed.");
80     return (NULL);
81   }
82
83   return (ce);
84 } /* cache_entry_t *cache_alloc */
85
86 static void cache_free (cache_entry_t *ce)
87 {
88   if (ce == NULL)
89     return;
90
91   sfree (ce->values_gauge);
92   sfree (ce->values_counter);
93   sfree (ce);
94 } /* void cache_free */
95
96 static int uc_send_notification (const char *name)
97 {
98   cache_entry_t *ce = NULL;
99   int status;
100
101   char *name_copy;
102   char *host;
103   char *plugin;
104   char *plugin_instance;
105   char *type;
106   char *type_instance;
107
108   notification_t n;
109
110   name_copy = strdup (name);
111   if (name_copy == NULL)
112   {
113     ERROR ("uc_send_notification: strdup failed.");
114     return (-1);
115   }
116
117   status = parse_identifier (name_copy, &host,
118       &plugin, &plugin_instance,
119       &type, &type_instance);
120   if (status != 0)
121   {
122     ERROR ("uc_send_notification: Cannot parse name `%s'", name);
123     return (-1);
124   }
125
126   /* Copy the associative members */
127   notification_init (&n, NOTIF_FAILURE, /* host = */ NULL,
128       host, plugin, plugin_instance, type, type_instance);
129
130   sfree (name_copy);
131   name_copy = host = plugin = plugin_instance = type = type_instance = NULL;
132
133   pthread_mutex_lock (&cache_lock);
134
135   /*
136    * Set the time _after_ getting the lock because we don't know how long
137    * acquiring the lock takes and we will use this time later to decide
138    * whether or not the state is OKAY.
139    */
140   n.time = time (NULL);
141
142   status = c_avl_get (cache_tree, name, (void *) &ce);
143   if (status != 0)
144   {
145     pthread_mutex_unlock (&cache_lock);
146     sfree (name_copy);
147     return (-1);
148   }
149     
150   /* Check if the entry has been updated in the meantime */
151   if ((n.time - ce->last_update) < (2 * ce->interval))
152   {
153     ce->state = STATE_OKAY;
154     pthread_mutex_unlock (&cache_lock);
155     sfree (name_copy);
156     return (-1);
157   }
158
159   ssnprintf (n.message, sizeof (n.message),
160       "%s has not been updated for %i seconds.", name,
161       (int) (n.time - ce->last_update));
162
163   pthread_mutex_unlock (&cache_lock);
164
165   plugin_dispatch_notification (&n);
166
167   return (0);
168 } /* int uc_send_notification */
169
170 static int uc_insert (const data_set_t *ds, const value_list_t *vl,
171     const char *key)
172 {
173   int i;
174   char *key_copy;
175   cache_entry_t *ce;
176
177   /* `cache_lock' has been locked by `uc_update' */
178
179   key_copy = strdup (key);
180   if (key_copy == NULL)
181   {
182     ERROR ("uc_insert: strdup failed.");
183     return (-1);
184   }
185
186   ce = cache_alloc (ds->ds_num);
187   if (ce == NULL)
188   {
189     sfree (key_copy);
190     ERROR ("uc_insert: cache_alloc (%i) failed.", ds->ds_num);
191     return (-1);
192   }
193
194   sstrncpy (ce->name, key, sizeof (ce->name));
195
196   for (i = 0; i < ds->ds_num; i++)
197   {
198     if (ds->ds[i].type == DS_TYPE_COUNTER)
199     {
200       ce->values_gauge[i] = NAN;
201       ce->values_counter[i] = vl->values[i].counter;
202     }
203     else /* if (ds->ds[i].type == DS_TYPE_GAUGE) */
204     {
205       ce->values_gauge[i] = vl->values[i].gauge;
206     }
207   } /* for (i) */
208
209   ce->last_time = vl->time;
210   ce->last_update = time (NULL);
211   ce->interval = vl->interval;
212   ce->state = STATE_OKAY;
213
214   if (c_avl_insert (cache_tree, key_copy, ce) != 0)
215   {
216     sfree (key_copy);
217     ERROR ("uc_insert: c_avl_insert failed.");
218     return (-1);
219   }
220
221   DEBUG ("uc_insert: Added %s to the cache.", key);
222   return (0);
223 } /* int uc_insert */
224
225 int uc_init (void)
226 {
227   if (cache_tree == NULL)
228     cache_tree = c_avl_create ((int (*) (const void *, const void *))
229         cache_compare);
230
231   return (0);
232 } /* int uc_init */
233
234 int uc_check_timeout (void)
235 {
236   time_t now;
237   cache_entry_t *ce;
238
239   char **keys = NULL;
240   int keys_len = 0;
241
242   char *key;
243   c_avl_iterator_t *iter;
244   int i;
245   
246   pthread_mutex_lock (&cache_lock);
247
248   now = time (NULL);
249
250   /* Build a list of entries to be flushed */
251   iter = c_avl_get_iterator (cache_tree);
252   while (c_avl_iterator_next (iter, (void *) &key, (void *) &ce) == 0)
253   {
254     /* If entry has not been updated, add to `keys' array */
255     if ((now - ce->last_update) >= (2 * ce->interval))
256     {
257       char **tmp;
258
259       tmp = (char **) realloc ((void *) keys,
260           (keys_len + 1) * sizeof (char *));
261       if (tmp == NULL)
262       {
263         ERROR ("uc_purge: realloc failed.");
264         c_avl_iterator_destroy (iter);
265         pthread_mutex_unlock (&cache_lock);
266         return (-1);
267       }
268
269       keys = tmp;
270       keys[keys_len] = strdup (key);
271       if (keys[keys_len] == NULL)
272       {
273         ERROR ("uc_check_timeout: strdup failed.");
274         continue;
275       }
276       keys_len++;
277     }
278   } /* while (c_avl_iterator_next) */
279
280   for (i = 0; i < keys_len; i++)
281   {
282     int status;
283
284     status = ut_check_interesting (keys[i]);
285
286     if (status < 0)
287     {
288       ERROR ("uc_check_timeout: ut_check_interesting failed.");
289       sfree (keys[i]);
290     }
291     else if (status == 0) /* ``service'' is uninteresting */
292     {
293       ce = NULL;
294       DEBUG ("uc_check_timeout: %s is missing but ``uninteresting''",
295           keys[i]);
296       status = c_avl_remove (cache_tree, keys[i],
297           (void *) &key, (void *) &ce);
298       if (status != 0)
299       {
300         ERROR ("uc_check_timeout: c_avl_remove (%s) failed.", keys[i]);
301       }
302       sfree (keys[i]);
303       sfree (key);
304       cache_free (ce);
305     }
306     else if (status == 1) /* persist */
307     {
308       DEBUG ("uc_check_timeout: %s is missing, sending notification.",
309           keys[i]);
310       ce->state = STATE_MISSING;
311     }
312     else if (status == 2) /* do not persist */
313     {
314       if (ce->state == STATE_MISSING)
315       {
316         DEBUG ("uc_check_timeout: %s is missing but "
317             "notification has already been sent.",
318             keys[i]);
319         sfree (keys[i]);
320       }
321       else /* (ce->state != STATE_MISSING) */
322       {
323         DEBUG ("uc_check_timeout: %s is missing, sending one notification.",
324             keys[i]);
325         ce->state = STATE_MISSING;
326       }
327     }
328     else
329     {
330       WARNING ("uc_check_timeout: ut_check_interesting (%s) returned "
331           "invalid status %i.",
332           keys[i], status);
333     }
334   } /* for (keys[i]) */
335
336   c_avl_iterator_destroy (iter);
337
338   pthread_mutex_unlock (&cache_lock);
339
340   for (i = 0; i < keys_len; i++)
341   {
342     if (keys[i] == NULL)
343       continue;
344
345     uc_send_notification (keys[i]);
346     sfree (keys[i]);
347   }
348
349   sfree (keys);
350
351   return (0);
352 } /* int uc_check_timeout */
353
354 int uc_update (const data_set_t *ds, const value_list_t *vl)
355 {
356   char name[6 * DATA_MAX_NAME_LEN];
357   cache_entry_t *ce = NULL;
358   int send_okay_notification = 0;
359   time_t update_delay = 0;
360   notification_t n;
361   int status;
362   int i;
363
364   if (FORMAT_VL (name, sizeof (name), vl, ds) != 0)
365   {
366     ERROR ("uc_update: FORMAT_VL failed.");
367     return (-1);
368   }
369
370   pthread_mutex_lock (&cache_lock);
371
372   status = c_avl_get (cache_tree, name, (void *) &ce);
373   if (status != 0) /* entry does not yet exist */
374   {
375     status = uc_insert (ds, vl, name);
376     pthread_mutex_unlock (&cache_lock);
377     return (status);
378   }
379
380   assert (ce != NULL);
381   assert (ce->values_num == ds->ds_num);
382
383   if (ce->last_time >= vl->time)
384   {
385     pthread_mutex_unlock (&cache_lock);
386     NOTICE ("uc_update: Value too old: name = %s; value time = %u; "
387         "last cache update = %u;",
388         name, (unsigned int) vl->time, (unsigned int) ce->last_time);
389     return (-1);
390   }
391
392   /* Send a notification (after the lock has been released) if we switch the
393    * state from something else to `okay'. */
394   if (ce->state == STATE_MISSING)
395   {
396     send_okay_notification = 1;
397     ce->state = STATE_OKAY;
398     update_delay = time (NULL) - ce->last_update;
399   }
400
401   for (i = 0; i < ds->ds_num; i++)
402   {
403     if (ds->ds[i].type == DS_TYPE_COUNTER)
404     {
405       counter_t diff;
406
407       /* check if the counter has wrapped around */
408       if (vl->values[i].counter < ce->values_counter[i])
409       {
410         if (ce->values_counter[i] <= 4294967295U)
411           diff = (4294967295U - ce->values_counter[i])
412             + vl->values[i].counter;
413         else
414           diff = (18446744073709551615ULL - ce->values_counter[i])
415             + vl->values[i].counter;
416       }
417       else /* counter has NOT wrapped around */
418       {
419         diff = vl->values[i].counter - ce->values_counter[i];
420       }
421
422       ce->values_gauge[i] = ((double) diff)
423         / ((double) (vl->time - ce->last_time));
424       ce->values_counter[i] = vl->values[i].counter;
425     }
426     else /* if (ds->ds[i].type == DS_TYPE_GAUGE) */
427     {
428       ce->values_gauge[i] = vl->values[i].gauge;
429     }
430     DEBUG ("uc_update: %s: ds[%i] = %lf", name, i, ce->values_gauge[i]);
431   } /* for (i) */
432
433   ce->last_time = vl->time;
434   ce->last_update = time (NULL);
435   ce->interval = vl->interval;
436
437   pthread_mutex_unlock (&cache_lock);
438
439   if (send_okay_notification == 0)
440     return (0);
441
442   /* Do not send okay notifications for uninteresting values, i. e. values for
443    * which no threshold is configured. */
444   status = ut_check_interesting (name);
445   if (status <= 0)
446     return (0);
447
448   /* Initialize the notification */
449   memset (&n, '\0', sizeof (n));
450   NOTIFICATION_INIT_VL (&n, vl, ds);
451
452   n.severity = NOTIF_OKAY;
453   n.time = vl->time;
454
455   ssnprintf (n.message, sizeof (n.message),
456       "Received a value for %s. It was missing for %u seconds.",
457       name, (unsigned int) update_delay);
458
459   plugin_dispatch_notification (&n);
460
461   return (0);
462 } /* int uc_update */
463
464 int uc_get_rate_by_name (const char *name, gauge_t **ret_values, size_t *ret_values_num)
465 {
466   gauge_t *ret = NULL;
467   size_t ret_num = 0;
468   cache_entry_t *ce = NULL;
469   int status = 0;
470
471   pthread_mutex_lock (&cache_lock);
472
473   if (c_avl_get (cache_tree, name, (void *) &ce) == 0)
474   {
475     assert (ce != NULL);
476
477     ret_num = ce->values_num;
478     ret = (gauge_t *) malloc (ret_num * sizeof (gauge_t));
479     if (ret == NULL)
480     {
481       ERROR ("utils_cache: uc_get_rate_by_name: malloc failed.");
482       status = -1;
483     }
484     else
485     {
486       memcpy (ret, ce->values_gauge, ret_num * sizeof (gauge_t));
487     }
488   }
489   else
490   {
491     DEBUG ("utils_cache: uc_get_rate_by_name: No such value: %s", name);
492     status = -1;
493   }
494
495   pthread_mutex_unlock (&cache_lock);
496
497   if (status == 0)
498   {
499     *ret_values = ret;
500     *ret_values_num = ret_num;
501   }
502
503   return (status);
504 } /* gauge_t *uc_get_rate_by_name */
505
506 gauge_t *uc_get_rate (const data_set_t *ds, const value_list_t *vl)
507 {
508   char name[6 * DATA_MAX_NAME_LEN];
509   gauge_t *ret = NULL;
510   size_t ret_num = 0;
511   int status;
512
513   if (FORMAT_VL (name, sizeof (name), vl, ds) != 0)
514   {
515     ERROR ("utils_cache: uc_get_rate: FORMAT_VL failed.");
516     return (NULL);
517   }
518
519   status = uc_get_rate_by_name (name, &ret, &ret_num);
520   if (status != 0)
521     return (NULL);
522
523   /* This is important - the caller has no other way of knowing how many
524    * values are returned. */
525   if (ret_num != (size_t) ds->ds_num)
526   {
527     ERROR ("utils_cache: uc_get_rate: ds[%s] has %i values, "
528         "but uc_get_rate_by_name returned %zu.",
529         ds->type, ds->ds_num, ret_num);
530     sfree (ret);
531     return (NULL);
532   }
533
534   return (ret);
535 } /* gauge_t *uc_get_rate */
536
537 int uc_get_names (char ***ret_names, time_t **ret_times, size_t *ret_number)
538 {
539   c_avl_iterator_t *iter;
540   char *key;
541   cache_entry_t *value;
542
543   char **names = NULL;
544   time_t *times = NULL;
545   size_t number = 0;
546
547   int status = 0;
548
549   if ((ret_names == NULL) || (ret_number == NULL))
550     return (-1);
551
552   pthread_mutex_lock (&cache_lock);
553
554   iter = c_avl_get_iterator (cache_tree);
555   while (c_avl_iterator_next (iter, (void *) &key, (void *) &value) == 0)
556   {
557     char **temp;
558
559     if (ret_times != NULL)
560     {
561       time_t *tmp_times;
562
563       tmp_times = (time_t *) realloc (times, sizeof (time_t) * (number + 1));
564       if (tmp_times == NULL)
565       {
566         status = -1;
567         break;
568       }
569       times = tmp_times;
570       times[number] = value->last_time;
571     }
572
573     temp = (char **) realloc (names, sizeof (char *) * (number + 1));
574     if (temp == NULL)
575     {
576       status = -1;
577       break;
578     }
579     names = temp;
580     names[number] = strdup (key);
581     if (names[number] == NULL)
582     {
583       status = -1;
584       break;
585     }
586     number++;
587   } /* while (c_avl_iterator_next) */
588
589   c_avl_iterator_destroy (iter);
590   pthread_mutex_unlock (&cache_lock);
591
592   if (status != 0)
593   {
594     size_t i;
595     
596     for (i = 0; i < number; i++)
597     {
598       sfree (names[i]);
599     }
600     sfree (names);
601
602     return (-1);
603   }
604
605   *ret_names = names;
606   if (ret_times != NULL)
607     *ret_times = times;
608   *ret_number = number;
609
610   return (0);
611 } /* int uc_get_names */
612
613 int uc_get_state (const data_set_t *ds, const value_list_t *vl)
614 {
615   char name[6 * DATA_MAX_NAME_LEN];
616   cache_entry_t *ce = NULL;
617   int ret = STATE_ERROR;
618
619   if (FORMAT_VL (name, sizeof (name), vl, ds) != 0)
620   {
621     ERROR ("uc_get_state: FORMAT_VL failed.");
622     return (STATE_ERROR);
623   }
624
625   pthread_mutex_lock (&cache_lock);
626
627   if (c_avl_get (cache_tree, name, (void *) &ce) == 0)
628   {
629     assert (ce != NULL);
630     ret = ce->state;
631   }
632
633   pthread_mutex_unlock (&cache_lock);
634
635   return (ret);
636 } /* int uc_get_state */
637
638 int uc_set_state (const data_set_t *ds, const value_list_t *vl, int state)
639 {
640   char name[6 * DATA_MAX_NAME_LEN];
641   cache_entry_t *ce = NULL;
642   int ret = -1;
643
644   if (FORMAT_VL (name, sizeof (name), vl, ds) != 0)
645   {
646     ERROR ("uc_get_state: FORMAT_VL failed.");
647     return (STATE_ERROR);
648   }
649
650   pthread_mutex_lock (&cache_lock);
651
652   if (c_avl_get (cache_tree, name, (void *) &ce) == 0)
653   {
654     assert (ce != NULL);
655     ret = ce->state;
656     ce->state = state;
657   }
658
659   pthread_mutex_unlock (&cache_lock);
660
661   return (ret);
662 } /* int uc_set_state */
663 /* vim: set sw=2 ts=8 sts=2 tw=78 : */