src/rrd_fetch.c: Use "rrdc_fetch" if daemon is available.
[rrdtool.git] / src / rrd_fetch.c
1 /*****************************************************************************
2  * RRDtool 1.4.3  Copyright by Tobi Oetiker, 1997-2010
3  *****************************************************************************
4  * rrd_fetch.c  read date from an rrd to use for further processing
5  *****************************************************************************
6  * $Id$
7  * $Log$
8  * Revision 1.8  2004/05/18 18:53:03  oetiker
9  * big spell checking patch -- slif@bellsouth.net
10  *
11  * Revision 1.7  2003/11/11 19:46:21  oetiker
12  * replaced time_value with rrd_time_value as MacOS X introduced a struct of that name in their standard headers
13  *
14  * Revision 1.6  2003/01/16 23:27:54  oetiker
15  * fix border condition in rra selection of rrd_fetch
16  * -- Stanislav Sinyagin <ssinyagin@yahoo.com>
17  *
18  * Revision 1.5  2002/06/23 22:29:40  alex
19  * Added "step=1800" and such to "DEF"
20  * Cleaned some of the signed vs. unsigned problems
21  *
22  * Revision 1.4  2002/02/01 20:34:49  oetiker
23  * fixed version number and date/time
24  *
25  * Revision 1.3  2001/12/24 06:51:49  alex
26  * A patch of size 44Kbytes... in short:
27  *
28  * Found and repaired the off-by-one error in rrd_fetch_fn().
29  * As a result I had to remove the hacks in rrd_fetch_fn(),
30  * rrd_tool.c, vdef_calc(), data_calc(), data_proc() and
31  * reduce_data().  There may be other places which I didn't
32  * find so be careful.
33  *
34  * Enhanced debugging in rrd_fetch_fn(), it shows the RRA selection
35  * process.
36  *
37  * Added the ability to print VDEF timestamps.  At the moment it
38  * is a hack, I needed it now to fix the off-by-one error.
39  * If the format string is "%c" (and nothing else!), the time
40  * will be printed by both ctime() and as a long int.
41  *
42  * Moved some code around (slightly altering it) from rrd_graph()
43  *   initializing     now in rrd_graph_init()
44  *   options parsing  now in rrd_graph_options()
45  *   script parsing   now in rrd_graph_script()
46  *
47  * Revision 1.2  2001/12/17 12:48:43  oetiker
48  * fix overflow error ...
49  *
50  * Revision 1.1.1.1  2001/02/25 22:25:05  oetiker
51  * checkin
52  *
53  *****************************************************************************/
54
55 #include "rrd_tool.h"
56 #include "rrd_client.h"
57
58 #include "rrd_is_thread_safe.h"
59 /* #define DEBUG */
60
61 int rrd_fetch(
62     int argc,
63     char **argv,
64     time_t *start,
65     time_t *end,        /* which time frame do you want ?
66                          * will be changed to represent reality */
67     unsigned long *step,    /* which stepsize do you want? 
68                              * will be changed to represent reality */
69     unsigned long *ds_cnt,  /* number of data sources in file */
70     char ***ds_namv,    /* names of data sources */
71     rrd_value_t **data)
72 {                       /* two dimensional array containing the data */
73     long      step_tmp = 1;
74     time_t    start_tmp = 0, end_tmp = 0;
75     const char *cf;
76     char *opt_daemon = NULL;
77     int status;
78
79     rrd_time_value_t start_tv, end_tv;
80     char     *parsetime_error = NULL;
81     struct option long_options[] = {
82         {"resolution", required_argument, 0, 'r'},
83         {"start", required_argument, 0, 's'},
84         {"end", required_argument, 0, 'e'},
85         {"daemon", required_argument, 0, 'd'},
86         {0, 0, 0, 0}
87     };
88
89     optind = 0;
90     opterr = 0;         /* initialize getopt */
91
92     /* init start and end time */
93     rrd_parsetime("end-24h", &start_tv);
94     rrd_parsetime("now", &end_tv);
95
96     while (1) {
97         int       option_index = 0;
98         int       opt;
99
100         opt = getopt_long(argc, argv, "r:s:e:d:", long_options, &option_index);
101
102         if (opt == EOF)
103             break;
104
105         switch (opt) {
106         case 's':
107             if ((parsetime_error = rrd_parsetime(optarg, &start_tv))) {
108                 rrd_set_error("start time: %s", parsetime_error);
109                 return -1;
110             }
111             break;
112         case 'e':
113             if ((parsetime_error = rrd_parsetime(optarg, &end_tv))) {
114                 rrd_set_error("end time: %s", parsetime_error);
115                 return -1;
116             }
117             break;
118         case 'r':
119             step_tmp = atol(optarg);
120             break;
121
122         case 'd':
123             if (opt_daemon != NULL)
124                     free (opt_daemon);
125             opt_daemon = strdup (optarg);
126             if (opt_daemon == NULL)
127             {
128                 rrd_set_error ("strdup failed.");
129                 return (-1);
130             }
131             break;
132
133         case '?':
134             rrd_set_error("unknown option '-%c'", optopt);
135             return (-1);
136         }
137     }
138
139
140     if (rrd_proc_start_end(&start_tv, &end_tv, &start_tmp, &end_tmp) == -1) {
141         return -1;
142     }
143
144
145     if (start_tmp < 3600 * 24 * 365 * 10) {
146         rrd_set_error("the first entry to fetch should be after 1980");
147         return (-1);
148     }
149
150     if (end_tmp < start_tmp) {
151         rrd_set_error("start (%ld) should be less than end (%ld)", start_tmp,
152                       end_tmp);
153         return (-1);
154     }
155
156     *start = start_tmp;
157     *end = end_tmp;
158
159     if (step_tmp < 1) {
160         rrd_set_error("step must be >= 1 second");
161         return -1;
162     }
163     *step = step_tmp;
164
165     if (optind + 1 >= argc) {
166         rrd_set_error("Usage: rrdtool %s <file> <CF> [options]", argv[0]);
167         return -1;
168     }
169
170     cf = argv[optind + 1];
171
172     rrdc_connect (opt_daemon);
173     if (rrdc_is_connected (opt_daemon))
174             status = rrdc_fetch (argv[optind], cf, start, end, step,
175                             ds_cnt, ds_namv, data);
176
177     else
178             status = rrd_fetch_r(argv[optind], cf, start, end, step,
179                             ds_cnt, ds_namv, data);
180
181     if (status != 0)
182         return (-1);
183     return (0);
184 }
185
186 int rrd_fetch_r(
187     const char *filename,   /* name of the rrd */
188     const char *cf,     /* which consolidation function ? */
189     time_t *start,
190     time_t *end,        /* which time frame do you want ?
191                          * will be changed to represent reality */
192     unsigned long *step,    /* which stepsize do you want? 
193                              * will be changed to represent reality */
194     unsigned long *ds_cnt,  /* number of data sources in file */
195     char ***ds_namv,    /* names of data_sources */
196     rrd_value_t **data)
197 {                       /* two dimensional array containing the data */
198     enum cf_en cf_idx;
199
200     if ((int) (cf_idx = cf_conv(cf)) == -1) {
201         return -1;
202     }
203
204     return (rrd_fetch_fn
205             (filename, cf_idx, start, end, step, ds_cnt, ds_namv, data));
206 } /* int rrd_fetch_r */
207
208 int rrd_fetch_fn(
209     const char *filename,   /* name of the rrd */
210     enum cf_en cf_idx,  /* which consolidation function ? */
211     time_t *start,
212     time_t *end,        /* which time frame do you want ?
213                          * will be changed to represent reality */
214     unsigned long *step,    /* which stepsize do you want? 
215                              * will be changed to represent reality */
216     unsigned long *ds_cnt,  /* number of data sources in file */
217     char ***ds_namv,    /* names of data_sources */
218     rrd_value_t **data)
219 {                       /* two dimensional array containing the data */
220     long      i, ii;
221     time_t    cal_start, cal_end, rra_start_time, rra_end_time;
222     long      best_full_rra = 0, best_part_rra = 0, chosen_rra =
223         0, rra_pointer = 0;
224     long      best_full_step_diff = 0, best_part_step_diff =
225         0, tmp_step_diff = 0, tmp_match = 0, best_match = 0;
226     long      full_match, rra_base;
227     off_t     start_offset, end_offset;
228     int       first_full = 1;
229     int       first_part = 1;
230     rrd_t     rrd;
231     rrd_file_t *rrd_file;
232     rrd_value_t *data_ptr;
233     unsigned long rows;
234
235 #ifdef DEBUG
236     fprintf(stderr, "Entered rrd_fetch_fn() searching for the best match\n");
237     fprintf(stderr, "Looking for: start %10lu end %10lu step %5lu\n",
238             *start, *end, *step);
239 #endif
240
241 #ifdef HAVE_LIBDBI
242     /* handle libdbi datasources */
243     if (strncmp("sql",filename,3)==0) {
244       if (filename[3]==filename[4]) {
245         return rrd_fetch_fn_libdbi(filename,cf_idx,start,end,step,ds_cnt,ds_namv,data);
246       }
247     }
248 #endif
249
250     rrd_init(&rrd);
251     rrd_file = rrd_open(filename, &rrd, RRD_READONLY);
252     if (rrd_file == NULL)
253         goto err_free;
254
255     /* when was the really last update of this file ? */
256
257     if (((*ds_namv) =
258          (char **) malloc(rrd.stat_head->ds_cnt * sizeof(char *))) == NULL) {
259         rrd_set_error("malloc fetch ds_namv array");
260         goto err_close;
261     }
262
263     for (i = 0; (unsigned long) i < rrd.stat_head->ds_cnt; i++) {
264         if ((((*ds_namv)[i]) = (char*)malloc(sizeof(char) * DS_NAM_SIZE)) == NULL) {
265             rrd_set_error("malloc fetch ds_namv entry");
266             goto err_free_ds_namv;
267         }
268         strncpy((*ds_namv)[i], rrd.ds_def[i].ds_nam, DS_NAM_SIZE - 1);
269         (*ds_namv)[i][DS_NAM_SIZE - 1] = '\0';
270
271     }
272
273     /* find the rra which best matches the requirements */
274     for (i = 0; (unsigned) i < rrd.stat_head->rra_cnt; i++) {
275         if (cf_conv(rrd.rra_def[i].cf_nam) == cf_idx) {
276
277             cal_end = (rrd.live_head->last_up - (rrd.live_head->last_up
278                                                  % (rrd.rra_def[i].pdp_cnt
279                                                     *
280                                                     rrd.stat_head->
281                                                     pdp_step)));
282             cal_start =
283                 (cal_end -
284                  (rrd.rra_def[i].pdp_cnt * rrd.rra_def[i].row_cnt *
285                   rrd.stat_head->pdp_step));
286
287             full_match = *end - *start;
288 #ifdef DEBUG
289             fprintf(stderr, "Considering: start %10lu end %10lu step %5lu ",
290                     cal_start, cal_end,
291                     rrd.stat_head->pdp_step * rrd.rra_def[i].pdp_cnt);
292 #endif
293             /* we need step difference in either full or partial case */
294             tmp_step_diff = labs(*step - (rrd.stat_head->pdp_step
295                                           * rrd.rra_def[i].pdp_cnt));
296             /* best full match */
297             if (cal_start <= *start) {
298                 if (first_full || (tmp_step_diff < best_full_step_diff)) {
299                     first_full = 0;
300                     best_full_step_diff = tmp_step_diff;
301                     best_full_rra = i;
302 #ifdef DEBUG
303                     fprintf(stderr, "best full match so far\n");
304                 } else {
305                     fprintf(stderr, "full match, not best\n");
306 #endif
307                 }
308
309             } else {
310                 /* best partial match */
311                 tmp_match = full_match;
312                 if (cal_start > *start)
313                     tmp_match -= (cal_start - *start);
314                 if (first_part ||
315                     (best_match < tmp_match) ||
316                     (best_match == tmp_match &&
317                      tmp_step_diff < best_part_step_diff)) {
318 #ifdef DEBUG
319                     fprintf(stderr, "best partial so far\n");
320 #endif
321                     first_part = 0;
322                     best_match = tmp_match;
323                     best_part_step_diff = tmp_step_diff;
324                     best_part_rra = i;
325                 } else {
326 #ifdef DEBUG
327                     fprintf(stderr, "partial match, not best\n");
328 #endif
329                 }
330             }
331         }
332     }
333
334     /* lets see how the matching went. */
335     if (first_full == 0)
336         chosen_rra = best_full_rra;
337     else if (first_part == 0)
338         chosen_rra = best_part_rra;
339     else {
340         rrd_set_error
341             ("the RRD does not contain an RRA matching the chosen CF");
342         goto err_free_all_ds_namv;
343     }
344
345     /* set the wish parameters to their real values */
346     *step = rrd.stat_head->pdp_step * rrd.rra_def[chosen_rra].pdp_cnt;
347     *start -= (*start % *step);
348     *end += (*step - *end % *step);
349     rows = (*end - *start) / *step + 1;
350
351 #ifdef DEBUG
352     fprintf(stderr,
353             "We found:    start %10lu end %10lu step %5lu rows  %lu\n",
354             *start, *end, *step, rows);
355 #endif
356
357 /* Start and end are now multiples of the step size.  The amount of
358 ** steps we want is (end-start)/step and *not* an extra one.
359 ** Reasoning:  if step is s and we want to graph from t to t+s,
360 ** we need exactly ((t+s)-t)/s rows.  The row to collect from the
361 ** database is the one with time stamp (t+s) which means t to t+s.
362 */
363     *ds_cnt = rrd.stat_head->ds_cnt;
364     if (((*data) = (rrd_value_t*)malloc(*ds_cnt * rows * sizeof(rrd_value_t))) == NULL) {
365         rrd_set_error("malloc fetch data area");
366         goto err_free_all_ds_namv;
367     }
368
369     data_ptr = (*data);
370
371     /* find base address of rra */
372     rra_base = rrd_file->header_len;
373     for (i = 0; i < chosen_rra; i++)
374         rra_base += (*ds_cnt * rrd.rra_def[i].row_cnt * sizeof(rrd_value_t));
375
376     /* find start and end offset */
377     rra_end_time = (rrd.live_head->last_up
378                     - (rrd.live_head->last_up % *step));
379     rra_start_time = (rra_end_time
380                       - (*step * (rrd.rra_def[chosen_rra].row_cnt - 1)));
381     /* here's an error by one if we don't be careful */
382     start_offset = (long) (*start + *step - rra_start_time) / (long) *step;
383     end_offset = (long) (rra_end_time - *end) / (long) *step;
384 #ifdef DEBUG
385     fprintf(stderr,
386             "rra_start %lu, rra_end %lu, start_off %li, end_off %li\n",
387             rra_start_time, rra_end_time, start_offset, end_offset);
388 #endif
389     /* only seek if the start time is before the end time */
390     if (*start <= rra_end_time && *end >= rra_start_time - (off_t)*step ){
391         if (start_offset <= 0)
392             rra_pointer = rrd.rra_ptr[chosen_rra].cur_row + 1;
393         else
394             rra_pointer = rrd.rra_ptr[chosen_rra].cur_row + 1 + start_offset;
395
396         rra_pointer = rra_pointer % (signed) rrd.rra_def[chosen_rra].row_cnt;
397          
398         if (rrd_seek(rrd_file, (rra_base + (rra_pointer * (*ds_cnt)
399                                         * sizeof(rrd_value_t))),
400                  SEEK_SET) != 0) {
401             rrd_set_error("seek error in RRA");
402             goto err_free_data;
403         }
404 #ifdef DEBUG
405         fprintf(stderr, "First Seek: rra_base %lu rra_pointer %lu\n",
406                 rra_base, rra_pointer);
407 #endif
408     }
409     
410     /* step trough the array */
411
412     for (i = start_offset;
413          i < (signed) rrd.rra_def[chosen_rra].row_cnt - end_offset; i++) {
414         /* no valid data yet */
415         if (i < 0) {
416 #ifdef DEBUG
417             fprintf(stderr, "pre fetch %li -- ", i);
418 #endif
419             for (ii = 0; (unsigned) ii < *ds_cnt; ii++) {
420                 *(data_ptr++) = DNAN;
421 #ifdef DEBUG
422                 fprintf(stderr, "%10.2f ", *(data_ptr - 1));
423 #endif
424             }
425         }
426         /* past the valid data area */
427         else if (i >= (signed) rrd.rra_def[chosen_rra].row_cnt) {
428 #ifdef DEBUG
429             fprintf(stderr, "past fetch %li -- ", i);
430 #endif
431             for (ii = 0; (unsigned) ii < *ds_cnt; ii++) {
432                 *(data_ptr++) = DNAN;
433 #ifdef DEBUG
434                 fprintf(stderr, "%10.2f ", *(data_ptr - 1));
435 #endif
436             }
437         } else {
438             /* OK we are inside the valid area but the pointer has to 
439              * be wrapped*/
440             if (rra_pointer >= (signed) rrd.rra_def[chosen_rra].row_cnt) {
441                 rra_pointer -= rrd.rra_def[chosen_rra].row_cnt;
442                 if (rrd_seek(rrd_file, (rra_base + rra_pointer * (*ds_cnt)
443                                         * sizeof(rrd_value_t)),
444                              SEEK_SET) != 0) {
445                     rrd_set_error("wrap seek in RRA did fail");
446                     goto err_free_data;
447                 }
448 #ifdef DEBUG
449                 fprintf(stderr, "wrap seek ...\n");
450 #endif
451             }
452
453             if (rrd_read(rrd_file, data_ptr, sizeof(rrd_value_t) * (*ds_cnt))
454                 != (ssize_t) (sizeof(rrd_value_t) * (*ds_cnt))) {
455                 rrd_set_error("fetching cdp from rra");
456                 goto err_free_data;
457             }
458 #ifdef DEBUG
459             fprintf(stderr, "post fetch %li -- ", i);
460             for (ii = 0; ii < *ds_cnt; ii++)
461                 fprintf(stderr, "%10.2f ", *(data_ptr + ii));
462 #endif
463             data_ptr += *ds_cnt;
464             rra_pointer++;
465         }
466 #ifdef DEBUG
467         fprintf(stderr, "\n");
468 #endif
469
470     }
471
472     rrd_close(rrd_file);
473     rrd_free(&rrd);
474     return (0);
475   err_free_data:
476     free(*data);
477     *data = NULL;
478   err_free_all_ds_namv:
479     for (i = 0; (unsigned long) i < rrd.stat_head->ds_cnt; ++i)
480         free((*ds_namv)[i]);
481   err_free_ds_namv:
482     free(*ds_namv);
483   err_close:
484     rrd_close(rrd_file);
485   err_free:
486     rrd_free(&rrd);
487     return (-1);
488 }