src/rrd_update.c

   1 /*****************************************************************************
   2  * RRDtool 1.4.2  Copyright by Tobi Oetiker, 1997-2009
   3  *                Copyright by Florian Forster, 2008
   4  *****************************************************************************
   5  * rrd_update.c  RRD Update Function
   6  *****************************************************************************
   7  * $Id$
   8  *****************************************************************************/
   9
  10 #include "rrd_tool.h"
  11
  12 #if defined(_WIN32) && !defined(__CYGWIN__) && !defined(__CYGWIN32__)
  13 #include <sys/locking.h>
  14 #include <sys/stat.h>
  15 #include <io.h>
  16 #endif
  17
  18 #include <locale.h>
  19
  20 #include "rrd_hw.h"
  21 #include "rrd_rpncalc.h"
  22
  23 #include "rrd_is_thread_safe.h"
  24 #include "unused.h"
  25
  26 #include "rrd_client.h"
  27
  28 #if defined(_WIN32) && !defined(__CYGWIN__) && !defined(__CYGWIN32__)
  29 /*
  30  * WIN32 does not have gettimeofday     and struct timeval. This is a quick and dirty
  31  * replacement.
  32  */
  33 #include <sys/timeb.h>
  34
  35 #ifndef __MINGW32__
  36 struct timeval {
  37     time_t    tv_sec;   /* seconds */
  38     long      tv_usec;  /* microseconds */
  39 };
  40 #endif
  41
  42 struct __timezone {
  43     int       tz_minuteswest;   /* minutes W of Greenwich */
  44     int       tz_dsttime;   /* type of dst correction */
  45 };
  46
  47 static int gettimeofday(
  48     struct timeval *t,
  49     struct __timezone *tz)
  50 {
  51
  52     struct _timeb current_time;
  53
  54     _ftime(&current_time);
  55
  56     t->tv_sec = current_time.time;
  57     t->tv_usec = current_time.millitm * 1000;
  58
  59     return 0;
  60 }
  61
  62 #endif
  63
  64 /* FUNCTION PROTOTYPES */
  65
  66 int       rrd_update_r(
  67     const char *filename,
  68     const char *tmplt,
  69     int argc,
  70     const char **argv);
  71 int       _rrd_update(
  72     const char *filename,
  73     const char *tmplt,
  74     int argc,
  75     const char **argv,
  76     rrd_info_t *);
  77
  78 static int allocate_data_structures(
  79     rrd_t *rrd,
  80     char ***updvals,
  81     rrd_value_t **pdp_temp,
  82     const char *tmplt,
  83     long **tmpl_idx,
  84     unsigned long *tmpl_cnt,
  85     unsigned long **rra_step_cnt,
  86     unsigned long **skip_update,
  87     rrd_value_t **pdp_new);
  88
  89 static int parse_template(
  90     rrd_t *rrd,
  91     const char *tmplt,
  92     unsigned long *tmpl_cnt,
  93     long *tmpl_idx);
  94
  95 static int process_arg(
  96     char *step_start,
  97     rrd_t *rrd,
  98     rrd_file_t *rrd_file,
  99     unsigned long rra_begin,
 100     time_t *current_time,
 101     unsigned long *current_time_usec,
 102     rrd_value_t *pdp_temp,
 103     rrd_value_t *pdp_new,
 104     unsigned long *rra_step_cnt,
 105     char **updvals,
 106     long *tmpl_idx,
 107     unsigned long tmpl_cnt,
 108     rrd_info_t ** pcdp_summary,
 109     int version,
 110     unsigned long *skip_update,
 111     int *schedule_smooth);
 112
 113 static int parse_ds(
 114     rrd_t *rrd,
 115     char **updvals,
 116     long *tmpl_idx,
 117     char *input,
 118     unsigned long tmpl_cnt,
 119     time_t *current_time,
 120     unsigned long *current_time_usec,
 121     int version);
 122
 123 static int get_time_from_reading(
 124     rrd_t *rrd,
 125     char timesyntax,
 126     char **updvals,
 127     time_t *current_time,
 128     unsigned long *current_time_usec,
 129     int version);
 130
 131 static int update_pdp_prep(
 132     rrd_t *rrd,
 133     char **updvals,
 134     rrd_value_t *pdp_new,
 135     double interval);
 136
 137 static int calculate_elapsed_steps(
 138     rrd_t *rrd,
 139     unsigned long current_time,
 140     unsigned long current_time_usec,
 141     double interval,
 142     double *pre_int,
 143     double *post_int,
 144     unsigned long *proc_pdp_cnt);
 145
 146 static void simple_update(
 147     rrd_t *rrd,
 148     double interval,
 149     rrd_value_t *pdp_new);
 150
 151 static int process_all_pdp_st(
 152     rrd_t *rrd,
 153     double interval,
 154     double pre_int,
 155     double post_int,
 156     unsigned long elapsed_pdp_st,
 157     rrd_value_t *pdp_new,
 158     rrd_value_t *pdp_temp);
 159
 160 static int process_pdp_st(
 161     rrd_t *rrd,
 162     unsigned long ds_idx,
 163     double interval,
 164     double pre_int,
 165     double post_int,
 166     long diff_pdp_st,
 167     rrd_value_t *pdp_new,
 168     rrd_value_t *pdp_temp);
 169
 170 static int update_all_cdp_prep(
 171     rrd_t *rrd,
 172     unsigned long *rra_step_cnt,
 173     unsigned long rra_begin,
 174     rrd_file_t *rrd_file,
 175     unsigned long elapsed_pdp_st,
 176     unsigned long proc_pdp_cnt,
 177     rrd_value_t **last_seasonal_coef,
 178     rrd_value_t **seasonal_coef,
 179     rrd_value_t *pdp_temp,
 180     unsigned long *skip_update,
 181     int *schedule_smooth);
 182
 183 static int do_schedule_smooth(
 184     rrd_t *rrd,
 185     unsigned long rra_idx,
 186     unsigned long elapsed_pdp_st);
 187
 188 static int update_cdp_prep(
 189     rrd_t *rrd,
 190     unsigned long elapsed_pdp_st,
 191     unsigned long start_pdp_offset,
 192     unsigned long *rra_step_cnt,
 193     int rra_idx,
 194     rrd_value_t *pdp_temp,
 195     rrd_value_t *last_seasonal_coef,
 196     rrd_value_t *seasonal_coef,
 197     int current_cf);
 198
 199 static void update_cdp(
 200     unival *scratch,
 201     int current_cf,
 202     rrd_value_t pdp_temp_val,
 203     unsigned long rra_step_cnt,
 204     unsigned long elapsed_pdp_st,
 205     unsigned long start_pdp_offset,
 206     unsigned long pdp_cnt,
 207     rrd_value_t xff,
 208     int i,
 209     int ii);
 210
 211 static void initialize_cdp_val(
 212     unival *scratch,
 213     int current_cf,
 214     rrd_value_t pdp_temp_val,
 215     unsigned long elapsed_pdp_st,
 216     unsigned long start_pdp_offset,
 217     unsigned long pdp_cnt);
 218
 219 static void reset_cdp(
 220     rrd_t *rrd,
 221     unsigned long elapsed_pdp_st,
 222     rrd_value_t *pdp_temp,
 223     rrd_value_t *last_seasonal_coef,
 224     rrd_value_t *seasonal_coef,
 225     int rra_idx,
 226     int ds_idx,
 227     int cdp_idx,
 228     enum cf_en current_cf);
 229
 230 static rrd_value_t initialize_average_carry_over(
 231     rrd_value_t pdp_temp_val,
 232     unsigned long elapsed_pdp_st,
 233     unsigned long start_pdp_offset,
 234     unsigned long pdp_cnt);
 235
 236 static rrd_value_t calculate_cdp_val(
 237     rrd_value_t cdp_val,
 238     rrd_value_t pdp_temp_val,
 239     unsigned long elapsed_pdp_st,
 240     int current_cf,
 241     int i,
 242     int ii);
 243
 244 static int update_aberrant_cdps(
 245     rrd_t *rrd,
 246     rrd_file_t *rrd_file,
 247     unsigned long rra_begin,
 248     unsigned long elapsed_pdp_st,
 249     rrd_value_t *pdp_temp,
 250     rrd_value_t **seasonal_coef);
 251
 252 static int write_to_rras(
 253     rrd_t *rrd,
 254     rrd_file_t *rrd_file,
 255     unsigned long *rra_step_cnt,
 256     unsigned long rra_begin,
 257     time_t current_time,
 258     unsigned long *skip_update,
 259     rrd_info_t ** pcdp_summary);
 260
 261 static int write_RRA_row(
 262     rrd_file_t *rrd_file,
 263     rrd_t *rrd,
 264     unsigned long rra_idx,
 265     unsigned short CDP_scratch_idx,
 266     rrd_info_t ** pcdp_summary,
 267     time_t rra_time);
 268
 269 static int smooth_all_rras(
 270     rrd_t *rrd,
 271     rrd_file_t *rrd_file,
 272     unsigned long rra_begin);
 273
 274 #ifndef HAVE_MMAP
 275 static int write_changes_to_disk(
 276     rrd_t *rrd,
 277     rrd_file_t *rrd_file,
 278     int version);
 279 #endif
 280
 281 /*
 282  * normalize time as returned by gettimeofday. usec part must
 283  * be always >= 0
 284  */
 285 static void normalize_time(
 286     struct timeval *t)
 287 {
 288     if (t->tv_usec < 0) {
 289         t->tv_sec--;
 290         t->tv_usec += 1e6L;
 291     }
 292 }
 293
 294 /*
 295  * Sets current_time and current_time_usec based on the current time.
 296  * current_time_usec is set to 0 if the version number is 1 or 2.
 297  */
 298 static void initialize_time(
 299     time_t *current_time,
 300     unsigned long *current_time_usec,
 301     int version)
 302 {
 303     struct timeval tmp_time;    /* used for time conversion */
 304
 305     gettimeofday(&tmp_time, 0);
 306     normalize_time(&tmp_time);
 307     *current_time = tmp_time.tv_sec;
 308     if (version >= 3) {
 309         *current_time_usec = tmp_time.tv_usec;
 310     } else {
 311         *current_time_usec = 0;
 312     }
 313 }
 314
 315 #define IFDNAN(X,Y) (isnan(X) ? (Y) : (X));
 316
 317 rrd_info_t *rrd_update_v(
 318     int argc,
 319     char **argv)
 320 {
 321     char     *tmplt = NULL;
 322     rrd_info_t *result = NULL;
 323     rrd_infoval_t rc;
 324     char *opt_daemon = NULL;
 325     struct option long_options[] = {
 326         {"template", required_argument, 0, 't'},
 327         {0, 0, 0, 0}
 328     };
 329
 330     rc.u_int = -1;
 331     optind = 0;
 332     opterr = 0;         /* initialize getopt */
 333
 334     while (1) {
 335         int       option_index = 0;
 336         int       opt;
 337
 338         opt = getopt_long(argc, argv, "t:", long_options, &option_index);
 339
 340         if (opt == EOF)
 341             break;
 342
 343         switch (opt) {
 344         case 't':
 345             tmplt = optarg;
 346             break;
 347
 348         case '?':
 349             rrd_set_error("unknown option '%s'", argv[optind - 1]);
 350             goto end_tag;
 351         }
 352     }
 353
 354     opt_daemon = getenv (ENV_RRDCACHED_ADDRESS);
 355     if (opt_daemon != NULL) {
 356         rrd_set_error ("The \"%s\" environment variable is defined, "
 357                 "but \"%s\" cannot work with rrdcached. Either unset "
 358                 "the environment variable or use \"update\" instead.",
 359                 ENV_RRDCACHED_ADDRESS, argv[0]);
 360         goto end_tag;
 361     }
 362
 363     /* need at least 2 arguments: filename, data. */
 364     if (argc - optind < 2) {
 365         rrd_set_error("Not enough arguments");
 366         goto end_tag;
 367     }
 368     rc.u_int = 0;
 369     result = rrd_info_push(NULL, sprintf_alloc("return_value"), RD_I_INT, rc);
 370     rc.u_int = _rrd_update(argv[optind], tmplt,
 371                            argc - optind - 1,
 372                            (const char **) (argv + optind + 1), result);
 373     result->value.u_int = rc.u_int;
 374   end_tag:
 375     return result;
 376 }
 377
 378 int rrd_update(
 379     int argc,
 380     char **argv)
 381 {
 382     struct option long_options[] = {
 383         {"template", required_argument, 0, 't'},
 384         {"daemon",   required_argument, 0, 'd'},
 385         {0, 0, 0, 0}
 386     };
 387     int       option_index = 0;
 388     int       opt;
 389     char     *tmplt = NULL;
 390     int       rc = -1;
 391     char     *opt_daemon = NULL;
 392
 393     optind = 0;
 394     opterr = 0;         /* initialize getopt */
 395
 396     while (1) {
 397         opt = getopt_long(argc, argv, "t:d:", long_options, &option_index);
 398
 399         if (opt == EOF)
 400             break;
 401
 402         switch (opt) {
 403         case 't':
 404             tmplt = strdup(optarg);
 405             break;
 406
 407         case 'd':
 408             if (opt_daemon != NULL)
 409                 free (opt_daemon);
 410             opt_daemon = strdup (optarg);
 411             if (opt_daemon == NULL)
 412             {
 413                 rrd_set_error("strdup failed.");
 414                 goto out;
 415             }
 416             break;
 417
 418         case '?':
 419             rrd_set_error("unknown option '%s'", argv[optind - 1]);
 420             goto out;
 421         }
 422     }
 423
 424     /* need at least 2 arguments: filename, data. */
 425     if (argc - optind < 2) {
 426         rrd_set_error("Not enough arguments");
 427         goto out;
 428     }
 429
 430     {   /* try to connect to rrdcached */
 431         int status = rrdc_connect(opt_daemon);
 432         if (status != 0) return status;
 433     }
 434
 435     if ((tmplt != NULL) && rrdc_is_connected(opt_daemon))
 436     {
 437         rrd_set_error("The caching daemon cannot be used together with "
 438                 "templates yet.");
 439         goto out;
 440     }
 441
 442     if (! rrdc_is_connected(opt_daemon))
 443     {
 444       rc = rrd_update_r(argv[optind], tmplt,
 445                         argc - optind - 1, (const char **) (argv + optind + 1));
 446     }
 447     else /* we are connected */
 448     {
 449         rc = rrdc_update (argv[optind], /* file */
 450                           argc - optind - 1, /* values_num */
 451                           (const char *const *) (argv + optind + 1)); /* values */
 452         if (rc > 0)
 453             rrd_set_error("Failed sending the values to rrdcached: %s",
 454                           rrd_strerror (rc));
 455     }
 456
 457   out:
 458     if (tmplt != NULL)
 459     {
 460         free(tmplt);
 461         tmplt = NULL;
 462     }
 463     if (opt_daemon != NULL)
 464     {
 465         free (opt_daemon);
 466         opt_daemon = NULL;
 467     }
 468     return rc;
 469 }
 470
 471 int rrd_update_r(
 472     const char *filename,
 473     const char *tmplt,
 474     int argc,
 475     const char **argv)
 476 {
 477     return _rrd_update(filename, tmplt, argc, argv, NULL);
 478 }
 479
 480 int _rrd_update(
 481     const char *filename,
 482     const char *tmplt,
 483     int argc,
 484     const char **argv,
 485     rrd_info_t * pcdp_summary)
 486 {
 487
 488     int       arg_i = 2;
 489
 490     unsigned long rra_begin;    /* byte pointer to the rra
 491                                  * area in the rrd file.  this
 492                                  * pointer never changes value */
 493     rrd_value_t *pdp_new;   /* prepare the incoming data to be added
 494                              * to the existing entry */
 495     rrd_value_t *pdp_temp;  /* prepare the pdp values to be added
 496                              * to the cdp values */
 497
 498     long     *tmpl_idx; /* index representing the settings
 499                          * transported by the tmplt index */
 500     unsigned long tmpl_cnt = 2; /* time and data */
 501     rrd_t     rrd;
 502     time_t    current_time = 0;
 503     unsigned long current_time_usec = 0;    /* microseconds part of current time */
 504     char    **updvals;
 505     int       schedule_smooth = 0;
 506
 507     /* number of elapsed PDP steps since last update */
 508     unsigned long *rra_step_cnt = NULL;
 509
 510     int       version;  /* rrd version */
 511     rrd_file_t *rrd_file;
 512     char     *arg_copy; /* for processing the argv */
 513     unsigned long *skip_update; /* RRAs to advance but not write */
 514
 515     /* need at least 1 arguments: data. */
 516     if (argc < 1) {
 517         rrd_set_error("Not enough arguments");
 518         goto err_out;
 519     }
 520
 521     rrd_init(&rrd);
 522     if ((rrd_file = rrd_open(filename, &rrd, RRD_READWRITE)) == NULL) {
 523         goto err_free;
 524     }
 525     /* We are now at the beginning of the rra's */
 526     rra_begin = rrd_file->header_len;
 527
 528     version = atoi(rrd.stat_head->version);
 529
 530     initialize_time(&current_time, &current_time_usec, version);
 531
 532     /* get exclusive lock to whole file.
 533      * lock gets removed when we close the file.
 534      */
 535     if (rrd_lock(rrd_file) != 0) {
 536         rrd_set_error("could not lock RRD");
 537         goto err_close;
 538     }
 539
 540     if (allocate_data_structures(&rrd, &updvals,
 541                                  &pdp_temp, tmplt, &tmpl_idx, &tmpl_cnt,
 542                                  &rra_step_cnt, &skip_update,
 543                                  &pdp_new) == -1) {
 544         goto err_close;
 545     }
 546
 547     /* loop through the arguments. */
 548     for (arg_i = 0; arg_i < argc; arg_i++) {
 549         if ((arg_copy = strdup(argv[arg_i])) == NULL) {
 550             rrd_set_error("failed duplication argv entry");
 551             break;
 552         }
 553         if (process_arg(arg_copy, &rrd, rrd_file, rra_begin,
 554                         &current_time, &current_time_usec, pdp_temp, pdp_new,
 555                         rra_step_cnt, updvals, tmpl_idx, tmpl_cnt,
 556                         &pcdp_summary, version, skip_update,
 557                         &schedule_smooth) == -1) {
 558             if (rrd_test_error()) { /* Should have error string always here */
 559                 char     *save_error;
 560
 561                 /* Prepend file name to error message */
 562                 if ((save_error = strdup(rrd_get_error())) != NULL) {
 563                     rrd_set_error("%s: %s", filename, save_error);
 564                     free(save_error);
 565                 }
 566             }
 567             free(arg_copy);
 568             break;
 569         }
 570         free(arg_copy);
 571     }
 572
 573     free(rra_step_cnt);
 574
 575     /* if we got here and if there is an error and if the file has not been
 576      * written to, then close things up and return. */
 577     if (rrd_test_error()) {
 578         goto err_free_structures;
 579     }
 580 #ifndef HAVE_MMAP
 581     if (write_changes_to_disk(&rrd, rrd_file, version) == -1) {
 582         goto err_free_structures;
 583     }
 584 #endif
 585
 586     /* calling the smoothing code here guarantees at most one smoothing
 587      * operation per rrd_update call. Unfortunately, it is possible with bulk
 588      * updates, or a long-delayed update for smoothing to occur off-schedule.
 589      * This really isn't critical except during the burn-in cycles. */
 590     if (schedule_smooth) {
 591         smooth_all_rras(&rrd, rrd_file, rra_begin);
 592     }
 593
 594 /*    rrd_dontneed(rrd_file,&rrd); */
 595     rrd_free(&rrd);
 596     rrd_close(rrd_file);
 597
 598     free(pdp_new);
 599     free(tmpl_idx);
 600     free(pdp_temp);
 601     free(skip_update);
 602     free(updvals);
 603     return 0;
 604
 605   err_free_structures:
 606     free(pdp_new);
 607     free(tmpl_idx);
 608     free(pdp_temp);
 609     free(skip_update);
 610     free(updvals);
 611   err_close:
 612     rrd_close(rrd_file);
 613   err_free:
 614     rrd_free(&rrd);
 615   err_out:
 616     return -1;
 617 }
 618
 619 /*
 620  * Allocate some important arrays used, and initialize the template.
 621  *
 622  * When it returns, either all of the structures are allocated
 623  * or none of them are.
 624  *
 625  * Returns 0 on success, -1 on error.
 626  */
 627 static int allocate_data_structures(
 628     rrd_t *rrd,
 629     char ***updvals,
 630     rrd_value_t **pdp_temp,
 631     const char *tmplt,
 632     long **tmpl_idx,
 633     unsigned long *tmpl_cnt,
 634     unsigned long **rra_step_cnt,
 635     unsigned long **skip_update,
 636     rrd_value_t **pdp_new)
 637 {
 638     unsigned  i, ii;
 639     if ((*updvals = (char **) malloc(sizeof(char *)
 640                                      * (rrd->stat_head->ds_cnt + 1))) == NULL) {
 641         rrd_set_error("allocating updvals pointer array.");
 642         return -1;
 643     }
 644     if ((*pdp_temp = (rrd_value_t *) malloc(sizeof(rrd_value_t)
 645                                             * rrd->stat_head->ds_cnt)) ==
 646         NULL) {
 647         rrd_set_error("allocating pdp_temp.");
 648         goto err_free_updvals;
 649     }
 650     if ((*skip_update = (unsigned long *) malloc(sizeof(unsigned long)
 651                                                  *
 652                                                  rrd->stat_head->rra_cnt)) ==
 653         NULL) {
 654         rrd_set_error("allocating skip_update.");
 655         goto err_free_pdp_temp;
 656     }
 657     if ((*tmpl_idx = (long *) malloc(sizeof(unsigned long)
 658                                      * (rrd->stat_head->ds_cnt + 1))) == NULL) {
 659         rrd_set_error("allocating tmpl_idx.");
 660         goto err_free_skip_update;
 661     }
 662     if ((*rra_step_cnt = (unsigned long *) malloc(sizeof(unsigned long)
 663                                                   *
 664                                                   (rrd->stat_head->
 665                                                    rra_cnt))) == NULL) {
 666         rrd_set_error("allocating rra_step_cnt.");
 667         goto err_free_tmpl_idx;
 668     }
 669
 670     /* initialize tmplt redirector */
 671     /* default config example (assume DS 1 is a CDEF DS)
 672        tmpl_idx[0] -> 0; (time)
 673        tmpl_idx[1] -> 1; (DS 0)
 674        tmpl_idx[2] -> 3; (DS 2)
 675        tmpl_idx[3] -> 4; (DS 3) */
 676     (*tmpl_idx)[0] = 0; /* time */
 677     for (i = 1, ii = 1; i <= rrd->stat_head->ds_cnt; i++) {
 678         if (dst_conv(rrd->ds_def[i - 1].dst) != DST_CDEF)
 679             (*tmpl_idx)[ii++] = i;
 680     }
 681     *tmpl_cnt = ii;
 682
 683     if (tmplt != NULL) {
 684         if (parse_template(rrd, tmplt, tmpl_cnt, *tmpl_idx) == -1) {
 685             goto err_free_rra_step_cnt;
 686         }
 687     }
 688
 689     if ((*pdp_new = (rrd_value_t *) malloc(sizeof(rrd_value_t)
 690                                            * rrd->stat_head->ds_cnt)) == NULL) {
 691         rrd_set_error("allocating pdp_new.");
 692         goto err_free_rra_step_cnt;
 693     }
 694
 695     return 0;
 696
 697   err_free_rra_step_cnt:
 698     free(*rra_step_cnt);
 699   err_free_tmpl_idx:
 700     free(*tmpl_idx);
 701   err_free_skip_update:
 702     free(*skip_update);
 703   err_free_pdp_temp:
 704     free(*pdp_temp);
 705   err_free_updvals:
 706     free(*updvals);
 707     return -1;
 708 }
 709
 710 /*
 711  * Parses tmplt and puts an ordered list of DS's into tmpl_idx.
 712  *
 713  * Returns 0 on success.
 714  */
 715 static int parse_template(
 716     rrd_t *rrd,
 717     const char *tmplt,
 718     unsigned long *tmpl_cnt,
 719     long *tmpl_idx)
 720 {
 721     char     *dsname, *tmplt_copy;
 722     unsigned int tmpl_len, i;
 723     int       ret = 0;
 724
 725     *tmpl_cnt = 1;      /* the first entry is the time */
 726
 727     /* we should work on a writeable copy here */
 728     if ((tmplt_copy = strdup(tmplt)) == NULL) {
 729         rrd_set_error("error copying tmplt '%s'", tmplt);
 730         ret = -1;
 731         goto out;
 732     }
 733
 734     dsname = tmplt_copy;
 735     tmpl_len = strlen(tmplt_copy);
 736     for (i = 0; i <= tmpl_len; i++) {
 737         if (tmplt_copy[i] == ':' || tmplt_copy[i] == '\0') {
 738             tmplt_copy[i] = '\0';
 739             if (*tmpl_cnt > rrd->stat_head->ds_cnt) {
 740                 rrd_set_error("tmplt contains more DS definitions than RRD");
 741                 ret = -1;
 742                 goto out_free_tmpl_copy;
 743             }
 744             if ((tmpl_idx[(*tmpl_cnt)++] = ds_match(rrd, dsname) + 1) == 0) {
 745                 rrd_set_error("unknown DS name '%s'", dsname);
 746                 ret = -1;
 747                 goto out_free_tmpl_copy;
 748             }
 749             /* go to the next entry on the tmplt_copy */
 750             if (i < tmpl_len)
 751                 dsname = &tmplt_copy[i + 1];
 752         }
 753     }
 754   out_free_tmpl_copy:
 755     free(tmplt_copy);
 756   out:
 757     return ret;
 758 }
 759
 760 /*
 761  * Parse an update string, updates the primary data points (PDPs)
 762  * and consolidated data points (CDPs), and writes changes to the RRAs.
 763  *
 764  * Returns 0 on success, -1 on error.
 765  */
 766 static int process_arg(
 767     char *step_start,
 768     rrd_t *rrd,
 769     rrd_file_t *rrd_file,
 770     unsigned long rra_begin,
 771     time_t *current_time,
 772     unsigned long *current_time_usec,
 773     rrd_value_t *pdp_temp,
 774     rrd_value_t *pdp_new,
 775     unsigned long *rra_step_cnt,
 776     char **updvals,
 777     long *tmpl_idx,
 778     unsigned long tmpl_cnt,
 779     rrd_info_t ** pcdp_summary,
 780     int version,
 781     unsigned long *skip_update,
 782     int *schedule_smooth)
 783 {
 784     rrd_value_t *seasonal_coef = NULL, *last_seasonal_coef = NULL;
 785
 786     /* a vector of future Holt-Winters seasonal coefs */
 787     unsigned long elapsed_pdp_st;
 788
 789     double    interval, pre_int, post_int;  /* interval between this and
 790                                              * the last run */
 791     unsigned long proc_pdp_cnt;
 792
 793     if (parse_ds(rrd, updvals, tmpl_idx, step_start, tmpl_cnt,
 794                  current_time, current_time_usec, version) == -1) {
 795         return -1;
 796     }
 797
 798     interval = (double) (*current_time - rrd->live_head->last_up)
 799         + (double) ((long) *current_time_usec -
 800                     (long) rrd->live_head->last_up_usec) / 1e6f;
 801
 802     /* process the data sources and update the pdp_prep
 803      * area accordingly */
 804     if (update_pdp_prep(rrd, updvals, pdp_new, interval) == -1) {
 805         return -1;
 806     }
 807
 808     elapsed_pdp_st = calculate_elapsed_steps(rrd,
 809                                              *current_time,
 810                                              *current_time_usec, interval,
 811                                              &pre_int, &post_int,
 812                                              &proc_pdp_cnt);
 813
 814     /* has a pdp_st moment occurred since the last run ? */
 815     if (elapsed_pdp_st == 0) {
 816         /* no we have not passed a pdp_st moment. therefore update is simple */
 817         simple_update(rrd, interval, pdp_new);
 818     } else {
 819         /* an pdp_st has occurred. */
 820         if (process_all_pdp_st(rrd, interval,
 821                                pre_int, post_int,
 822                                elapsed_pdp_st, pdp_new, pdp_temp) == -1) {
 823             return -1;
 824         }
 825         if (update_all_cdp_prep(rrd, rra_step_cnt,
 826                                 rra_begin, rrd_file,
 827                                 elapsed_pdp_st,
 828                                 proc_pdp_cnt,
 829                                 &last_seasonal_coef,
 830                                 &seasonal_coef,
 831                                 pdp_temp,
 832                                 skip_update, schedule_smooth) == -1) {
 833             goto err_free_coefficients;
 834         }
 835         if (update_aberrant_cdps(rrd, rrd_file, rra_begin,
 836                                  elapsed_pdp_st, pdp_temp,
 837                                  &seasonal_coef) == -1) {
 838             goto err_free_coefficients;
 839         }
 840         if (write_to_rras(rrd, rrd_file, rra_step_cnt, rra_begin,
 841                           *current_time, skip_update,
 842                           pcdp_summary) == -1) {
 843             goto err_free_coefficients;
 844         }
 845     }                   /* endif a pdp_st has occurred */
 846     rrd->live_head->last_up = *current_time;
 847     rrd->live_head->last_up_usec = *current_time_usec;
 848
 849     if (version < 3) {
 850         *rrd->legacy_last_up = rrd->live_head->last_up;
 851     }
 852     free(seasonal_coef);
 853     free(last_seasonal_coef);
 854     return 0;
 855
 856   err_free_coefficients:
 857     free(seasonal_coef);
 858     free(last_seasonal_coef);
 859     return -1;
 860 }
 861
 862 /*
 863  * Parse a DS string (time + colon-separated values), storing the
 864  * results in current_time, current_time_usec, and updvals.
 865  *
 866  * Returns 0 on success, -1 on error.
 867  */
 868 static int parse_ds(
 869     rrd_t *rrd,
 870     char **updvals,
 871     long *tmpl_idx,
 872     char *input,
 873     unsigned long tmpl_cnt,
 874     time_t *current_time,
 875     unsigned long *current_time_usec,
 876     int version)
 877 {
 878     char     *p;
 879     unsigned long i;
 880     char      timesyntax;
 881
 882     updvals[0] = input;
 883     /* initialize all ds input to unknown except the first one
 884        which has always got to be set */
 885     for (i = 1; i <= rrd->stat_head->ds_cnt; i++)
 886         updvals[i] = "U";
 887
 888     /* separate all ds elements; first must be examined separately
 889        due to alternate time syntax */
 890     if ((p = strchr(input, '@')) != NULL) {
 891         timesyntax = '@';
 892     } else if ((p = strchr(input, ':')) != NULL) {
 893         timesyntax = ':';
 894     } else {
 895         rrd_set_error("expected timestamp not found in data source from %s",
 896                       input);
 897         return -1;
 898     }
 899     *p = '\0';
 900     i = 1;
 901     updvals[tmpl_idx[i++]] = p + 1;
 902     while (*(++p)) {
 903         if (*p == ':') {
 904             *p = '\0';
 905             if (i < tmpl_cnt) {
 906                 updvals[tmpl_idx[i++]] = p + 1;
 907             }
 908             else {
 909                 rrd_set_error("found extra data on update argument: %s",p+1);
 910                 return -1;
 911             }
 912         }
 913     }
 914
 915     if (i != tmpl_cnt) {
 916         rrd_set_error("expected %lu data source readings (got %lu) from %s",
 917                       tmpl_cnt - 1, i - 1, input);
 918         return -1;
 919     }
 920
 921     if (get_time_from_reading(rrd, timesyntax, updvals,
 922                               current_time, current_time_usec,
 923                               version) == -1) {
 924         return -1;
 925     }
 926     return 0;
 927 }
 928
 929 /*
 930  * Parse the time in a DS string, store it in current_time and
 931  * current_time_usec and verify that it's later than the last
 932  * update for this DS.
 933  *
 934  * Returns 0 on success, -1 on error.
 935  */
 936 static int get_time_from_reading(
 937     rrd_t *rrd,
 938     char timesyntax,
 939     char **updvals,
 940     time_t *current_time,
 941     unsigned long *current_time_usec,
 942     int version)
 943 {
 944     double    tmp;
 945     char     *parsetime_error = NULL;
 946     char     *old_locale;
 947     rrd_time_value_t ds_tv;
 948     struct timeval tmp_time;    /* used for time conversion */
 949
 950     /* get the time from the reading ... handle N */
 951     if (timesyntax == '@') {    /* at-style */
 952         if ((parsetime_error = rrd_parsetime(updvals[0], &ds_tv))) {
 953             rrd_set_error("ds time: %s: %s", updvals[0], parsetime_error);
 954             return -1;
 955         }
 956         if (ds_tv.type == RELATIVE_TO_END_TIME ||
 957             ds_tv.type == RELATIVE_TO_START_TIME) {
 958             rrd_set_error("specifying time relative to the 'start' "
 959                           "or 'end' makes no sense here: %s", updvals[0]);
 960             return -1;
 961         }
 962         *current_time = mktime(&ds_tv.tm) +ds_tv.offset;
 963         *current_time_usec = 0; /* FIXME: how to handle usecs here ? */
 964     } else if (strcmp(updvals[0], "N") == 0) {
 965         gettimeofday(&tmp_time, 0);
 966         normalize_time(&tmp_time);
 967         *current_time = tmp_time.tv_sec;
 968         *current_time_usec = tmp_time.tv_usec;
 969     } else {
 970         old_locale = setlocale(LC_NUMERIC, "C");
 971         errno = 0;
 972         tmp = strtod(updvals[0], 0);
 973         if (errno > 0) {
 974             rrd_set_error("converting '%s' to float: %s",
 975                 updvals[0], rrd_strerror(errno));
 976             return -1;
 977         };
 978         setlocale(LC_NUMERIC, old_locale);
 979         if (tmp < 0.0){
 980             gettimeofday(&tmp_time, 0);
 981             tmp = (double)tmp_time.tv_sec + (double)tmp_time.tv_usec * 1e-6f + tmp;
 982         }
 983
 984         *current_time = floor(tmp);
 985         *current_time_usec = (long) ((tmp - (double) *current_time) * 1e6f);
 986     }
 987     /* dont do any correction for old version RRDs */
 988     if (version < 3)
 989         *current_time_usec = 0;
 990
 991     if (*current_time < rrd->live_head->last_up ||
 992         (*current_time == rrd->live_head->last_up &&
 993          (long) *current_time_usec <= (long) rrd->live_head->last_up_usec)) {
 994         rrd_set_error("illegal attempt to update using time %ld when "
 995                       "last update time is %ld (minimum one second step)",
 996                       *current_time, rrd->live_head->last_up);
 997         return -1;
 998     }
 999     return 0;
1000 }
1001
1002 /*
1003  * Update pdp_new by interpreting the updvals according to the DS type
1004  * (COUNTER, GAUGE, etc.).
1005  *
1006  * Returns 0 on success, -1 on error.
1007  */
1008 static int update_pdp_prep(
1009     rrd_t *rrd,
1010     char **updvals,
1011     rrd_value_t *pdp_new,
1012     double interval)
1013 {
1014     unsigned long ds_idx;
1015     int       ii;
1016     char     *endptr;   /* used in the conversion */
1017     double    rate;
1018     char     *old_locale;
1019     enum dst_en dst_idx;
1020
1021     for (ds_idx = 0; ds_idx < rrd->stat_head->ds_cnt; ds_idx++) {
1022         dst_idx = dst_conv(rrd->ds_def[ds_idx].dst);
1023
1024         /* make sure we do not build diffs with old last_ds values */
1025         if (rrd->ds_def[ds_idx].par[DS_mrhb_cnt].u_cnt < interval) {
1026             strncpy(rrd->pdp_prep[ds_idx].last_ds, "U", LAST_DS_LEN - 1);
1027             rrd->pdp_prep[ds_idx].last_ds[LAST_DS_LEN - 1] = '\0';
1028         }
1029
1030         /* NOTE: DST_CDEF should never enter this if block, because
1031          * updvals[ds_idx+1][0] is initialized to 'U'; unless the caller
1032          * accidently specified a value for the DST_CDEF. To handle this case,
1033          * an extra check is required. */
1034
1035         if ((updvals[ds_idx + 1][0] != 'U') &&
1036             (dst_idx != DST_CDEF) &&
1037             rrd->ds_def[ds_idx].par[DS_mrhb_cnt].u_cnt >= interval) {
1038             rate = DNAN;
1039
1040             /* pdp_new contains rate * time ... eg the bytes transferred during
1041              * the interval. Doing it this way saves a lot of math operations
1042              */
1043             switch (dst_idx) {
1044             case DST_COUNTER:
1045             case DST_DERIVE:
1046                 if ( (   updvals[ds_idx + 1][0] < '0'
1047                       || updvals[ds_idx + 1][0] > '9' )
1048                      && updvals[ds_idx + 1][0] != '-'
1049                      && updvals[ds_idx + 1][0] != 'U'
1050                    ) {
1051                     rrd_set_error("not a simple integer: '%s'",
1052                                   updvals[ds_idx + 1]);
1053                     return -1;
1054                 }
1055                 for (ii = 1; updvals[ds_idx + 1][ii] != '\0'; ii++) {
1056                     if (    updvals[ds_idx + 1][ii] < '0'
1057                          || updvals[ds_idx + 1][ii] > '9'
1058                        ) {
1059                         rrd_set_error("not a simple integer: '%s'",
1060                                       updvals[ds_idx + 1]);
1061                         return -1;
1062                     }
1063                 }
1064                 if (rrd->pdp_prep[ds_idx].last_ds[0] != 'U') {
1065                     pdp_new[ds_idx] =
1066                         rrd_diff(updvals[ds_idx + 1],
1067                                  rrd->pdp_prep[ds_idx].last_ds);
1068                     if (dst_idx == DST_COUNTER) {
1069                         /* simple overflow catcher. This will fail
1070                          * terribly for non 32 or 64 bit counters
1071                          * ... are there any others in SNMP land?
1072                          */
1073                         if (pdp_new[ds_idx] < (double) 0.0)
1074                             pdp_new[ds_idx] += (double) 4294967296.0;   /* 2^32 */
1075                         if (pdp_new[ds_idx] < (double) 0.0)
1076                             pdp_new[ds_idx] += (double) 18446744069414584320.0; /* 2^64-2^32 */
1077                     }
1078                     rate = pdp_new[ds_idx] / interval;
1079                 } else {
1080                     pdp_new[ds_idx] = DNAN;
1081                 }
1082                 break;
1083             case DST_ABSOLUTE:
1084                 old_locale = setlocale(LC_NUMERIC, "C");
1085                 errno = 0;
1086                 pdp_new[ds_idx] = strtod(updvals[ds_idx + 1], &endptr);
1087                 if (errno > 0) {
1088                     rrd_set_error("converting '%s' to float: %s",
1089                                   updvals[ds_idx + 1], rrd_strerror(errno));
1090                     return -1;
1091                 };
1092                 setlocale(LC_NUMERIC, old_locale);
1093                 if (endptr[0] != '\0') {
1094                     rrd_set_error
1095                         ("conversion of '%s' to float not complete: tail '%s'",
1096                          updvals[ds_idx + 1], endptr);
1097                     return -1;
1098                 }
1099                 rate = pdp_new[ds_idx] / interval;
1100                 break;
1101             case DST_GAUGE:
1102                 old_locale = setlocale(LC_NUMERIC, "C");
1103                 errno = 0;
1104                 pdp_new[ds_idx] =
1105                     strtod(updvals[ds_idx + 1], &endptr) * interval;
1106                 if (errno) {
1107                     rrd_set_error("converting '%s' to float: %s",
1108                                   updvals[ds_idx + 1], rrd_strerror(errno));
1109                     return -1;
1110                 };
1111                 setlocale(LC_NUMERIC, old_locale);
1112                 if (endptr[0] != '\0') {
1113                     rrd_set_error
1114                         ("conversion of '%s' to float not complete: tail '%s'",
1115                          updvals[ds_idx + 1], endptr);
1116                     return -1;
1117                 }
1118                 rate = pdp_new[ds_idx] / interval;
1119                 break;
1120             default:
1121                 rrd_set_error("rrd contains unknown DS type : '%s'",
1122                               rrd->ds_def[ds_idx].dst);
1123                 return -1;
1124             }
1125             /* break out of this for loop if the error string is set */
1126             if (rrd_test_error()) {
1127                 return -1;
1128             }
1129             /* make sure pdp_temp is neither too large or too small
1130              * if any of these occur it becomes unknown ...
1131              * sorry folks ... */
1132             if (!isnan(rate) &&
1133                 ((!isnan(rrd->ds_def[ds_idx].par[DS_max_val].u_val) &&
1134                   rate > rrd->ds_def[ds_idx].par[DS_max_val].u_val) ||
1135                  (!isnan(rrd->ds_def[ds_idx].par[DS_min_val].u_val) &&
1136                   rate < rrd->ds_def[ds_idx].par[DS_min_val].u_val))) {
1137                 pdp_new[ds_idx] = DNAN;
1138             }
1139         } else {
1140             /* no news is news all the same */
1141             pdp_new[ds_idx] = DNAN;
1142         }
1143
1144
1145         /* make a copy of the command line argument for the next run */
1146 #ifdef DEBUG
1147         fprintf(stderr, "prep ds[%lu]\t"
1148                 "last_arg '%s'\t"
1149                 "this_arg '%s'\t"
1150                 "pdp_new %10.2f\n",
1151                 ds_idx, rrd->pdp_prep[ds_idx].last_ds, updvals[ds_idx + 1],
1152                 pdp_new[ds_idx]);
1153 #endif
1154         strncpy(rrd->pdp_prep[ds_idx].last_ds, updvals[ds_idx + 1],
1155                 LAST_DS_LEN - 1);
1156         rrd->pdp_prep[ds_idx].last_ds[LAST_DS_LEN - 1] = '\0';
1157     }
1158     return 0;
1159 }
1160
1161 /*
1162  * How many PDP steps have elapsed since the last update? Returns the answer,
1163  * and stores the time between the last update and the last PDP in pre_time,
1164  * and the time between the last PDP and the current time in post_int.
1165  */
1166 static int calculate_elapsed_steps(
1167     rrd_t *rrd,
1168     unsigned long current_time,
1169     unsigned long current_time_usec,
1170     double interval,
1171     double *pre_int,
1172     double *post_int,
1173     unsigned long *proc_pdp_cnt)
1174 {
1175     unsigned long proc_pdp_st;  /* which pdp_st was the last to be processed */
1176     unsigned long occu_pdp_st;  /* when was the pdp_st before the last update
1177                                  * time */
1178     unsigned long proc_pdp_age; /* how old was the data in the pdp prep area
1179                                  * when it was last updated */
1180     unsigned long occu_pdp_age; /* how long ago was the last pdp_step time */
1181
1182     /* when was the current pdp started */
1183     proc_pdp_age = rrd->live_head->last_up % rrd->stat_head->pdp_step;
1184     proc_pdp_st = rrd->live_head->last_up - proc_pdp_age;
1185
1186     /* when did the last pdp_st occur */
1187     occu_pdp_age = current_time % rrd->stat_head->pdp_step;
1188     occu_pdp_st = current_time - occu_pdp_age;
1189
1190     if (occu_pdp_st > proc_pdp_st) {
1191         /* OK we passed the pdp_st moment */
1192         *pre_int = (long) occu_pdp_st - rrd->live_head->last_up;    /* how much of the input data
1193                                                                      * occurred before the latest
1194                                                                      * pdp_st moment*/
1195         *pre_int -= ((double) rrd->live_head->last_up_usec) / 1e6f; /* adjust usecs */
1196         *post_int = occu_pdp_age;   /* how much after it */
1197         *post_int += ((double) current_time_usec) / 1e6f;   /* adjust usecs */
1198     } else {
1199         *pre_int = interval;
1200         *post_int = 0;
1201     }
1202
1203     *proc_pdp_cnt = proc_pdp_st / rrd->stat_head->pdp_step;
1204
1205 #ifdef DEBUG
1206     printf("proc_pdp_age %lu\t"
1207            "proc_pdp_st %lu\t"
1208            "occu_pfp_age %lu\t"
1209            "occu_pdp_st %lu\t"
1210            "int %lf\t"
1211            "pre_int %lf\t"
1212            "post_int %lf\n", proc_pdp_age, proc_pdp_st,
1213            occu_pdp_age, occu_pdp_st, interval, *pre_int, *post_int);
1214 #endif
1215
1216     /* compute the number of elapsed pdp_st moments */
1217     return (occu_pdp_st - proc_pdp_st) / rrd->stat_head->pdp_step;
1218 }
1219
1220 /*
1221  * Increment the PDP values by the values in pdp_new, or else initialize them.
1222  */
1223 static void simple_update(
1224     rrd_t *rrd,
1225     double interval,
1226     rrd_value_t *pdp_new)
1227 {
1228     int       i;
1229
1230     for (i = 0; i < (signed) rrd->stat_head->ds_cnt; i++) {
1231         if (isnan(pdp_new[i])) {
1232             /* this is not really accurate if we use subsecond data arrival time
1233                should have thought of it when going subsecond resolution ...
1234                sorry next format change we will have it! */
1235             rrd->pdp_prep[i].scratch[PDP_unkn_sec_cnt].u_cnt +=
1236                 floor(interval);
1237         } else {
1238             if (isnan(rrd->pdp_prep[i].scratch[PDP_val].u_val)) {
1239                 rrd->pdp_prep[i].scratch[PDP_val].u_val = pdp_new[i];
1240             } else {
1241                 rrd->pdp_prep[i].scratch[PDP_val].u_val += pdp_new[i];
1242             }
1243         }
1244 #ifdef DEBUG
1245         fprintf(stderr,
1246                 "NO PDP  ds[%i]\t"
1247                 "value %10.2f\t"
1248                 "unkn_sec %5lu\n",
1249                 i,
1250                 rrd->pdp_prep[i].scratch[PDP_val].u_val,
1251                 rrd->pdp_prep[i].scratch[PDP_unkn_sec_cnt].u_cnt);
1252 #endif
1253     }
1254 }
1255
1256 /*
1257  * Call process_pdp_st for each DS.
1258  *
1259  * Returns 0 on success, -1 on error.
1260  */
1261 static int process_all_pdp_st(
1262     rrd_t *rrd,
1263     double interval,
1264     double pre_int,
1265     double post_int,
1266     unsigned long elapsed_pdp_st,
1267     rrd_value_t *pdp_new,
1268     rrd_value_t *pdp_temp)
1269 {
1270     unsigned long ds_idx;
1271
1272     /* in pdp_prep[].scratch[PDP_val].u_val we have collected
1273        rate*seconds which occurred up to the last run.
1274        pdp_new[] contains rate*seconds from the latest run.
1275        pdp_temp[] will contain the rate for cdp */
1276
1277     for (ds_idx = 0; ds_idx < rrd->stat_head->ds_cnt; ds_idx++) {
1278         if (process_pdp_st(rrd, ds_idx, interval, pre_int, post_int,
1279                            elapsed_pdp_st * rrd->stat_head->pdp_step,
1280                            pdp_new, pdp_temp) == -1) {
1281             return -1;
1282         }
1283 #ifdef DEBUG
1284         fprintf(stderr, "PDP UPD ds[%lu]\t"
1285                 "elapsed_pdp_st %lu\t"
1286                 "pdp_temp %10.2f\t"
1287                 "new_prep %10.2f\t"
1288                 "new_unkn_sec %5lu\n",
1289                 ds_idx,
1290                 elapsed_pdp_st,
1291                 pdp_temp[ds_idx],
1292                 rrd->pdp_prep[ds_idx].scratch[PDP_val].u_val,
1293                 rrd->pdp_prep[ds_idx].scratch[PDP_unkn_sec_cnt].u_cnt);
1294 #endif
1295     }
1296     return 0;
1297 }
1298
1299 /*
1300  * Process an update that occurs after one of the PDP moments.
1301  * Increments the PDP value, sets NAN if time greater than the
1302  * heartbeats have elapsed, processes CDEFs.
1303  *
1304  * Returns 0 on success, -1 on error.
1305  */
1306 static int process_pdp_st(
1307     rrd_t *rrd,
1308     unsigned long ds_idx,
1309     double interval,
1310     double pre_int,
1311     double post_int,
1312     long diff_pdp_st,   /* number of seconds in full steps passed since last update */
1313     rrd_value_t *pdp_new,
1314     rrd_value_t *pdp_temp)
1315 {
1316     int       i;
1317
1318     /* update pdp_prep to the current pdp_st. */
1319     double    pre_unknown = 0.0;
1320     unival   *scratch = rrd->pdp_prep[ds_idx].scratch;
1321     unsigned long mrhb = rrd->ds_def[ds_idx].par[DS_mrhb_cnt].u_cnt;
1322
1323     rpnstack_t rpnstack;    /* used for COMPUTE DS */
1324
1325     rpnstack_init(&rpnstack);
1326
1327
1328     if (isnan(pdp_new[ds_idx])) {
1329         /* a final bit of unknown to be added before calculation
1330            we use a temporary variable for this so that we
1331            don't have to turn integer lines before using the value */
1332         pre_unknown = pre_int;
1333     } else {
1334         if (isnan(scratch[PDP_val].u_val)) {
1335             scratch[PDP_val].u_val = 0;
1336         }
1337         scratch[PDP_val].u_val += pdp_new[ds_idx] / interval * pre_int;
1338     }
1339
1340     /* if too much of the pdp_prep is unknown we dump it */
1341     /* if the interval is larger thatn mrhb we get NAN */
1342     if ((interval > mrhb) ||
1343         (rrd->stat_head->pdp_step / 2.0 <
1344          (signed) scratch[PDP_unkn_sec_cnt].u_cnt)) {
1345         pdp_temp[ds_idx] = DNAN;
1346     } else {
1347         pdp_temp[ds_idx] = scratch[PDP_val].u_val /
1348             ((double) (diff_pdp_st - scratch[PDP_unkn_sec_cnt].u_cnt) -
1349              pre_unknown);
1350     }
1351
1352     /* process CDEF data sources; remember each CDEF DS can
1353      * only reference other DS with a lower index number */
1354     if (dst_conv(rrd->ds_def[ds_idx].dst) == DST_CDEF) {
1355         rpnp_t   *rpnp;
1356
1357         rpnp =
1358             rpn_expand((rpn_cdefds_t *) &(rrd->ds_def[ds_idx].par[DS_cdef]));
1359         /* substitute data values for OP_VARIABLE nodes */
1360         for (i = 0; rpnp[i].op != OP_END; i++) {
1361             if (rpnp[i].op == OP_VARIABLE) {
1362                 rpnp[i].op = OP_NUMBER;
1363                 rpnp[i].val = pdp_temp[rpnp[i].ptr];
1364             }
1365         }
1366         /* run the rpn calculator */
1367         if (rpn_calc(rpnp, &rpnstack, 0, pdp_temp, ds_idx) == -1) {
1368             free(rpnp);
1369             rpnstack_free(&rpnstack);
1370             return -1;
1371         }
1372     }
1373
1374     /* make pdp_prep ready for the next run */
1375     if (isnan(pdp_new[ds_idx])) {
1376         /* this is not realy accurate if we use subsecond data arival time
1377            should have thought of it when going subsecond resolution ...
1378            sorry next format change we will have it! */
1379         scratch[PDP_unkn_sec_cnt].u_cnt = floor(post_int);
1380         scratch[PDP_val].u_val = DNAN;
1381     } else {
1382         scratch[PDP_unkn_sec_cnt].u_cnt = 0;
1383         scratch[PDP_val].u_val = pdp_new[ds_idx] / interval * post_int;
1384     }
1385     rpnstack_free(&rpnstack);
1386     return 0;
1387 }
1388
1389 /*
1390  * Iterate over all the RRAs for a given DS and:
1391  * 1. Decide whether to schedule a smooth later
1392  * 2. Decide whether to skip updating SEASONAL and DEVSEASONAL
1393  * 3. Update the CDP
1394  *
1395  * Returns 0 on success, -1 on error
1396  */
1397 static int update_all_cdp_prep(
1398     rrd_t *rrd,
1399     unsigned long *rra_step_cnt,
1400     unsigned long rra_begin,
1401     rrd_file_t *rrd_file,
1402     unsigned long elapsed_pdp_st,
1403     unsigned long proc_pdp_cnt,
1404     rrd_value_t **last_seasonal_coef,
1405     rrd_value_t **seasonal_coef,
1406     rrd_value_t *pdp_temp,
1407     unsigned long *skip_update,
1408     int *schedule_smooth)
1409 {
1410     unsigned long rra_idx;
1411
1412     /* index into the CDP scratch array */
1413     enum cf_en current_cf;
1414     unsigned long rra_start;
1415
1416     /* number of rows to be updated in an RRA for a data value. */
1417     unsigned long start_pdp_offset;
1418
1419     rra_start = rra_begin;
1420     for (rra_idx = 0; rra_idx < rrd->stat_head->rra_cnt; rra_idx++) {
1421         current_cf = cf_conv(rrd->rra_def[rra_idx].cf_nam);
1422         start_pdp_offset =
1423             rrd->rra_def[rra_idx].pdp_cnt -
1424             proc_pdp_cnt % rrd->rra_def[rra_idx].pdp_cnt;
1425         skip_update[rra_idx] = 0;
1426         if (start_pdp_offset <= elapsed_pdp_st) {
1427             rra_step_cnt[rra_idx] = (elapsed_pdp_st - start_pdp_offset) /
1428                 rrd->rra_def[rra_idx].pdp_cnt + 1;
1429         } else {
1430             rra_step_cnt[rra_idx] = 0;
1431         }
1432
1433         if (current_cf == CF_SEASONAL || current_cf == CF_DEVSEASONAL) {
1434             /* If this is a bulk update, we need to skip ahead in the seasonal arrays
1435              * so that they will be correct for the next observed value; note that for
1436              * the bulk update itself, no update will occur to DEVSEASONAL or SEASONAL;
1437              * futhermore, HWPREDICT and DEVPREDICT will be set to DNAN. */
1438             if (rra_step_cnt[rra_idx] > 1) {
1439                 skip_update[rra_idx] = 1;
1440                 lookup_seasonal(rrd, rra_idx, rra_start, rrd_file,
1441                                 elapsed_pdp_st, last_seasonal_coef);
1442                 lookup_seasonal(rrd, rra_idx, rra_start, rrd_file,
1443                                 elapsed_pdp_st + 1, seasonal_coef);
1444             }
1445             /* periodically run a smoother for seasonal effects */
1446             if (do_schedule_smooth(rrd, rra_idx, elapsed_pdp_st)) {
1447 #ifdef DEBUG
1448                 fprintf(stderr,
1449                         "schedule_smooth: cur_row %lu, elapsed_pdp_st %lu, smooth idx %lu\n",
1450                         rrd->rra_ptr[rra_idx].cur_row, elapsed_pdp_st,
1451                         rrd->rra_def[rra_idx].par[RRA_seasonal_smooth_idx].
1452                         u_cnt);
1453 #endif
1454                 *schedule_smooth = 1;
1455             }
1456         }
1457         if (rrd_test_error())
1458             return -1;
1459
1460         if (update_cdp_prep
1461             (rrd, elapsed_pdp_st, start_pdp_offset, rra_step_cnt, rra_idx,
1462              pdp_temp, *last_seasonal_coef, *seasonal_coef,
1463              current_cf) == -1) {
1464             return -1;
1465         }
1466         rra_start +=
1467             rrd->rra_def[rra_idx].row_cnt * rrd->stat_head->ds_cnt *
1468             sizeof(rrd_value_t);
1469     }
1470     return 0;
1471 }
1472
1473 /*
1474  * Are we due for a smooth? Also increments our position in the burn-in cycle.
1475  */
1476 static int do_schedule_smooth(
1477     rrd_t *rrd,
1478     unsigned long rra_idx,
1479     unsigned long elapsed_pdp_st)
1480 {
1481     unsigned long cdp_idx = rra_idx * (rrd->stat_head->ds_cnt);
1482     unsigned long cur_row = rrd->rra_ptr[rra_idx].cur_row;
1483     unsigned long row_cnt = rrd->rra_def[rra_idx].row_cnt;
1484     unsigned long seasonal_smooth_idx =
1485         rrd->rra_def[rra_idx].par[RRA_seasonal_smooth_idx].u_cnt;
1486     unsigned long *init_seasonal =
1487         &(rrd->cdp_prep[cdp_idx].scratch[CDP_init_seasonal].u_cnt);
1488
1489     /* Need to use first cdp parameter buffer to track burnin (burnin requires
1490      * a specific smoothing schedule).  The CDP_init_seasonal parameter is
1491      * really an RRA level, not a data source within RRA level parameter, but
1492      * the rra_def is read only for rrd_update (not flushed to disk). */
1493     if (*init_seasonal > BURNIN_CYCLES) {
1494         /* someone has no doubt invented a trick to deal with this wrap around,
1495          * but at least this code is clear. */
1496         if (seasonal_smooth_idx > cur_row) {
1497             /* here elapsed_pdp_st = rra_step_cnt[rra_idx] because of 1-1 mapping
1498              * between PDP and CDP */
1499             return (cur_row + elapsed_pdp_st >= seasonal_smooth_idx);
1500         }
1501         /* can't rely on negative numbers because we are working with
1502          * unsigned values */
1503         return (cur_row + elapsed_pdp_st >= row_cnt
1504                 && cur_row + elapsed_pdp_st >= row_cnt + seasonal_smooth_idx);
1505     }
1506     /* mark off one of the burn-in cycles */
1507     return (cur_row + elapsed_pdp_st >= row_cnt && ++(*init_seasonal));
1508 }
1509
1510 /*
1511  * For a given RRA, iterate over the data sources and call the appropriate
1512  * consolidation function.
1513  *
1514  * Returns 0 on success, -1 on error.
1515  */
1516 static int update_cdp_prep(
1517     rrd_t *rrd,
1518     unsigned long elapsed_pdp_st,
1519     unsigned long start_pdp_offset,
1520     unsigned long *rra_step_cnt,
1521     int rra_idx,
1522     rrd_value_t *pdp_temp,
1523     rrd_value_t *last_seasonal_coef,
1524     rrd_value_t *seasonal_coef,
1525     int current_cf)
1526 {
1527     unsigned long ds_idx, cdp_idx;
1528
1529     /* update CDP_PREP areas */
1530     /* loop over data soures within each RRA */
1531     for (ds_idx = 0; ds_idx < rrd->stat_head->ds_cnt; ds_idx++) {
1532
1533         cdp_idx = rra_idx * rrd->stat_head->ds_cnt + ds_idx;
1534
1535         if (rrd->rra_def[rra_idx].pdp_cnt > 1) {
1536             update_cdp(rrd->cdp_prep[cdp_idx].scratch, current_cf,
1537                        pdp_temp[ds_idx], rra_step_cnt[rra_idx],
1538                        elapsed_pdp_st, start_pdp_offset,
1539                        rrd->rra_def[rra_idx].pdp_cnt,
1540                        rrd->rra_def[rra_idx].par[RRA_cdp_xff_val].u_val,
1541                        rra_idx, ds_idx);
1542         } else {
1543             /* Nothing to consolidate if there's one PDP per CDP. However, if
1544              * we've missed some PDPs, let's update null counters etc. */
1545             if (elapsed_pdp_st > 2) {
1546                 reset_cdp(rrd, elapsed_pdp_st, pdp_temp, last_seasonal_coef,
1547                           seasonal_coef, rra_idx, ds_idx, cdp_idx,
1548                           current_cf);
1549             }
1550         }
1551
1552         if (rrd_test_error())
1553             return -1;
1554     }                   /* endif data sources loop */
1555     return 0;
1556 }
1557
1558 /*
1559  * Given the new reading (pdp_temp_val), update or initialize the CDP value,
1560  * primary value, secondary value, and # of unknowns.
1561  */
1562 static void update_cdp(
1563     unival *scratch,
1564     int current_cf,
1565     rrd_value_t pdp_temp_val,
1566     unsigned long rra_step_cnt,
1567     unsigned long elapsed_pdp_st,
1568     unsigned long start_pdp_offset,
1569     unsigned long pdp_cnt,
1570     rrd_value_t xff,
1571     int i,
1572     int ii)
1573 {
1574     /* shorthand variables */
1575     rrd_value_t *cdp_val = &scratch[CDP_val].u_val;
1576     rrd_value_t *cdp_primary_val = &scratch[CDP_primary_val].u_val;
1577     rrd_value_t *cdp_secondary_val = &scratch[CDP_secondary_val].u_val;
1578     unsigned long *cdp_unkn_pdp_cnt = &scratch[CDP_unkn_pdp_cnt].u_cnt;
1579
1580     if (rra_step_cnt) {
1581         /* If we are in this block, as least 1 CDP value will be written to
1582          * disk, this is the CDP_primary_val entry. If more than 1 value needs
1583          * to be written, then the "fill in" value is the CDP_secondary_val
1584          * entry. */
1585         if (isnan(pdp_temp_val)) {
1586             *cdp_unkn_pdp_cnt += start_pdp_offset;
1587             *cdp_secondary_val = DNAN;
1588         } else {
1589             /* CDP_secondary value is the RRA "fill in" value for intermediary
1590              * CDP data entries. No matter the CF, the value is the same because
1591              * the average, max, min, and last of a list of identical values is
1592              * the same, namely, the value itself. */
1593             *cdp_secondary_val = pdp_temp_val;
1594         }
1595
1596         if (*cdp_unkn_pdp_cnt > pdp_cnt * xff) {
1597             *cdp_primary_val = DNAN;
1598             if (current_cf == CF_AVERAGE) {
1599                 *cdp_val =
1600                     initialize_average_carry_over(pdp_temp_val,
1601                                                   elapsed_pdp_st,
1602                                                   start_pdp_offset, pdp_cnt);
1603             } else {
1604                 *cdp_val = pdp_temp_val;
1605             }
1606         } else {
1607             initialize_cdp_val(scratch, current_cf, pdp_temp_val,
1608                                elapsed_pdp_st, start_pdp_offset, pdp_cnt);
1609         }               /* endif meets xff value requirement for a valid value */
1610         /* initialize carry over CDP_unkn_pdp_cnt, this must after CDP_primary_val
1611          * is set because CDP_unkn_pdp_cnt is required to compute that value. */
1612         if (isnan(pdp_temp_val))
1613             *cdp_unkn_pdp_cnt = (elapsed_pdp_st - start_pdp_offset) % pdp_cnt;
1614         else
1615             *cdp_unkn_pdp_cnt = 0;
1616     } else {            /* rra_step_cnt[i]  == 0 */
1617
1618 #ifdef DEBUG
1619         if (isnan(*cdp_val)) {
1620             fprintf(stderr, "schedule CDP_val update, RRA %d DS %d, DNAN\n",
1621                     i, ii);
1622         } else {
1623             fprintf(stderr, "schedule CDP_val update, RRA %d DS %d, %10.2f\n",
1624                     i, ii, *cdp_val);
1625         }
1626 #endif
1627         if (isnan(pdp_temp_val)) {
1628             *cdp_unkn_pdp_cnt += elapsed_pdp_st;
1629         } else {
1630             *cdp_val =
1631                 calculate_cdp_val(*cdp_val, pdp_temp_val, elapsed_pdp_st,
1632                                   current_cf, i, ii);
1633         }
1634     }
1635 }
1636
1637 /*
1638  * Set the CDP_primary_val and CDP_val to the appropriate initial value based
1639  * on the type of consolidation function.
1640  */
1641 static void initialize_cdp_val(
1642     unival *scratch,
1643     int current_cf,
1644     rrd_value_t pdp_temp_val,
1645     unsigned long elapsed_pdp_st,
1646     unsigned long start_pdp_offset,
1647     unsigned long pdp_cnt)
1648 {
1649     rrd_value_t cum_val, cur_val;
1650
1651     switch (current_cf) {
1652     case CF_AVERAGE:
1653         cum_val = IFDNAN(scratch[CDP_val].u_val, 0.0);
1654         cur_val = IFDNAN(pdp_temp_val, 0.0);
1655         scratch[CDP_primary_val].u_val =
1656             (cum_val + cur_val * start_pdp_offset) /
1657             (pdp_cnt - scratch[CDP_unkn_pdp_cnt].u_cnt);
1658         scratch[CDP_val].u_val =
1659             initialize_average_carry_over(pdp_temp_val, elapsed_pdp_st,
1660                                           start_pdp_offset, pdp_cnt);
1661         break;
1662     case CF_MAXIMUM:
1663         cum_val = IFDNAN(scratch[CDP_val].u_val, -DINF);
1664         cur_val = IFDNAN(pdp_temp_val, -DINF);
1665 #if 0
1666 #ifdef DEBUG
1667         if (isnan(scratch[CDP_val].u_val) && isnan(pdp_temp)) {
1668             fprintf(stderr,
1669                     "RRA %lu, DS %lu, both CDP_val and pdp_temp are DNAN!",
1670                     i, ii);
1671             exit(-1);
1672         }
1673 #endif
1674 #endif
1675         if (cur_val > cum_val)
1676             scratch[CDP_primary_val].u_val = cur_val;
1677         else
1678             scratch[CDP_primary_val].u_val = cum_val;
1679         /* initialize carry over value */
1680         scratch[CDP_val].u_val = pdp_temp_val;
1681         break;
1682     case CF_MINIMUM:
1683         cum_val = IFDNAN(scratch[CDP_val].u_val, DINF);
1684         cur_val = IFDNAN(pdp_temp_val, DINF);
1685 #if 0
1686 #ifdef DEBUG
1687         if (isnan(scratch[CDP_val].u_val) && isnan(pdp_temp)) {
1688             fprintf(stderr,
1689                     "RRA %lu, DS %lu, both CDP_val and pdp_temp are DNAN!", i,
1690                     ii);
1691             exit(-1);
1692         }
1693 #endif
1694 #endif
1695         if (cur_val < cum_val)
1696             scratch[CDP_primary_val].u_val = cur_val;
1697         else
1698             scratch[CDP_primary_val].u_val = cum_val;
1699         /* initialize carry over value */
1700         scratch[CDP_val].u_val = pdp_temp_val;
1701         break;
1702     case CF_LAST:
1703     default:
1704         scratch[CDP_primary_val].u_val = pdp_temp_val;
1705         /* initialize carry over value */
1706         scratch[CDP_val].u_val = pdp_temp_val;
1707         break;
1708     }
1709 }
1710
1711 /*
1712  * Update the consolidation function for Holt-Winters functions as
1713  * well as other functions that don't actually consolidate multiple
1714  * PDPs.
1715  */
1716 static void reset_cdp(
1717     rrd_t *rrd,
1718     unsigned long elapsed_pdp_st,
1719     rrd_value_t *pdp_temp,
1720     rrd_value_t *last_seasonal_coef,
1721     rrd_value_t *seasonal_coef,
1722     int rra_idx,
1723     int ds_idx,
1724     int cdp_idx,
1725     enum cf_en current_cf)
1726 {
1727     unival   *scratch = rrd->cdp_prep[cdp_idx].scratch;
1728
1729     switch (current_cf) {
1730     case CF_AVERAGE:
1731     default:
1732         scratch[CDP_primary_val].u_val = pdp_temp[ds_idx];
1733         scratch[CDP_secondary_val].u_val = pdp_temp[ds_idx];
1734         break;
1735     case CF_SEASONAL:
1736     case CF_DEVSEASONAL:
1737         /* need to update cached seasonal values, so they are consistent
1738          * with the bulk update */
1739         /* WARNING: code relies on the fact that CDP_hw_last_seasonal and
1740          * CDP_last_deviation are the same. */
1741         scratch[CDP_hw_last_seasonal].u_val = last_seasonal_coef[ds_idx];
1742         scratch[CDP_hw_seasonal].u_val = seasonal_coef[ds_idx];
1743         break;
1744     case CF_HWPREDICT:
1745     case CF_MHWPREDICT:
1746         /* need to update the null_count and last_null_count.
1747          * even do this for non-DNAN pdp_temp because the
1748          * algorithm is not learning from batch updates. */
1749         scratch[CDP_null_count].u_cnt += elapsed_pdp_st;
1750         scratch[CDP_last_null_count].u_cnt += elapsed_pdp_st - 1;
1751         /* fall through */
1752     case CF_DEVPREDICT:
1753         scratch[CDP_primary_val].u_val = DNAN;
1754         scratch[CDP_secondary_val].u_val = DNAN;
1755         break;
1756     case CF_FAILURES:
1757         /* do not count missed bulk values as failures */
1758         scratch[CDP_primary_val].u_val = 0;
1759         scratch[CDP_secondary_val].u_val = 0;
1760         /* need to reset violations buffer.
1761          * could do this more carefully, but for now, just
1762          * assume a bulk update wipes away all violations. */
1763         erase_violations(rrd, cdp_idx, rra_idx);
1764         break;
1765     }
1766 }
1767
1768 static rrd_value_t initialize_average_carry_over(
1769     rrd_value_t pdp_temp_val,
1770     unsigned long elapsed_pdp_st,
1771     unsigned long start_pdp_offset,
1772     unsigned long pdp_cnt)
1773 {
1774     /* initialize carry over value */
1775     if (isnan(pdp_temp_val)) {
1776         return DNAN;
1777     }
1778     return pdp_temp_val * ((elapsed_pdp_st - start_pdp_offset) % pdp_cnt);
1779 }
1780
1781 /*
1782  * Update or initialize a CDP value based on the consolidation
1783  * function.
1784  *
1785  * Returns the new value.
1786  */
1787 static rrd_value_t calculate_cdp_val(
1788     rrd_value_t cdp_val,
1789     rrd_value_t pdp_temp_val,
1790     unsigned long elapsed_pdp_st,
1791     int current_cf,
1792 #ifdef DEBUG
1793     int i,
1794     int ii
1795 #else
1796     int UNUSED(i),
1797     int UNUSED(ii)
1798 #endif
1799     )
1800 {
1801     if (isnan(cdp_val)) {
1802         if (current_cf == CF_AVERAGE) {
1803             pdp_temp_val *= elapsed_pdp_st;
1804         }
1805 #ifdef DEBUG
1806         fprintf(stderr, "Initialize CDP_val for RRA %d DS %d: %10.2f\n",
1807                 i, ii, pdp_temp_val);
1808 #endif
1809         return pdp_temp_val;
1810     }
1811     if (current_cf == CF_AVERAGE)
1812         return cdp_val + pdp_temp_val * elapsed_pdp_st;
1813     if (current_cf == CF_MINIMUM)
1814         return (pdp_temp_val < cdp_val) ? pdp_temp_val : cdp_val;
1815     if (current_cf == CF_MAXIMUM)
1816         return (pdp_temp_val > cdp_val) ? pdp_temp_val : cdp_val;
1817
1818     return pdp_temp_val;
1819 }
1820
1821 /*
1822  * For each RRA, update the seasonal values and then call update_aberrant_CF
1823  * for each data source.
1824  *
1825  * Return 0 on success, -1 on error.
1826  */
1827 static int update_aberrant_cdps(
1828     rrd_t *rrd,
1829     rrd_file_t *rrd_file,
1830     unsigned long rra_begin,
1831     unsigned long elapsed_pdp_st,
1832     rrd_value_t *pdp_temp,
1833     rrd_value_t **seasonal_coef)
1834 {
1835     unsigned long rra_idx, ds_idx, j;
1836
1837     /* number of PDP steps since the last update that
1838      * are assigned to the first CDP to be generated
1839      * since the last update. */
1840     unsigned short scratch_idx;
1841     unsigned long rra_start;
1842     enum cf_en current_cf;
1843
1844     /* this loop is only entered if elapsed_pdp_st < 3 */
1845     for (j = elapsed_pdp_st, scratch_idx = CDP_primary_val;
1846          j > 0 && j < 3; j--, scratch_idx = CDP_secondary_val) {
1847         rra_start = rra_begin;
1848         for (rra_idx = 0; rra_idx < rrd->stat_head->rra_cnt; rra_idx++) {
1849             if (rrd->rra_def[rra_idx].pdp_cnt == 1) {
1850                 current_cf = cf_conv(rrd->rra_def[rra_idx].cf_nam);
1851                 if (current_cf == CF_SEASONAL || current_cf == CF_DEVSEASONAL) {
1852                     if (scratch_idx == CDP_primary_val) {
1853                         lookup_seasonal(rrd, rra_idx, rra_start, rrd_file,
1854                                         elapsed_pdp_st + 1, seasonal_coef);
1855                     } else {
1856                         lookup_seasonal(rrd, rra_idx, rra_start, rrd_file,
1857                                         elapsed_pdp_st + 2, seasonal_coef);
1858                     }
1859                 }
1860                 if (rrd_test_error())
1861                     return -1;
1862                 /* loop over data soures within each RRA */
1863                 for (ds_idx = 0; ds_idx < rrd->stat_head->ds_cnt; ds_idx++) {
1864                     update_aberrant_CF(rrd, pdp_temp[ds_idx], current_cf,
1865                                        rra_idx * (rrd->stat_head->ds_cnt) +
1866                                        ds_idx, rra_idx, ds_idx, scratch_idx,
1867                                        *seasonal_coef);
1868                 }
1869             }
1870             rra_start += rrd->rra_def[rra_idx].row_cnt
1871                 * rrd->stat_head->ds_cnt * sizeof(rrd_value_t);
1872         }
1873     }
1874     return 0;
1875 }
1876
1877 /*
1878  * Move sequentially through the file, writing one RRA at a time.  Note this
1879  * architecture divorces the computation of CDP with flushing updated RRA
1880  * entries to disk.
1881  *
1882  * Return 0 on success, -1 on error.
1883  */
1884 static int write_to_rras(
1885     rrd_t *rrd,
1886     rrd_file_t *rrd_file,
1887     unsigned long *rra_step_cnt,
1888     unsigned long rra_begin,
1889     time_t current_time,
1890     unsigned long *skip_update,
1891     rrd_info_t ** pcdp_summary)
1892 {
1893     unsigned long rra_idx;
1894     unsigned long rra_start;
1895     time_t    rra_time = 0; /* time of update for a RRA */
1896
1897     unsigned long ds_cnt = rrd->stat_head->ds_cnt;
1898
1899     /* Ready to write to disk */
1900     rra_start = rra_begin;
1901
1902     for (rra_idx = 0; rra_idx < rrd->stat_head->rra_cnt; rra_idx++) {
1903         rra_def_t *rra_def = &rrd->rra_def[rra_idx];
1904         rra_ptr_t *rra_ptr = &rrd->rra_ptr[rra_idx];
1905
1906         /* for cdp_prep */
1907         unsigned short scratch_idx;
1908         unsigned long step_subtract;
1909
1910         for (scratch_idx = CDP_primary_val,
1911                  step_subtract = 1;
1912              rra_step_cnt[rra_idx] > 0;
1913              rra_step_cnt[rra_idx]--,
1914                  scratch_idx = CDP_secondary_val,
1915                  step_subtract = 2) {
1916
1917             size_t rra_pos_new;
1918 #ifdef DEBUG
1919             fprintf(stderr, "  -- RRA Preseek %ld\n", rrd_file->pos);
1920 #endif
1921             /* increment, with wrap-around */
1922             if (++rra_ptr->cur_row >= rra_def->row_cnt)
1923               rra_ptr->cur_row = 0;
1924
1925             /* we know what our position should be */
1926             rra_pos_new = rra_start
1927               + ds_cnt * rra_ptr->cur_row * sizeof(rrd_value_t);
1928
1929             /* re-seek if the position is wrong or we wrapped around */
1930             if ((size_t)rra_pos_new != rrd_file->pos) {
1931                 if (rrd_seek(rrd_file, rra_pos_new, SEEK_SET) != 0) {
1932                     rrd_set_error("seek error in rrd");
1933                     return -1;
1934                 }
1935             }
1936 #ifdef DEBUG
1937             fprintf(stderr, "  -- RRA Postseek %ld\n", rrd_file->pos);
1938 #endif
1939
1940             if (skip_update[rra_idx])
1941                 continue;
1942
1943             if (*pcdp_summary != NULL) {
1944                 unsigned long step_time = rra_def->pdp_cnt * rrd->stat_head->pdp_step;
1945
1946                 rra_time = (current_time - current_time % step_time)
1947                     - ((rra_step_cnt[rra_idx] - step_subtract) * step_time);
1948             }
1949
1950             if (write_RRA_row
1951                 (rrd_file, rrd, rra_idx, scratch_idx,
1952                  pcdp_summary, rra_time) == -1)
1953                 return -1;
1954
1955             rrd_notify_row(rrd_file, rra_idx, rra_pos_new, rra_time);
1956         }
1957
1958         rra_start += rra_def->row_cnt * ds_cnt * sizeof(rrd_value_t);
1959     } /* RRA LOOP */
1960
1961     return 0;
1962 }
1963
1964 /*
1965  * Write out one row of values (one value per DS) to the archive.
1966  *
1967  * Returns 0 on success, -1 on error.
1968  */
1969 static int write_RRA_row(
1970     rrd_file_t *rrd_file,
1971     rrd_t *rrd,
1972     unsigned long rra_idx,
1973     unsigned short CDP_scratch_idx,
1974     rrd_info_t ** pcdp_summary,
1975     time_t rra_time)
1976 {
1977     unsigned long ds_idx, cdp_idx;
1978     rrd_infoval_t iv;
1979
1980     for (ds_idx = 0; ds_idx < rrd->stat_head->ds_cnt; ds_idx++) {
1981         /* compute the cdp index */
1982         cdp_idx = rra_idx * (rrd->stat_head->ds_cnt) + ds_idx;
1983 #ifdef DEBUG
1984         fprintf(stderr, "  -- RRA WRITE VALUE %e, at %ld CF:%s\n",
1985                 rrd->cdp_prep[cdp_idx].scratch[CDP_scratch_idx].u_val,
1986                 rrd_file->pos, rrd->rra_def[rra_idx].cf_nam);
1987 #endif
1988         if (*pcdp_summary != NULL) {
1989             iv.u_val = rrd->cdp_prep[cdp_idx].scratch[CDP_scratch_idx].u_val;
1990             /* append info to the return hash */
1991             *pcdp_summary = rrd_info_push(*pcdp_summary,
1992                                           sprintf_alloc
1993                                           ("[%lli]RRA[%s][%lu]DS[%s]",
1994                                            (long long)rra_time,
1995                                            rrd->rra_def[rra_idx].cf_nam,
1996                                            rrd->rra_def[rra_idx].pdp_cnt,
1997                                            rrd->ds_def[ds_idx].ds_nam),
1998                                            RD_I_VAL, iv);
1999         }
2000         errno = 0;
2001         if (rrd_write(rrd_file,
2002                       &(rrd->cdp_prep[cdp_idx].scratch[CDP_scratch_idx].
2003                         u_val), sizeof(rrd_value_t)) != sizeof(rrd_value_t)) {
2004             rrd_set_error("writing rrd: %s", rrd_strerror(errno));
2005             return -1;
2006         }
2007     }
2008     return 0;
2009 }
2010
2011 /*
2012  * Call apply_smoother for all DEVSEASONAL and SEASONAL RRAs.
2013  *
2014  * Returns 0 on success, -1 otherwise
2015  */
2016 static int smooth_all_rras(
2017     rrd_t *rrd,
2018     rrd_file_t *rrd_file,
2019     unsigned long rra_begin)
2020 {
2021     unsigned long rra_start = rra_begin;
2022     unsigned long rra_idx;
2023
2024     for (rra_idx = 0; rra_idx < rrd->stat_head->rra_cnt; ++rra_idx) {
2025         if (cf_conv(rrd->rra_def[rra_idx].cf_nam) == CF_DEVSEASONAL ||
2026             cf_conv(rrd->rra_def[rra_idx].cf_nam) == CF_SEASONAL) {
2027 #ifdef DEBUG
2028             fprintf(stderr, "Running smoother for rra %lu\n", rra_idx);
2029 #endif
2030             apply_smoother(rrd, rra_idx, rra_start, rrd_file);
2031             if (rrd_test_error())
2032                 return -1;
2033         }
2034         rra_start += rrd->rra_def[rra_idx].row_cnt
2035             * rrd->stat_head->ds_cnt * sizeof(rrd_value_t);
2036     }
2037     return 0;
2038 }
2039
2040 #ifndef HAVE_MMAP
2041 /*
2042  * Flush changes to disk (unless we're using mmap)
2043  *
2044  * Returns 0 on success, -1 otherwise
2045  */
2046 static int write_changes_to_disk(
2047     rrd_t *rrd,
2048     rrd_file_t *rrd_file,
2049     int version)
2050 {
2051     /* we just need to write back the live header portion now */
2052     if (rrd_seek(rrd_file, (sizeof(stat_head_t)
2053                             + sizeof(ds_def_t) * rrd->stat_head->ds_cnt
2054                             + sizeof(rra_def_t) * rrd->stat_head->rra_cnt),
2055                  SEEK_SET) != 0) {
2056         rrd_set_error("seek rrd for live header writeback");
2057         return -1;
2058     }
2059     if (version >= 3) {
2060         if (rrd_write(rrd_file, rrd->live_head,
2061                       sizeof(live_head_t) * 1) != sizeof(live_head_t) * 1) {
2062             rrd_set_error("rrd_write live_head to rrd");
2063             return -1;
2064         }
2065     } else {
2066         if (rrd_write(rrd_file, rrd->legacy_last_up,
2067                       sizeof(time_t) * 1) != sizeof(time_t) * 1) {
2068             rrd_set_error("rrd_write live_head to rrd");
2069             return -1;
2070         }
2071     }
2072
2073
2074     if (rrd_write(rrd_file, rrd->pdp_prep,
2075                   sizeof(pdp_prep_t) * rrd->stat_head->ds_cnt)
2076         != (ssize_t) (sizeof(pdp_prep_t) * rrd->stat_head->ds_cnt)) {
2077         rrd_set_error("rrd_write pdp_prep to rrd");
2078         return -1;
2079     }
2080
2081     if (rrd_write(rrd_file, rrd->cdp_prep,
2082                   sizeof(cdp_prep_t) * rrd->stat_head->rra_cnt *
2083                   rrd->stat_head->ds_cnt)
2084         != (ssize_t) (sizeof(cdp_prep_t) * rrd->stat_head->rra_cnt *
2085                       rrd->stat_head->ds_cnt)) {
2086
2087         rrd_set_error("rrd_write cdp_prep to rrd");
2088         return -1;
2089     }
2090
2091     if (rrd_write(rrd_file, rrd->rra_ptr,
2092                   sizeof(rra_ptr_t) * rrd->stat_head->rra_cnt)
2093         != (ssize_t) (sizeof(rra_ptr_t) * rrd->stat_head->rra_cnt)) {
2094         rrd_set_error("rrd_write rra_ptr to rrd");
2095         return -1;
2096     }
2097     return 0;
2098 }
2099 #endif