Variance Map Floor Tests

16 July 2001

Plots (columns in table):

  1. Reduced Chisquare VS Profile Fit Magnitude. Trimmed data overplotted in 0.5 mag bins.
  2. PSF Sigma VS Profile Fit Magnitude
  3. Reduced Chisquare VS S/N
  4. Chisquare Histogram. (Normalized.)
  5. (PSF Mag - Standard Aperture Mag) Vs Y (Scan Angle). PSF ID segment boundaries marked.
  6. Reduced Chisquare Vs Y (Scan Angle). PSF ID segment boundaries marked.
  7. Profile Fit Magnitude Vs Standard Aperture Mag
  8. Background Vs Y (Scan Angle)
  9. Histogram of Profile Fit Magnitude
  10. (PSF Mag - Standard Aperture Mag) Vs PSF Mag. Trimmed data overplotted in 0.5 mag bins.
  11. Sigma PSF Mag Vs Y (Scan Angle). PSF ID segment boundaries marked.
  12. Sigma PSF Mag Vs Sigma Std Aperture
  13. S/N Vs PSF Mag. Blends are overplotted "+".
  14. S/N Vs PSF Mag, for non-blends, passive deblends, active deblends, and mixed, separately in four panels.

NB sometimes the .gifs may come out white-on-white, and appear blank. Changing the image from 8-bit to 24-bit mode with xv should fix it.

Runs of 980811s
Scan 065

    Runs 1-4 have the Variance Map clipped below by a floor set at 1% of the peak (taken as the 1%-tile value) of the VM, times (1/3, 1, 3, & 10), respectively:

    (For comparison, old runs 1-4 of 5 July, with "desens" = .true., are here. No obvious difference.)

  1. Run 1, 980811s Scan 065:
    VM Floor:J:7.5e-7H:1.5e-6K:6.0e-7
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  2. Run 2, 980811s Scan 065:
    VM Floor:J:2.5e-6H:5.0e-6K:2.0e-6
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  3. Run 3, 980811s Scan 065:
    VM Floor:J:7.5e-6H:1.5e-5K:6.0e-6
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  4. Run 4, 980811s Scan 065:
    VM Floor:J:2.5e-5H:5.0e-5K:2.5e-5
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  5. Run 5, 980811s Scan 065:

    Runs 5 - 8 have the same VM floor values as runs 1-4, respectively, but in addtion the entire VM has been rescaled (after imposition of the floor) by a factor computed to bring the chisquares of bright sources back to ~1. This rescaling has the effect of moving the limiting S/N of bright sources up (PSF Sigma Mag down). Note that this has only been done properly here for shapes of about 0.95 (though it can be implemented for any shape by actual modification of the VM files).

    VM Floor:J:7.5e-7H:1.5e-6K:6.0e-7
    VM Scale:J:0.9440H:0.8548K:0.9598
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  6. Run 6, 980811s Scan 065:
    VM Floor:J:2.5e-6H:5.0e-6K:2.0e-6
    VM Scale:J:0.7892H:0.6554K:0.8391
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  7. Run 7, 980811s Scan 065:
    VM Floor:J:7.5e-6H:1.5e-5K:6.0e-6
    VM Scale:J:0.6697H:0.5554K:0.6507
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  8. Run 8, 980811s Scan 065:
    VM Floor:J:2.5e-5H:5.0e-5K:2.5e-5
    VM Scale:J:0.5459H:0.3845K:0.4750
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  9. Run 9, 980811s Scan 065:

    VM floor set yet 3× higher than Run 8, with the same VM scale as for Run 8:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.5459H:0.3845K:0.4750
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  10. Run 10, 980811s Scan 065:

    Runs 10-14 are similar to 5-9, except for a corrections to the calculation of the VM scale factors.

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.7552H:0.6838K:0.7678
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  11. Run 11, 980811s Scan 065:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.5524H:0.4588K:0.5874
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  12. Run 12, 980811s Scan 065:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.4028H:0.3332K:0.3904
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  13. Run 13, 980811s Scan 065:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.2730H:0.1922K:0.2375
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  14. Run 14, 980811s Scan 065:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.1637H:0.1154K:0.1900
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

Runs of 990822s
Scan 079

Following runs are similar to 9-14 above, except scan was chosen for moderately bad seeing, shapes ~ 1.1 or so.

  1. Run 10, 990822s Scan 079:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.7552H:0.6838K:0.7678
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    079 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  2. Run 11, 990822s Scan 079:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.5524H:0.4588K:0.5874
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    079 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  3. Run 12, 990822s Scan 079:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.4028H:0.3332K:0.3904
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    079 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  4. Run 13, 990822s Scan 079:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.2730H:0.1922K:0.2375
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    079 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

  5. Run 14, 990822s Scan 079:

    VM Floor:J:7.5e-5H:1.5e-4K:6.0e-5
    VM Scale:J:0.1637H:0.1154K:0.1900
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    079 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

Runs of 980403n
Sample of Science Scans

Run 15 of 980403n, done with vmflor = 0, vmscal = 1.0, for baseline comparison. Includes at least one survey scan from each science block, but as density is low statistics are sometimes not too good.

  1. Run 15, 980403n :

    VM Floor:J:0.0e 0H:0.0e 0K:0.0e 0
    VM Scale:J:1.0000H:1.0000K:1.0000
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    008 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    009 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    022 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    023 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    040 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    041 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    055 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    057 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    065 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    070 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    081 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    082 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    095 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    110 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    123 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

Runs of 980811s

Run 15 of 980811s, done with vmflor = 0, vmscal = 1.0, for baseline comparison.

  1. Run 16, 980811s:

    VM Floor:J:0.0e 0H:0.0e 0K:0.0e 0
    VM Scale:J:1.0000H:1.0000K:1.0000
    Scan 1 2 3 4 5 6 7 8 9 10 11 12 13 14
    007 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    014 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K
    022 J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K J, H, K

18 July 2001, WAW.