Pipeline Status at the Start of Cycle 4 Crystal Brogan 1 - PowerPoint PPT Presentation

Pipeline Status at the Start of Cycle 4 Crystal Brogan 1

Calibration ¡Pipeline ¡Performance • Calibration ¡Pipeline ¡in ¡production ¡use ¡for ¡ Cycle ¡2 ¡and ¡3 ¡ for ¡standard ¡observing ¡ modes • As ¡of: ¡July ¡8, ¡2016 ¡(EPT): • 1214 ¡OUSs ¡Fully ¡Observed • 250 ¡Waiting ¡for ¡processing • 258 ¡in ¡process • Pipeline ¡expected ¡to ¡calibrate ¡83% • 786 ¡sent ¡to ¡the ¡pipeline • 223 ¡remain ¡to ¡be ¡sent Cycle ¡2 Cycle ¡3 • In ¡process ¡excluded ¡from ¡diagram. No ¡Intervention Intervention • Actual ¡Pipeline ¡Failures Tweaked Sent ¡to ¡Manual • (i.e. ¡Crash) ¡~ ¡0% 2

Calibration ¡Manual ¡Intervention • Reasons ¡for ¡Manual ¡ intervention ¡captured ¡by ¡ SACMs. • For ¡cycle ¡3 ¡focused ¡on ¡Bad ¡ Antenna. • Outlier ¡Amplitude ¡was ¡hoped ¡ to ¡be ¡addressed ¡by: – Improvements ¡to ¡online ¡system – Application ¡of ¡online ¡flags Cycle 2 • Heuristics ¡for ¡addressing ¡ Cycle 3 Outlier ¡Amplitude ¡being ¡ developed ¡by ¡EU-­‑ARC ¡(Italy) Outlier ¡Amplitude Bad ¡Antenna Outlier ¡Phase 3

Weblog • Primary interface from pipeline to stakeholders: – PI (Represented by PLWG) – Commissioning Team (PLWG, Tiger Teams) – Data Reducers (JAO, ARCs) • Currently presents a hierarchical view allowing very deep investigation. – Commissioning view • Not optimized for review speed – Topics page intended to provide overview for this purpose. – Project has not prioritized heuristics and specifications. • Really needed to get experience before designing this. 4

Applycal weblog ¡plots: 1 ¡row ¡per ¡calibrator ¡per ¡execution 1 ¡column ¡per ¡spw Note ¡size ¡of ¡ scroll ¡bar. ¡Takes ¡ 62 ¡clicks ¡to ¡get ¡to ¡ bottom ¡of ¡page 5

ALMA Imaging Pipeline Status: Cycle 3 Pipeline Manual • Informative imaging (target for Cycle 3) delivered. • Initial pipeline results were promising at qualitative level. • Quantitatively not suitable for delivery: – Incomplete continuum subtraction T o prepare for Cycle 4, effort mobilized – Errors in depth of cleaning (led by NA) in Jan 2016 to improve the – Lack of clean masking requirements, heuristics, and testing Note other ARCs also make significant contributions, for example EA leads all SD efforts 6

Imaging ¡Pipeline: ¡June ¡1 ¡2016 After ¡Major ¡Rework ¡of ¡Procedure Cycle 3R4 Cycle 4R1 7

Imaging Pipeline Procedure (Cycle 4) 1. Calibrator ¡continuum ¡images ¡per ¡spw from ¡pipeline ¡calibrated ¡MS 2. Split ¡out ¡target ¡into ¡new ¡MS 3. Create ¡Science ¡Target ¡dirty ¡cubes ¡per ¡spw 4. Find ¡the ¡continuum ¡regions ¡using ¡the ¡dirty ¡cubes ¡(findContinuum) 5. UV ¡continuum ¡subtraction ¡(hif_uvcontfit / ¡hif_uvcontsub) ¡fitorder=1 • continuum ¡in ¡DATA ¡column;Ϳ ¡continuum ¡subtracted ¡in ¡CORRECTED ¡column 6. Cleaned ¡aggregate ¡continuum ¡of ¡each ¡Science ¡Target ¡using ¡findcont channels 7. Cleaned ¡per ¡spw continuum ¡of ¡each ¡Science ¡Target ¡using ¡findcont channels 8. Make ¡cleaned ¡cubes ¡from ¡Science ¡Target ¡continuum ¡subtracted ¡data • Images made using revamped tclean task • All continuum images multi-frequency synthesis • For fractional bandwidth > 10% (Bands 3 & 4 presently) uses nterms=2 to account for spectral index variations • Science Target images made to 20% Power Point of Primary Beam Response • Cubes made per channel, all (non-flagged) channels in LSRK • Cleans are “light” due to present lack of automatic clean masking and self-calibration 4 x predicted rms noise x dynamic range modifier 8

Example Weblog (Cycle 3 project) Per spw continuum images… these should look alike! 9

Peak Intensity of cubes… look there is a bright outflow… 10

Each image has a “Details” page 11

Key continuum subtraction diagnostic tool: MOM0_FC Moment 0 image created from the channels identified as continuum in the “continuum-subtracted” cube Line residual present when this image should be noise like 12

Original findCont result Refined findCont result… after this change MOM0_FC is noise like 13

Development T opics (terse summary of 5 year plan) Heuristics • Automatic Clean Masking • Improved Imaging (inc. self cal) • Flagging improvements (inc. target flagging) • Calibration improvements (low SNR) • Observing Strategies (Phase Diff) • Observing Modes (Polarization, Spectral Survey) • Image Combination (Group Processing) • Incorporating imaging intents from PI • QA Score Improvements • Improved weblog review (speed) 14

Timeline ¡for ¡Rollout Month ¡of ¡year Cycle ¡N Cycle N+1 Dec ¡-­‑ Feb Mar ¡-­‑ Apr CyN R1 ¡testing; ¡punchlist May Obsmode f2f; ¡PLWG ¡f2f: Cy ¡N+1 “wish ¡list” June July CyN R2 ¡testing Obsmode doc ¡review ¡& ¡telecons Aug CyN E2e ¡testing Obsmode doc ¡review ¡& ¡telecons Sept Acceptance; Finalize ¡CyN user ¡ documentation; ¡PL ¡public release Oct ¡-­‑ Nov Cy ¡N+1 ¡New ¡Reqt & ¡heuristics definition Implications: ¡ We ¡have ¡to ¡set ¡Cycle ¡N+1 ¡PL ¡requirements ¡& ¡priorities ¡before ¡ • we ¡even ¡understand ¡behavior ¡of ¡Cycle ¡N ¡PL! We ¡have ¡to ¡develop ¡new ¡heuristics ¡for ¡Cy ¡N+1 ¡when ¡we’ve ¡ • only ¡had ¡1-­‑2mo ¡in-­‑use ¡experience ¡with ¡Cy ¡N ¡PL! 15

Other ¡Imaging ¡Challenges • Till ¡now, ¡(manual) ¡imaging ¡QA2 ¡based ¡on ¡1 ¡source, ¡maybe ¡even ¡ 1 ¡spw. ¡No ¡cubes ¡if ¡only ¡continuum ¡SG. – Execution ¡times ¡much ¡longer – Calibration ¡weblog ¡multiples ¡by ¡number ¡of ¡executions ¡x ¡number ¡ calibrators ¡& ¡sources – Imaging ¡weblog ¡multiples ¡by ¡number ¡of ¡SPW ¡x ¡number ¡of ¡sources – How ¡many ¡need ¡to ¡be ¡Quality ¡Assured? ¡What ¡if ¡not ¡relevant ¡to ¡PI ¡ science ¡goal? ¡ • PLWG ¡has ¡concentrated ¡efforts ¡on ¡detailed ¡diagnostic ¡ measures, ¡but ¡not ¡much ¡effort ¡has ¡been ¡available ¡for: – Higher ¡level ¡Organization ¡of ¡information – Identifying ¡most ¡useful ¡scores ¡ • These ¡all ¡take ¡research ¡and ¡lots ¡of ¡testing! • We ¡leave ¡analysis ¡of ¡these ¡products ¡to ¡community ¡led ¡ development ¡(i.e. ¡ADMIT, ¡MAGIX, ¡Source ¡Finding ¡etc) 16

www.nrao.edu science.nrao.edu public.nrao.edu The National Radio Astronomy Observatory is a facility of the National Science Foundation operated under cooperative agreement by Associated Universities, Inc. 17