{
 "baseline": "hybrid-semantic",
 "candidate": "semseed",
 "n_shared_queries": 38,
 "fixed_by_candidate": [
  "q18",
  "q19",
  "q22",
  "q27",
  "q28",
  "q29",
  "q31"
 ],
 "broken_by_candidate": [
  "q11"
 ],
 "discordant": 8,
 "net_queries": 6,
 "mcnemar_exact_p": 0.0703125,
 "min_detectable_swing_queries": 6,
 "observed_run_to_run_drift_queries": 0,
 "noise_floor_queries": 6,
 "verdict": "candidate better",
 "baseline_aggregate": {
  "n_queries": 38,
  "n_scored": 35,
  "hit@5": 0.5142857142857142,
  "recall@5": 0.4409013605442177,
  "recall@10": 0.5047619047619047,
  "precision@5": 0.15428571428571433,
  "mrr@10": 0.38746031746031745,
  "nonsense_clean": "2/3",
  "superseded_outranks": "2/3",
  "latency_ms_p50": 1219.7,
  "latency_ms_p95": 1667.1,
  "latency_ms_max": 1720.2,
  "errors": 0,
  "by_category": {
   "associative": {
    "n": 6,
    "hit@5": 0.0,
    "recall@5": 0.0,
    "recall@10": 0.0,
    "mrr@10": 0.0
   },
   "exact_rare": {
    "n": 6,
    "hit@5": 1.0,
    "recall@5": 1.0,
    "recall@10": 1.0,
    "mrr@10": 1.0
   },
   "nonsense": {
    "n": 3,
    "clean": 2,
    "avg_false_positives": 3.3333333333333335
   },
   "paraphrase": {
    "n": 13,
    "hit@5": 0.38461538461538464,
    "recall@5": 0.38461538461538464,
    "recall@10": 0.38461538461538464,
    "mrr@10": 0.17307692307692307
   },
   "phrase": {
    "n": 7,
    "hit@5": 0.8571428571428571,
    "recall@5": 0.4902210884353741,
    "recall@10": 0.6666666666666666,
    "mrr@10": 0.6634920634920636
   },
   "superseded": {
    "n": 3,
    "hit@5": 0.3333333333333333,
    "recall@5": 0.3333333333333333,
    "recall@10": 0.6666666666666666,
    "mrr@10": 0.2222222222222222,
    "outranks": 2
   }
  }
 },
 "candidate_aggregate": {
  "n_queries": 38,
  "n_scored": 35,
  "hit@5": 0.6857142857142857,
  "recall@5": 0.5213459159887731,
  "recall@10": 0.6027048348476919,
  "precision@5": 0.18285714285714294,
  "mrr@10": 0.4608730158730158,
  "nonsense_clean": "2/3",
  "superseded_outranks": "2/3",
  "latency_ms_p50": 1227.1,
  "latency_ms_p95": 1692.6,
  "latency_ms_max": 1710.4,
  "errors": 0,
  "by_category": {
   "associative": {
    "n": 6,
    "hit@5": 0.6666666666666666,
    "recall@5": 0.07342657342657344,
    "recall@10": 0.24825174825174823,
    "mrr@10": 0.20833333333333334
   },
   "exact_rare": {
    "n": 6,
    "hit@5": 1.0,
    "recall@5": 1.0,
    "recall@10": 1.0,
    "mrr@10": 1.0
   },
   "nonsense": {
    "n": 3,
    "clean": 2,
    "avg_false_positives": 3.3333333333333335
   },
   "paraphrase": {
    "n": 13,
    "hit@5": 0.6153846153846154,
    "recall@5": 0.6153846153846154,
    "recall@10": 0.6153846153846154,
    "mrr@10": 0.2846153846153846
   },
   "phrase": {
    "n": 7,
    "hit@5": 0.7142857142857143,
    "recall@5": 0.40093537414965985,
    "recall@10": 0.5150226757369615,
    "mrr@10": 0.6507936507936508
   },
   "superseded": {
    "n": 3,
    "hit@5": 0.3333333333333333,
    "recall@5": 0.3333333333333333,
    "recall@10": 0.6666666666666666,
    "mrr@10": 0.20833333333333334,
    "outranks": 2
   }
  }
 },
 "repeat_variance": {
  "baseline": {
   "runs": 2,
   "hit@5_min": 0.5142857142857142,
   "hit@5_max": 0.5142857142857142,
   "spread_queries": 0
  },
  "candidate": {
   "runs": 2,
   "hit@5_min": 0.6857142857142857,
   "hit@5_max": 0.6857142857142857,
   "spread_queries": 0
  }
 }
}