%^j4 SrSSKrSSKrSSKJrJrJrJr SSKJ r J r SSK J r SSK Jr \R"\5r SrS rS rS r"S S 5r\"5rS\S\S\\\\44SjrSS\4SjjrSrg)u Router für LLM-Enrichment — ausschließlich OpenAI. 3-Level Routing: gpt-5-nano → gpt-5-mini → gpt-5.2 Kein Anthropic. Kein externer Fallback. N)DictAnyOptionalTuple)validateget_estimated_fields)enrichment_logger)OpenAIProvider2g333333?g?gffffff?c \rSrSrSrSrS\S\\4Sjr S\ 4Sjr S\ 4Sjr S rSS \ S \S \\S\\\\44SjjrSS\4SjjrS\4SjrSrg )EnrichmentRouteru5 Router mit 3 OpenAI-Leveln und 4-Phasen Cost Guard. HARTE REGELN: 1. Immer mit Level 1 (günstig) starten 2. Jeder Provider genau 1 Versuch 3. Validierungsfehler → Eskalation (außer bei Throttle) 4. Alle Level fail → None (kein save) 5. Cost Guard: 4 Phasen (normal → warning → throttled → stop) cSSSS.SSSS.SSSS./UlSUlSUlSUlSUl[ 5Ul[RS 5 g) NrOPENAI_MODEL_LOW)level model_envproviderOPENAI_MODEL_MIDOPENAI_MODEL_HIGHruEEnrichmentRouter (OpenAI-only) initialized: nano → mini → gpt-5.2) levelsconsecutive_failsmax_consecutive_fails total_counterlevel3_countersetdownprioritizedloggerinfoselfs /app/llm/router.py__init__EnrichmentRouter.__init__&si&8t L&8t L&9t L  "#%&"  #u [\ level_configreturnc`USco[R"US5nU(d[RSUSS35 g[ U5US'[R SUSSU35 US$US$![ a(n[RSUSS U35 SnAgSnAff=f) zLazy-load OpenAI Provider.rNrzEnv var z nicht gesetztz Provider Lrz geladen: z Fehler: )osgetenvr errorr debug Exception)r#r(modeles r$ _get_providerEnrichmentRouter._get_provider:s  # +IIl;78E x [(A'B.QR +9%+@ Z( z,w*?)@ 5'RSJ''|J''  z,w*?)@ !MN s,A;; B-B((B-cVURS:XagURUR- $)z#Berechnet aktuellen Level-3 Anteil.rg)rrr"s r$_get_level3_ratio"EnrichmentRouter._get_level3_ratioIs*    """T%7%777r'cUR[:agUR5nU[:agU[:agU[ :agg)zf Bestimmt den aktuellen Cost-Guard-Zustand. Returns: 'normal' | 'warning' | 'throttled' | 'stop' normalstop throttledwarning)r MIN_SAMPLEr5STOP_THRESHOLDTHROTTLE_THRESHOLDWARN_THRESHOLDr#ratios r$_get_cost_guard_state&EnrichmentRouter._get_cost_guard_stateOsH    *&&( > ! % % > !r'c UR5nUR5nUS:XagUS:XaC[RSURSUR SUS-SS [ S-S S 3 5 gUS :Xa)[RS US-SS[S-S S35 gUS:Xa[SUS-SS[S-S S35eg)u 4-Phasen Cost Guard nach Dottores Spezifikation. Phase 1 (< MIN_SAMPLE): Kein Eingriff, nur Logging Phase 2 (> WARN): Warnung, kein Eingriff Phase 3 (> THROTTLE): Level 3 eingeschränkt (→ nur kritische Fehler) Phase 4 (> STOP): Hard Stop, raise Exception r8Nr;zLEVEL3_HIGH_USAGE: / (d.1fu%) — Warnschwelle .0fu % überschritten. Kein Eingriff.r:z%COST_GUARD_THROTTLED: Level-3 Anteil z% > z+%. Level 3 nur noch bei kritischen Fehlern.r9z COST_GUARD_STOP: Level-3 Anteil z%. Prozess gestoppt.) rBr5r r;rrr?r>r/r=)r#staterAs r$_check_cost_guard"EnrichmentRouter._check_cost_guardcs**,&&( H   I  NN%d&9&9%:!D@  r'Nprompt contact_id max_budgetcFUc [[R"SS55nSn0nURUR:a'[ R SUSURS35 gUR5 U=RS - sl UR5nSnURGHn U S n XC:a?[ RSUS US USU S - S3 5 [R"UUUUSS9 gU S:XaUS:Xa}U(a0UR!S5(a[ R#SUS35 OFU(a SU;a[ R#SUS35 O[ R#SUSUS35 GOMUR%U 5n U cMU R&n XR(;a$U S:a[ R+SUSU 35 GM+U R-U5n [/U SS5nXN- nXSU 3'U S:XaU=R0S - sl[3U 5unn[5U 5nU(aSOUn[R6"UU U UUUUS9 U(aJSUl[R"UUUUSS9 [ R#SUSU S U S!US US"3 5 SU 4s $[ R+SUS#U S$US%35 GM! U=RS - sl[R"UUUUSS9 [ R SUS*URS UR35 URUR:a#[ RS+URS,35 g![a%n[ RSUS U35 SnAgSnAff=f![awn[/U SS5nXN- nXSU 3'S&[9U5SS'3n[R6"UU U SSU[9U5S(9 [ RSUS)U S$US%35 SnAGMnSnAff=f)-u Führt Enrichment durch: Level 1 → 2 → 3. Args: max_budget: Token-Budget pro Kontakt (Override für .env MAX_TOKENS_PER_CONTACT) Returns: (True, data) bei Erfolg (False, None) wenn alle Level scheitern oder Budget überschritten NMAX_TOKENS_PER_CONTACT25000r[z] PROCESS_STOPPED: u konsekutive Totalausfälle)FNu] Cost Guard ausgelöst: rrz] BUDGET_EXCEEDED: rEz Tokens nach Lu → needs_manualT)rN budget_usedrOtokens_per_levelexceededrr:MISSING_CRITICALu3] Throttled aber CRITICAL fehlt → Level 3 erlaubt API_ERRORu/] Throttled aber API-Fehler → Level 3 erlaubtu*] THROTTLE: Level 3 übersprungen (Grund: )z] Skip downpriorisiert: tokens_usedL)rN model_usedrsuccessvalidation_resultrZestimated_fieldsFz] SUCCESS mit z (Lz ) | Budget: z Tokensz!] Validierung fehlgeschlagen auf : u → Eskalationz API_ERROR: r )rNr\rr]r^rZ error_msgz] API-Fehler auf z)] ALLE LEVEL FEHLGESCHLAGEN. Konsekutiv: zProzess wird gestoppt nach u konsekutiven Totalausfällen.)intr+r,rrr r-rKr/criticalrrBrr;r log_contact_budget startswithr!r2r0rr.extractgetattrrrr log_attemptstr)r#rMrNrOrTrUr1cost_guard_statelast_fail_reasonr( level_numr model_namedatatokensvalidreason estimateds r$run_enrichmentEnrichmentRouter.run_enrichments  RYY'?IJJ   ! !T%?%? ? LLJ<2--..IK    " " $ a557  KKL$W-I( |#6{m1ZLQ&]O+<>"44) +)%5! #A~"2k"A#(8(C(CDV(W(WKKJ<'Z[&+9I*IKKJ<'VWKKJ<(##3"4A7)),7H!J111i!m q ,DZLQRA ''/ =!<% 4:1YK1>''1,'!) v06 +04f "--))#!&, &%.-.D*%88#-$/#-)9!& KKJ<~j\YKP##.-q GE :%  |#DZLPRho/u(d !#,,!#!-     |112!D4N4N3O Q  ! !T%?%? ? OO-d.H.H-IJ01  _  OOa |+DQCH I R  =!<% 4:1YK1%0Q #> !--))#!&1 &!!f |#4ZL1#_U s8*M-CN,N- N7NN P )A+PP  thresholdc 2[RR5Huup#USU:dMUSUS- nUS:dM#X R;dM4URR U5 [ R SUSUS-SSUSS 35 Mw g ) u Nach N Requests: Modelle mit <70% Erfolg downpriorisieren. Bleibt als Fallback aktiv — wird nur nicht mehr als Level 1 genutzt. attempts successesgffffff?zModel r`rGrHz % < 70% nach u Requests → downpriorisiertN)r statsitemsraddr r;)r#rur0ryrates r$check_model_performance(EnrichmentRouter.check_model_performance6s .3399;LEZ I-[)E*,==$;50D0D#D((,,U3NN r$s(3} ,--JL r=)ryrJ state_iconss r$rr^s1!!#    E $ %E! K   #E*=$>#?r BC #E*:$;#< => #E*;$<#=QuEU?V>WXN#C' ,B 01 #KOOE$A#B!EKKM?S'+C05G5KC4PPTUcdgUghkTlln pq #E*;$<#= >?r'r)rr+loggingtypingrrrr validatorrr r r openai_providerr getLoggerrr<r?r>r=rrrirbrrsrrrr'r$rs --5%+   8 $ u u r  535C5E$:N4O5..@r'