Model drift silenzioso nel Capo di Gabinetto IA: il rischio che non vedi arrivare

Quando un software si rompe, lo sai. Un crash, un errore 500, una riunione persa perché il calendario non si è sincronizzato: fastidioso, ma visibile e immediatamente diagnosticabile.

Il model drift non funziona così. Un Capo di Gabinetto IA che sta degradando continua a produrre riassunti sensati, priorità plausibili, raccomandazioni che sembrano ragionevoli. Passa i controlli formali. Nessun alert si accende. E proprio questo è il problema: la deriva crea un'illusione di affidabilità mentre l'output si allontana gradualmente da quello che serve davvero all'organizzazione.

Non è teoria astratta. È lo stesso meccanismo che nei sistemi di AI generica viene descritto come drift dei dati o dei concetti: le condizioni cambiano, il modello no, e la distanza tra ciò che il sistema produce e ciò che sarebbe corretto si allarga in silenzio.

Un modello che fa previsioni di vendita sbagliate produce un errore isolato, contenuto. Un Capo di Gabinetto IA opera su più domini insieme — triage dell'inbox, sintesi delle riunioni, priorità del giorno, follow-up su HubSpot o Pipedrive, promemoria su Linear — e ogni domino spostato influenza gli altri.

Se le sue sintesi cominciano a enfatizzare le email operative a scapito di quelle strategiche, tu non lo vedi come errore: lo vivi come una giornata normale in cui rispondi alle cose sbagliate prima. Se le sue priorità iniziano a pesare più i thread recenti e meno quelli importanti ma silenziosi da due settimane, il costo non è un fallimento isolato — è una lenta ridefinizione di cosa conta, decisa da un sistema che nessuno ha autorizzato a farlo.

C'è anche un effetto di retroazione che aggrava le cose: le decisioni che prendi basandoti sui suoi output modellano i dati e il contesto che il sistema incontra dopo. Se la deriva sposta le tue priorità, e le tue priorità modificano cosa il sistema osserva, il ciclo si autoalimenta senza che nessuno lo noti finché il danno non è già fatto.

Jenn Tejada, CEO di PagerDuty, ha messo il dito su un punto che vale esattamente per questo scenario: i sistemi agentici non falliscono sempre nel modo in cui ti aspetti che falliscano. Non c'è sempre un segnale rosso, un blocco, un errore evidente da correggere. A volte il sistema continua a operare dentro i binari formali mentre il suo comportamento reale si allontana da quello previsto.

Questo è precisamente il pattern del model drift applicato a un ruolo agentico e ad alto impatto come il Capo di Gabinetto IA. Il sistema non smette di funzionare — smette di funzionare bene, in modo così graduale che il confronto giorno-per-giorno non lo rivela. Lo rivela solo il confronto tra oggi e sei settimane fa.

È il motivo per cui i mandati operativi che trattano l'AI come un sistema "set and forget" — configurato una volta e lasciato andare — sono strutturalmente fragili. Ignorano che sia i dati in ingresso sia il contesto organizzativo cambiano continuamente, e un sistema che non viene ricalibrato si allontana dalla realtà mentre tu continui a fidarti dei suoi output.

La reazione istintiva di chi gestisce un Capo di Gabinetto IA è impostare soglie di escalation: se il sistema commette un errore grave, se manda un'email sbagliata, se salta un follow-up critico su Stripe o dimentica un rinnovo importante, scatta l'allarme e interviene un umano.

Questo approccio cattura gli errori. Non cattura la deriva. La deriva, per definizione, non produce un singolo evento sopra soglia — produce centinaia di micro-scostamenti sotto soglia che si accumulano. Le metriche di performance tradizionali sono indicatori in ritardo: rivelano il problema solo dopo che il degrado è già significativo, non mentre si forma.

Un audit periodico obbligatorio funziona in modo diverso. Non aspetta che qualcosa vada storto in modo visibile: confronta sistematicamente, a intervalli fissi, cosa il sistema sta effettivamente prioritizzando, sintetizzando e raccomandando oggi rispetto a un mese fa, rispetto al mandato originale. È l'unico meccanismo che intercetta lo scostamento cumulativo prima che si traduca in una decisione esecutiva sbagliata — un contratto rinnovato tardi, un cliente prioritario trattato come secondario, una riunione strategica compressa in tre righe generiche.

Nel lavoro quotidiano con founder e manager, il pattern che emerge è sempre lo stesso: chi delega bene non si fida ciecamente, ma nemmeno microgestisce ogni output. Fissa dei checkpoint. Rilegge, a intervalli regolari, un campione di sintesi prodotte dal sistema — email triagiate, priorità del giorno, note delle riunioni collegate a Notion o ai thread Slack — e le confronta con quello che avrebbe fatto lui.

Questo tipo di audit non deve essere quotidiano per essere efficace, ma deve essere obbligatorio e calendarizzato, non lasciato all'intuito di "qualcosa sembra strano". Perché l'intuito, per definizione, fatica a percepire una deriva lenta: è progettato per notare eccezioni brusche, non scostamenti graduali.

In Moments AI questo è uno dei motivi per cui il sistema resta ancorato a segnali osservabili e verificabili — email, calendario, CRM, thread — piuttosto che a inferenze sempre più astratte nel tempo. Ma nessun design tecnico sostituisce la disciplina di rivedere periodicamente cosa il sistema sta effettivamente decidendo per te. Il vero Capo di Gabinetto, umano o IA, non è quello che non sbaglia mai. È quello il cui allineamento con le tue priorità viene verificato, non presunto.