Dubitor
Quando una decisione presa con l’AI sta per diventare policy, la fa esaminare da persone esterne. Il giudizio è firmato e indica dove le ragioni cedono.
EntraRicerca
Un metodo, una traiettoria, degli strumenti. Le quattro fasi per mettere alla prova un numero o una decisione; il percorso che porta dalla verifica alla precauzione; gli strumenti che applicano il metodo a oggetti diversi.
Il percorso lungo cui la sovranità cognitiva si estende: dal numero confrontabile con il reale fino alle decisioni in cui l’errore ha conseguenze che non possiamo permetterci.
Qui una stima si può confrontare con il reale. Si verificano i numeri, si rende esplicita l’incertezza, si capisce quando una previsione merita fiducia.
La frequenza ordinaria non basta più. Si mette un sistema sotto stress per trovare il punto in cui le sue assunzioni cedono.
Il futuro non è ancora accaduto. Si esplorano centinaia di traiettorie possibili, per vedere quali conseguenze emergono e quali scenari non reggono.
Quando le conseguenze sono irreversibili, la probabilità del danno lascia aperta la questione decisiva: quale esposizione siamo disposti ad accettare. Qui la verifica diventa infrastruttura del principio di precauzione.
Quattro passaggi, sempre gli stessi, qualunque sia l’oggetto: un numero, una decisione, un piano. Il metodo sta prima degli strumenti: gli strumenti lo applicano a oggetti diversi.
01
Da dove viene, cosa deve essere vero?
Prima di giudicare un output lo si mette per iscritto: dati, versione, assunzioni.
02
Quanto ci ha preso finora, davvero?
La distanza tra promessa ed esito, misurata sui fatti già accaduti.
03
Dove smette di valere?
Il punto in cui il sistema cede e l’errore diventa irreversibile. Il confine conta più della probabilità.
04
Chi risponde se sbaglia?
Un nome sopra la decisione. Dopo la macchina, la responsabilità torna a una persona.
Nascono dalla stessa tesi: verificare ciò che una macchina produce prima che diventi decisione. Dubitor lavora sulle ragioni di una decisione; Vektor, Roundel e Probe su stime, punti di rottura e scenari d’azione.
Il metodo resta lo stesso; cambia l’oggetto della verifica. Questa è la corrispondenza diretta.
Quando una decisione presa con l’AI sta per diventare policy, la fa esaminare da persone esterne. Il giudizio è firmato e indica dove le ragioni cedono.
EntraUn beta privato e due linee di ricerca: stime di rischio, fragilità strutturale, scenari prima dell’azione.