C’è una nuova figura che negli ultimi tempi si aggira nel lavoro di chi sviluppa software: il cliente con l’intelligenza artificiale.
Il copione è quasi sempre lo stesso. Il sito è online da settimane, funziona, fa ciò per cui è stato progettato. Poi, un mattino, arriva una mail con un lungo elenco puntato: “Ho chiesto all’AI di analizzare il sito e mi ha segnalato questi problemi”. Seguono quindici, venti voci, scritte con il tono sicuro di chi ha appena scoperto qualcosa di grave.
Peccato che, a ben vedere, gran parte di quelle “rilevazioni” sia generica, fuori contesto o semplicemente sbagliata.
Non potrebbe essere altrimenti. Lo strumento è quasi sempre una chat gratuita, interrogata con una domanda vaga del tipo “cosa c’è che non va in questo sito?”, senza alcuna informazione sul progetto. L’AI non conosce il server, non conosce gli obiettivi, non sa quali scelte siano state concordate e perché, non ha idea del budget.
Ma un modello linguistico, interrogato, risponde sempre. E se non ha elementi concreti produce una lista di buone pratiche valide per qualsiasi sito del pianeta, presentandole come difetti di quello specifico.
Ecco allora che una scelta grafica concordata diventa “un problema di usabilità”, un plugin necessario diventa “un rischio per le prestazioni”, un punteggio di velocità misurato chissà come diventa un’emergenza.
Trenta secondi per generarla, ore per smontarla
Il punto è che quella lista ha richiesto trenta secondi per essere generata, mentre per smontarla, voce per voce, servono ore. Bisogna verificare ogni punto, spiegare perché non è pertinente, tradurre in parole semplici concetti tecnici, e farlo con garbo, perché il cliente è convinto di aver eseguito un controllo di qualità.
Esiste perfino un principio che descrive bene questa asimmetria, la cosiddetta legge di Brandolini, formulata nel 2013 proprio da un programmatore italiano: per confutare un’informazione infondata serve molta più energia di quanta ne sia servita per produrla. E quel tempo, ovviamente, nessuno lo considera lavoro.
Cliente e intelligenza artificiale: il problema è il contesto
Il paradosso è che chi questi strumenti li conosce davvero sa bene che non lavorano da soli. L’AI dà il meglio quando è inserita in un progetto organico: quando conosce il contesto, ha obiettivi chiari e qualcuno ne segue e ne verifica il lavoro passo dopo passo.
Tolte queste condizioni, anche la risposta più convincente può rivelarsi fuori luogo o sbagliata. Non per un limite dello strumento, ma perché nessuno gli ha fornito gli elementi per fare meglio e nessuno è in grado di controllare ciò che restituisce.
In altre parole, il professionista usa l’AI come un collaboratore da tenere sotto controllo; il cliente usa l’intelligenza artificiale come un perito di parte, e pretende che sia il professionista a rispondere delle sue conclusioni.
Del resto il fenomeno non è nuovo, è solo più rapido. Prima c’era il nipote esperto di computer, poi il forum, poi il video su YouTube. Oggi c’è la chat, che ha il vantaggio di parlare con tono autorevole, di non dubitare mai e di essere sempre disponibile.
Il trend è sempre quello della presunta competenza trasversale e illimitata, con un’aggravante: adesso la presunzione ha una fonte da citare.
Il medico, il chatbot e il professionista
Nessuno andrebbe dal proprio medico con la diagnosi stampata da un chatbot, pretendendo che giustifichi punto per punto perché la cura prescritta è diversa. Eppure è esattamente ciò che accade ogni giorno nel settore digitale.
Non si tratta di demonizzare l’intelligenza artificiale, né il cliente che decide di utilizzarla. Un’AI ben configurata, con il contesto giusto e nelle mani di chi sa leggere ciò che restituisce, è un aiuto concreto. Una chat interrogata alla cieca da chi non ha le basi per valutarne le risposte produce soltanto rumore, e qualcuno poi deve occuparsi di spegnerlo.
Il danno, infatti, non è solo il tempo perso. Ogni ora spesa a confutare segnalazioni infondate è un’ora sottratta al progetto, e quindi al cliente stesso. E ogni elenco puntato preso per oro colato incrina la fiducia, che è il presupposto di qualsiasi collaborazione seria.
In sintesi, chi si affida a un professionista dovrebbe farlo per ascoltarne le valutazioni, non per sottoporgli quelle di un software che non conosce né il progetto né il contesto. Le domande sono sempre legittime, anzi auspicabili; le sentenze scritte da altri no.
Il copilota è prezioso, ma in cabina deve sempre esserci qualcuno che sappia pilotare. E di certo non il passeggero con il telefono in mano.
Marco Camisani Calzolari spiega come l'intelligenza artificiale amplifica l'effetto Dunning-Kruger: chi ha meno competenze tende a sopravvalutarsi e, con un chatbot a disposizione, la distanza tra ciò che si crede di sapere e ciò che si sa davvero aumenta ancora.