L’informatico non è morto: ecco chi costruirà l’intelligenza artificiale insieme a lui
di Achille De Tommaso
La programmazione cambia, mentre matematica, linguistica, psicologia e scienze cognitive aprono nuove prospettive per chi costruisce le macchine e per chi studia le persone. L’esperienza olivettiana ha ancora qualcosa da insegnarci.
Chi proviene dall’Olivetti conosce il valore dell’incontro fra tecnologia e comprensione delle persone. A Ivrea ne furono protagonisti anche scrittori come Ottiero Ottieri e Paolo Volponi, mentre la psicologia del lavoro e la sociologia contribuirono a ripensare mansioni e organizzazione. Per trasformare una fabbrica bisognava capire come le persone lavoravano e che cosa sarebbe cambiato nella loro vita con l’arrivo di nuove macchine.
Mi piace riconoscere una traccia di quella cultura nella stessa esistenza dell’associazione Nel Futuro, oggi Le Voci di Nel Futuro, nata nel 2013 per iniziativa di Pietro Bordoli e Gianni Di Quattro, entrambi ex dirigenti Olivetti. Lo dico senza piaggeria verso l’editore: in questo luogo di confronto fra tecnologia, cultura e attualità ritrovo una familiarità che riguarda anche le domande condivise fra persone con storie e interessi differenti. Le tecnologie cambiano, ma resta il bisogno di interrogarsi sulle condizioni di chi le costruisce e sulle conseguenze per chi le utilizza.
Da questa esperienza possiamo ripartire, ora che l’intelligenza artificiale mette in discussione il mestiere di chi programma. Ha ancora senso studiare informatica, se una macchina può scrivere un programma? E quale futuro attende chi ha dedicato anni a imparare linguaggi e algoritmi, quando basta descrivere ciò che si vuole per ottenere una porzione di codice?
***
Liquidare questa preoccupazione con una rassicurazione sarebbe poco serio, soprattutto nei confronti di chi deve ancora scegliere la propria strada. Che un’innovazione crei opportunità non significa che le crei per le stesse persone alle quali sottrae lavoro, né che lo faccia nello stesso momento. Alcune attività potranno richiedere meno addetti, altre perdere valore, altre ancora diventare accessibili a chi prima non aveva gli strumenti per svolgerle. Il cambiamento merita di essere guardato senza compiacimento, anche quando ci entusiasma ciò che la tecnologia permette di fare.
Per ragionarne dobbiamo chiarire un equivoco: l’informatica comprende molto più della scrittura del codice. Chi ha costruito un sistema sa quante decisioni precedano la prima istruzione, e quanti problemi restino dopo il suo avvio. Bisogna tradurre richieste spesso vaghe in requisiti verificabili, organizzare il sistema e collegarlo a ciò che esiste già; poi arrivano i dati incompleti, gli accessi da proteggere, gli aggiornamenti e i guasti. Talvolta il problema era stato descritto male fin dall’inizio: il programma esegue le istruzioni, ma risponde a una necessità diversa da quella reale. La velocità con cui si produce il codice non risolve questa difficoltà.
L’IA può aiutarci anche in questi passaggi e le sue capacità vanno considerate senza difese di categoria. Delegare richiede però di saper giudicare ciò che viene restituito: una soluzione plausibile potrebbe trascurare vincoli importanti o produrre conseguenze che emergeranno soltanto nell’uso. La facilità della risposta può nascondere la difficoltà della domanda, soprattutto a chi non possiede le conoscenze necessarie per riconoscere un errore.
Con l’apprendimento automatico, una parte del comportamento della macchina viene acquisita attraverso gli esempi durante l’addestramento. Nei modelli linguistici questo processo modifica parametri numerici dai quali dipende la generazione delle risposte. Il codice resta indispensabile, ma leggerlo non permette di anticipare tutto ciò che il modello potrà dire. Occorre metterlo alla prova con casi rappresentativi e cercare quelli che potrebbero farlo sbagliare: una risposta corretta non dimostra che sappia affrontare le varianti della stessa domanda. La valutazione richiede quindi competenze che l’informatica condivide con altre discipline, presenti da decenni nella ricerca sull’IA.
La matematica fornisce gli strumenti per descrivere i modelli e i procedimenti con cui vengono addestrati, mentre la statistica aiuta a capire quali conclusioni possiamo ricavare dai risultati. Se una prova ha avuto successo, quanto conta la scelta degli esempi? L’esito sarebbe lo stesso con dati differenti? Chi sa costruire un esperimento e interpretarne i limiti può evitare che una dimostrazione convincente venga scambiata per una garanzia di funzionamento. Sono competenze che si possono sviluppare attraverso percorsi diversi e che richiedono una preparazione specifica.
La linguistica affronta difficoltà che chiunque usi una lingua conosce, anche senza pensarci. Quando domandiamo «puoi aprire la finestra?», di solito non vogliamo sapere se l’interlocutore ne sia capace: gli stiamo chiedendo di farlo. Il significato dipende dalla situazione, dalle intenzioni di chi parla e da ciò che le persone danno per scontato. Per un sistema destinato a dialogare con gli utenti, queste differenze hanno conseguenze pratiche. Un linguista può aiutare a preparare e selezionare i dati, riconoscere le ambiguità e valutare le risposte, soprattutto quando si passa da una lingua all’altra o fra contesti culturali diversi.
La psicologia porta l’attenzione anche su chi sta dall’altra parte dello schermo. Un assistente cortese, che risponde senza esitazioni, può ispirare più fiducia di quanta ne giustifichino le sue prestazioni. E un’interfaccia può rendere comodissimo accettare un consiglio, lasciando invece all’utente tutta la fatica di controllarlo. Studiare il comportamento delle persone aiuta a capire quando verificano una risposta, quali limiti dello strumento abbiano compreso e quanto il modo di presentare un’informazione ne influenzi le scelte. Da queste osservazioni possono nascere modifiche al servizio, alle spiegazioni e alle modalità con cui chiediamo una conferma prima di procedere.
Anche le scienze cognitive, che studiano processi come memoria, attenzione e ragionamento, offrono metodi per esaminare le capacità attribuite ai sistemi. Se un modello risolve un esercizio, possiamo cambiare la formulazione o aggiungere un’informazione irrilevante e vedere che cosa succede. Continua a risolverlo oppure si lascia sviare? La prova ci dice qualcosa sulla tenuta della prestazione, senza autorizzarci a concludere che la macchina ragioni come una persona. La collaborazione diventa utile proprio quando ciascuna disciplina porta domande che gli altri non avrebbero formulato nello stesso modo.
Pensiamo a un assistente che spieghi ai cittadini come accedere a un servizio comunale. Costruirlo richiede di scegliere e aggiornare i documenti, proteggere i dati e ricostruire la provenienza delle informazioni. Il sistema deve distinguere un requisito obbligatorio da un consiglio e indirizzare i casi dubbi verso un operatore, evitando di colmare le lacune con una risposta inventata. Bisogna inoltre verificare se una persona che conosca poco l’italiano, o affronta una situazione di disagio, riesca a capire le istruzioni. A queste domande si risponde lavorando con gli utenti e osservando direttamente le difficoltà che incontrano. L’informatico costruisce e integra il sistema, chi conosce le procedure ne controlla i contenuti, mentre le competenze linguistiche e psicologiche aiutano a capire se raggiunga davvero i destinatari.
Lo stesso vale per il contributo di giuristi, sociologi, filosofi ed esperti dei settori nei quali l’IA viene impiegata. Responsabilità e discriminazione diventano problemi di progettazione quando dobbiamo decidere quali dati raccogliere, chi possa contestare un esito e a chi spetti intervenire in caso di errore. Un medico, un biologo o un commercialista possono inoltre riconoscere inesattezze che sfuggono a chi conosce il funzionamento del modello ma non la materia sulla quale viene interrogato. Nessuno, da solo, vede necessariamente tutto ciò che serve vedere.
Questo non significa che basti una laurea, accompagnata dalla sigla «IA», per trovare una nuova occupazione. Conoscere le lingue non equivale a saper valutare un modello linguistico, così come studiare psicologia non autorizza ad attribuire alla macchina emozioni, intenzioni o coscienza. Servono metodi che si possano applicare, e risultati dei quali sia possibile discutere: un errore individuato, una prova attendibile, una modifica che renda il sistema più utile a chi lo adopera.
Anche un programma che si avvia senza errori può contenere vulnerabilità, produrre risultati sbagliati o diventare inutilizzabile quando aumentano gli utenti. Qualcuno deve esaminarlo, verificarne le interazioni e capire se sarà possibile aggiornarlo senza compromettere il servizio. Questi compiti non garantiscono che il numero degli occupati resti invariato, ma spiegano perché il valore dell’informatico non si esaurisca nelle righe di codice scritte a mano.
Collaborare richiederà la disponibilità a imparare qualcosa del lavoro altrui. Chi proviene dagli studi umanistici dovrà conoscere almeno i principi e i limiti dei sistemi; agli informatici servirà comprendere meglio comportamenti ed esigenze delle persone. Non occorre diventare tutti esperti di tutto, ma capirsi abbastanza da riconoscere un problema e discuterlo senza equivoci.
Rimane una questione che mi sembra particolarmente importante: come formeremo gli informatici di domani, se automatizziamo le attività attraverso le quali oggi imparano il mestiere? Scrivere un programma semplice, cercare un errore e modificare il lavoro di un collega, sono attività che richiedono tempo, ma è anche così che si costruisce la capacità di giudizio informatico. Se deleghiamo questi passaggi senza ripensare la formazione, rischiamo di chiedere ai giovani competenze che si acquisiscono proprio attraverso le attività che abbiamo affidato alle macchine. Dovremo trovare modi per far usare gli assistenti IA, conservando occasioni nelle quali sia necessario capire che cosa è stato fatto, spiegarlo e correggerlo.
A chi ha conosciuto la cultura olivettiana, queste domande possono ricordare una preoccupazione familiare. Sarebbe arbitrario attribuire all’esperienza di Ivrea una previsione dell’IA, ma resta il precedente di un’impresa nella quale comprendere le persone contribuiva a governare il cambiamento tecnologico. È un’esperienza alla quale possiamo tornare per ragionare sulla formazione e sulla trasformazione del lavoro.
L’informatico ha dunque ancora molto da fare, anche se nessun titolo può promettere l’immortalità di ogni mansione. Alcuni ruoli potranno ridursi e altri cambieranno; continueremo però ad avere bisogno di persone capaci di capire quale problema risolvere e se la soluzione funzioni nelle condizioni d’uso. Con loro lavorerà chi studia il linguaggio, la mente, i numeri e la società, ciascuno con una competenza da mettere alla prova. Prima di affidare alla macchina un servizio dal quale dipendono altre persone, dobbiamo sapere che cosa le abbiamo chiesto e avere buone ragioni per fidarci di ciò che ha fatto.


Lascia un commento