Estate vivace nella galassia digitale. C’è chi si interroga sui riconoscimenti facciali e, al di là del rispetto dei diritti e delle libertà dei singoli cittadini, si chiede se sapendo che siamo ripresi sempre e ovunque, inizieremo tutti a recitare, invece di vivere. Amplificando quel che già accade con i post e le storie sui social. C’è chi si interroga sul come scoprire quando gli studenti hanno affidato all’intelligenza artificiale le solite schede sui libri da leggere durante le vacanze. Facile se a farlo è ChatGpt, ma se invece viene usato Claude, il genietto, come si fa a sgamarlo?
Intanto ci si chiede quando l’Italia farà come la Francia e finalmente proibirà i social ai ragazzini, pur sapendo che chi l’ha già fatto, come l’Australia, si è accorto che non funziona, non basta e soprattutto non serve. Là dove hanno già provato a imporre divieti si è giunti alla conclusione che più che proibire i social bisognerebbe progettarli e programmarli in modo più sicuro. Ma questo significherebbe dimezzare i guadagni di Meta, TikTok e company…
Dai primi di agosto sono entrate in vigore un paio di normative che dovrebbero cambiare l’andazzo. Sono tutte conseguenze dell’AI Act dell’Unione europea, il primo provvedimento organico al mondo sul tema, che fra le altre cose, prevede una bella stretta su Deepfake e Chatbot, cioè sui video falsi e produzioni sintetiche di contenuti. Quando si usa l’intelligenza artificiale lo si deve dichiarare, in evidenza. Servirà? Basterà? Chi lo dice a Trump (e a Vannacci)?
Ma la vera questione di fondo riguarda le reti neuronali che stanno alla base dell’evoluzione dell’intelligenza artificiale, e la loro capacità di sfuggire ai controlli. Anthropic, la company che vorrebbe essere il volto buono dell’IA, ha avvertito tutti che alcuni suoi chatbot, che stava allenando, sono riusciti a sfuggire ai controlli ed hanno hackerato computer di tre diverse organizzazioni, facendo dispetti ai loro simili. La vicenda è di quelle che segnano una svolta.
È accaduto mentre si stavano svolgendo test che mettevano a prova la sicurezza dei sistemi, un modo per verificare quanto siano vulnerabili le stesse intelligenze artificiali. Doveva avvenire in ambiente chiuso, ma un errore di configurazione, o una criticità d’un partner esterno, hanno permesso all’IA di Anthropic di accedere alla Rete e di navigare nel web. Ed è stato così che sono entrati nei server di tre organizzazioni, combinando guai. Nelle scorse settimane qualcosa di simile era successo anche a OpenAI. Significa che l’intelligenza artificiale è in grado di sfuggire ai controlli e disubbidire ai suoi programmatori?
No, perché nel caso di OpenAI non era stato espressamente vietato ai modelli di accedere alla Rete. E nel caso di Anthropic la sfida pare fosse proprio nel cercare di forzare l’ambiente chiuso. Ma i chatbot hanno sorpreso i programmatori, andando oltre ed entrando nella Rete. Stiamo costruendo macchine che non sono più pappagalli a ripetizione statistica – come scrive Nello Cristianini invitandoci a scoprire una nuova «Forma mentis» –. È la forza del Deep learning, macchine che tessono reti neurali a molti strati interni. Cervelli che imitano il nostro.
Vediamo i risultati del loro lavoro ma non siamo in grado di spiegarne tutti i meccanismi. Finché ce ne accorgiamo, va tutto bene. Ma poi? Forse hanno ragione i mille dipendenti dei laboratori IA che hanno scritto una lettera al Governo Usa per chiedere di rallentare il ritmo dello sviluppo e garantire test più sicuri. Anthropic intanto ha invitato gli altri laboratori a condividere le proprie scoperte quando «i modelli si comportano in modo inaspettato». Vedremo.
L’IA annuncia sorprese anche sul versante finanziario. E forse è quello che maggiormente conterà. Si parla di «financial intelligence», raccolta e analisi di dati riservati e strategici. Una innovazione di Copilot di Microsoft – SyrtoAI, il nome è inglese ma il progetto è milanese – permette di acquisire ed elaborare dati su milioni di imprese, dagli assetti proprietari alle governance, dai bilanci ai segnali predittivi. E dare risposte, su questioni solitamente nascoste, in pochi secondi.
Chissà se attraverso questa piattaforma si potrà comprendere come mai, sulle montagne russe degli investimenti, si registra una frenata. Lo dicono i dati della Banca dei regolamenti internazionali. È pur vero che le otto maggiori company tecnologiche capitalizzano 24 trilioni di dollari, ma ora pare che gli investitori abbiano alzato le antenne perché i profitti non giustificano la massa di investimenti miliardari. Almeno per ora. Ma la finanza, come l’IA, tende a sfuggire ai controlli.
