Grazie all’intelligenza artificiale generativa (e quindi a ChatGPT) si possono migliorare attività che siamo già in grado di realizzare oggi, ma se ne possono fare anche di nuove e all’orizzonte si intravedono applicazioni persino difficili da immaginare.
Quando, a novembre scorso, ChatGPT è stato messo a disposizione degli utenti del web, si è generato un notevole hype sul tema, ma anche confusione e dubbi. Le aziende che vogliono trarre vantaggio dalle soluzioni di Generative AI hanno bisogno di affidarsi a tecnologie sicure, oltre che performanti. A riguardo, Mattia De Rosa, Data and AI Director di Microsoft afferma: “Integriamo la nostra piattaforma Azure con diversi Large Language Model, che garantiscono alle aziende infrastrutture cloud Microsoft distribuite sul territorio. Con il modello di sottoscrizione, consentiamo a ogni azienda di decidere dove tenere i propri dati e di gestirli in conformità alle policy europee di Azure”.
Il servizio Azure OpenAI offre quindi ai clienti l’intelligenza artificiale avanzata dei modelli OpenAI GPT-4, GPT-3, Codex e DALL-E e la sicurezza di Azure. “Abbiamo poi aggiunto meccanismi di Ethical AI, in modo che questi engine non vengano sollecitati con contenuti offensivi o inappropriati”, specifica De Rosa.
Appare chiaro come l’intelligenza artificiale generativa avrà un impatto in tutti i settori: “Lavoriamo in quest’ambito da tempo e abbiamo già diversi casi di uso che dimostrano i vantaggi e le opportunità dell’IA Generativa, soprattutto nel settore dei financial services”, dice Roberto Chinelli, Data & AI Solution Area Lead di Avanade.
Ma prima di approfondire le applicazioni possibili dell’intelligenza artificiale generativa e di ChatGPT in banche e assicurazioni, è utile capire come siamo arrivati a questo punto e quali sono le caratteristiche di tale nuovo strumento tecnologico.
ChatGPT e Azure OpenAI, come siamo arrivati a questo punto
Microsoft ha cominciato a investire in quest’ambito già nel 2019 e progressivamente sta integrando le soluzioni di intelligenza artificiale generativa nelle sue piattaforme, a partire da Azure, la sua proposta di cloud pubblico per le organizzazioni. Recentemente, l’azienda ha inoltre lanciato Microsoft 365 Copilot e Bing Chat.
“La musica è cambiata” è l’immagine usata da Mattia De Rosa per rappresentare la rivoluzione portata da ChatGPT: un modo diverso di fare le cose.
“Quando abbiamo cominciato non è stato facile. Gli investimenti sono serviti a creare le infrastrutture tecnologiche necessarie per il training dei nuovi Large Language Model: nel caso di ChatGPT parliamo di 175 miliardi di parametri”, ricorda De Rosa. “Per farlo è stato costruito un super computer dedicato, poi abbiamo lavorato all’integrazione della tecnologia nelle nostre piattaforme, per metterla a disposizione delle organizzazioni”.
Le potenzialità dell’intelligenza artificiale generativa nei financial service
Immaginiamo la telefonata di un cliente al call center di una compagnia di assicurazione dopo un incidente. “Al modello chiediamo di estrarre delle informazioni – dal motivo della chiamata, alla causa dell’incidente – e poniamo queste domande in inglese, nonostante la telefonata sia in italiano. Il modello risponde in inglese, come vorremmo, e fornisce tutti i dettagli di cui abbiamo bisogno a una velocità sconvolgente”, racconta De Rosa.
Questo caso mostra solo alcune delle capacità di gestione di conversazioni in linguaggio naturale ed estrazione di informazioni. Un altro caso interessante riguarda anche le notevoli capacità inferenziali di ChatGPT che, a partire da un NDA in cui viene indicata la durata dell’accordo in mesi, è in grado di indicare la data di scadenza del contratto.
I modelli a oggi integrati in Azure OpenAI hanno quattro indirizzi fondamentali: generazione di contenuti, capacità di sintesi, generazione di codici, ricerca semantica. “Ma esistono ulteriori modelli di intelligenza artificiale, pensati per altri contesti”, osserva De Rosa. “L’ultimo che abbiamo annunciato si chiama Project Florence-VL, un modello multimodale che supporta allo stesso tempo linguaggio e capacità di visione e che consente di svolgere numerose attività, come descrivere ed etichettare il contenuto visivo di un video o in un’immagine, aumentando enormemente la produttività delle persone”.
Caso d’uso 1: la classificazione dei commenti per gli NPS
Il Net Promoter Score, o NPS, è una metrica basata su ricerche che serve a definire quanto un cliente sia ambasciatore di un brand e qual è la sua percezione dell’azienda e dei servizi offerti. È molto usata in ambito finanziario, ma non solo.
“Noi lavoriamo da anni all’applicazione dell’intelligenza artificiale generativa per rispondere alla domanda: come possiamo migliorare i servizi esistenti? Abbiamo realizzato una piattaforma ‘Voice of customer’ che risolve, grazie ad Azure OpenAI, una criticità nella definizione del NPS: l’analisi del testo per la classificazione dei verbatim, in cui l’utente può indicare liberamente la propria opinione”, racconta Chinelli.
Nelle aziende le reazioni dei clienti arrivano ormai da diverse fonti – dai call center ai chatbot, dai form distribuiti su svariati canali ai social – e quindi con diversi linguaggi. “Di solito vengono istruiti modelli linguistici differenti, che devono però essere continuamente aggiornati perché i linguaggi cambiano, così come i servizi”, spiega Chinelli “Con un significativo costo per istruire i modelli nel tempo ed evitare divergenze nella classificazione”.
Che cosa si può fare con ChatGPT? “Abbiamo chiesto a Azure OpenAI di fare prima la classificazione e poi una comparazione rispetto ai modelli esistenti”. Risultato? “Analizzando centinaia di post, abbiamo visto che il modello in Azure OpenAI è particolarmente efficace nel comprendere e classificare i messaggi dei clienti e ci aiuta anche a rinforzare la formazione dei modelli preesistenti, soprattutto quando è necessario trattare un alto volume di informazioni”.
Il risultato è il miglioramento delle performance, ma anche la riduzione del costo di esercizio della soluzione.
Caso d’uso 2: agenti virtuali che rispondono a dipendenti e clienti
Come detto, oltre a ottimizzare servizi già esistenti, Azure OpenAI va oltre. L’intelligenza artificiale generativa, con la sua capacità di creare contenuti, consente anche di aggiungere funzionalità prima non realizzabili, perché troppo complesse o costose, in servizi esistenti. Per esempio, la creazione di agenti virtuali che rispondono a domande sia di dipendenti sia di clienti.
“Questa è una soluzione che in Avanade abbiamo sviluppato per un’azienda finanziaria con l’obiettivo di avere risposte coerenti e attuali, quando la risposta è possibile. Il problema è che le procedure interne o i servizi possono cambiare nel corso del tempo ed è necessario, quindi, fare riferimento a una knowledge base sempre aggiornata a cui il sistema di chatbot deve essere allineato”.
Per una soluzione come questa ci sono diverse sfide da affrontare: il chatbot deve comprendere la domanda nel suo contesto; non deve rispondere se non è necessario (a volte meglio dire non lo so piuttosto che dire non ho capito o dare risposte sbagliate); deve trovare la risposta giusta basandosi sul contesto; deve dare risposte allineate alla knowledge base; deve essere in grado di fare una sintesi della risposta, perché è inutile dare all’operatore di un call center, ad esempio, il link a un documento di decine di pagine.
“Nella piattaforma Avanade realizzata con Azure OpenAI abbiamo potuto verificare che il modello GPT funziona”, spiega Chinelli.
“Riesce a disambiguare bene la domanda senza che sia necessario impostare regole; risponde ma con la possibilità di filtrare solo le risposte pertinenti; comprende bene il contesto della domanda; contestualizza la ricerca; si mantiene allineato con la knowledge base aziendale e performa in modo eccellente nella sintesi di documenti corposi”.
Caso d’uso 3: i dati sintetici per la gestione degli intenti
I modelli di intelligenza artificiale generativa aprono nuove frontiere per la gestione delle informazioni nel mondo dei servizi finanziari. La costruzione di dati sintetici, cioè creati da zero, infatti è una delle principali prospettive di sviluppo per banche e assicurazioni che hanno già in casa una grande quantità di informazioni che, processate da Azure OpenAI, possono creare nuovo valore.
“Un esempio è l’istruzione dei chatbot per la gestione degli intenti”, racconta ancora Chinelli. “È un’attività impegnativa e costosa, perché bisogna estrarre gli intenti dalle conversazioni registrate e poi istruire i modelli su come rispondere. Inoltre, è un lavoro che ha una durata limitata, perché le cose cambiano, le richieste, i toni, i linguaggi del cliente non sono sempre uguali nel tempo e, quindi, è necessario un aggiornamento continuo”.
Qual è la soluzione con Azure OpenAI? “Oggi è possibile avere all’interno di una piattaforma una soluzione di active learning, un OpenAI integrato che, con la sua capacità generativa, spiega al chatbot come comportarsi.
Come fa? Genera conversazioni sintetiche con le possibili alternative per rispondere a un intento. Il vantaggio è evidente: ridurre gli oneri di aggiornamento del chatbot con un’intelligenza artificiale generativa”.
“Sono tanti i progetti che stiamo realizzando con i nostri clienti in ambito di Generative AI. Con Microsoft, abbiamo stabilito un processo standard e di rapida implementazione che prevede: una presentazione iniziale delle opzioni, grazie all’accesso a nostre diverse Demo di casi d’uso reali; una valutazione completa a livello aziendale delle possibili applicazioni rilevanti per l’organizzazione; e un workshop dedicato”, conferma Chinelli.
Mattia De Rosa, Data and AI Director di Microsoft, e Roberto Chinelli, Data and AI Solution Area Lead di Avanade sono intervenuti durante il webinar “ChatGPT e Azure OpenAI, le applicazioni per potenziare il business di banche e assicurazioni”.
Microsoft rende possibile l’accesso di prova ai servizi di Azure OpenAI mediante la sottoscrizione di un form.
