L’AI può essere razzista? La nostra ambassador Guenda Sciancalepore parte dal fenomeno Chat GPT per riflettere sui bias e sulle implicazioni etiche della tecnologia che sta per rivoluzionare i nostri tempi.
Clicca nel player qui sotto per ascoltare l’intervista di Guenda Sciancalepore fatta dalla nostra Community Manager Michela Bertaina. Non perderla!
Trascrizione della DevX Interview con Guenda Sciancalepore
Ciao, Guenda, benvenuta. Grazie di essere con noi oggi; ti va di presentarti?
Mi chiamo Guenda Sciancalepore, sono sales engineer in Snowflake Italia. Prima ho lavorato per cinque anni in Microsoft Italia come Cloud Solution Architect sulla parte di Machine Learning e AI. Tra le mie passioni c’è ovviamente la tecnologia e direi che questo è più o meno tutto.
E sei Codemotion Ambassador.
E sono Codemotion Ambassador, assolutamente sì. Ho anche la felpa… Quindi molto felice!
Parliamo del tuo lavoro: quali linguaggi o framework stai attualmente utilizzando e come mai?
Allora, principalmente SQL, ma anche Python, che sono i due linguaggi con cui, diciamo, andiamo a interrogare i dati. Come framework particolari nessuno, come linguaggio di programmazione direi principalmente Python.
Secondo te, invece, che tecnologia avrà un grande impatto quest’anno?
Beh, direi Chat GPT. In realtà credo proprio tutto l’ambito AI. Qualche anno fa, quando si incominciava a parlare di intelligenza artificiale, era una competenza di pochi e dovevi conoscere molto bene la materia. Adesso, grazie anche ai servizi che ci sono, che magari sono impacchettati per te e che vanno a risolvere un problema specifico, è diventato una cosa più semplice da utilizzare un po’ per tutti.
Quindi ha avvicinato tante persone, anche gli sviluppatori stessi; perché comunque c’è sempre questa distinzione tra il data scientist e lo sviluppatore.
Il data scientist è un po’ questa figura mitologica che deve saper fare un po’ tutto: statistica, sviluppo, deve conoscere Python, ma deve anche sapere come si mettono le cose in cloud, come si fa il deploy del modello. Deve avere un sacco di competenze.
Ecco, diciamo che forse adesso siamo riusciti ad avvicinare anche più persone che magari nell’ambito non avevano tutte queste conoscenze a questa tipologia di argomenti.
Quindi sicuramente Chat GPT è un esempio lampante: tanta gente si è messa lì e ci ha scritto qualche domanda per vedere come risponde, come performa.
Sicuramente ne parleranno ancora, perché l’ambito del natural language processing è molto attivo, come poi c’è tutta la parte anche di computer vision.
Quindi secondo me ambito intelligenza artificiale, ne sentiremo parlare moltissimo quest’anno e nei prossimi anni. E una mia speranza è che iniziamo anche a parlare di reinforcement learning, che è un po’ la mia passione negli ultimi mesi.
Mi parli un po’ di più del reinforcement learning?
Volentieri, così magari riesco ad avvicinare anche qualcun altro a questa nicchia.
Ci sono tre tipologie di modelli di machine learning.
C’è una parte che si chiama supervised learning: è quando stai cercando di insegnare al tuo modello a imparare da dei dati di cui sai già quale è il risultato che vuoi ottenere.
Ti faccio un esempio, voglio saper distinguere da un’immagine se ci sia dentro un cane o un gatto, ok? Quindi io ho una serie di immagini in cui dico già al computer, al modello, al machine learning, che in questa immagine c’è un cane, in questa immagine c’è un gatto. Quindi lui impara da delle immagini che sono già state tracciate, no? Quindi categorizzate.
Poi invece c’è la parte di unsupervised learning, cioè quando dai al modello una serie di immagini e gli dici, boh, trovami qualcosa che c’è qua dentro che possa avere delle caratteristiche in comune. Tipici esempi sono, non so, il clustering. Quindi vado a mettere insieme tutte quelle che devo distinguere tra arancia e mele e quindi ti distinguo, che ne so, l’arancia: c’è questa cosa qui che non so che si chiama arancia, però è sempre arancione, è sempre tonda, c’ha un po’ questa buccia che è un po’ ruvida e dall’altra parte invece c’è questa cosa che ha la buccia sempre rossa, ha una forma diversa, non è mai irregolare e questi qua sono i due gruppi che ti ho trovato.
Poi sta a te spiegare o esprimere che una cosa si chiama arancia e quella nell’altro gruppo invece si chiama mela.
Il reinforcement learning è praticamente come se trattassi i modelli di machine learning come se fossero dei bambini, quindi esattamente come impariamo noi. Devi imparare ad andare in bicicletta, qualcuno ti piazza sulla bicicletta con le rotelle e la prima cosa che impari è che devi pedalare. Magari all’inizio non riesci, magari all’inizio ti scappa il pedale, poi ti tolgono le rotelle, devi imparare a stare in piedi, no?
E quindi hai questo reinforcement learning, praticamente una sorta di trial and error in cui il modello impara piano piano basandosi su quello che è un ambiente circostante a fare delle azioni specifiche. È utilizzato tantissimo nel gaming. Quando si gioca online spesso e volentieri quelli che vengono chiamati i bot sono in realtà intelligenze artificiali che hanno imparato a simulare il gioco dei giocatori all’interno del game.
Ma è un po’ come quando con Chat GPT apriamo la chat e parliamo più volte dell’argomento e magari diciamo no, guarda non è così e lui o lei impara quello che noi stiamo dicendo.
Esattamente. Be’, visto che l’hai fatto, se vuoi ti racconto una curiosità sul fatto che se ci pensi tutti gli assistenti virtuali tipicamente sono delle donne…
Ed è una questione basata sul fatto che una donna, la voce di una donna, è trovata più accogliente o comunque preferisci fare delle domande a una donna per interazione, per cultura.
Però Google no, o sbaglio?
Ora tutti danno la possibilità di scegliere la voce, quindi puoi avere sia la voce di un uomo che la voce di una donna. Però la maggior parte erano donne, tipo Cortana di Microsoft, Siri, Alexa…
Ma invece ti faccio un’altra domanda sempre riguardo a questo. Dicevi distinguere, non so, una mela da un’arancia. Pensavo però a quello che è successo con Google Photo, quando ha etichettato come gorilla delle persone di colore.
Questa cosa come viene gestita?
Allora, in questo caso sono bias culturali di chi ha fatto o ha lavorato il dataset, quindi praticamente l’umano che ci sta dietro.
Perché imparava dall’interazione che aveva con le persone, le persone a un certo punto hanno iniziato a insultarlo oppure a raccontare delle cose che non erano, diciamo, molto inclusive. E quindi questo poi sta sempre un po’ a noi, no?
L’intelligenza artificiale, io questo lo dico spesso, è uno strumento. Poi come lo addestri è responsabilità nostra. Quindi, se usi male lo strumento, ovviamente lo strumento poi viene su con dei bias che possono anche andare a discriminare delle persone.
È il motivo per cui secondo me negli ultimi anni si è poi aperto tutto un tema sulla parte di etica AI per capire come ridurre al massimo quelli che possono essere dei bias nei dataset. Spesso e volentieri, per esempio, quando si fanno i training e si raccolgono i dati, può essere che ci siano anche magari una disparità rispetto alle persone su cui raccolto i dati.
Cioè potrebbero esserci più uomini o più donne, potrebbero esserci persone più giovani
rispetto magari a quelle che vanno a coprire un’età più avanzata. Ci sono tutta una serie di cose che vanno tenute in considerazione, perché poi quando metti il modello in produzione rischi, come nel caso di Google, di andare a fare una discriminazione su una categoria di persone, una categoria che va a utilizzare quello strumento.
C’era un altro esempio in America di un’intelligenza artificiale che davanti a un uomo bianco con il termometro in mano riconosceva il termometro, mentre invece, se era una persona di colore, pensava che fosse una pistola.
Sì, sulla parte dell’esempio che facevi prima, sulla parte dei gorilla, in realtà lì c’è stato il fatto che avevano un dataset molto piccolo che includeva persone che erano di razza più caucasica, bianche tipicamente, e quindi non avevano un dataset su tutta quella parte di persone che potevano avere un colore di pelle diverso rispetto al dataset iniziale, e invece avevano molti dati sugli animali, e quindi, conseguentemente, per facilità, quando il risultato arriva, il risultato maggiore era quello.
Chiaro, era una mancanza di dati, essenzialmente, che non è stato dato in posto all’intelligenza artificiale.
Sì.
Ok, ok, interessante.
Poi, un’altra domanda che volevo farti era sulle le abitudini lavorative che hai cambiato per sempre a causa della pandemia.
Tu lavoravi già a da remoto prima, oppure hai iniziato a lavorare a dare moto durante la pandemia?
Quando lavoravo in Microsoft, la parte di Smart Working c’era già, ed era anche molto presente nell’azienda, però ero in quella categoria di persona a cui piaceva andare in ufficio, quindi ci andavo spesso. Per cui, per me, la pandemia è stato un cambio grosso, perché sono passata da andare spesso in ufficio a non andarci praticamente mai. Sicuramente quello che ho fatto durante la pandemia, credo come tutti, è stato crearmi il mio spazio in casa dove lavorare, quindi ho comprato la scrivania, gli schermi e tutto quanto. E adesso sicuramente cerco e tendo a stare, se posso, a casa, e ogni tanto vado in ufficio a trovare i colleghi. Però direi che principalmente ha cambiato la frequenza con cui vado in ufficio rispetto a prima.
E ti trovi meglio, peggio?
Non lo so, io apprezzo sempre comunque l’interazione che c’è in ufficio, però mi rendo anche conto che va tanto a seconda del tipo di persona.
Io sono una persona abbastanza socievole, per cui se mi metti in un ambiente dove ci sono altre persone, tendenzialmente chiacchiero o comunque mi ci trovo abbastanza bene.
E a livello di produttività?
A livello di produttività dipende dalle giornate. Se c’è qualcosa che devo fare di particolare in cui abbiamo bisogno di essere insieme, preferisco farlo di persona, lo trovo più produttivo. Invece se si tratta di preparare magari dei webinar, dei workshop, oppure di dover fare delle sessioni o delle call o delle riunioni che possono perfettamente essere fatte online, ovviamente trovo più produttivo magari lo stare a casa perché ho un ambiente sicuramente più silenzioso, più tranquillo.
Quali consigli daresti oggi a un profilo junior per inserirsi o crescere in un nuovo team tech, anche da un punto di vista dell’importanza della diversity?
Allora, secondo me la diversity dentro un team è fondamentale, sia un po’ per le ragioni che dicevamo prima, per far sì che magari qualcuno alzi la mano e dica “manca qualcosa”.
Così almeno c’è la rappresentanza, quindi penso che porti sempre a un gran valore.
I consigli che darei in generale e nello specifico, visto che sono una donna che lavora nella tecnologia sono: non abbiate paura di fare domande, soprattutto quando siete junior; bisogna pensare che non ci sono spunti stupidi, ci sono cose che si conoscono e cose che non si conoscono e che magari, facendo la domanda, e può essere anche una domanda che non è super rilevante al contesto, se qualcuno ti spiega perché non è super rilevante comunque ha portato valore a te e quindi ti aiuta a crescere e poi a far sì che la prossima volta farai domande più interessanti. Quindi secondo me questo è fondamentale.
L’ultimissima cosa secondo me è il fatto di partecipare, cioè di collaborare sempre con chiunque ci sia nel team, indipendentemente da se sia qualcuno che lavora con te direttamente o indirettamente. Anche perché le competenze tecniche credo che si possano acquisire in modo sufficientemente semplice o perlomeno con l’esperienza, mentre invece quello che veramente fa la differenza è l’approccio con cui, come dici tu, confrontarsi, chiedere feedback piuttosto che fare domande perché alla fine è quello che ci rende unici e il valore.
Cosa valuti in un profilo junior come soft skill?
Anche l’attitudine secondo me. Essere una persona umile o comunque aperta, voler conoscere. Quando dicevo la curiosità forse la declino in questo senso.
Cioè di avere sempre sia l’umiltà di mettersi in gioco perché a volte può andare bene a volte può andare male e soprattutto avere la testa per dire vabbè anche quando va male ho imparato qualcosa. Perché succederà tantissimo all’inizio. Cioè che si fanno errori soprattutto quando non hai idea di che cosa stai facendo, e l’abbiamo fatto tutti, ci tengo a dirlo a tutti, non c’è nessun escluso. Quando si inizia a lavorare non sai cosa stai facendo perché, per come cresciamo e seguiamo il percorso educativo in Italia, quando entri poi nel mondo del lavoro è un mondo completamente diverso da quello che hai visto fino al giorno prima.
Quindi ci sta, ci saranno degli errori e di entrare nell’ottica che non tutti gli errori sono gravi e anzi ti aiutano magari a imparare a cosa non fare la prossima volta.
Chiaro, grazie.
Concludo con un’ultima domanda. Se in questo 2023 hai in programma di partecipare, oltre alla conferenza Codemotion, a qualche altra conferenza a livello nazionale? Secondo te perché partecipare a questo genere di eventi o meet up delle community è importante?
Allora, parto dalla seconda che è più facile o più lunga forse.
Per quello che dicevo prima, per la tipologia di persone che puoi incontrare, c’è davvero di tutto; puoi incontrare dallo sviluppatore super tecnico alla persona che magari gestisce un team e ti dà anche una visione di dove o come quella tecnologia viene usata e viene vista sul mercato. Può essere utile anche per trovare un nuovo lavoro, visto che parlavamo prima di persone junior. Partecipare ti fa vedere dove sono le aziende, che cosa fanno e poi ti puoi creare un network di persone e questo è fondamentale perché alla fine quando si lavora, si lavora con delle altre persone.
Poi a queste conferenze partecipano guru o magari persone con anni e anni di esperienza e quando ti siedi lì e li senti parlare impari sempre qualcosa di nuovo.
E poi anche forse l’opportunità di avere vicine nello stesso posto persone che magari nella vita normale sarebbe difficilissimo da incontrare e a cui potresti chiedere qualsiasi cosa senza che ti guardino dall’alto verso il basso; a me questa è una cosa che piace di questo mondo: puoi ricoprire qualsiasi ruolo in qualsiasi mega azienda, ma ci guardiamo tutti allo stesso livello e quindi il valore del confronto è quello fondamentale. Questo credo sia molto importante!
