Intelligenza Artificiale, assistenti vocali e Alexa

Oggi la nostra cara amica D.ssa Francesca La Mattina – esperta di Privacy e GDPR – ci parla dei rischi legati all’Intelligenza artificiale e gli assistenti vocali come Alexa di Amazon.

Gli assistenti vocali dotati di tecnologia AI  (intelligenza artificiale) sono sempre più diffusi e di utilizzo comune. Questi aiutanti artificiali ormai sono ovunque in casa, in macchina, sugli smartphone, nei giocattoli,etc.

Sono in grado di  fornirci informazioni aggiornate sulle condizioni meteorologiche. Proporci una rassegna stampa ad hoc personalizzata con le notizie locali o di cronaca.

Ci propongono giochi e musica, ci leggono l’oroscopo del nostro segno zodiacale e inoltre come dei veri e propri assistenti eseguendo le nostre istruzioni,  accendono e spengono i dispositivi elettronici nelle nostre case e molto molto altro ….

La loro tecnologia intelligente, attraverso la programmazione di sofisticati algoritmi, consente a queste macchine di replicare i ragionamenti e mettere in atto comportamenti tipici degli essere umani senzienti.

Attraverso la registrazione sistematica della nostre richieste e  attività e le analisi dei nostri comportamenti, gusti, preferenze, il sistema è in grado  di apprendere autonomamente e di rispondere in maniera sempre più efficace alle nostre richieste. Il continuo apprendimento abilità alla capacità, nel tempo, di anticipare i nostri desideri e bisogni.

Sul mercato sono molti i brand che hanno proposto i loro prodotti. Alcuni sono già disponibili ed integrati nei nostri dispositivi pensiamo  agli smartphone con Google Assistant e  Siri , nei nostri computer troviamo ad assisterci Cortana di Microsoft. Negli ultimi anni una nuova sfida commerciale dell’HI-Tech  è rappresentata dagli  Smart Speaker dove tra questi spiccano i dispositivi proposti da  Amazon con Alexa.

Amazon nel 2015, per fornire prodotti sempre più competitivi sul mercato, ha consentito a soggetti terzi di caricare nella piattaforma delle applicazioni aggiuntive (skills).

Tali skills, o come diciamo noi italiani competenze/abilità, da un lato facilitano interazione tra uomo macchina, migliorando la funzionalità con servizi sempre nuovi e accattivanti, dall’altro però ci devono spingere a riflettere su potenziali  e sempre nuovi  problemi di sicurezza e privacy.

Proviamo a capire meglio come funziona il complesso mondo delle competenze e delle abilità di Alexa.

Come abbiamo detto le skills di Alexa sono di due tipi: quelle native – ovvero quelle sviluppate e gestite direttamente da Amazon – e le skills che  vengono sviluppate da soggetti esterni.

Entrambe possono essere direttamente scaricate  dagli utenti dallo Store Amazon o in alcuni casi addirittura attivate automaticamente da  Amazon. Gli sviluppatori esterni per poter pubblicare le loro skills sullo Store Amazon devono garantire alcune caratteristiche e  soddisfare alcuni requisiti di sicurezza. Una volta che la skill è ritenuta affidabile lo sviluppatore carica sullo Store la propria applicazione contenente la nuova skill. E’ importante precisare  che ufficialmente lo sviluppatore terzo non ha mai un accesso diretto ai dati degli utenti e che per le misure di sicurezza impongono agli sviluppatori una nuova verifica dei requisiti qualora vengano apportate delle modifiche alle applicazioni.

Detto questo allora possiamo considerarci siamo sicuri! Giusto?

Ebbene no!

Da una ricerca condotta delle università Ruhr-Universitat Bochum (Germania),  North Carolina State University; e dalla società Google Inc. sembra che ragioni per vigilare ne abbiamo e molte.

Il rapporto della ricerca dal suggestivo nome Hey Alexa, is this Skill Safe? (Ehi Alexa, questa skill è sicura?) – presentata alla conferenza del 24 Febbraio 2021 “Network and Distributed System Security Symposium (NDSS) – evidenzia le falle della sicurezza delle skill di Alexa.

Dopo aver analizzato oltre 90.000 abilità e il sistema di pubblicazione di Amazon, i ricercatori fanno emergere alcuni elementi:

-Dal 2017 Amazon ha adottato la politica di attivare autonomamente alcune skill, prima di quel momento era sempre necessaria l’autorizzazione e consenso dell’utente;

–  un soggetto malintenzionato, allo stato attuale, è in grado di  pubblicare un’abilità sotto qualsiasi nome di sviluppatore / azienda arbitrario.

– risulta agevole  il superamento dei controlli dei requisiti  imposti da Amazon, infatti se anziché modificare l’applicazione  si decide di apportare modifiche al codice di back-end  si è in grado di evitare un’ulteriore  verifica controllo  per l’approvazione. Superando l’ostacolo dei controlli è possibile inserire un codice malevolo o  per indurre gli utenti a rivelare informazioni.

– E’ possibile eseguire degli attacchi con tecniche definite di skill squatting . Tale tipologia di attacchi consente, tra le altre cose di  attivare comandi dormienti attivabili solo a seguito di uno specifico comando  per poter ad esempio informazioni personali e dati sensibili. O ancora  questo tipo di attacco  consente di dirottare le informazione legittime sostituendole con della malicious ad esempio scambiando audio legittimo file con file audio dannosi. Un’ulteriore importante criticità rilevata dalla ricerca concerne le politiche sulla privacy.

Amazon non impone una politica sulla privacy per tutte le competenze, ma solo per le competenze che richiedono l’accesso a una o più delle loro API di autorizzazione. Risulta infatti che solo il 24,2% delle competenze dispone di una politica sulla privacy,  il 23,3% di tali applicazioni non divulga completamente i tipi di dati associati alle autorizzazioni richieste.  Dall’analisi dello store statunitense, ad esempio, si è  scoperto che solo circa il 28,5% delle skills statunitensi fornisce un collegamento alla politica sulla privacy. Per quel che riguarda le categorie di skills “bambini” e “salute e fitness” solo il 13,6% e il 42,2%  ha una policy sulla privacy.

In qualità di operatori della  privacy, e nel rispetto delle disposizioni normative previste dal legislatore  europeo,  riteniamo che Amazon debba garantire standard di sicurezza più elevati nel rispetto degli interessati e per la protezione dei dati personali.

Tuttavia – in attesa di commenti ufficiali  dalla compagnia o azioni volte a risolvere le vulnerabilità evidenziate – invitiamo tutti gli utilizzatori di Alexa a prestare sempre la massima attenzione e attivare skills solo in presenza di  informative e le policy sulla privacy chiare e dettagliate.

Qualcuno potrebbe pensare che per ovviare ogni tipo di problema connesso alla sicurezza dei nostri dati basti utilizzare solo le skills native Amazon. Beh sicuramente limitare l’utilizzo alle  sole abilità di Amazon riduce il rischio connesso alle terze parti, ciò nonostante rimane inalterato il rischio connesso all’uso di tecnologia AI e Big Data.

In merito riportiamo  un episodio di circa tre anni fa avvenuto in Germania. Dopo aver ricevuto richiesta di accesso ai  propri dati (possibilità garantita dal GDPR) da parte di un utente. Amazon ha inoltrato i file contenenti oltre 1900 registrazioni di un’altra persona.   Informazioni che hanno consentito di risalire e rintracciare l’altro utente.

Che un terzo possa entrare in possesso di nostri dati anche in grandi volumi è di fatto un problema del nostro tempo. I  dispositivi intelligenti sono costantemente connessi a Internet e  registrano regolarmente dettagli  ed informazioni sulla nostra  tua vita quotidiana e, a volte capita, in maniera fortuita o meno, che queste finiscano  nelle mani sbagliate.

Per chi fosse interessato il rapporto completo è consultabile in lingua  inglese sul seguente link https://anupamdas.org/paper/NDSS2021.pdf