Gli strumenti di AI generativa hanno reso l'Intelligenza Artificiale accessibile praticamente a chiunque. Straordinaria opportunità, ma rende anche molto semplice commettere errori.
Inserire informazioni riservate
Una persona può copiare in un prompt contratti, codice sorgente, dati personali, informazioni economiche, documenti interni, curriculum, ticket di assistenza, report aziendali. Prima di utilizzare un sistema di AI è necessario conoscere quali informazioni possono essere trattate con quello strumento.
Fidarsi automaticamente dell'output
Un sistema generativo può produrre informazioni inesatte, incomplete, non aggiornate, inventate, non adeguate al contesto. Un testo scritto bene non è automaticamente un testo corretto.
Utilizzare strumenti non autorizzati
La semplicità con cui è possibile aprire un account rende l'AI uno dei nuovi territori dello Shadow IT. L'organizzazione dovrebbe definire quali strumenti possono essere utilizzati, per quali attività e con quali dati.
L'AI può anche potenziare gli attacchi informatici
L'AI può facilitare creazione di phishing credibili, personalizzazione dei messaggi, traduzione automatica, raccolta di informazioni, generazione di contenuti, impersonificazione, deepfake audio e video. La regola "ci sono errori grammaticali, quindi è phishing" non è più affidabile.
Deepfake e impersonificazione
Una telefonata con la voce dell'AD che chiede un pagamento urgente. Una videoconferenza in cui qualcuno sembra un collega. Immagine e voce non sono più necessariamente una prova sufficiente dell'identità. La risposta non può essere eliminare la fiducia tra le persone: deve essere introdurre procedure di verifica adeguate alle operazioni critiche.
Tecnologia nuova. Principio antico: verificare prima di autorizzare.