I criminali informatici non sembrano ancora del tutto convinti dell’intelligenza artificiale

Nel novembre 2023, Sophos X-Ops ha pubblicato i risultati di una ricerca che esplorava l’atteggiamento degli aggressori nei confronti dell’IA generativa, concentrandosi sulle discussioni presenti in alcuni forum di criminalità informatica. Se da un lato abbiamo notato una scarsa propensione all’innovazione e uno scarso spirito di iniziativa in queste discussioni, dall’altro abbiamo riscontrato un forte scetticismo.

Considerato il ritmo con cui l’IA generativa sta evolvendo, abbiamo deciso di effettuare un nuovo esame per verificare se ci siano stati cambiamenti nell’ultimo anno.

Abbiamo notato un piccolo cambiamento, almeno sui forum che abbiamo analizzato: alcuni aggressori stanno iniziando a incorporare l’IA generativa nei loro strumenti. Questo vale soprattutto per lo spamming, l’open source intelligence (OSINT) e, in misura minore, l’ingegneria sociale (anche se è opportuno notare che i gruppi di criminalità informatica di lingua cinese che conducono campagne di frode “sha zhu pan” fanno spesso uso dell’IA, soprattutto per generare testo e immagini).

Tuttavia, come in passato, molti aggressori sui forum di criminalità informatica nutrono ancora dubbi sull’IA. Le discussioni al riguardo sono in numero limitato rispetto a quelle su argomenti “tradizionali” come il malware e l’accesso come servizio (Access-as-a-Service). Molti post riguardano jailbreak e prompt, argomenti ampiamente condivisi sui social media e su altri siti.

Abbiamo notato solo alcuni tentativi primitivi e di bassa qualità di sviluppare malware, strumenti di attacco ed exploit, che in alcuni casi hanno portato a critiche da parte di altri utenti, dispute e accuse di truffa (si veda la nostra serie in quattro parti sullo strano ecosistema dei criminali informatici che si truffano a vicenda).

Sono state segnalate alcune idee innovative, ma erano puramente ipotetiche; la condivisione di link a strumenti di ricerca legittimi e a repository GitHub è stata più comune. Come abbiamo riscontrato l’anno scorso, alcuni utenti utilizzano l’IA per automatizzare le attività di routine, ma sembra che la maggior parte di essi non si affidi a tale tecnologia per le attività più complesse.

È interessante notare che i criminali informatici hanno adottato l’IA generativa per i forum, per creare post e per attività extracurricolari non legate alla sicurezza. In un caso, un aggressore ha confessato di aver parlato con un GPT ogni giorno per quasi due anni, nel tentativo di aiutarlo ad affrontare la sua solitudine.

Leggi tutto l’articolo.