Deepfake tehnologija već dugo izaziva zabrinutost na društvenim mrežama, u političkom životu i javnom sektoru. Ali sada sa tehnološkim napretkom koji glasove i slike sa veštačkom inteligencijom čini realističnijim nego ikad, deepfake dolazi po korporacije.
„Uvek su postojali takozvani lažni pozivi. Ali sposobnost ovih [AI] modela da sada imitiraju stvarne glasovne obrasce pojedinca koji daje uputstva nekome telefonom da nešto uradi — ove vrste rizika su potpuno nove“, rekao je Bil Kesidi, glavni službenik za informacije u New York Life-u.
Banke i pružaoci finansijskih usluga su među prvim kompanijama koje su na meti, piše Wall Street Journal.
Koliko brzo to dolazi, pokazuje i nova tehnologija od strane kompanije OpenAI koja može da rekonstruiše ljudski glas iz snimka od 15 sekundi. Open AI je rekao da neće javno objaviti tehnologiju dok ne sazna više o potencijalnim rizicima od zloupotrebe.
Deepfake i audio generisan AI
Među zabrinutostima je da bi deepfake tehnologija mogla da koristi audio generisan AI za glasovnu autentifikaciju koji koriste kompanije za finansijske usluge kako bi verifikovale klijente i odobrile im pristup njihovim nalozima. Chase Bank je nedavno prevaren glasom generisanim veštačkom inteligencijom tokom eksperimenta. Banka je saopštila da klijenti moraju da pruže dodatne informacije da bi završili transakcije i druge finansijske zahteve.
Deepfake incidenti u fintech sektoru porasli su za 700% u 2023. u odnosu na prethodnu godinu, prema nedavnom izveštaju platforme za verifikaciju identiteta Sumsub.
Kompanije kažu da rade na postavljanju više zaštitnih ograda kako bi se pripremile za nadolazeći talas generativnih napadača sa veštačkom inteligencijom. Na primer, Kesidi je rekao da radi sa grupom za rizični kapital kompanije Nev York Life na identifikaciji startapa i tehnologija u nastajanju dizajniranih za borbu protiv deepfakesa. „U mnogim slučajevima, najbolja odbrana ove generativne AI pretnje je neki oblik generativne veštačke inteligencije na drugoj strani“, rekao je on.
Ponekad se isplati zaostati za ostalima
Među mogućim prevarama dolaze i prevare u vezi lažnih vozačkih dozvola. Ranije je jedan korak u otvaranju računa na mreži kod banaka uključivao korisnike koji su postavljali fotografije vozačkih dozvola. Sada, umesto da postavljaju već postojeću sliku, kupci sada moraju da fotografišu svoje vozačke dozvole preko aplikacije banke, a zatim prave selfije.
Ali nisu sve banke u panici. Ejmi Brejdi iz KeyBank rekla je da banka zaostaje u tehnologiji kada je u pitanju usvajanje softvera za glasovnu autentifikaciju. Sada, Brejdi je rekla da smatra da je to bila sreća s obzirom na rizik od deepfake-a.
Brejdi je rekla da više ne želi da implementira softver za glasovnu autentifikaciju dok ne postoje bolji alati za razotkrivanje lažnog predstavljanja.
„Ponekad se isplati zaostati za ostalima“, rekla je ona.
