Jauni draudi, ko dēvē par “prasmju pietupieniem”, atklāja UIUC
1 minūte lasīta
Amazon Echo
Pasaule mainās, un mūsdienu laikmetā mēs paļaujamies uz lietisko interneta ierīcēm. Bet šī atkarība varētu mums izmaksāt visu, tas varētu ļaut kādam nozagt mūsu identitāti, bankas informāciju, slimības vēsturi un ko ne.
Amazon Alexa ir kritizēts par vairākiem drošības trūkumiem, taču Amazon ir ātri tos novērsis. Tomēr šim jaunajam drošības trūkumam var nebūt nekādu labojumu. Un tas vēl varētu būt visbīstamākais drošības apdraudējums.
Saskaņā ar pētījumu ko veic Ilinoisas universitāte Urbana-Champaign (UIUC), Amazon Alexa savdabību var izmantot, izmantojot balss komandas, lai novirzītu lietotājus uz ļaunprātīgām vietnēm. Hakeri ir vērsti uz mašīnmācīšanās algoritmu nepilnībām, lai piekļūtu privātajai informācijai.
Metodu ar nosaukumu “Prasmju tupēšana” ir izveidojusi Ilinoisas universitātes Urbana-Champaign pētnieki, un tā ir veiksmīga metode, kā maldināt Amazon Alexa novirzīt lietotājus uz ļaunprātīgām platformām, izmantojot balss komandas Amazon Echo ierīcēs.
Daudzi lietotāji bieži nepareizi izrunā vārdus, kas bieži rada Alexa, runas dzinēja, kas darbina Amazon Echo, interpretācijas kļūdas. Pētnieki izmantoja 11 460 runas paraugus no angļu valodas vārdiem, kurus runāja amerikāņi.
Pēc tam viņi pētīja, kur Alexa nepareizi interpretēja balss komandas, cik bieži tā to dara un kāpēc. Viņi varēja konstatēt, ka regulāri notiek dažas nepareizas interpretācijas.
Tāpēc hakeris, izmantojot prasmju tupēšanu, var izmantot šīs sistemātiskās kļūdas, lai novirzītu Amazon Echo lietotājus uz ļaunprātīgām lietojumprogrammām, vietnēm un riskētu ar viņu privāto informāciju. Metodi var izmantot, lai mērķētu uz noteiktiem demogrāfiskiem datiem, īpaši tiem, kuri nepārvalda angļu valodu.
Uzbrukuma variantā, ko mēs saucam par šķēpu prasmju tupēšanu, mēs papildus parādām, ka šo uzbrukumu var mērķēt uz noteiktām demogrāfiskām grupām. Noslēgumā mēs runājam par runas interpretācijas kļūdu, pretpasākumu un turpmākā darba drošības ietekmi.
Iespējams, ka šo problēmu nav viegli atrisināt, jo tas ir atkarīgs no ļoti mašīnmācīšanās principiem, uz kuriem ir veidota Alexa un citas AI mašīnas. Amazon apgalvo, ka tai ir ieviesti pasākumi, lai novērstu šo problēmu, taču Ilinoisas universitātes pētījumi saka citādi.
Viņi apgalvo, ka tas nebūs viegli labojams un nākotnē radīs nopietnas problēmas.
Tagi Alexa Amazon
