May 10 2018

Bu gizli komutu siz duyamazsınız ama Alexa ve Siri duyar

Bir çok insan akıllı telefonlarıyla konuşmaya alıştılar. Onlara bir metni okumasını, bir şarkıyı çalmasını veya alarmı kurmasını söylüyorlar. Ama onlarla gizlice konuşan başkaları da olabilir.

Çin’li ve Amerikalı araştırmacılar geçtiğimiz iki yıl içerisinde, Apple’ın Siri’sine, Amazon’un Alexa’sına ve Google’ın Assistant’ına insan kulakları tarafından tespit edilemeyen gizli komutlar yollayabileceklerini gösterdiler.

Araştırmacılar, üniversite laboratuarlarının içinde, akıllı telefonlardaki suni zeka sistemlerini ve akıllı hoperlörleri gizlice çalıştırmayı, onlara telefon numaraları çevirtmeyi veya web sitelerini açtırmayı becerdiler. Bu teknoloji yanlış ellere geçtiğinde, para havaleleri yaptırmak veya kilitli kapıları açtırmak için de kullanılabilir.

Kaliforniya Üniversitesinin Berkeley kampüsünden ve Georgetown üniversitesinden bir grup öğrenci 2016 yılında, hoperlörlerden veya youtube videolarından çalınan beyaz sesin içine komutlar gizleyebileceklerini ve böylece akıllı telefonların uçuş modunu veya bir web sitesini açabileceklerini gösterdiler.

Bu ay Berkeley’den araştırmacılar yayınladıkları bir araştırma makalesinde daha da ileri giderek gizli komutların doğrudan müzik parçalarının veya konuşmaların içine saklanabileceğini ispat ettiler. Yani biz sadece birinin konuştuğunu ya da bir orkestranın çaldığı müziği duyarken, Amazon’un Echo hoperlörü, alışveriş listenize yeni bir şey eklemesi için bir komut alıyor olabilir.

Makalenin yazarlarından biri olan, Berkeley’de Bilgisayar güvenliği alanında doktora yapan Nicholas Carlini, “komutları daha da fazla gizleyip gizleyemeyeceğimizi görmek istiyoruz” şeklinde konuştu.

Carlini bu tekniklerin henüz araştırma labrotuarlarının dışına çıkmış olduğuna ilişkin herhangi bir kanıt bulunmadığını ama birilerinin bunlardan yararlanmaya başlamasının sadece bir zaman meselesi olduğunu da söyledi. Carlini, “ben kendi adıma kötü niyetli insanların benim yaptığım işi yapan birilerini çoktan istihdam etmiş olduklarını varsayıyorum” şeklinde konuştu.

Bu hileler, suni zekanın göstermiş olduğu tüm ilerlemeye rağmen, hala yanıltılabilir olduğunu gösteriyor. Bilgisayarlar, sadece bir kaç küçük değişiklikle, koca bir uçağı minik bir kedi olarak tanımlayacak şekilde yanıltılabiliyorlar, ya da şoförsüz araçlara, yol işaretlerine yapıştırılan ve aracın bilgisayarının görüş sistemini yanıltan küçük çıkartmalarla, ani manevralar yaptırılabiliyor.

Sesli saldırılarda ise araştırmacılar insanların ve makinelerin ses tanıma sistemleri arasındaki farktan yararlanıyorlar. Ses tanıma sistemleri tipik olarak her bir sesi bir harfe dönüştürüyor ve nihayetinde bu harfleri derleyerek kelimeler ve kelime grupları oluşturuyor. Araştırmacılar ses dosyalarında küçük değişiklikler yaparak, insan kulağının farketmeyeceği ama makineler tarafından farklı yorumlanabilecek sesler üretiyorlar.

Ses komutlarıyla çalıştırılan aletlerin sayısının giderek artması bu tür hilelerin önemini daha da artırıyor. Ovum araştırma firmasının verilerine göre 2021 yılında Apple’ın Siri’si ve Amazon’un Alexa’sı gibi dijital asistanlar kullanan akıllı telefonların ve akıllı hoperlörlerin sayısı insan sayısını aşacak. Juniper Araştırma şirketine göreyse, bu tarihte Amerika’daki evlerin yarısında en az bir akıllı hoperlör bulunacak.

Amazon güvenlik önlemlerinin ayrıntıları hakkında bilgi vermiyor ancak Echo akıllı hoperlörlerinin güvenli olması için her türlü önlemi aldığını belirtiyor. Google güvenliğin sürekli olarak odaklandıkları bir mesele olduğunu söylüyor ve Assistant’ın, onu tespit edilemeyen sesli komutlara karşı korunaklı kılacak bazı özellikleri olduğunu belirtiyor.

Apple, kendi akıllı hoperlörü HomePod’un kapıların kilitlerini açmak gibi komutları engelleyecek şekilde tasarlandığını söylüyor ve Iphone ile Ipad’lerin sesli komuta yanıt vermeleri için önce kilit ekranından çıkılmasının zorunlu olduğuna dikkat çekiyor.

Ancak bir çok insan akıllı telefonlarını kilitlemiyorlar ve en azından şimdilik ses tanıma sistemleri çok kolay aldatılabiliyorlar.

Amerika’da, bırakın makinaları, İnsanlara sübliminal mesaj vermeyi engelleyen bir yasa bulunmuyor. Federal İletişim Komisyonu, bunun kamu çıkarına aykırı bir uygulama olduğunu söyleyerek, insanları bundan caydırmaya çalışıyor ve Ulusal Yayıncılar Birliğinin Televizyonculuk kuralları da “normal duyuş sınırlarının altında mesaj yollanmasını” yasaklıyor. Bunların hiç biri akıllı telefonlara sübliminal mesajlar yollanması ile ilgili bir şey söylemiyorlar.

Mahkemeler subliminal mesajların insanların mahremiyet haklarının ihlali olarak görülebileceğine ilişkin kararlar verdiler, ancak bu kararlar makinelerin mahremiyetlerini kapsamıyorlar.

Şimdi teknoloji hukukun daha da önüne geçmiş durumda. Çin’in Zhejiang Üniversitesinden ve Princeton Üniversitesinden araştırmacılar, geçtiğimiz yıl ses tanıma sistemlerinin insan kulağı tarafından duyulamayan frekanslarda da çalıştırılabileceğini ispat ettiler. Saldırı önce telefonu susturduğu için, telefonun komuta verdiği tepkilerde duyulmadı.

Çinli araştırmacıların yunus saldırısı adını verdiği bu teknik akıllı telefonlara zararlı web sitelerine girme, telefon açma, fotoğraf çekme komutları verebiliyor. Yunus saldırısının kabiliyetleri şimdilik sınırlı olsa da, uzmanlar daha güçlü ultrasonik sistemlerin geliştirilmesinin mümkün olduğunu belirtiyorlar.

Aygıt üreticilerinin bu gelişmelere verdikleri yanıtlar farklılık arzediyor, zira güvenlik ile kullanım kolaylığı arasında bir denge kurmaya çalışıyorlar.

Georgetown Üniversitesinde bir araştırmacı olan Tavish Vaidya, “Şirketlerin kullanım kolaylığını sağlaması gerekiyor zira bu satışları artıran bir unsur” diyor.

Carlini ise çok yakında kendisinin ve çalışma arkadaşlarının piyasadaki tüm akıllı telefonlara sesli saldırı yapabilecek düzeye gelebileceklerinden  emin olduğunu söylüyor. Carlini, “amacımız bunun mümkün olduğunu göstermek ki, başka insanlar da, ‘tamam o zaman madem bu mümkün, o zaman buna karşı bir şeyler yapmak lazım’ desinler.”

https://www.nytimes.com/2018/05/10/technology/alexa-siri-hidden-command-audio-attacks.html