Günümüzde trafik denetimi ve güvenlik amacıyla kullanılan otomatik plaka tanıma sistemleri ve gelişmiş kameralar, artık sadece plakayı okumakla yetinmiyor. Bu sistemler, aracın markası, modeli, rengi ve üzerindeki detayları analiz ederek kapsamlı bir araç profili oluşturabiliyor. Ancak, Def Con konferansında sergilenen özel bir yapay zeka destekli kameraları şaşırtan otomobil kaplaması, bu teknolojilerin aslında ne kadar manipüle edilebilir olduğunu gözler önüne serdi. 2009 model bir Toyota Yaris üzerinde uygulanan bu görsel tasarım, bilgisayarlı görü yazılımlarının aracı bir “araç” olarak tanımlamasını engellemeyi başardı.
Adversarial Pattern Teknolojisi ve İşleyişi
SIXCYBER kurucusu Bill Swearingen tarafından geliştirilen “noRecognition” projesi, yaklaşık bir yıllık yoğun bir çalışmanın ürünüdür. Swearingen, yapay zekayı yanıltmak amacıyla “adversarial patterns” olarak adlandırılan özel desenler üzerinde çalıştı. Bu desenler, insan gözü için karmaşık ve anlamsız görünse de, görüntü işleme yazılımlarının karar mekanizmalarını ciddi şekilde sekteye uğratabiliyor. Öte yandan, araştırmacı bu kaplamayı uygulamadan önce 31 milyonun üzerinde test gerçekleştirdiğini belirtiyor.
Uygulanan bu yöntem, kamerayı kör etmekten ziyade, kameranın gördüğü nesneyi sınıflandırma yeteneğini devre dışı bırakmayı hedefliyor. Flock tarafından üretilen gelişmiş kameralar, aracı görüntülese bile yapay zeka algoritması nesneyi bir otomobil olarak etiketleyemiyor. Bu durum, plaka okuma sistemlerinin ötesine geçen kapsamlı araç tanıma teknolojilerinin temel zafiyetini ortaya koyuyor. Özellikle otonom sürüş sistemlerinin ve güvenlik kameralarının nesne algılama becerilerinin, bu tarz görsel manipülasyonlara karşı ne kadar hassas olduğu bir kez daha kanıtlanmış oldu.
Güvenlik Sistemlerine Karşı Alternatif Yöntemler
Bununla birlikte, sadece araç kaplamaları değil, daha basit ve dikkat çekmeyen yöntemler de benzer sonuçlar verebiliyor. Gazeteci Benn Jordan tarafından daha önce gösterilen özel plaka çıkartmaları, insan gözü için tamamen okunabilir kalırken, yazılımın karakterleri tanımasını imkansız hale getirebiliyor. Swearingen’in geliştirdiği tüm aracı kapsayan kaplama ile bu tarz küçük çıkartmaların birleştirilmesi, gelecekte güvenlik sistemleri için büyük bir zorluk yaratabilir.
Sonuç olarak, bu denemeler dijital gözetim teknolojilerinin mükemmel olmadığını bize hatırlatıyor. Her ne kadar bu testler kontrollü bir ortamda gerçekleştirilmiş olsa da, yapay zeka tabanlı sistemlerin güvenlik açıklarını anlamak, gelecekteki siber güvenlik stratejileri için kritik bir önem taşıyor. Teknolojinin gelişimi hızlandıkça, bu sistemleri yanıltmaya yönelik yöntemlerin de aynı hızla gelişeceğini öngörmek yanlış olmayacaktır.
Bu konudaki diğer yazılar için Haberler kategorisine göz atabilirsiniz. Kaynak: www.carscoops.com
