Mobil self-driving dapat dibajak melalui kekuatan luar yang mampu mengubah sistem Kecerdasan Buatan (AI) yang menggerakkan kendaraan, klaim penelitian baru.
Sebuah laporan dari McAfee mengatakan bahwa sistem AI kendaraan dapat dimanipulasi, kemungkinan berdampak pada masa depan dan keselamatan kendaraan otonom.
Proses ini, yang oleh McAfee disebut “peretasan model (terbuka di tab baru)“, mampu sepenuhnya mengesampingkan sistem perangkat lunak di dalam kendaraan yang tersedia untuk dibeli saat ini, termasuk model dari Tesla.
Peretasan model
Advanced Threat Research (ATR) McAfee dan Tim Analitik Lanjutan dapat menggunakan “modifikasi sangat kecil” untuk membuat serangan bertarget kotak hitam pada sistem kamera Mobileye EyeQ3 yang ditemukan di banyak kendaraan modern, termasuk model Tesla tertentu.
Serangan ini memungkinkan para peneliti untuk menyebabkan manipulasi teknologi AI dalam model Tesla S yang mengimplementasikan paket Perangkat Keras 1 untuk salah mengklasifikasikan tanda batas kecepatan yang berbunyi 35, membuatnya secara mandiri mempercepat hingga 85 mph.
Peretasan model bekerja dengan menyerang algoritme yang menentukan aturan untuk sistem AI, seperti yang ditemukan di kendaraan otonom. Dengan memengaruhi atau “meracuni” rangkaian pelatihan yang digunakan untuk membuat model AI ini secara negatif, peretas dapat memengaruhi hampir setiap aspek tentang cara platform perangkat lunak mengenali dan berinteraksi dengan dunia di sekitarnya.
“Cukup dengan mengganggu – mengubah besaran beberapa fitur (seperti piksel untuk gambar), nol menjadi satu/satu menjadi nol, atau menghapus beberapa fitur – penyerang dapat mendatangkan malapetaka dalam operasi keamanan dengan efek bencana,” peneliti McAfee Steve Povolny dan Celeste Fralick menulis dalam posting blog (terbuka di tab baru) menggambarkan serangan itu.
McAfee mengatakan bahwa meskipun belum ada laporan terdokumentasi tentang peretasan model di alam liar, minat di bidang ini terus meningkat, yang berarti peretas mungkin akan segera tertarik. Dan dengan jumlah kendaraan dengan kemampuan mengemudi otonom yang ditetapkan mencapai hampir 750.000 pada tahun 2023 menurut penelitian Gartner, kebutuhan untuk menemukan ancaman baru seperti itu sebelum berevolusi menjadi sangat penting.
“Kabar baiknya adalah sama seperti kerentanan perangkat lunak klasik, peretasan model dimungkinkan untuk bertahan, dan industri mengambil keuntungan dari kesempatan langka ini untuk mengatasi ancaman sebelum menjadi nilai nyata bagi musuh,” catat para peneliti.