Teknologi prototipe menyusut AI untuk menghadirkan fungsionalitas seperti otak dalam satu perangkat yang kuat - ScienceDaily
Teknologi

Advance dapat mengaktifkan kecerdasan buatan pada peralatan rumah tangga sekaligus meningkatkan keamanan data dan efisiensi energi – ScienceDaily


Pembelajaran mendalam ada di mana-mana. Cabang kecerdasan buatan ini mengatur media sosial Anda dan menyajikan hasil pencarian Google Anda. Dalam waktu dekat, pembelajaran mendalam juga dapat memeriksa tanda vital Anda atau menyetel termostat Anda. Peneliti MIT telah mengembangkan sistem yang dapat membawa jaringan saraf pembelajaran mendalam ke tempat-tempat baru – dan jauh lebih kecil -, seperti chip komputer kecil di perangkat medis yang dapat dikenakan, peralatan rumah tangga, dan 250 miliar objek lain yang membentuk “internet of things “(IoT).

Sistem, yang disebut MCUNet, merancang jaringan neural kompak yang memberikan kecepatan dan akurasi yang belum pernah terjadi sebelumnya untuk pembelajaran mendalam pada perangkat IoT, meskipun memori dan daya pemrosesannya terbatas. Teknologi ini dapat memfasilitasi perluasan alam semesta IoT sekaligus menghemat energi dan meningkatkan keamanan data.

Penelitian ini akan dipresentasikan pada Konferensi bulan depan tentang Sistem Pemrosesan Informasi Neural. Penulis utama adalah Ji Lin, seorang mahasiswa PhD di lab Song Han di Departemen Teknik Elektro dan Ilmu Komputer MIT. Rekan penulis termasuk Han dan Yujun Lin dari MIT, Wei-Ming Chen dari MIT dan National University Taiwan, serta John Cohn dan Chuang Gan dari MIT-IBM Watson AI Lab.

Internet of Things

IoT lahir pada awal 1980-an. Mahasiswa pascasarjana di Universitas Carnegie Mellon, termasuk Mike Kazar ’78, menghubungkan mesin Cola-Cola ke internet. Motivasi kelompok sederhana: kemalasan. Mereka ingin menggunakan komputer mereka untuk mengonfirmasi bahwa mesin telah tersedia sebelum melakukan perjalanan dari kantor mereka untuk melakukan pembelian. Itu adalah alat yang terhubung ke internet pertama di dunia. “Ini dianggap sebagai bagian dari lelucon,” kata Kazar, sekarang seorang insinyur Microsoft. “Tidak ada yang mengharapkan miliaran perangkat di internet.”

Sejak mesin Coke itu, objek sehari-hari semakin terhubung ke jaringan IoT yang sedang berkembang. Itu termasuk segala sesuatu mulai dari monitor jantung yang dapat dikenakan hingga lemari es pintar yang memberi tahu Anda saat Anda kehabisan susu. Perangkat IoT sering kali berjalan pada mikrokontroler – chip komputer sederhana tanpa sistem operasi, daya pemrosesan minimal, dan kurang dari seperseribu memori smartphone biasa. Jadi, tugas pengenalan pola seperti deep learning sulit dijalankan secara lokal di perangkat IoT. Untuk analisis yang kompleks, data yang dikumpulkan IoT sering kali dikirim ke cloud, sehingga rentan terhadap peretasan.

“Bagaimana cara kami menerapkan jaringan saraf langsung pada perangkat kecil ini? Ini adalah area penelitian baru yang menjadi sangat panas,” kata Han. “Perusahaan seperti Google dan ARM semuanya bekerja ke arah ini.” Han juga.

Dengan MCUNet, kode grup Han menandatangani dua komponen yang diperlukan untuk “pembelajaran mendalam kecil” – pengoperasian jaringan saraf pada mikrokontroler. Salah satu komponennya adalah TinyEngine, mesin inferensi yang mengarahkan manajemen sumber daya, mirip dengan sistem operasi. TinyEngine dioptimalkan untuk menjalankan struktur jaringan saraf tertentu, yang dipilih oleh komponen lain MCUNet: TinyNAS, algoritme pencarian arsitektur saraf.

Kode algoritma sistem

Merancang jaringan dalam untuk mikrokontroler tidaklah mudah. Teknik pencarian arsitektur saraf yang ada dimulai dengan kumpulan besar struktur jaringan yang mungkin berdasarkan template yang telah ditentukan, kemudian secara bertahap menemukan yang memiliki akurasi tinggi dan biaya rendah. Meskipun metode ini berhasil, ini bukan yang paling efisien. “Ini bisa bekerja cukup baik untuk GPU atau smartphone,” kata Lin. “Tetapi sulit untuk secara langsung menerapkan teknik ini pada mikrokontroler kecil, karena terlalu kecil.”

Jadi, Lin mengembangkan TinyNAS, metode pencarian arsitektur saraf yang membuat jaringan berukuran khusus. “Kami memiliki banyak mikrokontroler yang datang dengan kapasitas daya berbeda dan ukuran memori berbeda,” kata Lin. “Jadi kami mengembangkan algoritme [TinyNAS] untuk mengoptimalkan ruang pencarian untuk mikrokontroler yang berbeda. “Sifat TinyNAS yang disesuaikan berarti dapat menghasilkan jaringan neural kompak dengan kinerja terbaik untuk mikrokontroler tertentu – tanpa parameter yang tidak perlu.” Kemudian kami mengirimkan model terakhir yang efisien ke mikrokontroler , “kata Lin.

Untuk menjalankan jaringan saraf kecil tersebut, mikrokontroler juga membutuhkan mesin inferensi yang ramping. Mesin inferensi tipikal membawa beberapa bobot mati – instruksi untuk tugas yang jarang dijalankan. Kode tambahan tidak menimbulkan masalah untuk laptop atau ponsel cerdas, tetapi dapat dengan mudah membanjiri mikrokontroler. “Itu tidak memiliki memori off-chip, dan tidak memiliki disk,” kata Han. “Semua yang disatukan hanyalah satu megabyte flash, jadi kami harus benar-benar mengelola sumber daya sekecil itu.” Cue TinyEngine.

Para peneliti mengembangkan mesin inferensi mereka dalam hubungannya dengan TinyNAS. TinyEngine menghasilkan kode penting yang diperlukan untuk menjalankan jaringan saraf khusus TinyNAS. Kode bobot mati apa pun akan dibuang, yang mengurangi waktu kompilasi. “Kami hanya menyimpan apa yang kami butuhkan,” kata Han. “Dan karena kami merancang jaringan saraf, kami tahu persis apa yang kami butuhkan. Itulah keuntungan dari tanda kode algoritme sistem.” Dalam pengujian grup TinyEngine, ukuran kode biner yang dikompilasi antara 1,9 dan lima kali lebih kecil dari mesin inferensi mikrokontroler yang sebanding dari Google dan ARM. TinyEngine juga berisi inovasi yang mengurangi runtime, termasuk konvolusi yang bijaksana di tempat, yang memotong penggunaan memori puncak hampir setengahnya. Setelah membuat kode TinyNAS dan TinyEngine, tim Han menguji MCUNet.

Tantangan pertama MCUNet adalah klasifikasi gambar. Para peneliti menggunakan database ImageNet untuk melatih sistem dengan gambar berlabel, kemudian menguji kemampuannya untuk mengklasifikasikan gambar baru. Pada mikrokontroler komersial yang mereka uji, MCUNet berhasil mengklasifikasikan 70,7 persen gambar baru – jaringan saraf canggih sebelumnya dan kombo mesin inferensi hanya akurat 54 persen. “Bahkan peningkatan 1 persen dianggap signifikan,” kata Lin. “Jadi ini adalah lompatan besar untuk pengaturan mikrokontroler.”

Tim menemukan hasil serupa dalam tes ImageNet dari tiga mikrokontroler lainnya. Dan pada kecepatan dan akurasi, MCUNet mengalahkan kompetisi untuk tugas audio dan visual “kata bangun”, di mana pengguna memulai interaksi dengan komputer menggunakan isyarat vokal (pikirkan: “Hei, Siri”) atau cukup dengan memasuki ruangan. Eksperimen menyoroti kemampuan adaptasi MCUNet untuk berbagai aplikasi.

“Potensi besar”

Hasil tes yang menjanjikan memberi Han harapan akan menjadi standar industri baru untuk mikrokontroler. “Ini memiliki potensi yang sangat besar,” katanya.

Kemajuan tersebut “memperluas batas desain jaringan neural dalam bahkan lebih jauh ke dalam domain komputasi mikrokontroler hemat energi kecil,” kata Kurt Keutzer, seorang ilmuwan komputer di Universitas California di Berkeley, yang tidak terlibat dalam penelitian ini. Dia menambahkan bahwa MCUNet dapat “membawa kemampuan penglihatan komputer yang cerdas bahkan ke peralatan dapur yang paling sederhana, atau mengaktifkan sensor gerak yang lebih cerdas.”

MCUNet juga dapat membuat perangkat IoT lebih aman. “Keuntungan utama adalah menjaga privasi,” kata Han. “Anda tidak perlu mengirimkan data ke cloud.”

Menganalisis data secara lokal mengurangi risiko informasi pribadi dicuri – termasuk data kesehatan pribadi. Han membayangkan jam tangan pintar dengan MCUNet yang tidak hanya merasakan detak jantung, tekanan darah, dan tingkat oksigen pengguna, tetapi juga menganalisis dan membantu mereka memahami informasi itu. MCUNet juga dapat membawa pembelajaran mendalam ke perangkat IoT di kendaraan dan daerah pedesaan dengan akses internet terbatas.

Plus, jejak komputasi tipis MCUNet diterjemahkan menjadi jejak karbon yang tipis. “Impian besar kami adalah untuk AI ramah lingkungan,” kata Han, menambahkan bahwa melatih jaringan saraf yang besar dapat membakar karbon yang setara dengan emisi lima mobil seumur hidup. MCUNet pada mikrokontroler akan membutuhkan sebagian kecil dari energi tersebut. “Tujuan akhir kami adalah mengaktifkan AI kecil yang efisien dengan sumber daya komputasi yang lebih sedikit, sumber daya manusia yang lebih sedikit, dan lebih sedikit data,” kata Han.

Dipersembahkan Oleh : Lapak Judi

Baca Juga : Data Sidney