Pembelajaran mesin di ujung tombak: Ekosistem perangkat keras dan perangkat lunak
Processors

Pembelajaran mesin di ujung tombak: Ekosistem perangkat keras dan perangkat lunak

Komputasi tepi sedang booming. Gagasan untuk mengeluarkan komputasi dari pusat data, dan membawanya sedekat mungkin ke tempat data dihasilkan, mendapat banyak daya tarik. Perkiraan untuk pertumbuhan komputasi tepi berada di CAGR 40%, area $ 50 miliar.

Baik itu sensor IoT yang berdiri sendiri, semua jenis perangkat, drone, atau kendaraan otonom, ada satu kesamaan. Semakin banyak, data yang dihasilkan di edge digunakan untuk memberi makan aplikasi yang didukung oleh model pembelajaran mesin.

TinyML adalah bidang teknologi dan aplikasi pembelajaran mesin yang berkembang pesat yang memungkinkan pembelajaran mesin bekerja di edge. Ini mencakup perangkat keras, algoritme, dan perangkat lunak yang mampu melakukan analitik data sensor pada perangkat dengan daya yang sangat rendah, sehingga memungkinkan berbagai kasus penggunaan yang selalu aktif.

Agar TinyML berfungsi, diperlukan perpaduan perangkat keras dan perangkat lunak, menciptakan ekosistem yang dibangun berdasarkan gagasan tentang kebutuhan energi yang hemat. Ini adalah prasyarat untuk aplikasi di tepi.

Today Arm, penyedia IP semikonduktor global yang dikenal dengan fokusnya pada penciptaan ekosistem dan kebutuhan energi hemat untuk prosesornya, mengumumkan kemitraan dengan Neuton, penyedia platform TinyML otomatis. Sebelumnya pada bulan September, Alif Semiconductors, mitra Arm lain yang membangun chip AI untuk edge, merilis lini produk baru.

ZDNet bertemu dengan Henrik Flodell, Sr. Marketing Manager di Alif, Philip Lewer, Director of Ecosystem and Developer Relations, Machine Learning at Arm, dan Blair Newman, CTO di Neuton, semua pakar berpengalaman di ruang tertanam. Kami membahas penawaran mereka masing-masing dan apa yang diperlukan untuk mendapatkan ekosistem pembelajaran mesin di ujung tombak.

Arm, membangun ekosistem AI

Arm adalah juara ekosistem dengan lebih dari 1000 mitra. Menurut Lewer, itulah alasan utama mengapa perusahaan mampu mengirimkan lebih dari 190 miliar chip berdasarkan teknologinya ke seluruh dunia.

Chip lengan digunakan di mana-mana, dari pusat data cloud hingga laptop dan dari perangkat yang dapat dikenakan hingga drone. Lewer menggambarkan platform AI Arm sebagai “kumpulan teknologi dan kemitraan yang memungkinkan AI terjadi”.

Untuk Arm, fondasinya ada di level perangkat keras, dan platform AImencakup semuanya, mulai dari CPU Arm Cortex hingga GPU Mali dan NPU Ethos dan microNPU. Keluarga Cortex-M adalah pilihan yang sangat populer, sering disertakan dalam mikrokontroler serta chip lainnya. Seri prosesor Ethos-U Arm berfokus secara khusus pada inferensi pembelajaran mesin untuk perangkat berdaya rendah.

Keluarga produk Ensemble™ dan Crescendo™ Alif yang baru-baru ini diluncurkan juga menggunakan Arm’s Cortex-M. Chip ensemble ditujukan untuk produk rumah pintar, peralatan, tempat penjualan, robotika, dan aplikasi lain di edge.

Alif didirikan pada 2019, dan Flodell mencatat bahwa motivasinya adalah untuk “mengembangkan platform baru dari bawah ke atas, berdasarkan teknologi terbaru yang benar-benar memungkinkan fungsionalitas seperti konektivitas nirkabel di mana-mana dan pemrosesan tepi dengan AI dan kemampuan pembelajaran mesin”.

Akselerasi pembelajaran mesin dan keamanan berlapis adalah fitur utama yang dimiliki Ensemble dan Crescendo. Keluarga Crescendo juga menawarkan fitur konektivitas dan pemosisian, yang menurut Alif cocok untuk kota pintar, infrastruktur terhubung, pelacakan aset, perangkat kesehatan, dan aplikasi yang dapat dikenakan.

Kembali pada tahun 2018, Neuton menyebabkan percikan dengan mengumumkan kerangka kerja jaringan saraf yang mengklaim jauh lebih efektif daripada kerangka kerja lain dan algoritma non-saraf yang tersedia di pasar.

Newman mencatat bahwa meskipun Bell Integrator, vendor di balik kerangka kerja Neuton, telah ada selama lebih dari 17 tahun, sekitar 6 tahun yang lalu mereka memusatkan perhatian mereka untuk membangun solusi SaaS tanpa kode.

Secara historis, Newman menambahkan bahwa Bell Integrator telah memanfaatkan semua kerangka kerja pembelajaran mesin “tradisional” yang tersedia. Namun, masalah kelangkaan sumber daya selalu sulit dinavigasi. Membangun model pembelajaran mesin adalah satu hal dan menerapkannya dalam produksi, terutama di edge.

Neuton, membangun model pembelajaran mesin tanpa kode dari awal

Newman menekankan dua aspek pendekatan Neuton, yang bertentangan dengan kerangka kerja pembelajaran mesin yang sudah mapan. Pertama, aspek tanpa kode, memungkinkan ilmuwan non-data membangun model. Kedua, arsitektur khusus yang digunakan model pembelajaran mesin Neuton:

“Begitu model-model itu diproduksi, mereka dapat segera, tanpa interaksi apa pun, diintegrasikan ke dalam mikrokontroler. Pelanggan kami benar-benar diberdayakan untuk menjalani seluruh siklus hidup membawa pembelajaran mesin ke tepi tanpa keterampilan teknis”, kata Newman.

Neuton diundang untuk bergabung dengan ekosistem mitra Arm setelah mempresentasikan pendekatannya dalam membangun model yang ringkas dan akurat di TinyML EMEA Technical Forum 2021. Seluruh tujuan ekosistem mitra Arm adalah untuk menyatukan perusahaan yang memungkinkan kemampuan berbeda, kata Lewer.

Singkatan adalah Artificial Intelligence pada latar belakang dunia digital.  Konsep pembelajaran mesin.  Rendering 3D

Membangun ekosistem untuk AI di edge membutuhkan kolaborasi dan bekerja di seluruh perangkat keras dan perangkat lunak

Getty Images/iStockphoto

Contoh kasus, Alif dan Neuton, lanjut Lewer menambahkan. Alif memanfaatkan desain Arm’s Cortex dengan cara yang inovatif, tetapi pertanyaan sebenarnya bagi pengguna adalah bagaimana menerapkan model pembelajaran mesin pada chip Alif:

“Sangat penting, terutama bagi pengembang yang lebih dekat dengan latar belakang pemrograman konvensional, untuk menjembatani kesenjangan itu ke dalam dunia pembelajaran mesin. Kemudian Anda memiliki seseorang seperti Neuton yang datang dan berkata, nah, di situlah kami cocok. Jika kami memiliki pelanggan yang puas dan mitra yang puas, itulah cara kami mengukur kesuksesan”.

Arm adalah pasangan alami bagi Alif; Flodell setuju karena mereka memiliki IP yang bagus dan fokus pada pemberdayaan ekosistem: “Kami tahu bahwa orang akan dapat menjadi produktif dengan perangkat ini segera setelah mereka menggunakannya”. kata Flodel.

Perhatian khusus telah diberikan pada karakteristik kekuatan lini produk Alif. Secara alami, Flodell menjelaskan, chip dengan fitur konektivitas terintegrasi seperti garis Crescendo akan memiliki kebutuhan daya yang lebih tinggi dibandingkan dengan sesuatu seperti Ensemble.

Semuanya tergantung pada seberapa banyak daya yang Anda konsumsi hanya untuk berpartisipasi dalam jaringan, dan ini adalah bagian yang Alif fokuskan pada pengoptimalan. Dalam hal itu, dia menambahkan bahwa benchmark Alif menunjukkan Crescendo menjadi 2 hingga 3 kali lebih hemat daripada chip dengan karakteristik serupa, yang berarti aplikasi akan dapat berjalan lebih lama.

Alif, membangun pengontrol tertanam untuk lingkungan terbatas

Untuk aplikasi yang digunakan di tepi, konsumsi baterai benar-benar mata uang, Newman menyimpulkan. Pendekatan Neuton adalah untuk “membangun [models] dari bawah ke atas, neuron demi neuron. Anda hanya perlu membuat model Anda sekali, dan mereka menjadi sangat kompak tanpa mengurangi akurasi”.

Neuton relatif baru dalam permainan kemitraan. Namun, Newman mengidentifikasi kemitraan dengan Arm sebagai kemitraan strategis untuk tujuan Neuton untuk mendemokratisasi pembelajaran mesin. Bagi Lewer dan Arm, kemitraan adalah bagian penting dari strategi mereka, yang akan terus mereka kembangkan. Meskipun Arm memiliki banyak mitra, itu tidak semua tentang angka, kata Lewer:

“Ini benar-benar tentang membuat kemitraan itu efektif, dan itu berarti bersandar. Kami menghabiskan banyak waktu dengan masing-masing mitra mencoba memahami ke mana mereka mencoba pergi sehingga kami dapat menemukan titik temu”.

Ketika kita berbicara tentang pembelajaran mesin di tepi, mampu bekerja di lingkungan yang terbatas sumber daya adalah kuncinya, Flodell mencatat. Silsilah AI terkait dengan pusat data, tetapi ini harus berubah untuk aplikasi AI dunia nyata di ujung tombak:

“Ketika Anda ingin memperkecil dan menjalankan sesuatu yang dikonfigurasi sebagai mikrokontroler, terkadang dengan memori kurang dari satu megabita, itu sendiri menjadi tantangan.

Kemudian menambahkannya, AI dalam beberapa hal sangat berbeda dari pengembangan tradisional yang dilalui oleh perancang sistem tertanam. Masih lebih dalam domain ilmuwan data untuk memahami bagaimana menyesuaikan model untuk menghasilkan hasil yang tepat.

Mampu memanfaatkan aktivitas kemitraan Arm untuk terhubung ke perusahaan seperti Neuton harus dapat menjembatani kesenjangan itu untuk membuat para ilmuwan data dan keahlian pengembang yang tertanam bergabung dan untuk membuat model dan teknologi sesuai dengan sistem yang dibatasi.

Itu benar-benar tantangannya. Jika kita bisa mengatasinya, itu akan membuka pintu air untuk adopsi teknologi ini”.

Posted By : hongkong togel