OctoML mengumumkan rilis terbaru dari platformnya, yang menunjukkan pertumbuhan di MLOps
Data Centers

OctoML mengumumkan rilis terbaru dari platformnya, yang menunjukkan pertumbuhan di MLOps

Tolok ukur dan terapkan model pembelajaran mesin Anda di AWS, Azure, dan Google cloud, atau di edge, pada perangkat keras AMD, Arm, Intel, dan Nvidia. Tingkatkan kinerja, dan gunakan kerangka kerja sumber terbuka seperti ONNX Runtime, TensorFlow, serta TensorFlow Lite dan TVM.

Itulah penawaran OctoML secara singkat. Kami pikir itu melukiskan gambaran representatif dari lanskap saat ini dalam penerapan aplikasi AI, domain yang juga dikenal sebagai MLOps. Kami telah mengidentifikasi MLOps sebagai bagian penting dari peralihan berkelanjutan ke aplikasi yang didukung pembelajaran mesin, dan memperkenalkan OctoML pada Maret 2021, pada kesempatan putaran pendanaan Seri B mereka.

Diluncurkan hari ini di TVMcon 2021, konferensi seputar kerangka kerja Apache TVM open source untuk akselerasi pembelajaran mesin, rilis baru OctoML menghadirkan sejumlah fitur baru. Kami bertemu dengan CEO dan Co-founder OctoML Luis Ceze untuk membahas kemajuan OctoML, sebagai proksi untuk kemajuan MLOps secara luas.

Melebihi ekspektasi

Hal pertama yang perlu diperhatikan dalam laporan kemajuan ini adalah bahwa OctoML telah melampaui tujuan yang ditetapkan oleh Ceze pada Maret 2021. Ceze mencatat saat itu bahwa tujuan perusahaan adalah untuk meningkatkan jumlah karyawan, memperluas ke tepi, dan membuat kemajuan untuk menambahkan dukungan untuk model pembelajaran mesin pelatihan, di luar inferensi yang sudah didukung.

Semua tujuan tersebut terpenuhi sampai batas tertentu, dengan dukungan untuk model pembelajaran mesin pelatihan yang dibahas secara mendalam oleh Tiernan Ray ZDNet sendiri baru-baru ini. Ceze mengatakan bahwa OctoML membuat kemajuan yang baik di depan itu, dengan peta jalan untuk merilis ini di platform OctoML di beberapa titik pada tahun 2022.

Apa yang tidak pernah terdaftar sebagai tujuan, tetapi tetap terjadi, adalah putaran pendanaan lainnya. Ini terjadi pada November 2021, dan OctoML menerima $85 juta dalam putaran Seri C. Seperti yang dicatat Ceze, ini adalah tanda zaman. Kami benar-benar kehilangan hitungan putaran pendanaan yang tampaknya tidak pernah berakhir di ruang AI belakangan ini. Ceze mengatakan bahwa meskipun OctoML tidak ingin mengumpulkan lebih banyak uang, mereka memutuskan bahwa itu akan membantu mereka tumbuh lebih cepat.

Dan tumbuh mereka lakukan. OctoML melampaui tujuannya dalam hal rekrutmen, sekarang memiliki lebih dari 100 karyawan, dan terus berkembang. Ini penting, mengingat sulitnya menemukan kombinasi keahlian dalam pembelajaran mesin dan perangkat keras yang dicari OctoML. Mari kita lihat apa lagi yang telah dicapai OctoML, dan fitur baru apa yang diumumkan hari ini.

Pertama, telah memperluas pilihan target penyebaran untuk menyertakan dukungan target Microsoft Azure. OctoML kini menyediakan pilihan di ketiga cloud utama, termasuk AWS dan Google Cloud Platform, dengan CPU AMD dan Intel serta GPU NVIDIA sebagai opsi target di setiap cloud.

1621981355-img-18.png

Pertumbuhan pergeseran OctoML dapat dilihat sebagai proxy untuk MLOps pada umumnya

OctoML

Menariknya, OctoML baru-baru ini menerbitkan beberapa eksperimen dengan prosesor M1 Apple juga. Kami bertanya kepada Ceze apakah dukungan untuk itu akan datang, dan apakah dukungan untuk vendor perangkat keras yang akan datang seperti Blaize, Graphcore atau Samba Nova juga ada di peta jalan.

Ceze menjawab bahwa tujuan dari latihan M1 adalah untuk menunjukkan bahwa OctoML dapat dengan mudah memasang target perangkat keras apa pun, apakah ini dilakukan dengan bekerja sama dengan vendor atau secara mandiri. Dukungan untuk M1, atau untuk target perangkat keras lainnya, akan ditambahkan berdasarkan dorongan pasar. Sebagian besar vendor yang akan datang mengetahui OctoML, dan banyak dari mereka melakukan ping ke perusahaan untuk bekerja dengan mereka, atau melakukannya sendiri, lanjutnya.

Bagian depan lain di mana OctoML memperluas dukungannya adalah keunggulannya. OctoML sekarang memiliki dukungan untuk NVIDIA Jetson AGX Xavier, dan Jetson Xavier NX untuk mendukung CPU Arm A-72 menggunakan OS 32 dan 64 bit. Ceze juga memverifikasi apa yang telah kami catat – ada pertumbuhan luar biasa dalam permintaan untuk aplikasi pembelajaran mesin edge.

Lebih banyak mesin akselerasi, lebih banyak pilihan

Di sisi perangkat lunak, OctoML mengumumkan dukungan format model yang diperluas yang mencakup ONNX, TensorFlow Lite, dan beberapa format pengemasan model TensorFlow, sehingga pengguna dapat mengunggah model terlatih mereka tanpa konversi. Tapi itu tidak semua ada untuk itu.

Selain itu, masing-masing mesin akselerasi baru — ONNX Runtime, TensorFlow, dan TensorFlow Lite — kini didukung selain dukungan TVM “asli” OctoML. Dengan cara ini, kata Ceze, pengguna dapat membandingkan dan membedakan serta memilih mana yang ingin digunakan.

Ini adalah penyimpangan dari apa yang sebelumnya merupakan hubungan erat antara proyek open source Apache TVM, dan penawaran OctoML. Pada dasarnya, OctoML menawarkan versi perangkat lunak sebagai layanan dari TVM. Kini, OctoML juga menawarkan pilihan tambahan dalam hal mesin akselerasi. Pengguna, Ceze mencatat, sekarang memiliki kemampuan untuk melakukan benchmarking yang sangat komprehensif dari alur kerja mereka:

“Anda mengunggah model, lalu Anda dapat memilih target perangkat keras apa yang Anda inginkan dalam satu alur kerja, yang dapat melawan semua cloud atau target tepi tertentu. Kemudian kami melakukan pengoptimalan atau penyetelan benchmark pengemasan dan menyediakan data komprehensif ini untuk membantu Anda membuat keputusan tentang bagaimana Anda akan menerapkan di cloud atau perangkat edge Anda”, kata Ceze.

Selain itu, OctoML kini hadir dengan apa yang mereka sebut sebagai “Model Zoo yang dipercepat sebelumnya”. Dengan kata lain, kumpulan model pembelajaran mesin yang mencakup set Computer Vision (Klasifikasi Objek dan Deteksi Gambar) yang mencakup Resnet, YOLO, Mobilenet, Inception, dan lainnya, serta set Natural Language Processing (NLP) yang menyertakan BERT , GPT-2, dan lainnya.

Sejauh komunitas Apache TVM berjalan, Ceze mencatat bahwa ada pertumbuhan 50% dibandingkan tahun lalu, dan momentumnya tidak melambat. Ceze juga menyebutkan beberapa kasus penggunaan yang menarik dari adopsi OctoML, termasuk Microsoft Watch For, dan Woven Planet Holdings.

Secara keseluruhan, mengingat baru 6 bulan sejak OctoML Seri B, pertumbuhannya luar biasa. Kami melihatnya sebagai contoh pertumbuhan MLO secara luas, dan kami berharap ini akan terus berlanjut di masa mendatang.

Posted By : togel hongkonģ