id flag
id flag
a computer circuit board with a brain on it

Mengenal Generative AI di Edge Devices

Membawa Model AI Canggih ke Dunia Fisik lewat NVIDIA Jetson

Tim Digiware

7/30/20262 min baca

Generative AI kini tidak lagi terbatas pada server awan (cloud), melainkan dapat dijalankan secara lokal di perangkat tepi (edge devices) menggunakan platform NVIDIA Jetson Orin. Melalui dukungan model-model besar seperti Llama-2, Vision Transformers (ViT), dan Vision Language Models (VLM), pemrosesan data berbasis teks dan penglihatan AI dapat diintegrasikan secara real-time untuk aplikasi dunia nyata seperti agen fisik rumah pintar dan otomasi industri.

Membawa Generative AI ke Dunia Fisik dengan Perangkat NVIDIA Jetson

Generative AI telah mengubah cara manusia berinteraksi dengan teknologi. Jika sebelumnya AI generatif identik dengan infrastruktur cloud yang besar dan bergantung pada koneksi internet, kini teknologi tersebut dapat diproses secara lokal di perangkat edge. NVIDIA Jetson Orin memungkinkan pemrosesan AI generatif secara cepat, privat, dan efisien di tempat data tersebut dihasilkan.

Apa Itu Generative AI?

Generative AI adalah cabang kecerdasan buatan yang mampu menghasilkan konten baru berdasarkan berbagai jenis masukan (input). Output yang dihasilkan bisa bervariasi, meliputi:

  • Teks dan dokumen

  • Gambar dan animasi

  • Suara dan audio

  • Model 3D

Keunggulan utama AI generatif modern terletak pada kemampuannya memanfaatkan metode pembelajaran unsupervised (tanpa pengawasan) dan semi-supervised. Pendekatan ini memungkinkan organisasi mengolah data berukuran besar yang belum terlabeli untuk membangun Model Dasar (Foundation Models). Model dasar ini berfungsi sebagai fondasi fleksibel yang bisa disesuaikan untuk berbagai jenis tugas di dunia nyata.

Kemampuan NVIDIA Jetson dalam Menjalankan Model AI Lokal

NVIDIA Jetson menawarkan performa komputasi tinggi dalam bentuk fisik yang ringkas, sehingga mumpuni untuk menjalankan model-model AI berukuran besar secara lokal.

  1. Large Language Models (LLM): Perangkat seperti Jetson AGX Orin sanggup menjalankan model bahasa berukuran besar seperti Llama-2-70B. Untuk kebutuhan interaktif dengan latensi rendah, model Llama-2-13B dapat dieksekusi secara mulus.

  2. Vision Language Models (VLM) & Vision Transformers (ViT): Menggabungkan pemrosesan bahasa alami (NLP) dengan AI berbasis penglihatan (computer vision). Kombinasi ini memberikan pemahaman konteks visual yang mendalam untuk analisis adegan di sekitar perangkat.

  3. Stable Diffusion & Model CLIP: Memungkinkan pembuatan gambar serta klasifikasi visual berbasis deskripsi teks secara langsung di perangkat

Penerapan AI Generatif di Dunia Nyata (Physical Agent)

Dengan mengombinasikan perangkat seperti SenseCAP Watcher sebagai agen fisik dan Jetson Orin yang menjalankan LLM privat, kecerdasan buatan dapat langsung berinteraksi dengan lingkungan fisik.

Beberapa contoh aplikasinya meliputi:

  • Pengawasan & Logistik: Mengenali kedatangan kurir pengiriman barang, memberikan notifikasi ke pemilik rumah, dan mengarahkan lokasi penempatan paket.

  • Rumah Pintar (Smart Home): Mengatur pencahayaan secara otomatis berdasarkan aktivitas penghuni (misalnya menyalakan lampu baca saat ada yang membaca) serta mematikan perangkat elektronik secara otomatis.

  • Keamanan & Notifikasi: Deteksi pintu terbuka serta pemantauan durasi penggunaan perangkat hiburan bagi anak-anak.


Ekosistem Perangkat Keras dan Sumber Daya Pengembangan

Untuk mempercepat penerapan AI generatif di lini terdepan, Seeed (sebagai Partner Elite dari NVIDIA Partner Network) menyediakan perangkat keras platform Jetson beserta layanan ODM. Selain itu, terdapat Jetson Generative AI Lab yang menyediakan tutorial interaktif, panduan pembuatan teks/gambar, hingga teknik distilasi model.

Berikut adalah beberapa perangkat Edge AI berbasis NVIDIA Jetson yang dapat digunakan untuk pengembangan:

DigiWare

Robotic & Electronic Components Online Store in Indonesia

www.digiwarestore.com

Komplek Ruko RMI Blok i No. 22

031-5039460

© 2024. All rights reserved.

customerservice@digiwarestore.com

Surabaya, Jawa Timur, 60284

Our Social Media

Marketplace

Tokopedia ( Surabaya )

Tokopedia ( Bekasi )

Shopee ( Surabaya )

Our Partners