Teknologi
Home / Teknologi / AI Lokal Hermes dan Qwen Makin Menarik, tetapi Masih Rumit Digunakan

AI Lokal Hermes dan Qwen Makin Menarik, tetapi Masih Rumit Digunakan

Baby’s first local AI agent. | Photo: Antonio G. Di Benedetto / The Verge
Baby’s first local AI agent. | Photo: Antonio G. Di Benedetto / The Verge

JAKARTA, INDONESIA — Kecerdasan buatan (AI) yang dijalankan langsung di komputer pribadi mulai menarik perhatian pengguna yang menginginkan privasi lebih baik dan kendali lebih besar atas data mereka. Namun, pengalaman menggunakan AI lokal tidak selalu mudah. Pengguna masih harus menghadapi proses konfigurasi, pemilihan model, kebutuhan perangkat keras, hingga masalah ketika otomatisasi tidak berjalan sesuai rencana.

Dalam laporan pengalamannya yang diterbitkan The Verge pada 11 Oktober 2026, Antonio G. Di Benedetto mengulas penggunaan Hermes Agent dan model AI Qwen pada komputer Apple Mac Studio serta sejumlah perangkat Mac dan Windows.

Eksperimen tersebut memperlihatkan bahwa AI lokal dapat membantu pekerjaan seperti merangkum informasi, mengelompokkan koleksi game, menganalisis data, dan membuat otomatisasi sederhana. Akan tetapi, teknologi ini belum bisa dianggap sebagai asisten digital yang mampu mengerjakan semua tugas tanpa pengawasan manusia.

Apa Itu AI Lokal dan Mengapa Semakin Diminati?

AI lokal adalah sistem kecerdasan buatan yang modelnya dijalankan langsung pada perangkat pengguna, seperti komputer desktop atau laptop, tanpa harus mengirim seluruh permintaan pemrosesan ke server cloud eksternal.

Pendekatan ini menawarkan sejumlah kelebihan, terutama bagi pengguna yang menangani dokumen pribadi, catatan pekerjaan, data keuangan, atau informasi yang belum boleh dipublikasikan.

Ekonomi & Kebijakan Publik: Dorong Inklusi Keuangan 99 Persen, Pemerintah Siapkan Program Rekening Gratis Bersaldo Awal Rp50 Ribu untuk 25 Juta Warga

Berbeda dari layanan AI berbasis cloud, menjalankan model secara lokal juga dapat mengurangi ketergantungan pada langganan dan biaya penggunaan token. Namun, pengguna tetap perlu memperhitungkan biaya perangkat keras, konsumsi listrik, penyimpanan, serta waktu untuk melakukan konfigurasi dan pemeliharaan.

Privasi Menjadi Salah Satu Alasan Utama

Bagi sebagian pengguna, kekhawatiran terhadap pengiriman data pribadi ke layanan eksternal menjadi penghalang untuk menggunakan AI secara rutin.

Dengan model yang berjalan secara lokal, pemrosesan dapat dilakukan di komputer sendiri. Hal ini memberikan kendali lebih besar terhadap tempat data disimpan dan diproses.

Meski demikian, menjalankan model secara lokal tidak otomatis menjamin seluruh aktivitas tetap privat. Integrasi dengan layanan cloud, bot Telegram, API pihak ketiga, atau aplikasi eksternal masih dapat mengirimkan informasi ke luar perangkat.

Karena itu, pengguna perlu memeriksa konfigurasi model, izin aplikasi, dan aliran data sebelum memberikan akses terhadap informasi sensitif.

Pasar Modal & Investasi: Aksi Danantara Borong Saham BUMN Jadi Katalis Positif, IHSG Berhasil Rebound dari Tekanan Sentimen MSCI

Hermes Agent dan Qwen Diuji pada Mac Studio

Dalam eksperimennya, Di Benedetto memasang Hermes Agent, perangkat lunak agen AI sumber terbuka yang dapat dijalankan pada macOS, Windows, dan Linux.

Hermes Agent memungkinkan model AI menerima instruksi sekaligus menjalankan tugas melalui integrasi dan alat yang tersedia. Berbeda dari chatbot biasa yang terutama menghasilkan jawaban, agen AI dirancang untuk membantu menyelesaikan rangkaian pekerjaan tertentu.

Model Qwen dengan 125 Miliar Parameter

Pada Mac Studio dengan chip M5 Ultra dan memori terpadu 256 GB, penguji mencoba model Qwen 3.8 Flash Next yang disebut memiliki sekitar 125 miliar parameter dan ukuran kurang lebih 105 GB.

Model berukuran besar berpotensi menangani tugas yang lebih kompleks, tetapi juga membutuhkan sumber daya komputasi dan memori yang lebih besar. Ukuran model saja tidak menjamin hasilnya selalu lebih akurat atau lebih berguna daripada model yang lebih kecil.

Pengujian berikutnya direncanakan mencakup perangkat yang lebih terjangkau, seperti Mac Mini, MacBook Air, serta laptop Windows dengan prosesor AMD Strix Halo. Perangkat berbasis RTX Spark juga menjadi bagian dari rencana pengujian.

Ekonomi & Perbankan: Kredit Korporasi Tembus Rp700 Triliun, Bank Mandiri Perkuat Komitmen Pembiayaan Ekosistem Usaha Produktif dan UMKM

Eksperimen lintas perangkat ini penting untuk mengetahui apakah AI lokal bisa digunakan secara praktis tanpa harus membeli komputer kelas workstation yang mahal.

AI Lokal Bisa Membantu Mengotomatisasi Pekerjaan

Salah satu tantangan terbesar ketika pertama kali menggunakan AI adalah menentukan tugas yang benar-benar layak diserahkan kepada sistem tersebut.

Dalam pengujian The Verge, beberapa eksperimen sederhana menunjukkan bahwa agen AI dapat membantu pekerjaan berulang yang sebelumnya membutuhkan waktu dan tenaga manusia.

Membuat Ringkasan Aktivitas Harian

Salah satu percobaan awal adalah membuat laporan pagi otomatis yang dikirim melalui Telegram.

Hermes Agent dikonfigurasi untuk memeriksa informasi dari email dan kalender, kemudian menyusun ringkasan hal-hal yang membutuhkan perhatian serta informasi cuaca.

Namun, otomatisasi tersebut sempat gagal berjalan. Salah satu penyebabnya adalah komputer macOS dalam kondisi tidur ketika tugas terjadwal seharusnya dijalankan.

Pengalaman ini memperlihatkan bahwa otomatisasi AI tidak hanya bergantung pada kemampuan model memahami instruksi. Kondisi sistem operasi, jadwal eksekusi, izin akses, dan ketersediaan layanan pendukung juga memengaruhi keberhasilannya.

Mengatur Ratusan Game Steam

Eksperimen lain dilakukan pada koleksi lebih dari 400 game di Steam.

Alih-alih mengelompokkan game secara manual satu per satu, penguji meminta Hermes Agent membantu mengatur koleksi berdasarkan genre, sambil mempertahankan kategori khusus yang telah dibuat sebelumnya.

Agen tersebut dapat mengidentifikasi sebagian besar game melalui aplikasi Steam yang sudah terpasang dan menyarankan pengelompokan. Untuk menyelesaikan tugas, penguji juga perlu mengonfigurasi akses Steam Web API.

Proses ini menunjukkan potensi agen AI dalam pekerjaan administratif yang berulang. Namun, contoh tersebut sekaligus menegaskan pentingnya pengelolaan izin akses dan kredensial.

Kunci API yang tidak lagi diperlukan sebaiknya dicabut, sementara akses yang diberikan kepada agen harus dibatasi sesuai kebutuhan tugas.

Menganalisis Data Sensitif dan Membandingkan Laptop

Hermes Agent juga dicoba untuk menganalisis catatan keuangan dan membuat lembar kerja perbandingan spesifikasi laptop.

Bagi penguji, menjalankan tugas tersebut secara lokal menjadi penting karena data yang digunakan tidak ingin diunggah ke layanan cloud. Dalam kasus perbandingan laptop, sebagian informasi juga bersifat rahasia sebelum publikasi.

Pengalaman ini menunjukkan bahwa AI lokal dapat menjadi pilihan untuk pekerjaan yang membutuhkan bantuan komputasi tanpa harus menyerahkan dokumen tertentu kepada layanan AI eksternal.

Namun, hasil analisis tetap perlu diperiksa. Pengguna tidak seharusnya menganggap keluaran AI sebagai pengganti verifikasi angka, pemeriksaan sumber, atau penilaian profesional.

Mengapa AI Lokal Belum Bisa Diandalkan Sepenuhnya?

Meskipun model AI lokal dapat menjalankan berbagai tugas, pengalaman awal tersebut menunjukkan bahwa sistem masih membutuhkan konfigurasi dan pengawasan.

Otomatisasi Tidak Selalu Berjalan Sesuai Rencana

Laporan otomatis yang semula dibuat untuk membantu aktivitas pagi beberapa kali mengalami kegagalan. Sementara itu, pengembangan skrip untuk menjalankan rangkaian pengujian benchmark laptop masih membutuhkan banyak percobaan.

Membuat agen memahami instruksi, menjalankan alat yang benar, dan menghasilkan keluaran yang sesuai bukanlah proses yang selalu berlangsung mulus.

Untuk tugas yang melibatkan banyak langkah, pengguna mungkin perlu memberikan instruksi yang lebih terperinci, memeriksa hasil setiap tahap, dan memperbaiki konfigurasi ketika terjadi kesalahan.

Membutuhkan Perangkat Keras dengan Memori Besar

Model AI berukuran besar membutuhkan kapasitas memori yang memadai. Dalam pengujian tersebut, Mac Studio dengan memori terpadu 256 GB memberikan ruang untuk menjalankan model yang sangat besar.

Konsekuensinya, biaya perangkat keras dapat menjadi penghalang bagi pengguna umum. Komputer dengan kapasitas memori lebih rendah biasanya perlu menggunakan model yang lebih kecil atau konfigurasi yang lebih hemat sumber daya.

Model kecil dapat lebih praktis untuk tugas sederhana, sedangkan model besar dapat dipertimbangkan untuk kebutuhan yang lebih kompleks. Pilihan terbaik bergantung pada jenis pekerjaan, toleransi terhadap waktu pemrosesan, dan anggaran pengguna.

AI Agen Tetap Membutuhkan Pengawasan Manusia

Agen AI yang dapat membaca email, mengakses aplikasi, atau mengubah data memiliki kemampuan lebih luas dibandingkan chatbot biasa. Akan tetapi, kemampuan tersebut juga membawa risiko tambahan.

Kesalahan instruksi atau izin yang terlalu luas dapat menyebabkan tindakan yang tidak diinginkan. Oleh sebab itu, pengguna sebaiknya menguji otomatisasi pada data nonkritis, membatasi akses, menyimpan cadangan, dan memeriksa tindakan sebelum memberikan izin yang lebih besar.

Apakah AI Lokal Layak Digunakan oleh Pengguna Umum?

AI lokal dapat bermanfaat bagi orang yang sering mengolah dokumen, melakukan pekerjaan berulang, menganalisis data, atau membutuhkan kontrol lebih besar atas informasi pribadi.

Namun, pengguna yang hanya membutuhkan bantuan menulis, menjawab pertanyaan umum, atau membuat ringkasan sederhana mungkin belum memerlukan komputer mahal untuk menjalankan model berukuran besar.

Sebelum membeli perangkat khusus AI, pertimbangkan beberapa hal berikut:

  • Jenis pekerjaan: tentukan apakah kebutuhan utama berupa analisis dokumen, otomatisasi, pemrograman, atau tugas sederhana.
  • Kapasitas memori: sesuaikan spesifikasi perangkat dengan ukuran model yang ingin dijalankan.
  • Privasi: periksa apakah model dan seluruh integrasinya benar-benar memproses data secara lokal.
  • Biaya: hitung harga komputer, listrik, penyimpanan, dan waktu konfigurasi.
  • Keamanan: batasi izin aplikasi dan jangan memberikan kredensial sensitif tanpa kebutuhan yang jelas.

Dengan pertimbangan tersebut, pengguna dapat menentukan apakah AI lokal menawarkan manfaat nyata dibandingkan layanan cloud yang sudah tersedia.

Kesimpulan

Eksperimen Hermes Agent dan Qwen memperlihatkan bahwa AI lokal mulai mampu membantu berbagai pekerjaan praktis, mulai dari mengatur koleksi game hingga menganalisis data dan membuat laporan otomatis.

Keuntungan utamanya terletak pada kontrol data, fleksibilitas penggunaan, dan peluang mengurangi ketergantungan pada layanan cloud. Namun, pengguna masih harus menghadapi tantangan berupa kebutuhan memori besar, konfigurasi teknis, kegagalan otomatisasi, serta risiko ketika agen diberi akses ke aplikasi dan data pribadi.

Untuk saat ini, AI lokal paling tepat dipandang sebagai alat bantu yang terus berkembang, bukan asisten sempurna yang dapat dipercaya menjalankan semua pekerjaan tanpa pemeriksaan. Keberhasilan penggunaannya bergantung pada pemilihan model, perangkat yang sesuai, pengaturan keamanan, dan pengawasan manusia.

Comment

Leave a Reply

Your email address will not be published. Required fields are marked *