LONDON, INGGRIS — Google kini tengah menghadapi gelombang protes dan tekanan internal dari sejumlah karyawannya terkait penggunaan teknologi kecerdasan buatan (AI) untuk kepentingan militer. Beberapa staf peneliti di anak perusahaan AI milik Google, Google DeepMind, memutuskan untuk mengundurkan diri sebagai bentuk penolakan terhadap kontrak militer yang dijalin oleh raksasa teknologi tersebut.
Sofia Liguori, seorang research engineer yang berbasis di London, menjadi salah satu peneliti yang resmi mengundurkan diri pekan ini. Meski terikat aturan kerahasiaan kontrak, Liguori secara terbuka menyuarakan keresahannya terkait arah kebijakan perusahaan tempatnya bekerja.
“Menyadari bahwa perusahaan saya semakin gencar mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google,” ujar Liguori.
Kontrak Pentagon dan Kekhawatiran Lemahnya Pengawasan AI
Aksi pengunduran diri ini dipicu oleh penandatanganan kontrak antara Google dan militer Amerika Serikat (Pentagon) untuk mengintegrasikan AI ke dalam lingkungan militer rahasia. Langkah ini sejalan dengan ambisi Menteri Pertahanan AS, Pete Hegseth, yang ingin menjadikan angkatan bersenjata AS sebagai pasukan tempur berbasis AI (AI-first warfighting force).
Selain Liguori, peneliti AI lainnya, Andreas Kirsch, juga telah mengundurkan diri awal bulan ini. Kirsch menilai bahwa tata kelola dan sistem pengawasan yang dimiliki Google tidak memadai untuk memastikan AI digunakan secara aman dan bertanggung jawab di sektor militer.
Beberapa poin utama yang menjadi sorotan para mantan karyawan dan pengamat teknologi meliputi:
-
Peluang Pelanggaran Etika: Penggunaan AI dalam operasi militer dikhawatirkan mengabaikan prinsip dasar Google yang menjunjung tinggi hak asasi manusia dan pengawasan manusia (human oversight).
-
Keterbatasan Akses Evaluasi: Google dinilai tidak memiliki hak veto maupun visibilitas penuh terhadap bagaimana Pentagon memanfaatkan model AI milik mereka di lapangan.
-
Risiko Pengambilan Keputusan Otomatis: Kecepatan pengembangan AI dikhawatirkan mengesampingkan pengujian (testing) dan evaluasi yang ketat sebelum diterapkan dalam pertempuran nyata.
Respon Google dan Integrasi AI dalam Sistem Pertahanan
Menanggapi gelombang pengunduran diri tersebut, juru bicara Google menyatakan bahwa perusahaan tetap mematuhi proses evaluasi yang konsisten serta prinsip-prinsip etika AI yang berlaku dalam setiap kerja sama dengan sektor publik. Google juga menegaskan telah menyediakan saluran khusus bagi karyawan untuk menyampaikan kekhawatiran tanpa rasa takut akan tindakan balasan.
Meskipun demikian, integrasi AI ke dalam platform pertahanan seperti Maven Smart Systems—sistem milik Pentagon yang membantu mengidentifikasi target serangan—terus berjalan cepat. Pihak Departemen Pertahanan AS menegaskan bahwa adopsi teknologi AI secara masif dan cepat merupakan kunci utama untuk memenangkan pertempuran di era modern.
Ketentuan Kontrak Penggunaan AI untuk Militer
Berdasarkan perjanjian kontrak yang disepakati, teknologi AI milik Google diizinkan untuk digunakan dalam pekerjaan militer rahasia selama memenuhi tujuan pemerintah yang sah secara hukum (lawful government purpose). Perjanjian tersebut juga melarang penggunaan AI untuk pengawasan massal domestik maupun senjata otonom tanpa adanya pengawasan dan kendali manusia yang sesuai.
Comment