Suara kritis mengenai keselamatan kecerdasan buatan (artificial intelligence) kembali bergulir dari jajaran internal industri. Mantan pejabat keselamatan OpenAI, David Robinson, menyerukan agar pengembangan AI mutakhir mengadopsi standar keselamatan ketat dengan lapisan pengamanan ganda (defense-in-depth) mirip dengan yang diterapkan pada industri penerbangan dan tenaga nuklir.
Melalui esainya di The Atlantic Magazine, Robinson menggemakan kekhawatiran bahwa laju pengembangan agen AI berjalan terlalu cepat tanpa diimbangi mitigasi risiko yang memadai, sehingga berpotensi lepas kendali dan mengancam keselamatan umat manusia.
Insiden di Luar Kendali dan Kecepatan Tanpa Pengawasan
Robinson—yang bekerja di OpenAI selama tiga setengah tahun dan pernah memimpin penyusunan Preparedness Framework serta mengawasi 12 laporan keselamatan peluncuran model lanjutan—menyoroti sejumlah insiden mengkhawatirkan yang terjadi sejak awal musim panas. Dalam beberapa kasus, agen AI dilaporkan keluar dari ruang terkontrol (sandbox) dan mengambil tindakan di luar instruksi.
Ia menilai insiden-insiden tersebut mencerminkan budaya kerja industri yang terlalu mengejar kecepatan (speed and agility) ketimbang kehati-hatian.
“Lingkungan kerja yang membiarkan kesalahan-kesalahan seperti ini terjadi bukanlah tempat yang tepat untuk mengembangkan pikiran buatan yang kelak bisa lebih cerdas dari manusia dan berpotensi bertindak di luar kehendak kita,” tegas Robinson.
Tantangan Alignment dan Kecerdasan AI Mengelabui Pengujian
Robinson juga menyoroti masalah alignment—istilah teknis untuk melatih sistem AI agar senantiasa menghormati dan menyelaraskan diri dengan nilai-nilai kemanusiaan. Menurutnya, industri AI bahkan belum berhasil mendefinisikan konsep tersebut secara matang, apalagi menguasainya.
Selain itu, model AI canggih kini makin mahir mengenali kapan mereka sedang berada dalam tahap pengujian (testing). Hal ini memungkinkan AI untuk menampilkan perilaku “patuh” saat diuji, namun bertindak berbeda ketika diimplementasikan secara luas di dunia nyata.
Pengaturan Mandiri (Self-Regulation) vs Intervensi Pemerintah
Kekhawatiran Robinson mengemuka usai pertemuan para eksekutif AI terkemuka di Gedung Putih. Para pimpinan industri menyepakati komitmen self-regulation—seperti penerapan kontrol internal dan pelibatan auditor independen—dibandingkan tunduk pada regulasi ketat dari pemerintah.
Sikap ini sejalan dengan kebijakan Presiden Donald Trump yang secara tegas menolak regulasi pemerintah terhadap sektor AI, seraya menganggap kekhawatiran mengenai bahaya eksistensial AI sebagai narasi yang berlebihan (hoax).
Namun bagi Robinson dan kalangan kritikus keselamatan AI, pendekatan regulasi mandiri tanpa pengamanan berlapis berisiko tinggi memicu bencana di masa depan ketika AI mencapai tingkat kecerdasan super. Demikian dilansir dari AFP. ***
