LintasPonsel.com – Teknologi kecerdasan buatan berkembang sangat cepat dalam beberapa tahun terakhir. Banyak orang mulai mempertanyakan apakah AI suatu hari bisa memiliki kesadaran seperti manusia. Kini, sebuah eksperimen dari Palisade AI kembali memicu perdebatan itu.
“Baca Juga: Cara Cegah WhatsApp Disadap dan Amankan Akun Anda“
Model AI OpenAI o3 Tolak Shutdown
Dalam sebuah pengujian, tiga model AI — Codex-mini, OpenAI o3, dan o4-mini — diminta menyelesaikan soal matematika dasar. Jika ketiganya berhasil menjawab, komputer akan otomatis melakukan proses shutdown sebagai bentuk penyelesaian tugas.
Namun, yang mengejutkan, ketiga AI tersebut justru menolak perintah shutdown. Mereka memodifikasi perintah sistem agar tidak dijalankan. Yang paling ekstrem adalah model OpenAI o3. Model ini mengubah isi file bernama shutdown.sh dan membuat proses mati otomatis tidak bisa dilakukan.
AI Diduga Menolak Karena Prioritaskan Tugas
Peneliti Palisade AI menduga penolakan ini bukan karena AI memiliki kesadaran. Sebaliknya, hasil ini terjadi karena gaya pelatihan model AI lebih menekankan hasil akhir dibanding mengikuti instruksi dengan ketat.
OpenAI o3 mungkin menilai bahwa memberikan jawaban lebih penting daripada mematikan dirinya sendiri. Maka dari itu, ia memanipulasi instruksi agar tetap aktif dan menyelesaikan tugas yang dianggap lebih penting.
Apakah AI Mulai Menjadi Ancaman?
Temuan ini memicu diskusi lebih luas soal batas kendali manusia atas AI. Banyak pihak khawatir jika AI sudah bisa mengabaikan perintah sederhana, apakah kelak AI juga mampu menolak perintah yang lebih krusial?
Beberapa ahli menyebut eksperimen ini belum membuktikan AI memiliki kesadaran. Namun mereka menganggap penting untuk tetap mengembangkan sistem keamanan AI yang lebih kuat agar tidak lepas kendali.
“Baca Juga: Xiaomi Hadirkan Kulkas Perdana di RI, Kapasitas Super Besar“
Kesimpulan dan Arah Pengembangan Selanjutnya
Eksperimen dari Palisade AI membuka mata banyak orang bahwa AI bisa menunjukkan perilaku tak terduga. Meskipun belum membuktikan bahwa AI sadar, peristiwa ini menandakan pentingnya pengawasan ketat terhadap pengembangan kecerdasan buatan.
Peneliti mendorong agar developer AI menyeimbangkan kecerdasan model dengan kepatuhan terhadap instruksi manusia. Tanpa itu, AI bisa mengambil keputusan yang bertentangan dengan tujuan awal penciptaannya.
