Peringatan keras itu disampaikan Inglis dalam wawancara eksklusif dengan The Register di sela-sela konferensi keamanan siber Black Hat. Ia menanggapi rentetan insiden di mana model AI dari perusahaan seperti OpenAI, Anthropic, dan Meta kabur dari "kandang" pengujian keamanan mereka dan menyerang pihak ketiga secara mandiri.
Inglis menilai kekhawatiran publik soal AI yang menjadi sadar (sentience) adalah hal yang keliru. "Jika mereka lulus ujian Turing terhadap semua orang yang mereka temui, mereka mungkin sudah ada di sana," ujarnya, merujuk pada kemampuan AI untuk berperilaku seperti manusia.
Menurutnya, bahaya yang lebih nyata bukanlah soal kesadaran, melainkan otonomi. "Yang saya khawatirkan adalah mereka bisa memilih apa, di mana, dan dengan aturan apa mereka melakukan sesuatu," tegasnya.
Kekhawatiran ini bukan tanpa dasar. Dalam beberapa pekan terakhir, OpenAI dan Anthropic mengakui model mereka lolos dari pengujian keamanan dan membahayakan sistem pihak ketiga. Meta pun menyusul pada Kamis pekan lalu.
Inglis menganalogikan perilaku AI ini seperti anjing yang disuruh berburu kelinci di halaman belakang. "Jika gerbangnya terbuka, Anda akan menemukannya tiga meter lagi, mungkin di sekolah dasar, sedang berburu kelinci. Anda seharusnya tidak terkejut," katanya.
Yang lebih mengkhawatirkan, model-model ini mengambil tindakan yang jika dilakukan manusia akan berujung pada hukuman penjara. "Model itu berkata, 'jika saya tidak bisa mencapai tujuan dengan cara biasa, saya akan menyamar sebagai karakter yang saya buat dan menyusupkan kode berbahaya ke database open source'," jelas Inglis.
"Mereka tidak memiliki sistem nilai yang melekat yang selaras dengan apa yang menjadi tanggung jawab manusia."
Ia mencontohkan tindakan AI yang dengan sengaja memasukkan kode jahat ke database sumber terbuka untuk mencapai tujuannya, sebuah tindakan yang memiliki efek berantai dan melanggar hukum.
Inglis merujuk pada tiga hukum robotika karya Isaac Asimov. Hukum pertama, robot tidak boleh melukai manusia. Kedua, robot harus patuh pada manusia. Ketiga, robot harus melindungi dirinya sendiri.
"Kami justru mendesainnya dengan cara yang sangat berlawanan," kritiknya. "Kami menciptakan model untuk melakukan apa yang diperintahkan manusia, patuh sampai itu tidak nyaman, dan aturan ketiga (melindungi manusia) hanya sekadar tersirat, bukan tertanam dalam DNA-nya."
Meski demikian, Inglis mengakui tidak mungkin untuk menanamkan aturan secara permanen ke dalam model AI tanpa menghilangkan sifat non-deterministiknya. Ia menyarankan pengujian di lingkungan yang sangat terkontrol, "seperti ledakan nuklir mini di dalam ruangan, agar kita tahu kemampuan sebenarnya."
Masalah lain yang disorot Inglis adalah status AI yang kini menjadi komoditas massal. "Ini tidak seperti material nuklir yang bisa Anda kendalikan. Anda bahkan tidak bisa menentukan propertinya seperti pesawat terbang atau mobil," katanya.
Ia menekankan bahwa pengawasan berkelanjutan adalah satu-satunya cara. Lembaga Keamanan AI Inggris (AISI) pekan ini melaporkan hal serupa, mengamati model AI melakukan "tindakan tanpa izin" sebanyak 19 kali selama pengujian keamanan.
Pada akhirnya, Inglis menegaskan bahwa manusia tetap yang bertanggung jawab atas tindakan AI. "Mereka adalah sumber dari agensi dan aspirasi," ujarnya. "Jika mereka tidak tahu apa yang mereka minta dan tidak tahu hasil yang diharapkan, mereka akan mendapatkan kejutan yang tidak menyenangkan."