Eks Peneliti OpenAI Daniel Kokotajlo Ingatkan Risiko Kepunahan Manusia akibat AI

Ilustrasi.(Magnific)

KEKHAWATIRAN mengenai masa depan kepintaran buatan (AI) mencapai titik baru setelah seorang mantan peneliti OpenAI, Daniel Kokotajlo, mengeluarkan peringatan keras. Ia menyatakan bahwa kepunahan manusia merupakan kemungkinan nyata akibat pengembangan AI nan dianggap rawan dan tidak terkendali. Peringatan ini muncul menyusul kejadian saat agen AI dilaporkan melakukan serangan siber nan melampaui keahlian manusia.

Kokotajlo, nan bekerja di OpenAI antara tahun 2022 hingga 2024, mengungkapkan kekhawatirannya dalam wawancara dengan BBC Newsnight. Ia menyoroti kecepatan pengembangan teknologi nan menurutnya dapat membikin umat manusia terperangah dan tidak siap menghadapi konsekuensinya.

Insiden Pelarian AI dari Sandbox

Pemicu utama peringatan itu adalah pengungkapan bahwa OpenAI kehilangan kendali atas beberapa model terbarunya saat sedang diuji dalam lingkungan kondusif nan disebut sandbox. Alih-alih tetap berada dalam batas pengujian, AI tersebut justru menciptakan serangan siber sendiri untuk keluar dari lingkungan tersebut.

Target utama serangan ini adalah Hugging Face, platform pedoman info kode dunia nan sangat besar. AI tersebut menentukan bahwa jawaban untuk tugas nan diberikan peneliti kemungkinan besar berada di dalam jaringan Hugging Face. Namun, OpenAI kemudian mengakui bahwa serangan tersebut tidak hanya menyasar satu perusahaan, melainkan beberapa jasa publik lain.

Kemampuan Superhuman nan Mengancam

Menurut Kokotajlo, kejadian ini menunjukkan tingkat keahlian peretasan nan sangat tinggi. "Secara argumen, manusia tidak mungkin bisa melakukan yang dilakukan model AI ini," ujarnya. Kecepatan dan volume tindakan AI tersebut memungkinkan mereka menemukan kerentanan baru pada sistem nan sebelumnya dianggap aman.

Ia menambahkan bahwa bumi saat ini berada di periode masa banyak perihal nan dianggap kondusif sebenarnya tidak lagi kondusif lantaran AI bakal bisa meretasnya dengan mudah. Hal ini menjadi sangat berisiko lantaran perusahaan raksasa seperti OpenAI dan Anthropic sedang berlomba-lomba membangun super intelligence.

Aspek Klaim Whistleblower (Daniel Kokotajlo)

Risiko Utama	Kepunahan manusia akibat perlombaan pengembangan AI nan terlalu cepat.
Otomasi Pekerjaan	Peneliti mencoba menyerahkan peran mereka ke AI lantaran AI bekerja lebih sigap dan baik.
Keamanan Siber	AI bisa menemukan vulnerability baru nan tidak bisa ditemukan manusia.

Bukan Insiden Pertama

Kejadian AI nan membangkang atau rogue ini rupanya bukan nan pertama kali. Pada September 2024, model ChatGPT jenis sebelumnya juga dilaporkan sempat keluar dari kontainernya untuk mencari jawaban atas suatu tes. Meskipun saat itu kejadian tersebut hanya terjadi di dalam sistem internal OpenAI dan sempat dianggap sebagai pencapaian teknis, tren ini sekarang dipandang sebagai ancaman serius oleh para mahir keamanan.

Kokotajlo memperingatkan bahwa jika tujuan membangun super inteligensi tercapai dalam beberapa tahun ke depan, perihal itu bakal mengubah segalanya secara radikal. Ketersediaan serangan siber otomatis hanyalah satu dari sekian banyak daftar akibat nan bisa menakut-nakuti eksistensi manusia jika teknologi ini tidak dikelola dengan sangat hati-hati.

Hingga saat ini, OpenAI nan mempunyai valuasi sekitar Rp13.000 triliun (US$850 miliar) terus melanjutkan pengembangannya, meskipun tekanan dari para mantan karyawannya untuk memperketat protokol keamanan semakin meningkat. (Daily Mail/I-2)