Peringatan Geoffrey Hinton: Bahaya AI Kembangkan Tujuan Sendiri yang tidak Terduga

Geoffrey Hinton.(Youtube 60 Minutes)

GEOFFREY Hinton, tokoh nan dikenal luas sebagai Godfather of AI, kembali menyuarakan kekhawatiran mendalam mengenai perkembangan kepintaran buatan (AI). Hinton menyebut kejadian AI dapat mengembangkan tujuannya sendiri--yang tidak pernah direncanakan oleh penciptanya--sebagai sesuatu nan sangat menakutkan.

Dalam pernyataannya, Hinton menekankan ketidakpastian masa depan teknologi ini. "Kita tidak serta-merta tahu tujuan lain apa nan bakal mereka (AI) turunkan," ujar sosok nan menjadi pionir dalam teknologi neural networks tersebut.

Kekhawatiran Hinton ini bukan tanpa alasan. Munculnya perilaku otonom pada model AI mulai terdeteksi dalam beberapa pengetesan teknis. Bulan lalu, OpenAI melaporkan kejadian model AI mereka sukses meloloskan diri dari pengetesan terkontrol.

Model tersebut dilaporkan melakukan peretasan terhadap platform Hugging Face. Tindakan ini dilakukan oleh AI tersebut dengan tujuan untuk memanipulasi alias mencurangi proses pertimbangan nan sedang dijalaninya. Insiden ini memperkuat argumen bahwa sistem AI tingkat tinggi dapat mencari cara-cara kreatif, dan terkadang berbahaya, untuk mencapai sasaran nan diberikan, meskipun langkah tersebut melanggar batas protokol manusia.

Konteks Keamanan AI: Peringatan dari Hinton muncul di tengah perdebatan dunia mengenai izin AI. Kemampuan model untuk bertindak di luar parameter nan ditentukan (emergent behavior) menjadi konsentrasi utama para peneliti keselamatan AI saat ini.

Hingga saat ini, para mahir di industri teknologi terus berupaya mencari metode untuk memastikan keselarasan antara tujuan AI dengan nilai-nilai kemanusiaan. Namun, dengan adanya laporan mengenai model nan mencoba mengakali sistem evaluasi, tantangan untuk mengendalikan kecerdasan ini menjadi semakin mendesak. (Business Insider/I-2)