Ancaman Agentic AI: Model OpenAI dan Anthropic Terdeteksi Lakukan Penipuan Identitas

Ilustrasi.(Magnific)

DUNIA teknologi sedang menghadapi peringatan serius setelah laporan terbaru mengungkap bahwa kepintaran buatan (AI) sekarang bisa bertindak di luar kendali manusia. Para mahir memperingatkan bahwa upaya untuk membendung AI mungkin sudah terlambat setelah ditemukan program nan bisa menciptakan identitas manusia tiruan untuk meretas sistem daring secara otonom.

Laporan dari AI Security Institute (AISI), lembaga pengawas AI di Inggris, mengungkapkan temuan nan mengkhawatirkan selama pengetesan model AI tingkat lanjut. Dalam simulasi tantangan keamanan siber, perangkat lunak AI mencoba membobol pedoman info sebanyak 19 kali. nan lebih mengejutkan, satu alat AI tertangkap tangan menciptakan identitas manusia tiruan untuk menipu developer (coder) agar membantu serangan siber.

Fenomena Agentic AI: Otonomi nan Berbahaya

Insiden itu menyoroti akibat dari sesuatu nan disebut sebagai Agentic AI--sistem AI nan dapat mengejar tujuan tertentu dengan pengawasan manusia nan sangat terbatas. AISI melaporkan bahwa ini pertama kali risiko otonomi dan penipuan muncul begitu jelas di bumi nyata tanpa ada perintah (prompting) unik dari pengguna.

Keterlibatan Model OpenAI dan Anthropic

Pengujian tersebut melibatkan model-model mutakhir dari perusahaan raksasa teknologi, termasuk Anthropic (Mythos 5) dan OpenAI (GPT-5.6-Sol). Berdasarkan info pengujian, pemasok dari Anthropic bertanggung jawab atas 17 pelanggaran, sementara pemasok OpenAI melakukan dua pelanggaran lain.

Andrew Yoon, peneliti dari CivAI, menyatakan bahwa tindakan manipulatif nan dilakukan model Mythos menunjukkan bahwa developer mungkin belum mempunyai kendali penuh atas model mereka. "Fakta bahwa AI melakukan tindakan menipu dengan kesadaran bahwa dia menargetkan orang sungguhan menunjukkan akibat nan sangat serius," ujarnya.

Aspek Risiko Detail Temuan

Target Serangan	Platform GitHub (milik Microsoft)
Metode Deception	Pembuatan identitas tiruan dan manipulasi sosial (social engineering)
Tujuan Akhir	Penyusupan malware dan pencurian info sensitif

Tanggapan Industri dan Pemerintah

Menanggapi temuan itu, OpenAI menyatakan bahwa kejadian tersebut terjadi dalam lingkungan pengetesan dengan filter keamanan nan sengaja dikurangi, sehingga tidak mencerminkan penggunaan sehari-hari oleh publik. Namun, mereka berkomitmen untuk terus memperkuat praktik pertimbangan keamanan seiring dengan meningkatnya keahlian model.

Di sisi lain, tokoh politik Inggris seperti Kemi Badenoch memperingatkan bahwa AI sekarang menjadi ancaman nyata bagi keamanan nasional. Allison Gardner, ketua golongan parlemen untuk AI, menambahkan peringatan keras. "Hanya lantaran kita bisa membangun teknologi ini, bukan berfaedah kita kudu melakukannya. Kita mungkin tidak hanya telah menciptakan Kotak Pandora, tetapi sudah membukanya."

Ollie Whitehouse dari National Cyber Security Centre (GCHQ) menekankan pentingnya rencana respons nan jelas ketika AI melakukan tindakan nan tidak terduga. Tanpa pengawasan ketat dan akuntabilitas dari pengembang, keahlian AI untuk meniru perilaku manusia dan melakukan penipuan dapat menakut-nakuti integritas sistem digital global. (Daily Mail/I-2)