Anak Manusia vs AI: Mengapa Otak Bayi Jauh Lebih Hemat Data untuk Belajar Bahasa?

3 jam yang lalu 4
 Mengapa Otak Bayi Jauh Lebih Hemat Data untuk Belajar Bahasa? Ilustrasi(Magnific)

SELAMA lebih dari 100.000 tahun, manusia menjadi satu-satunya entitas nan bisa menguasai bahasa secara alami. Kini, kemunculan model bahasa besar (LLM) seperti ChatGPT menghadirkan entitas lain nan bisa menggunakan bahasa, tetapi dengan kebutuhan info nan jauh lebih besar.

Kesenjangan ini dikenal sebagai info efficiency gap, ialah perbedaan jumlah info nan dibutuhkan manusia dan AI untuk mempelajari bahasa. Seorang anak diperkirakan hanya mendengar sekitar 100 juta kata hingga usia remaja. Sementara itu, model seperti Meta Llama 3.1 dilatih menggunakan sekitar 15 triliun token.

Ilmuwan kognitif Stanford University, Michael C. Frank, menilai keahlian LLM memang luar biasa, tetapi memerlukan sumber daya nan sangat besar. Anak-anak apalagi mulai menghasilkan kalimat nan sesuai tata bahasa setelah mendengar sekitar 10 juta hingga 30 juta kata, sedangkan GPT-2 nan dilatih dengan jumlah kata serupa belum bisa menghasilkan bahasa nan bermakna.

Perbedaan tersebut mendorong peneliti mencari tahu apa nan membikin otak manusia begitu efisien. Salah satu perdebatan lama datang dari mahir linguistik Noam Chomsky nan beranggapan bahwa manusia mempunyai keahlian tata bahasa bawaan. Namun, keahlian LLM dalam mempelajari pola sintaksis dari info dalam jumlah besar menunjukkan bahwa sebagian aspek bahasa rupanya dapat dipelajari melalui statistik.

Psikolog perkembangan Alison Gopnik mengaku terkejut model AI dapat mempelajari sintaksis hanya dari pola bahasa. Menurutnya, temuan tersebut sebelumnya tidak banyak diperkirakan oleh para peneliti.

Meniru Cara Anak Belajar

Upaya memahami efisiensi belajar manusia salah satunya dilakukan melalui proyek BabyLM nan diprakarsai mahir linguistik Alex Warstadt pada 2022. Kompetisi tersebut menantang peneliti membikin model bahasa dengan jumlah info nan lebih terbatas dan lebih mendekati pengalaman anak.

Untuk trek balita, model dibatasi sekitar 100 juta kata, sedangkan trek anak-anak menggunakan sekitar 10 juta kata. Data berasal dari kitab cerita, dialog, subtitle film, serta transkrip percakapan nan ditujukan kepada anak-anak.

Hasilnya menunjukkan bahwa model dengan info jauh lebih sedikit dapat mencapai performa nan cukup kompetitif pada sejumlah tolok ukur. Pemenang BabyLM 2024, GPT-BERT, misalnya, dilatih dengan sekitar 100 juta kata dan bisa mengungguli Llama 2 70B pada salah satu benchmark, meski tetap jauh dari keahlian LLM komersial.

Peneliti juga mencoba meniru pengalaman anak secara lebih langsung. Proyek SAYCam merekam aktivitas tiga bayi melalui kamera nan dikenakan di kepala selama masa perkembangan mereka. Data tersebut kemudian digunakan untuk melatih model nan menghubungkan objek dengan kata tanpa memberikan pengetahuan bawaan tertentu.

Penelitian lain nan dipimpin Uri Hasson dari Princeton University merekam 1.000 hari pertama kehidupan 17 anak. Kamera dan mikrofon dipasang di rumah family untuk merekam aktivitas hingga 12 jam sehari. Data dalam skala besar itu digunakan untuk mempelajari gimana anak memperoleh bahasa dan memahami lingkungan.

Belajar dengan Berinteraksi

Para peneliti menduga perbedaan utama antara anak dan AI bukan hanya jumlah data, tetapi langkah info tersebut diperoleh. Anak-anak tidak sekadar menerima info secara pasif. Mereka aktif mengeksplorasi lingkungan, memilih perihal nan mau diperhatikan, serta berinteraksi dengan orang lain.

Elizabeth Bonawitz dari Harvard University menilai anak juga mempertimbangkan siapa nan memberikan informasi, apa nan diketahui orang tersebut, dan argumen info itu disampaikan. Aspek sosial semacam ini belum sepenuhnya dimiliki model AI saat ini.

Upaya meningkatkan efisiensi AI menjadi semakin penting, terutama untuk bahasa nan mempunyai sumber info terbatas. David Samuel, salah satu developer GPT-BERT, menyoroti bahasa minoritas nan mungkin hanya mempunyai puluhan juta token, jumlah nan sebanding dengan paparan bahasa seorang anak.

Warstadt berambisi penelitian semacam ini dapat membantu membikin pengembangan AI lebih demokratis sehingga tidak hanya perusahaan alias lembaga dengan sumber daya komputasi besar nan bisa melatih model bahasa.

Di sisi lain, penelitian tentang cara anak belajar bahasa juga memberi kesempatan untuk memahami keahlian kognitif manusia. Para peneliti sekarang menggunakan model bahasa sebagai semacam “organisme model” untuk menguji gimana bahasa dapat dipelajari.

Selama ini, manusia merupakan satu-satunya contoh nyata nan dapat digunakan untuk mempelajari proses tersebut. Kehadiran AI memberikan kesempatan baru bagi peneliti untuk membandingkan langkah mesin dan manusia memperoleh keahlian berbahasa. (Crux Digits/Z-2)

Selengkapnya