Belakangan ini, wujud kecerdasan buatan (AI) sudah bergeser terlampau jauh. Ia bukan lagi sekadar alat bantu teknis yang kaku, melainkan sudah menjelma menjadi kawan kognitif yang luwes—bisa memecahkan soal matematika rumit, merangkai esai, hingga memberikan umpan balik yang terpersonalisasi. Ada satu pertanyaan mendasar yang lantas mengemuka: kalau algoritma semakin jago menyajikan jawaban instan, lalu apa esensi belajar yang tersisa bagi manusia?
Menjaga Ruang Kognitif di Tengah Kepungan Algoritma
Di Hanoi, keresahan ini coba diretas melalui pembukaan Pusat Inovasi Pengajaran dan Pembelajaran (VCTLI). Beroperasi di bawah naungan Vietnam Institute for Advanced Study in Mathematics (VIASM), pusat ini mengumpulkan pakar pendidikan lintas negara bukan sekadar untuk menjejalkan lebih banyak materi ke otak siswa, tapi justru untuk menyelamatkan kapasitas berpikir manusia di era pasca-AI.
Profesor Ngô Bảo Châu, yang duduk di dewan penasihat VCTLI, menyoroti sebuah ironi di ruang kelas modern. Pekerjaan rumah (PR) perlahan kehilangan fungsinya. Ketika murid terlalu bersandar pada AI untuk mengerjakannya, tugas-tugas tersebut tidak lagi menjadi arena peregangan otot kognitif, melainkan susut menjadi sekadar rutinitas gugur kewajiban.
Menurut Prof. Châu, teknologi ini ibarat pedang bermata dua. Yang bikin waswas sebenarnya bukan betapa pintarnya si mesin, tapi potensi menguapnya ‘kerja intelektual’ dari pihak manusia, yang sejatinya adalah fondasi dari proses belajar itu sendiri. Tanpa adanya pemerasan keringat kognitif yang nyata, kemajuan pendidikan hanyalah ilusi optik.
Sebuah riset komprehensif pada tahun 2025 yang dipimpin olehnya membedah kurikulum matematika Vietnam, lalu menyandingkannya dengan 11 negara lain di kawasan Asia Timur Laut, Eropa, AS, dan Australia. Kesimpulannya cukup menampar: masa depan pendidikan anak-anak kita tidak lagi ditentukan oleh seberapa cepat mereka bisa menghitung mengalahkan kalkulator atau AI. Titik beratnya kini bergeser pada penguasaan metakognisi, keluwesan berpikir kritis, dan kejelian dalam merumuskan pertanyaan yang tepat.
Ilusi Kepastian dan Taruhan Nyawa di Ranah Klinis
Menariknya, krisis kemandirian berpikir ini sama sekali tidak berhenti di gerbang sekolah. Orang dewasa pun tak kalah gampangnya menelan mentah-mentah apa yang disemburkan oleh AI, bahkan untuk urusan yang mempertaruhkan nyawa. Saat ini, makin banyak pasien yang mengandalkan platform AI generik untuk mencari panduan medis, seringkali abai terhadap fakta bahwa akurasi sistem tersebut masih sangat kedodoran.
Realitas ini dibongkar secara gamblang oleh dr. Archan Khandekar, asisten profesor onkologi urologi di Desai Sethi Urology Institute, Miami. Pada Pertemuan Tahunan American Urological Association (AUA) 2026 di Washington, DC, ia memaparkan bahaya laten dari model AI generik (Gen-LLM) yang gemar “berhalusinasi”—merangkai informasi medis yang keliru namun menyajikannya dengan tingkat kepercayaan diri yang luar biasa tinggi.
Khandekar memberikan satu contoh yang bikin bergidik: sebuah Gen-LLM kepergok gagal membedakan antara prosedur TURP untuk hiperplasia prostat jinak dengan TURBT untuk karsinoma urothelial. Bayangkan seorang pasien awam yang sedang cemas mencari panduan di internet justru disesatkan oleh informasi fatal semacam ini. Repotnya lagi, kecacatan sistem ini bersifat sporadis. Anda bisa menanyakan hal yang sama berulang kali, dan AI tersebut bisa memberikan jawaban ngawur yang berbeda-beda.
Dalam sebuah uji coba menggunakan lima skenario urologi berisiko tinggi yang merujuk ketat pada pedoman AUA dan NCCN, performa LLM generik terbukti payah. Model ini hanya mampu mencetak skor 14 dari 25 dalam hal akurasi kontekstual, verifiabilitas, dan kepatuhan pada pedoman klinis.
Arsitektur RAG sebagai Pagar Pembatas
Lantas, bagaimana caranya menjinakkan teknologi ini agar aman dipakai untuk edukasi pasien dan dukungan klinis? Khandekar dan timnya menawarkan jalan keluar lewat arsitektur retrieval-augmented generation (RAG).
Berbeda dengan AI generik yang dilepas liar mengais informasi acak dari belantara internet yang terus berubah, sistem berbasis RAG ini pada dasarnya dikurung. Sistem ini hanya diizinkan untuk menarik jawaban dari pangkalan data yang sudah diverifikasi ketat—seperti pedoman klinis resmi, literatur medis, atau basis data internal institusi.
Hasil pendekatannya sangat mencolok. Saat diuji, model RAG-Evidence dan RAG-Hybrid sukses melampaui jauh performa AI generik dengan skor nyaris sempurna, masing-masing 25/25 dan 24/25.
Infrastruktur RAG tidak hanya memangkas risiko halusinasi data secara drastis, tapi juga menawarkan lapisan keamanan privasi yang lebih solid. Pangkalan data medis bisa diintegrasikan secara lokal di server rumah sakit, melindungi informasi kesehatan pasien dari kebocoran eksternal. Seiring dengan makin mumpuninya daya komputasi lokal, RAG akan menjadi tulang punggung yang menjamin bahwa rekomendasi AI selalu sejalan dengan bukti medis yang diakui dan jejak logikanya bisa dilacak.
Benang merah dari pembaruan kurikulum di Hanoi hingga inovasi medis di Washington sebenarnya merujuk pada satu kegelisahan yang sama. Melepas AI tanpa pagar pembatas—entah itu berupa hilangnya usaha intelektual di sekolah atau absennya rujukan klinis yang valid di rumah sakit—hanya akan mengantarkan kita pada ilusi pemahaman. Teknologi ini bisa memperluas jangkauan manusia, namun ia tetap membutuhkan panduan kritis agar tidak justru menumpulkan nalar dan membahayakan hidup kita. Pada titik ini, keputusannya ada di tangan kita: apakah AI akan menjadi asisten yang patuh pada aturan, atau kita yang akhirnya justru disetir oleh halusinasi algoritma?
