Transparansi Model AI di Pendidikan: Kenapa Institusi Berhak Tahu Cara Kerja Sistemnya

Banyak vendor edtech menjual "AI" sebagai fitur, tapi jarang menjelaskan apa yang sebenarnya terjadi di baliknya. Institusi yang membayar langganan tahunan untuk sistem berbasis AI sering kali tidak tahu: model apa yang dipakai, berapa kali AI dipanggil untuk institusi mereka, apa yang terjadi kalau prosesnya gagal, dan siapa yang bisa melihat log pemakaiannya. Ini bukan detail teknis yang boleh diabaikan — ini bagian dari due diligence yang wajar dilakukan sebelum institusi menyerahkan proses penilaian ke sistem otomatis.

Transparansi Bukan Berarti Institusi Perlu Paham Algoritma

Transparansi yang dimaksud di sini bukan institusi harus mengerti cara kerja model bahasa secara teknis. Yang dimaksud lebih sederhana: institusi berhak tahu apa yang dilakukan sistem terhadap data mereka, kapan, dan dengan hasil seperti apa — dalam bahasa yang bisa dipahami tanpa gelar teknik.

Contoh konkret pertanyaan yang layak dijawab vendor: berapa kali AI dipanggil untuk menganalisis jawaban siswa di institusi kami bulan ini? Apakah ada proses AI yang gagal, dan apa yang terjadi kalau itu terjadi — apakah siswa menunggu tanpa kepastian, atau ada mekanisme yang memastikan proses tidak tersangkut selamanya?

Kenapa "Job yang Tersangkut" Adalah Masalah Transparansi, Bukan Cuma Masalah Teknis

Salah satu risiko tersembunyi dari sistem AI yang dibangun terburu-buru adalah proses yang macet di tengah jalan tanpa pemberitahuan — misalnya analisis kelemahan yang statusnya tetap "Pending" selamanya karena terjadi error yang tidak tertangani. Dari sudut pandang institusi, ini bukan cuma bug, ini kegagalan transparansi: guru menunggu hasil yang tidak akan pernah datang, tanpa tahu harus menunggu atau mengulang.

Sistem yang transparan harus punya jawaban jelas untuk skenario ini. Di Lesan, setiap job AI — baik untuk analisis kelemahan, feedback esai, maupun analisis jawaban upload gambar dan audio — dirancang failure-safe: kalau terjadi exception apa pun di tengah proses, job itu ditandai "Failed" secara eksplisit, bukan dibiarkan tersangkut di status "Pending" tanpa batas waktu. Guru tahu persis kapan harus mengulang proses, bukan menebak-nebak apakah sistem sedang bekerja atau sudah diam-diam gagal.

Log Penggunaan AI Sebagai Bentuk Akuntabilitas

Bentuk transparansi lain yang jarang ditawarkan vendor edtech adalah catatan pemakaian AI yang bisa diaudit. Setiap kali AI dipanggil — untuk keperluan apa pun, entah menilai esai, mendiagnosis kelemahan, atau menganalisis jawaban upload — idealnya tercatat: institusi mana yang memakainya, untuk keperluan apa, provider dan model AI mana yang dipakai, berapa lama prosesnya, dan apakah berhasil atau gagal.

Catatan semacam ini penting karena dua alasan. Pertama, ini memberi institusi cara memverifikasi bahwa AI benar-benar dipakai sesuai klaim vendor, bukan sekadar branding di atas fitur yang sebenarnya manual. Kedua, kalau suatu saat ada pertanyaan dari orang tua atau audit internal soal "apakah nilai anak saya sempat diproses AI dan kapan", institusi punya jejak nyata untuk dirujuk, bukan jawaban "kami rasa begitu".

Model yang Sama, Perilaku yang Bisa Beda — Institusi Berhak Tahu Kapan Fallback Terjadi

Satu hal lagi yang sering luput: sistem berbasis AI biasanya punya mekanisme cadangan (fallback) kalau provider AI utama sedang bermasalah atau kena limit. Ini wajar dan justru tanda sistem dibangun dengan baik — tapi institusi berhak tahu kapan fallback ini terjadi, karena model cadangan bisa saja punya karakteristik hasil yang sedikit berbeda dari model utama. Transparansi di sini berarti log yang mencatat provider dan model mana yang benar-benar dipakai di setiap pemanggilan, bukan menyembunyikan pergantian model di balik label generik "AI".

Pertanyaan Praktis untuk Ditanyakan ke Vendor

Sebelum menandatangani kontrak dengan vendor sistem AI pendidikan, institusi sebaiknya menanyakan: apakah ada dashboard atau laporan yang menunjukkan riwayat pemakaian AI kami? Kalau proses AI gagal, apakah kami akan tahu, atau harus menemukan sendiri saat guru komplain hasilnya tidak muncul? Apakah ada perbedaan model AI yang dipakai tergantung situasi, dan apakah itu dicatat?

Vendor yang bisa menjawab pertanyaan-pertanyaan ini dengan detail konkret, bukan jargon pemasaran, adalah vendor yang benar-benar membangun sistem dengan akuntabilitas sebagai bagian dari desain — bukan menambahkannya belakangan setelah ada masalah.

Skenario yang Menunjukkan Bedanya Transparansi Nyata

Bayangkan dua institusi sama-sama mengalami masalah: analisis kelemahan untuk satu angkatan tidak kunjung muncul dua hari setelah tryout selesai. Di institusi pertama, admin membuka laporan penggunaan AI dan melihat bahwa job untuk institusi mereka sempat gagal karena error sementara di provider AI, sudah otomatis ditandai "Failed", dan mereka bisa langsung menekan tombol proses ulang. Masalah selesai dalam hitungan menit begitu ditemukan.

Di institusi kedua, tidak ada log atau laporan semacam itu. Admin hanya tahu hasilnya "belum muncul", tanpa cara mengetahui apakah sistem masih memproses, sudah gagal diam-diam, atau ada masalah lain. Mereka terpaksa menghubungi customer support dan menunggu tanpa kepastian kapan masalah itu akan terselesaikan. Kedua institusi mengalami kegagalan teknis yang sama persis — bedanya cuma satu, apakah sistemnya transparan soal apa yang sedang terjadi atau tidak. Dan beda itu yang menentukan apakah kegagalan teknis terasa sebagai gangguan kecil atau krisis operasional.

Transparansi Juga Berarti Institusi Tahu Berapa Biaya di Baliknya

Aspek lain yang jarang dibahas: institusi yang berlangganan paket dengan kuota pemakaian AI berhak tahu seberapa dekat mereka dengan batas kuota itu, bukan baru mengetahuinya saat tiba-tiba fitur berhenti berfungsi di tengah musim ujian. Laporan pemakaian yang menunjukkan tren bulanan — bukan cuma angka kumulatif tanpa konteks — membantu institusi merencanakan kapan perlu upgrade paket, alih-alih terkejut di momen yang paling tidak tepat.