Human-in-the-Loop: Standar yang Harus Dicari Institusi Saat Memilih Produk AI Pendidikan

Ketika sebuah institusi pendidikan mengevaluasi produk berbasis AI — untuk assessment, penilaian esai, atau rekomendasi belajar — pertanyaan yang paling menentukan sering bukan "seberapa pintar AI-nya", tapi "di titik mana manusia masih memegang keputusan akhir". Istilah teknis untuk ini adalah human-in-the-loop: memastikan ada tinjauan dan persetujuan manusia sebelum hasil AI berdampak langsung ke siswa.

Artikel ini bukan promosi satu produk tertentu, melainkan daftar periksa yang bisa dipakai institusi mana pun — sekolah, kampus, bimbel, atau lembaga pelatihan — saat menilai vendor AI pendidikan. Di bagian akhir, kami juga menjelaskan bagaimana Lesan menerapkan prinsip ini sebagai satu contoh konkret, bukan sebagai satu-satunya cara yang benar.

Kenapa Human-in-the-Loop Bukan Sekadar Fitur Teknis

Bagi institusi pendidikan, kepercayaan orang tua dan siswa dibangun dari waktu ke waktu, dan bisa runtuh dalam sekali insiden. Kalau nilai atau rekomendasi belajar seorang siswa keluar dari sistem yang salah menilai — dan tidak ada manusia yang sempat memeriksanya sebelum sampai ke siswa atau orang tua — dampaknya bukan cuma kesalahan teknis, tapi krisis kepercayaan terhadap institusi. Human-in-the-loop bukan soal menambah birokrasi, tapi soal menjaga bahwa keputusan yang berdampak pada masa depan akademik siswa tetap melewati penilaian manusia yang bertanggung jawab.

Daftar Periksa untuk Institusi

1. Apakah Konten Buatan AI Bisa Sampai ke Siswa Tanpa Persetujuan Manusia?

Ini pertanyaan paling mendasar. Tanyakan langsung ke vendor: kalau AI menyusun draf feedback esai atau rekomendasi belajar, apakah draf itu otomatis terkirim ke siswa, atau berhenti dulu di antrean tinjauan guru? Produk yang mengirim otomatis demi kecepatan mungkin terdengar efisien, tapi menghilangkan kesempatan guru mengoreksi kesalahan sebelum siswa melihatnya.

2. Bisakah Guru Melihat Alasan di Balik Hasil AI, atau Hanya Angka Akhir?

Sistem yang hanya menampilkan skor akhir — misalnya "82" — tanpa penjelasan bagaimana angka itu didapat membuat guru tidak bisa menilai apakah skor itu masuk akal. Bandingkan dengan sistem yang menunjukkan alasan di balik penilaian: bagian mana dari jawaban yang dianggap kuat, bagian mana yang dianggap kurang, dan kenapa. Guru yang bisa melihat alasan ini bisa menyunting atau membantah hasil AI dengan basis yang jelas, bukan sekadar menerima atau menolak secara membabi buta.

3. Apakah AI Dibatasi pada Materi Institusi Anda, atau Bisa Mengarang Bebas?

Ini poin yang sering luput. AI generatif yang tidak dibatasi sumbernya bisa saja menghasilkan referensi, contoh, atau materi yang sebenarnya tidak sesuai dengan kurikulum atau bank soal institusi Anda — bahkan berpotensi keliru secara faktual. Produk yang baik membatasi AI untuk bekerja dari materi dan data milik institusi Anda sendiri, bukan mengarang bebas dari pengetahuan umum yang tidak terverifikasi konteksnya.

4. Adakah Jejak Audit antara Saran AI dan Keputusan Akhir Guru?

Kalau suatu saat orang tua mempertanyakan sebuah nilai, atau institusi perlu meninjau kembali sebuah keputusan, apakah ada catatan yang jelas: ini yang disarankan AI, ini yang diputuskan guru, dan ini alasan perubahannya (kalau ada)? Tanpa jejak audit ini, sulit membedakan mana kesalahan sistem dan mana keputusan guru — dan sulit pula bagi institusi mempertanggungjawabkan sebuah nilai kalau ditanya.

5. Bisakah Guru Menolak atau Mengubah Setiap Hasil AI Tanpa Hambatan?

Sebagian sistem secara teknis "mengizinkan" guru mengubah hasil AI, tapi prosesnya berbelit atau tersembunyi di menu yang sulit ditemukan — yang pada praktiknya membuat guru cenderung menerima saja hasil default. Produk yang benar-benar human-in-the-loop membuat proses meninjau, menyunting, dan menolak hasil AI semudah menyetujuinya.

Bagaimana Lesan Menerapkan Prinsip Ini

Di Lesan, prinsip guru pegang kendali diterapkan secara konkret: draf umpan balik esai dan rekomendasi belajar yang disusun AI berhenti dulu di tahap tinjauan guru sebelum bisa dikirim ke siswa. Guru bisa melihat dasar penilaian AI, menyunting draf tersebut, atau menolaknya sepenuhnya. Tidak ada nilai atau rekomendasi yang keluar secara otomatis tanpa langkah persetujuan itu. Ini bukan klaim bahwa pendekatan kami satu-satunya yang benar — tapi ini contoh konkret bagaimana daftar periksa di atas bisa diterapkan dalam produk nyata, bukan sekadar prinsip di atas kertas.

Menjadikan Ini Bagian dari Proses Pengadaan

Institusi yang serius mengevaluasi produk AI pendidikan sebaiknya memasukkan pertanyaan-pertanyaan di atas ke dalam proses pengadaan resmi — bukan sekadar percakapan informal dengan sales. Minta demo yang menunjukkan langsung: bagaimana tampilan antrean tinjauan guru, bagaimana guru menyunting hasil AI, dan bagaimana jejak audit ditampilkan. Vendor yang serius dengan prinsip human-in-the-loop biasanya tidak keberatan menunjukkan ini secara langsung, karena itu memang bagian dari desain produk mereka, bukan fitur tambahan yang dipoles untuk presentasi.

• Konten AI tidak boleh sampai ke siswa tanpa persetujuan guru.
• Guru harus bisa melihat alasan di balik hasil AI, bukan hanya angka akhir.
• AI dibatasi pada materi dan data institusi, bukan mengarang bebas.
• Harus ada jejak audit antara saran AI dan keputusan guru.
• Menolak atau mengubah hasil AI harus semudah menyetujuinya.

Pertanyaan yang Juga Layak Diajukan ke Tim Internal Anda

Checklist di atas fokus pada vendor, tapi human-in-the-loop juga bergantung pada kesiapan institusi sendiri. Kalau produk sudah dirancang dengan benar tapi guru tidak pernah benar-benar meluangkan waktu meninjau antrean persetujuan — hanya mengklik setuju tanpa membaca — maka mekanisme itu jadi formalitas kosong. Institusi perlu memastikan ada waktu dan insentif yang jelas bagi guru untuk melakukan tinjauan itu secara sungguh-sungguh, bukan sekadar tersedia secara teknis di sistem.

Pertanyaan yang sama juga berlaku untuk pengawasan berkelanjutan: siapa di institusi Anda yang bertanggung jawab memantau apakah proses tinjauan ini benar-benar berjalan sebagaimana mestinya? Tanpa penanggung jawab yang jelas, bahkan sistem human-in-the-loop yang dirancang dengan baik bisa perlahan terabaikan seiring waktu.

Penutup

Human-in-the-loop bukan istilah teknis yang bisa diabaikan pengelola non-teknis. Ini standar yang secara langsung melindungi kepercayaan institusi Anda terhadap orang tua dan siswa. Sebelum menandatangani kontrak dengan vendor AI pendidikan mana pun, pastikan kelima pertanyaan di atas terjawab dengan jelas — bukan dengan jargon pemasaran, tapi dengan demonstrasi nyata bagaimana guru tetap memegang kendali di setiap langkah.