Oleh Lusi Andriani

Mahasiswa Pascasarjana Kelas Reguler. III - D UIN Sunan Gunung Djati Bandung

Perkembangan Artificial Intelligence (AI) mulai mengubah pengelolaan pendidikan melalui otomatisasi dan analisis data. Fenomena ini menunjukkan bahwa AI berpotensi meningkatkan efektivitas manajemen pendidikan. Asumsinya, pemanfaatan AI dapat memberikan manfaat apabila didukung tata kelola dan pengawasan yang tepat. Namun, terdapat kesenjangan antara perkembangan teknologi dengan kesiapan SDM, regulasi, dan keamanan data. Oleh karena itu, pembahasan ini bertujuan memahami tata kelola, etika, pengelolaan risiko, serta strategi transformasi SIM Pendidikan agar penggunaan AI berlangsung secara bertanggung jawab.

Pertama, Tata kelola AI merupakan upaya mengatur penggunaan kecerdasan buatan agar sesuai dengan tujuan dan nilai-nilai pendidikan. Dalam penerapannya, lembaga pendidikan perlu memiliki aturan mengenai kewenangan, tanggung jawab, pengawasan, serta batasan penggunaan teknologi. Berdasarkan kerangka AI Risk Management Framework (AI RMF 1.0) dari Elham Tabassi (2023), fungsi Governance menjadi dasar dalam mengarahkan seluruh aktivitas pengelolaan risiko AI. Artinya, penggunaan AI tidak hanya berorientasi pada kecanggihan teknologi, tetapi juga harus memperhatikan etika, keadilan, transparansi, dan tanggung jawab manusia. Penggunaan AI dalam pendidikan harus tetap mengutamakan peran manusia. Teknologi seharusnya membantu mempermudah pekerjaan dan meningkatkan kemampuan manusia, bukan menggantikan peran, hak, serta tanggung jawabnya.

Kedua, Penggunaan AI dalam pendidikan membutuhkan data yang berkaitan dengan peserta didik, pendidik, dan lembaga. Oleh karena itu, perlindungan privasi dan keamanan data menjadi hal penting untuk mencegah penyalahgunaan informasi. Selain itu, bias algoritmik dapat muncul apabila data yang digunakan tidak akurat atau tidak mewakili kondisi sebenarnya. Dalam kerangka AI RMF 1.0, risiko tersebut perlu dipetakan dan diukur sebelum menentukan langkah pengendalian. Dengan demikian, lembaga pendidikan harus memastikan bahwa penggunaan AI berlangsung secara transparan, adil, aman, dan dapat dipertanggungjawabkan. Oleh karena itu, keamanan dan kerahasiaan data harus menjadi perhatian utama. Selain itu, penggunaan algoritma berpotensi menghasilkan bias apabila data yang digunakan tidak akurat atau tidak mewakili kondisi sebenarnya.

Ketiga, Keberhasilan penerapan AI tidak hanya bergantung pada teknologi, tetapi juga kemampuan sumber daya manusia dalam memahami dan menggunakannya. Keberhasilan penerapan AI dalam pendidikan tidak hanya bergantung pada teknologi, tetapi juga kemampuan SDM dalam memahami manfaat, keterbatasan, dan risikonya. Literasi AI diperlukan agar pengguna mampu memilih teknologi, menjaga keamanan data, serta memeriksa hasil yang diberikan AI. Melalui konsep human-in-the-loop, manusia tetap berperan dalam memeriksa informasi, mengoreksi kesalahan, dan menentukan keputusan akhir. Selain itu, lembaga pendidikan perlu memiliki kebijakan penggunaan AI yang jelas. Berdasarkan NIST, pengelolaan risiko AI mencakup empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, yang dilakukan secara berkelanjutan agar penggunaan AI tetap aman dan bertanggung jawab.

Keempat, Transformasi SIM Pendidikan menuju Smart Education Management System membutuhkan kesiapan organisasi, mulai dari kepemimpinan, infrastruktur digital, kualitas data, kompetensi SDM, hingga kebijakan penggunaan teknologi. Penerapannya perlu dilakukan secara bertahap melalui digitalisasi data, integrasi sistem, analisis informasi, dan pemanfaatan AI. Jika dikaitkan dengan AI RMF 1.0, setiap tahap transformasi perlu memperhatikan tata kelola dan pengendalian risiko. Dengan demikian, teknologi dapat membantu menghasilkan layanan pendidikan yang lebih adaptif, terintegrasi, dan mendukung pengambilan keputusan berbasis data.

Pemanfaatan AI dalam sistem informasi manajemen pendidikan memberikan peluang untuk meningkatkan efektivitas pengelolaan dan pengambilan keputusan. Namun, penerapannya harus didukung tata kelola, etika, keamanan data, literasi SDM, serta kesiapan organisasi. Melalui AI RMF 1.0 dari Elham Tabassi (2023), lembaga pendidikan dapat mengidentifikasi, mengukur, dan mengelola risiko AI secara sistematis. Dengan demikian, transformasi digital tidak hanya berorientasi pada kemajuan teknologi, tetapi juga pada kualitas dan tanggung jawab pengelolaan pendidikan.

Tulisan ini disari dari Modul Ajar Mata Kuliah Sistem Informasi Manajemen Dosen pengampu Prof. Dr. H.A. Rusdiana, M.M.

(https://digilib.uinsgd.ac.id/42964/)

Moto :

RESPONSIBLE AI FOR EDUCATION SMART TECHNOLOGY, ETHICAL GOVERNANCE, TRUSTED EDUCATION

“Teknologi Cerdas, Tata Kelola Beretika, Pendidikan Berintegritas.”

Tata Kelola dan Transformasi Sistem Informasi Manajemen Pendidikan Berbasis AI

Dosen pengampu: Prof. Dr. H.A. Rusdiana, M.M.