Glosarium tata kelola AI & ISO/IEC 42001

Definisi

Istilah kunci, dijelaskan

Kosakata tata kelola AI, didefinisikan dengan jelas:

Sistem Manajemen AI (AIMS)

Sistem Manajemen AI (AIMS) adalah kumpulan kebijakan, peran, proses, dan kontrol yang digunakan organisasi untuk mengembangkan, menerapkan, dan menggunakan AI secara bertanggung jawab. ISO/IEC 42001 adalah standar internasional yang mendefinisikan apa yang harus dimuat sebuah AIMS. Learn more

ISO/IEC 42001

ISO/IEC 42001:2023 adalah standar internasional pertama di dunia untuk Sistem Manajemen AI. Standar ini memberi organisasi kerangka kerja yang dapat disertifikasi untuk mengelola risiko, dampak, data, transparansi, dan pengawasan manusia AI. Learn more

Tata kelola AI

Tata kelola AI adalah praktik mengarahkan dan mengendalikan cara organisasi mengembangkan dan menggunakan AI — menetapkan akuntabilitas, mengelola risiko dan dampak, serta memastikan AI digunakan secara sah, aman, dan transparan. Learn more

AI risiko tinggi

AI risiko tinggi merujuk pada penggunaan AI yang dapat secara signifikan memengaruhi hak, keselamatan, atau akses masyarakat ke layanan — seperti perekrutan, penilaian kredit, atau perangkat medis. EU AI Act menetapkan kategori risiko tinggi tertentu dengan kewajiban yang mengikat. Learn more

EU AI Act

EU AI Act adalah undang-undang AI komprehensif Uni Eropa, yang mengambil pendekatan berbasis risiko dari praktik yang dilarang hingga kewajiban risiko tinggi. Kewajiban risiko tinggi berlaku mulai Desember 2027 setelah Digital Omnibus 2026. Learn more

Penilaian dampak AI

Penilaian dampak AI mengevaluasi bagaimana sistem AI dapat memengaruhi individu, kelompok, dan masyarakat — termasuk efek tidak langsung atau tidak proporsional. Penilaian ini menanyakan siapa yang dapat dirugikan, dan bagaimana, sebelum penerapan. Learn more

Penilaian risiko AI

Penilaian risiko AI mengidentifikasi dan menilai apa yang bisa salah pada sistem AI — di seluruh risiko tata kelola, hukum, privasi, data, teknis, operasional, dan sosial — terhadap kriteria yang ditetapkan. Learn more

Statement of Applicability (SoA)

Statement of Applicability adalah dokumen inti ISO/IEC 42001 yang mencantumkan setiap kontrol Annex A, apakah berlaku, justifikasinya, pemiliknya, dan buktinya. Ini adalah dokumen yang paling banyak diperiksa dalam audit. Learn more

Kontrol Annex A

Annex A dari ISO/IEC 42001 adalah rangkaian referensi berisi sekitar 38 kontrol di sembilan area — kebijakan, organisasi, sumber daya, dampak, siklus hidup, data, informasi, penggunaan, dan pihak ketiga — yang dipilih dan diterapkan organisasi. Learn more

Pengawasan manusia

Pengawasan manusia berarti menjaga agar seseorang tetap mampu secara bermakna untuk meninjau, mengintervensi, atau mengesampingkan keputusan sistem AI — terutama ketika keputusan tersebut memengaruhi hak, keselamatan, atau keuangan seseorang. Learn more

Siklus hidup sistem AI

Siklus hidup sistem AI adalah rentang penuh kehidupan sistem AI — konsep, data, desain, pengembangan, validasi, penerapan, pemantauan, perubahan, dan penonaktifan — masing-masing tahap dengan kontrol tata kelolanya sendiri. Learn more

Provenans data

Provenans data adalah asal dan riwayat terdokumentasi dari data yang digunakan untuk melatih atau menjalankan sistem AI — sumber, transformasi, dan silsilahnya — yang diperlukan untuk menunjukkan kualitas dan penggunaan yang sah. Learn more

Bias dan keadilan

Penilaian bias dan keadilan mengevaluasi apakah data atau keluaran sistem AI secara sistematis menguntungkan atau merugikan kelompok yang dapat diidentifikasi, dan mendokumentasikan metrik, temuan, serta mitigasinya. Learn more

Model card

Model card adalah dokumen terstruktur yang menjelaskan model AI — tujuan, data, kinerja, keterbatasan, dan penggunaan yang dimaksudkan — sehingga pengguna dan auditor dapat memahami dan mengelolanya. Learn more

Insiden AI

Insiden AI adalah peristiwa di mana sistem AI menyebabkan atau berisiko menyebabkan bahaya, kesalahan, atau pelanggaran kepatuhan. ISO/IEC 42001 mewajibkan proses respons yang diklasifikasikan berdasarkan tingkat keparahan dengan pelestarian bukti. Learn more

Risiko AI pihak ketiga

Risiko AI pihak ketiga adalah kewajiban tata kelola yang tetap ada ketika Anda menggunakan AI yang tidak Anda bangun sendiri — model fondasi, API, atau kumpulan data. Akuntabilitas atas hasil tetap berada pada organisasi yang menerapkannya. Learn more

Penyedia / pengembang / penerap AI

Ini adalah peran yang diakui ISO/IEC 42001 dan EU AI Act: penyedia membangun dan memasok AI, pengembang merekayasanya, dan penerap menggunakannya. Setiap peran membawa kewajiban yang berbeda. Learn more

GPAI (AI serbaguna)

AI serbaguna (GPAI) merujuk pada model berkemampuan luas — seperti model bahasa besar — yang dapat disesuaikan untuk banyak tugas. Berdasarkan EU AI Act, model GPAI membawa kewajiban transparansi dan dokumentasinya sendiri. Learn more

Audit internal (ISO/IEC 42001)

Audit internal adalah pemeriksaan independen bahwa sistem manajemen AI sesuai dengan ISO/IEC 42001 dan benar-benar beroperasi. Temuannya mendorong tindakan korektif dan menjadi masukan bagi tinjauan manajemen. Learn more

Tinjauan manajemen

Tinjauan manajemen adalah acara manajemen puncak di mana pimpinan meninjau kinerja AIMS, risiko, hasil audit, dan perbaikan — momen ketika akuntabilitas atas tata kelola AI dijalankan. Learn more

Perbaikan berkelanjutan

Perbaikan berkelanjutan adalah proses berkelanjutan untuk membuat sistem manajemen AI menjadi lebih baik dari waktu ke waktu, didorong oleh audit, insiden, pemantauan, dan pelajaran yang dipetik. Learn more

NIST AI RMF

NIST AI Risk Management Framework adalah kerangka kerja AS yang bersifat sukarela (Govern, Map, Measure, Manage) untuk AI yang tepercaya. Kerangka ini melengkapi ISO/IEC 42001, yang menambahkan sistem manajemen yang dapat disertifikasi. Learn more