25 November 2024, oleh Dr. Antonius Alijoyo
Kecerdasan Buatan (AI-Artificial Intelligence) tidak diragukan lagi mengubah lanskap bisnis karena membawa organisasi menghadapi peluang yang belum pernah terjadi sebelumnya dan tantangan yang kompleks. AI membantu para pemimpin bisnis untuk meningkatkan pengambilan keputusan, mendorong inovasi, dan merevolusi kegiatan operasional. Namun, AI juga membawa sejumlah risiko baru, pertimbangan etis, dan persyaratan peraturan yang menuntut perhatian cermat dan manajemen proaktif, yang pada akhirnya membawa dimensi baru pada cara pimpinan puncak melaksanakan akuntabilitas mereka. Ketika organisasi berlomba-lomba untuk memanfaatkan kekuatan AI guna memperoleh keunggulan kompetitif, mereka harus menavigasi lanskap yang kompleks dari potensi jebakan, yang membutuhkan “Tata Kelola AI” yang efektif. Organisasi di Indonesia juga menghadapi situasi ini dan perlu menghadapi tantangan masa depan dan keberlanjutan mereka.
Tata Kelola AI yang efektif memastikan bahwa sistem AI selaras dengan nilai-nilai, strategi, dan standar etis organisasi, menyediakan kerangka kerja untuk pengambilan keputusan, akuntabilitas, dan pengawasan dalam pengembangan dan penerapan AI. Oleh karena itu, pertimbangan penting dapat membuat perbedaan antara AI sebagai kekuatan transformatif untuk kebaikan atau sumber tanggung jawab yang signifikan dan kerusakan reputasi. Hasilnya akan bergantung pada bagaimana pimpinan puncak organisasi membangun lapisan pemahaman dan apresiasi mereka untuk menentukan prioritas penggunaan AI dan dampak langsung dan tidak langsungnya pada organisasi, serta gaungnya.
Menempatkan tantangan dalam konteks Indonesia, pimpinan puncak organisasi, khususnya korporasi yang terdiri dari Direksi dan Dewan Komisaris, perlu membangun kesadaran dan lapisan pemahaman mereka tentang Tata Kelola AI. Karena itu, OCEG, yang dipimpin oleh Lee Ditmar dan Carole Switzer, menulis buku “The Essential Guide to AI Governance” yang pada dasarnya dibagi menjadi 25 pertanyaan yang harus diajukan oleh pimpinan tentang GRC (Governance, Risk Management, Compliance) untuk AI, kemudian diringkas menjadi delapan kelompok topik seperti di bawah ini.
Bagi anda yang tertarik untuk mempelajari lebih lanjut dapat menemukan tautan ke klip video masing-masing.
- Strategi:
Fokus pada pemahaman tahap penggunaan AI saat ini di organisasi, menyelaraskan inisiatif AI dengan strategi keseluruhan, dan memantau kinerja AI secara efektif. Direksi dan Dewan Komisaris memerlukan pandangan komprehensif tentang dimana dan bagaimana AI digunakan, bagaimana AI selaras dengan tujuan organisasi, dan bagaimana kinerja dan dampaknya diukur.
https://youtu.be/iqgeXuNb0f4?si=ogs3JRIaOyPnpY_g
- Tata Kelola:
Menangani proses, struktur, dan prinsip yang diperlukan untuk memandu pengembangan dan penggunaan AI di organisasi. Direksi dan Dewan Komisaris harus memahami cara menerapkan proses tata kelola yang efektif, memelihara sistem pencatatan terpusat untuk penerapan AI, mengembangkan prinsip serta panduan untuk penggunaan AI, dan memastikan sistem AI transparan, dapat dijelaskan, dan akuntabel.
https://youtu.be/oqQFZDDWvRc?si=6BVevEdssoAqzi1d
- Manajemen Risiko:
Berfokus pada identifikasi, penilaian, dan mitigasi berbagai risiko yang terkait dengan penggunaan AI, termasuk risiko reputasi, operasional, dan etis. Direksi dan Dewan Komisaris harus memahami cara mengevaluasi risiko spesifik terkait AI, mengatasi potensi bias dan diskriminasi pada sistem AI, dan bersiap menghadapi gangguan atau kegagalan.
https://youtu.be/TIaNRvT87rM?si=72ZuK6pRCUbiXvfH
- Kepatuhan:
Memastikan sistem AI mematuhi hukum, peraturan, dan standar industri yang relevan. Direksi dan Dewan Komisaris harus memahami cara mengintegrasikan pertimbangan kepatuhan ke dalam proses pengembangan AI, tetap mengikuti perkembangan perubahan peraturan, dan menerapkan kebijakan dan prosedur untuk memastikan penggunaan AI yang bertanggung jawab dan patuh.
https://youtu.be/tjfmHlIfXY8?si=BHjfe-vHIoxtiqs0
- Pelatihan dan Edukasi:
Menangani cara mempersiapkan tenaga kerja dan pemangku kepentingan lainnya untuk penggunaan AI yang efektif dan bertanggung jawab. Direksi dan Dewan Komisaris harus memahami cara mengembangkan program pelatihan AI yang komprehensif, mendidik karyawan tentang risiko kepatuhan dari penggunaan AI, dan menumbuhkan budaya pembelajaran berkelanjutan mengenai AI.
https://youtu.be/NYprB2AMFY0?si=6i9qjszoQdwSk4FQ
- Penggunaan dan Keamanan Data:
Berfokus pada pengelolaan, kualitas, dan perlindungan data yang digunakan pada sistem AI. Direksi dan Dewan Komisaris harus memahami cara memastikan tata kelola data yang tepat, menjaga kualitas data, dan menerapkan langkah-langkah keamanan siber dan privasi yang kuat untuk sistem AI.
https://youtu.be/u_DbMb86HDk?si=f2SRW7SqIdxy8fgn
- Model Asurans/Pemastian:
Memastikan model AI dapat dijelaskan, andal, dan patuh. Direksi dan Dewan Komisaris perlu memahami cara mengembangkan AI yang dapat dijelaskan, memastikan kepatuhan berkelanjutan terhadap model AI, dan mengevaluasi efektivitas program kepatuhan berbasis AI.
https://youtu.be/3KcXeFUZJSQ?si=bk2HoV6tyMb6mGCc
- Manajemen Pemangku Kepentingan:
Menangani isu dalam membangun kepercayaan, memantau dampak, dan memastikan tata kelola AI yang konsisten di seluruh perusahaan. Direksi dan Dewan Komisaris harus memahami cara membangun dan memelihara kepercayaan pemangku kepentingan, memantau dampak AI pada berbagai kelompok, dan memastikan praktik tata kelola AI yang konsisten di seluruh ekosistem organisasi.
Semoga artikel ini bermanfaat bagi para pengguna, khususnya bagi para pimpinan puncak (Direksi, Dewan Komisaris/Pengawas) di Indonesia, serta bagi mereka yang akan mengikuti Master Class Risk Beyond 2024 di Bali, Desember 2024 – www.riskbeyond.com
(Original Title: AI Governance – Its Importance for Board of Directors (BoD) and Board of Commissioners (BOC)) by Antonius Alijoyo) diunggah pada tautan sebagai berikut:
