Agentic AI Audit
Agentic AI Audit
Deskripsi
Memasuki era Agentic AI, perbankan kini menggunakan asisten otonom yang mampu menjalankan proses bisnis secara mandiri, mulai dari negosiasi restrukturisasi kredit hingga manajemen portofolio real-time. Pelatihan ini dirancang untuk membekali auditor internal dengan kerangka kerja pengawasan terhadap sistem AI yang memiliki agensi (kemampuan bertindak). Fokus utama pelatihan adalah memastikan bahwa "keputusan" yang diambil oleh agen AI tetap berada dalam koridor kebijakan bank, etika perbankan, dan batas risiko yang diizinkan tanpa campur tangan manusia secara langsung.
Selama dua hari, peserta akan mengeksplorasi tantangan unik dalam mengaudit model AI yang bersifat dinamis dan terus belajar. Peserta tidak hanya belajar cara memeriksa algoritma, tetapi juga cara mengaudit mekanisme "pagar pengaman" (guardrails) dan akuntabilitas sistem saat terjadi kesalahan keputusan oleh AI. Pelatihan ini adalah krusial bagi SKAI untuk memastikan bahwa otomatisasi tingkat tinggi tidak menjadi "kotak hitam" yang tidak terkendali, melainkan aset yang aman dan patuh pada regulasi perlindungan konsumen.
Tujuan
- Memahami Anatomi Agentic AI: Membedakan antara AI tradisional, Generative AI, dan Agentic AI dalam konteks operasional bank.
- Identifikasi Risiko Otonom: Mampu mendeteksi risiko hallucination, bias escalation, dan unauthorized actions yang dilakukan oleh agen AI.
- Evaluasi Guardrails & Control: Menguji efektivitas sistem kendali (pembatasan akses dan tindakan) yang diterapkan pada agen AI.
- Governance & Accountability: Memastikan adanya jejak audit (audit trail) yang jelas pada setiap keputusan mandiri yang diambil oleh mesin.
Materi
1. The New Frontier of AI Audit
- Introduction to Agentic AI in Banking: Memahami konsep AI Agents, Tool Use, dan Autonomous Loop.
- Risk Taxonomy of Autonomous Systems: Mengidentifikasi risiko baru: Emergent Behavior, Prompt Injection, dan Cascading Failures.
- Audit Planning for AI Agents: Menentukan ruang lingkup audit pada sistem yang terus berubah (bukan sistem statis).
- Data Integrity & Training Bias: Audit terhadap kualitas data yang digunakan agen AI untuk mengambil keputusan mandiri.
- Framework Audit AI Global: Mengacu pada NIST AI RMF dan standar OJK terbaru mengenai kecerdasan buatan.
2. Technical Audit & Live Monitoring
- Auditing the Guardrails: Teknik menguji pembatas sistem—memastikan AI tidak bisa menarik dana atau mengubah suku bunga di luar parameter.
- Traceability & Explainability (XAI): Bagaimana auditor meminta "penjelasan" dari AI atas tindakan yang diambilnya.
- Human-in-the-Loop (HITL) Evaluation: Mengaudit efektivitas intervensi manusia saat agen AI mencapai ambang batas risiko tertentu.
- Simulasi Red Teaming untuk Auditor: Praktek melakukan pengujian stres (stress testing) pada agen AI layanan nasabah atau kredit.
Peserta
- Divisi Internal Audit
- Divisi Information Technology (IT)
- Divisi AI / Data Analytics
- Divisi Risk Management
- Divisi Compliance
Metode
- Pre-test
- Presentasi Materi
- Diskusi
- Studi Kasus
- Post-test
Fasilitas
- Training Amenities
- Peralatan Pelatihan (Tas, Hand Out, Flashdisk, Block Note, Pulpen, Watermark)
- Sertifikat
- Souvenir
- 2x Coffee Break, 1x Lunch