Gartner mengidentifikasi lima titik buta GenAI yang dapat menghambat strategi AI perusahaan: Shadow AI, utang teknis, kedaulatan data, erosi keterampilan, dan risiko vendor lock-in. Berikut panduan CIO untuk mengatasinya.
Perkembangan generative AI (GenAI) yang sangat cepat, membawa manfaat besar sekaligus risiko yang sering tidak terlihat. Gartner menegaskan bahwa hingga tahun 2030, titik buta ini akan menjadi pembeda utama antara perusahaan yang mampu menskalakan AI, dengan perusahaan yang justru terjebak disrupsi internal.
Organisasi biasanya fokus pada tantangan langsung seperti keamanan, nilai bisnis, atau kesiapan data. Namun, kesalahan terbesar justru muncul dari dampak tingkat kedua dan ketiga risiko yang tidak terlihat di awal tetapi dapat menimbulkan kerugian serius jika tidak ditangani.
“Teknologi dan teknik GenAI berkembang dengan kecepatan yang belum pernah terjadi sebelumnya, sejajar dengan hype yang mengelilinginya, yang membuat CIO kesulitan untuk menavigasi lanskap dinamis ini,” kata Arun Chandrasekaran, Distinguished VP Analyst di Gartner,
- Ledakan Shadow AI
Gartner menemukan bahwa 69 persen organisasi mencurigai atau memiliki bukti bahwa karyawan menggunakan alat GenAI publik yang dilarang. Adopsi tidak terkontrol ini dapat mengarah pada kebocoran data, hilangnya intellectual property, serta meningkatnya risiko keamanan dan kepatuhan. Gartner memprediksi lebih dari 40 persen perusahaan akan mengalami insiden keamanan terkait Shadow AI pada 2030. CIO perlu menetapkan kebijakan penggunaan AI yang jelas, melakukan audit berkala, dan memasukkan penilaian risiko GenAI ke dalam proses evaluasi SaaS.
- Hutang Teknis GenAI
Kecepatan pengembangan GenAI sering membuat organisasi melupakan biaya jangka panjang. Kode, konten, desain buatan AI sering memerlukan revisi, dokumentasi, atau penggantian yang memakan biaya besar. Gartner memprediksi 50 persen perusahaan akan mengalami penundaan upgrade AI atau kenaikan biaya pemeliharaan karena hutang teknis yang tidak dikelola. Solusinya adalah menetapkan standar tinjauan aset AI, mendokumentasikan output GenAI, dan memantau metrik utang teknis melalui dasbor IT.
- Kedaulatan Data dan AI
Gartner memproyeksikan 65 persen pemerintah dunia akan menerapkan aturan kedaulatan teknologi pada 2028. Aturan ini dapat membatasi aliran data dan model lintas negara, menaikkan TCO, dan memperlambat adopsi AI. CIO harus memasukkan aspek kedaulatan sejak awal strategi AI dan memilih vendor yang memenuhi persyaratan regulasi lokal.
- Erosi Keterampilan
Ketergantungan berlebihan pada AI dapat mengikis pengetahuan tersirat, intuisi, dan kemampuan analitis manusia. Risiko ini sering tidak terlihat hingga organisasi menghadapi kasus yang tidak bisa ditangani AI. Perusahaan perlu mengidentifikasi peran yang membutuhkan keahlian manusia dan merancang solusi AI yang melengkapi, bukan menggantikan kemampuan tersebut.
Banyak perusahaan memilih satu vendor AI demi kecepatan, namun ketergantungan ini dapat mempersempit fleksibilitas teknologi dan daya tawar di masa depan. CIO sering meremehkan seberapa erat data, model, dan alur kerja mereka terikat API dan platform spesifik vendor.
