Dalam proses penyebaran AI perusahaan, 'AI bayangan' meningkat... kekosongan pengaturan menjadi variabel

Pengenalan kecerdasan buatan perusahaan sedang berkembang pesat, tetapi di lapangan nyata, “pengendalian” justru menjadi tantangan yang lebih besar daripada “perluasan”. Diagnosis menunjukkan bahwa meskipun hasil telah dicapai dalam pilot terbatas, dalam proses memperluas ke seluruh bisnis, ketidakmampuan pengelolaan keamanan dan kebijakan yang mengikuti menyebabkan “kesenjangan konversi produksi” semakin membesar.

Wakil Presiden dan General Manager divisi kecerdasan buatan SUSE S.A., Lis Oxenham, baru-baru ini menyatakan di SUSECON 2026 bahwa tantangan yang dihadapi perusahaan saat ini bukan lagi sekadar pilot AI, melainkan bagaimana memigrasikan secara aman ke lingkungan operasional skala besar. Ia menjelaskan, “Pilot relatif mudah membuktikan nilai, tetapi setelah itu, untuk menerapkannya bersama data inti dalam operasi nyata, diperlukan langkah-langkah keamanan dan tata kelola.” “Inilah yang disebut ‘kesenjangan produksi’ yang harus dilalui oleh pelanggan.”

Masalah serupa juga terlihat dari data. Laporan menunjukkan bahwa satu dari lima perusahaan pernah mengalami insiden keamanan terkait “AI bayangan”, namun hanya 37% perusahaan yang memiliki kebijakan pengelolaan atau deteksi terhadapnya. AI bayangan merujuk pada fenomena karyawan menggunakan alat AI generatif eksternal tanpa izin perusahaan, yang meskipun praktis, berisiko kebocoran data dan pelanggaran. Akhirnya, kekurangan sistem tata kelola yang sebanding dengan skala investasi AI menjadi variabel langsung yang mempengaruhi daya saing perusahaan.

SUSE mengusulkan “AI pribadi” sebagai solusi

SUSE mengusulkan “AI pribadi” sebagai solusi terhadap masalah ini. Ini adalah model AI tingkat perusahaan berbasis standar terbuka, dengan deployment hybrid dan kendali penuh oleh organisasi. Desainnya memungkinkan perusahaan menempatkan beban kerja AI sesuai kebutuhan di pusat data sendiri, cloud publik, maupun lingkungan edge, sambil menghindari ketergantungan pada vendor tertentu.

Oxenham menekankan pentingnya “kedaulatan digital”. Ia menyatakan, “Kedaulatan digital tidak lagi hanya menjadi daftar regulasi yang dimiliki Eropa.” “Semua organisasi global harus mempertimbangkan independensi, otonomi, dan ketahanan dalam pengoperasian infrastruktur.” Ini berarti, melampaui sekadar kepatuhan, infrastruktur AI dan kendali data sendiri kini menjadi kompetensi inti perusahaan.

Di lapangan, manajemen sering menuntut hasil AI yang cepat, tetapi mekanisme tata kelola pendukungnya seringkali tidak memadai. Pada saat ini, anggota tim akan melewati sistem yang disetujui dan beralih menggunakan alat eksternal, sehingga perusahaan kehilangan kendali atas aliran data dan riwayat penggunaannya. SUSE menjelaskan bahwa untuk mengurangi risiko ini, mereka menyediakan observabilitas, keamanan, dan otomatisasi berbasis SUSE Rancher Prime dan SUSE Linux Enterprise Server.

Era AI agen, keamanan dan observabilitas semakin penting

Terutama dengan AI yang melampaui sekadar rekomendasi sederhana dan berkembang ke tahap “AI agen” yang mampu menjalankan pekerjaan nyata, pentingnya tata kelola menjadi semakin besar. Karena, semakin AI agen mewakili tindakan pengguna dan terlibat dalam pengambilan keputusan, semakin diperlukan kemampuan untuk memastikan secara real-time bahwa penilaiannya sesuai kebijakan perusahaan.

Oxenham menyatakan, “Jika agen mewakili pengguna dalam melakukan tindakan nyata, maka harus dipastikan bahwa tindakan tersebut sesuai kebijakan perusahaan.” “Pada tahap ini, tata kelola, keamanan, dan observabilitas menjadi sangat penting.” Ini menunjukkan bahwa daya saing AI tingkat perusahaan tidak lagi hanya ditentukan oleh performa model, tetapi juga beralih ke arah stabilitas operasional dan kemampuan penegakan kebijakan secara bersamaan.

Akhirnya, analisis menunjukkan bahwa pada tahun 2026, fokus utama pasar AI tingkat perusahaan bukan lagi “mengadopsi lebih banyak AI”, melainkan “membangun fondasi yang aman untuk skalabilitas”. Semakin jelas bahwa agar pilot AI keluar dari laboratorium dan berhasil terintegrasi ke dalam sistem bisnis nyata, perlu dibangun sistem tata kelola, kedaulatan digital, dan keamanan yang sepadan dengan performa.