C-suite lebih memahami teknologi AI dibandingkan staf TI dan keamanannya, menurut laporan dari Cloud Security Alliance yang ditugaskan oleh Google Cloud. Laporan tersebut, yang diterbitkan pada tanggal 3 April, membahas apakah para profesional TI dan keamanan khawatir bahwa AI akan menggantikan pekerjaan mereka, manfaat dan tantangan dari peningkatan AI generatif, dan masih banyak lagi.

Dari para profesional TI dan keamanan yang disurvei, 63% percaya AI akan meningkatkan keamanan dalam organisasi mereka. Sebanyak 24% lainnya bersikap netral terhadap dampak AI terhadap tindakan keamanan, sementara 12% tidak percaya AI akan meningkatkan keamanan dalam organisasi mereka. Dari responden yang disurvei, hanya sedikit (12%) yang memperkirakan AI akan menggantikan pekerjaan mereka.

Survei yang digunakan untuk membuat laporan ini dilakukan secara internasional, dengan tanggapan dari 2.486 profesional TI dan keamanan serta pemimpin C-suite dari organisasi di seluruh Amerika, APAC, dan EMEA pada bulan November 2023.

Para profesional keamanan siber yang tidak berada dalam posisi kepemimpinan kurang memahami hal ini dibandingkan dengan para eksekutif tingkat C dalam hal kemungkinan penggunaan AI dalam keamanan siber, dengan hanya 14% staf (dibandingkan dengan 51% di level C) yang mengatakan bahwa mereka “sangat jelas.”

“Keterputusan antara C-suite dan staf dalam memahami dan menerapkan AI menyoroti perlunya pendekatan strategis dan terpadu agar berhasil mengintegrasikan teknologi ini,” kata Caleb Sima, ketua Inisiatif Keamanan AI Cloud Security Alliance, dalam siaran persnya.

Beberapa pertanyaan dalam laporan tersebut menyebutkan bahwa jawabannya harus berkaitan dengan AI generatif, sementara pertanyaan lainnya menggunakan istilah “AI” secara luas.

Kesenjangan pengetahuan AI dalam keamanan

Profesional tingkat C menghadapi tekanan dari atas ke bawah yang mungkin membuat mereka lebih sadar akan kasus penggunaan AI dibandingkan profesional keamanan.

Banyak (82%) profesional C-suite mengatakan bahwa kepemimpinan eksekutif dan dewan direksi mereka mendorong penerapan AI. Namun, laporan tersebut menyatakan bahwa pendekatan ini mungkin menimbulkan masalah implementasi di kemudian hari.

“Hal ini mungkin menyoroti kurangnya apresiasi atas kesulitan dan pengetahuan yang diperlukan untuk mengadopsi dan menerapkan teknologi yang unik dan disruptif (misalnya, rekayasa cepat),” tulis penulis utama Hillary Baron, direktur teknis senior penelitian dan analitik di Cloud Security Alliance , dan tim kontributor.

Ada beberapa alasan mengapa kesenjangan pengetahuan ini mungkin terjadi:

  • Para profesional keamanan siber mungkin tidak begitu paham mengenai pengaruh AI terhadap strategi secara keseluruhan.
  • Para pemimpin mungkin meremehkan betapa sulitnya menerapkan strategi AI dalam praktik keamanan siber yang ada.

Penulis laporan mencatat bahwa beberapa data (Gambar A) menunjukkan bahwa responden sudah familiar dengan AI generatif dan model bahasa besar dibandingkan dengan istilah-istilah lama seperti pemrosesan bahasa alami dan pembelajaran mendalam.

Gambar A

Tanggapan terhadap instruksi “Nilai keakraban Anda dengan teknologi atau sistem AI berikut.” Gambar: Aliansi Keamanan Cloud

Penulis laporan mencatat bahwa dominasi pemahaman terhadap istilah-istilah lama seperti pemrosesan bahasa alami dan pembelajaran mendalam mungkin mengindikasikan adanya penggabungan antara AI generatif dan alat populer seperti ChatGPT.

“Perbedaan antara memahami alat GenAI tingkat konsumen vs tingkat profesional/perusahaan adalah hal yang lebih penting dalam hal adopsi dan implementasi,” kata Baron melalui email ke TechRepublic. “Itu adalah sesuatu yang kami lihat secara umum di kalangan profesional keamanan di semua tingkatan.”

Akankah AI menggantikan pekerjaan keamanan siber?

Sekelompok kecil (12%) profesional keamanan berpendapat bahwa AI akan sepenuhnya menggantikan pekerjaan mereka dalam lima tahun ke depan. Yang lain lebih optimis:

  • 30% berpendapat AI akan membantu meningkatkan keahlian mereka.
  • 28% memperkirakan AI akan mendukung mereka secara keseluruhan dalam peran mereka saat ini.
  • 24% berpendapat AI akan menggantikan sebagian besar peran mereka.
  • Sebanyak 5% responden memperkirakan AI tidak akan berdampak pada peran mereka sama sekali.

Sasaran organisasi terhadap AI mencerminkan hal ini, dengan 36% menginginkan hasil dari AI yang dapat meningkatkan keterampilan dan pengetahuan tim keamanan.

Laporan ini menunjukkan perbedaan yang menarik: meskipun peningkatan keterampilan dan pengetahuan merupakan hasil yang sangat diinginkan, bakat berada di urutan terbawah dalam daftar tantangan. Hal ini mungkin berarti bahwa tugas-tugas mendesak seperti mengidentifikasi ancaman menjadi prioritas dalam operasi sehari-hari, sementara sumber daya manusia menjadi perhatian jangka panjang.

Manfaat dan tantangan AI dalam keamanan siber

Kelompok ini terpecah mengenai apakah AI akan lebih bermanfaat bagi pembela atau penyerang:

  • 34% melihat AI lebih bermanfaat bagi tim keamanan.
  • 31% memandangnya sama-sama menguntungkan bagi pemain bertahan dan penyerang.
  • 25% melihatnya lebih bermanfaat bagi penyerang.

Para profesional yang prihatin dengan penggunaan AI dalam keamanan menyebutkan alasan berikut:

  • Kualitas data yang buruk menyebabkan bias yang tidak disengaja dan masalah lainnya (38%).
  • Kurangnya transparansi (36%).
  • Kesenjangan keterampilan/keahlian dalam mengelola sistem AI yang kompleks (33%).
  • Keracunan data (28%).

Halusinasi, privasi, kebocoran atau kehilangan data, keakuratan dan penyalahgunaan adalah pilihan lain yang mungkin dikhawatirkan orang; semua opsi ini mendapat kurang dari 25% suara dalam survei, dimana responden diminta untuk memilih tiga permasalahan utama mereka.

LIHAT: Pusat Keamanan Siber Nasional Inggris menemukan bahwa AI generatif dapat meningkatkan persenjataan penyerang. (Republik Teknologi)

Lebih dari separuh (51%) responden menjawab “ya” ketika ditanya apakah mereka mengkhawatirkan potensi risiko ketergantungan berlebihan pada AI untuk keamanan siber; 28% lainnya netral.

Rencana penggunaan AI generatif dalam keamanan siber

Di antara organisasi-organisasi yang berencana menggunakan AI generatif untuk keamanan siber, terdapat tujuan penggunaan yang sangat luas (Gambar B). Kegunaan umum meliputi:

  • Pembuatan aturan.
  • Simulasi serangan.
  • Pemantauan pelanggaran kepatuhan.
  • Deteksi jaringan.
  • Mengurangi positif palsu.

Gambar B

Infografis yang menunjukkan tanggapan terhadap pertanyaan Bagaimana rencana organisasi Anda menggunakan AI Generatif untuk keamanan siber?  (Pilih 3 kasus penggunaan teratas).
Jawaban atas pertanyaan Bagaimana organisasi Anda berencana menggunakan AI Generatif untuk keamanan siber? (Pilih 3 kasus penggunaan teratas). Gambar: Aliansi Keamanan Cloud

Bagaimana organisasi menyusun tim mereka di era AI

Dari responden yang disurvei, 74% mengatakan organisasi mereka berencana membentuk tim baru untuk mengawasi keamanan penggunaan AI dalam lima tahun ke depan. Struktur tim-tim tersebut dapat bervariasi.

Saat ini, beberapa organisasi yang berupaya menerapkan AI menyerahkannya ke tim keamanan mereka (24%). Organisasi lain memberikan tanggung jawab utama penerapan AI kepada departemen TI (21%), tim ilmu data/analitik (16%), tim AI/ML khusus (13%) atau manajemen senior/kepemimpinan (9%). Dalam kasus yang lebih jarang, DevOps (8%), tim lintas fungsi (6%) atau tim yang tidak termasuk dalam kategori mana pun (tercantum sebagai “lainnya” di 1%) mengambil tanggung jawab.

LIHAT: Perlengkapan perekrutan: teknisi cepat (TechRepublic Premium)

“Terbukti bahwa AI dalam keamanan siber tidak hanya mentransformasikan peran-peran yang ada namun juga membuka jalan bagi posisi-posisi khusus yang baru,” tulis penulis utama Hillary Baron dan tim kontributor.

Posisi seperti apa? Tata kelola AI generatif adalah sub-bidang yang sedang berkembang, kata Baron kepada TechRepublic, begitu pula pelatihan dan peningkatan keterampilan yang berfokus pada AI.

“Secara umum, kami juga mulai melihat lowongan pekerjaan yang mencakup peran yang lebih spesifik untuk AI seperti insinyur cepat, arsitek keamanan AI, dan insinyur keamanan,” kata Baron.

Fuente