01 Kebangkitan AI: Perang Gelap Keamanan di Balik Pedang Bermata Dua Teknologi
Dengan perkembangan cepat teknologi AI, ancaman yang dihadapi oleh keamanan siber semakin kompleks, metode serangan tidak hanya menjadi lebih efisien dan tersembunyi, tetapi juga melahirkan bentuk baru "hacker AI", sehingga memicu berbagai krisis keamanan siber yang baru.
Pertama-tama, AI generatif sedang merombak "akurasi" penipuan online.
Secara sederhana, ini adalah tentang mengubah serangan phishing tradisional menjadi lebih cerdas. Misalnya, dalam skenario yang lebih akurat, penyerang akan menggunakan data sosial publik untuk melatih model AI, menghasilkan email phishing yang dipersonalisasi secara massal, meniru gaya penulisan atau kebiasaan bahasa pengguna tertentu, melakukan penipuan "yang disesuaikan", melewati filter spam tradisional, dan secara signifikan meningkatkan tingkat keberhasilan serangan.
Selanjutnya adalah deepfake yang paling dikenal oleh publik dan penyamaran identitas. Sebelum teknologi AI matang, penipuan "ubah wajah" tradisional, yaitu penipuan BEC, yang merupakan singkatan dari "Business Email Compromise", di mana penyerang menyamar sebagai pengirim email dari atasan, rekan kerja, atau mitra bisnis Anda, untuk menipu informasi bisnis atau uang, atau mendapatkan data penting lainnya.
Kini, "perubahan wajah" benar-benar terjadi. Teknologi perubahan wajah dan suara yang dihasilkan oleh AI dapat memalsukan identitas publik atau teman dekat, digunakan untuk penipuan, manipulasi opini publik, bahkan intervensi politik. Hanya dua bulan yang lalu, direktur keuangan dari sebuah perusahaan di Shanghai menerima undangan video konferensi dari "ketua dewan", pihak tersebut menggunakan AI untuk mengubah wajah dan suara mengklaim perlu segera membayar "uang jaminan kerjasama luar negeri", direktur tersebut mengikuti instruksi dan mengirimkan 3,8 juta yuan ke rekening yang ditentukan, kemudian menyadari bahwa itu adalah kelompok penipuan luar negeri yang menggunakan teknologi pemalsuan mendalam untuk beraksi.
Ketiga adalah serangan otomatis dan pemanfaatan celah. Kemajuan teknologi AI memungkinkan banyak skenario beralih ke arah kecerdasan dan otomatisasi, termasuk serangan siber. Penyerang dapat memanfaatkan AI untuk secara otomatis memindai celah sistem, menghasilkan kode serangan dinamis, dan melakukan serangan cepat tanpa pandang bulu terhadap target, misalnya, "zero-day attack" yang didorong oleh AI akan segera menulis dan menjalankan program jahat setelah menemukan celah, sistem pertahanan tradisional sulit untuk merespons secara real-time.
Pada Tahun Baru Imlek tahun ini, situs resmi DeepSeek mengalami serangan DDoS berskala besar sebesar 3,2Tbps, di mana hacker secara bersamaan menyusup melalui API untuk menyuntikkan contoh kontra, memodifikasi bobot model yang menyebabkan layanan inti lumpuh selama 48 jam, dengan kerugian ekonomi langsung melebihi puluhan juta dolar, setelah ditelusuri ditemukan jejak infiltrasi yang telah lama ada dari NSA AS.
Pencemaran data dan celah model juga merupakan ancaman baru. Penyerang menyisipkan informasi palsu (yaitu pemompaan data) dalam data pelatihan AI, atau memanfaatkan cacat model itu sendiri, untuk membujuk AI menghasilkan hasil yang salah—ini dapat menyebabkan ancaman keamanan langsung di bidang penting, bahkan dapat memicu konsekuensi bencana berantai, seperti sistem mengemudi otomatis yang salah menilai "larangan lewat" sebagai "tanda batas kecepatan", atau AI medis yang salah menilai tumor jinak sebagai ganas.
02 AI masih perlu AI
Menghadapi ancaman keamanan siber baru yang didorong oleh AI, model perlindungan tradisional sudah menunjukkan kelemahan. Lalu, apa saja strategi yang bisa kita gunakan untuk menghadapinya?
Tidak sulit untuk menemukan bahwa konsensus industri saat ini telah mengarah pada "melawan AI dengan AI" — ini bukan hanya peningkatan alat teknologi, tetapi juga perubahan paradigma keamanan.
Upaya yang ada saat ini dapat dibagi menjadi tiga kategori besar, yaitu teknologi perlindungan keamanan model AI, aplikasi pertahanan tingkat industri, serta kolaborasi pemerintah dan internasional yang lebih makro.
Kunci dari teknologi perlindungan keamanan model AI terletak pada penguatan keamanan endogen model tersebut.
Sebagai contoh dari celah "jailbreak" pada model bahasa besar (LLM), mekanisme perlindungannya sering kali gagal karena strategi pengingat jailbreak yang umum - penyerang berhasil melewati lapisan perlindungan bawaan model secara sistematis untuk membujuk AI menghasilkan konten yang bersifat kekerasan, diskriminatif, atau ilegal. Untuk mencegah "jailbreak" pada LLM, berbagai perusahaan model telah mencoba, seperti Anthropic yang merilis "pengklasifikasi konstitusi" pada bulan Februari tahun ini.
"Konstitusi" di sini merujuk pada aturan bahasa alami yang tidak dapat dilanggar, sebagai langkah perlindungan yang dilatih pada data sintetik, dengan menetapkan konten yang diperbolehkan dan dibatasi, serta memantau konten input dan output secara real-time. Dalam pengujian kondisi dasar, model Claude3.5-nya di bawah perlindungan classifier meningkatkan tingkat keberhasilan pencegahan percobaan jailbreak tingkat tinggi dari 14% menjadi 95%, secara signifikan mengurangi risiko "jailbreak" AI.
Selain dari model berbasis dan metode pertahanan yang lebih umum, aplikasi pertahanan tingkat industri juga patut diperhatikan, di mana perlindungan berbasis skenario di bidang vertikal menjadi titik terobosan yang kunci: industri keuangan membangun penghalang anti-penipuan melalui model risiko AI dan analisis data multimodal, ekosistem sumber terbuka memanfaatkan teknologi penangkapan kerentanan cerdas untuk respons cepat terhadap ancaman nol hari, sementara perlindungan informasi sensitif perusahaan bergantung pada sistem pengendalian dinamis yang didorong oleh AI.
Misalnya, solusi yang ditampilkan oleh Cisco di Singapore International Network Week dapat secara real-time拦截 permintaan kueri data sensitif yang diajukan karyawan ke ChatGPT dan secara otomatis menghasilkan laporan audit kepatuhan untuk mengoptimalkan siklus manajemen.
Di tingkat makro, kolaborasi lintas wilayah antara pemerintah dan internasional juga sedang dipercepat. Badan Keamanan Siber Singapura menerbitkan "Panduan Keamanan Sistem Kecerdasan Buatan", yang membatasi penyalahgunaan AI generatif melalui penerapan lokal yang wajib dan mekanisme enkripsi data, terutama dalam membangun standar perlindungan untuk identifikasi pemalsuan identitas oleh AI dalam serangan phishing; negara-negara Amerika Serikat, Inggris, dan Kanada secara bersamaan meluncurkan "Program Agen Jaringan AI", yang fokus pada pengembangan sistem yang dapat dipercaya dan evaluasi real-time terhadap serangan APT, serta memperkuat kemampuan pertahanan kolektif melalui sistem sertifikasi keamanan bersama.
Jadi, metode apa yang dapat memaksimalkan penggunaan AI untuk menghadapi tantangan keamanan siber di era AI?
"Masa depan membutuhkan pusat kecerdasan aman AI dan membangun sistem baru di sekitarnya." Dalam Forum Inovasi Keamanan Siber Wuhan ke-2, pendiri QingTeng Cloud Security, Zhang Fu, pernah menekankan bahwa menggunakan AI untuk melawan AI adalah inti dari sistem pertahanan keamanan siber di masa depan, "Dalam 3 tahun, AI akan mengubah industri keamanan yang ada dan semua industri 2B. Produk akan dibangun kembali, mencapai efisiensi dan kemampuan yang belum pernah ada sebelumnya. Produk masa depan dirancang untuk digunakan oleh AI, bukan untuk digunakan oleh manusia."
Di antara berbagai solusi, mode Security Copilot jelas memberikan contoh yang baik untuk "produk masa depan dirancang untuk AI": setahun yang lalu, Microsoft meluncurkan co-pilot Microsoft Security Copilot yang cerdas untuk membantu tim keamanan mendeteksi, menyelidiki, dan merespons insiden keamanan dengan cepat dan akurat; sebulan yang lalu, mereka kembali merilis agen AI yang secara otomatis membantu dalam bidang-bidang penting seperti serangan phishing, keamanan data, dan manajemen identitas.
Microsoft menambahkan enam AI cerdas yang dikembangkan sendiri untuk memperluas fungsi Security Copilot. Tiga di antaranya digunakan untuk membantu personel keamanan siber menyaring alarm: agen klasifikasi phishing untuk memeriksa alarm phishing dan menyaring false positive; dua lainnya menganalisis pemberitahuan Purview untuk mendeteksi penggunaan data bisnis oleh karyawan tanpa izin.
Agen optimasi akses bersyarat bekerja sama dengan Microsoft Entra untuk menunjukkan aturan akses pengguna yang tidak aman dan menghasilkan solusi perbaikan satu klik untuk dilaksanakan oleh administrator. Agen perbaikan kerentanan dan alat manajemen perangkat Intune terintegrasi untuk membantu dengan cepat mengidentifikasi terminal yang rentan dan menerapkan patch sistem operasi. Agen laporan intelijen ancaman menghasilkan laporan ancaman siber yang mungkin mengancam sistem organisasi.
03 Tanpa Wujud: Perlindungan untuk Agensi Cerdas Tingkat L4
Kebetulan, di dalam negeri, untuk mencapai tingkat perlindungan keamanan yang benar-benar "mengemudi otomatis", Qingteng Cloud Security meluncurkan agen cerdas keamanan berlapis penuh "Wuxiang". Sebagai produk AI keamanan pertama di dunia yang berhasil melakukan lompatan dari "AI berbasis bantuan" ke "agen cerdas mandiri" (Autopilot), terobosan inti terletak pada mengubah model "respons pasif" dari alat tradisional menjadi mandiri, otomatis, dan cerdas.
Dengan menggabungkan pembelajaran mesin, grafik pengetahuan, dan teknologi pengambilan keputusan otomatis, "Wuxiang" dapat secara mandiri menyelesaikan seluruh proses dari deteksi ancaman, penilaian dampak hingga respons, mewujudkan keputusan yang benar-benar otonom dan berbasis tujuan. Desain "Arsitektur AI Agentic" meniru logika kolaborasi tim keamanan manusia: "otak" mengintegrasikan basis pengetahuan keamanan siber untuk mendukung kemampuan perencanaan, "mata" merasakan dinamika lingkungan jaringan secara halus, "tangan dan kaki" secara fleksibel memanggil berbagai alat keamanan, dan melalui kolaborasi multi-agen membentuk jaringan penilaian informasi yang efisien dengan pembagian kerja dan berbagi informasi.
Dalam implementasi teknis, "Tanpa Fase" menggunakan "ReAct Mode" (Siklus Act-Observe-Think-Act) dan "Arsitektur Dual Engine AI + Aksi AI", memastikan kemampuan koreksi dinamis dalam tugas yang kompleks. Ketika ada anomali dalam pemanggilan alat, sistem dapat secara otomatis beralih ke rencana cadangan daripada menghentikan proses, misalnya dalam analisis serangan APT, Plan AI bertindak sebagai "Pengorganisir" yang membongkar tujuan tugas, Action AI sebagai "Ahli Investigasi" yang melakukan analisis log dan pemodelan ancaman, keduanya maju secara paralel berdasarkan grafik pengetahuan yang dibagikan secara real-time.
Dalam hal modul fungsional, "Tanpa Bentuk" telah membangun ekosistem pengambilan keputusan mandiri yang lengkap: Simulasi karakter AI mencerminkan pemikiran analisis keamanan, mengoptimalkan jalur keputusan secara dinamis; Integrasi pemanggilan alat untuk pencarian log keamanan host, pengambilan intelijen ancaman jaringan, dan analisis kode berbahaya yang didorong oleh LLM; Pencapturean informasi aset host dan jaringan secara real-time oleh kesadaran lingkungan; Penyimpanan dinamis grafik pengetahuan untuk hubungan entitas, membantu pengambilan keputusan; Kolaborasi multi-agent melalui pemecahan tugas dan berbagi informasi, mengeksekusi tugas secara paralel.
Saat ini, "Wuxiang" memiliki kinerja terbaik dalam tiga skenario aplikasi inti: penilaian peringatan, analisis jejak, dan penyusunan laporan keamanan.
Dalam operasi keamanan tradisional, membedakan keaslian dari banyak alarm memakan waktu dan tenaga. Sebagai contoh, pada alarm peningkatan hak lokal: agen analisis alarm tanpa bentuk secara otomatis menganalisis karakteristik ancaman, memanggil analisis izin proses, pelacakan proses induk, validasi tanda tangan program, dan alat lainnya, akhirnya menentukan bahwa ini adalah alarm palsu—seluruh proses tanpa intervensi manusia. Dalam pengujian alarm yang ada di Qing Teng, sistem ini telah mencapai 100% cakupan alarm dan 99,99% akurasi analisis, serta mengurangi beban kerja manusia lebih dari 95%.
Menghadapi ancaman nyata seperti serangan Webshell, agen dengan cepat mengonfirmasi efektivitas serangan melalui ekstraksi fitur kode, analisis izin file, dan keterkaitan lintas dimensi. Metode tradisional yang memerlukan kolaborasi berbagai departemen dan memakan waktu berhari-hari untuk pelacakan mendalam (seperti pemulihan jalur penyebaran, evaluasi dampak horizontal), kini otomatis dihubungkan oleh sistem antara log host, lalu lintas jaringan, dan baseline perilaku, menghasilkan laporan rantai serangan yang lengkap, mengompresi siklus respons dari "hari" menjadi "menit".
"Inti kami adalah membalikkan hubungan kerja sama antara AI dan manusia, sehingga AI dapat bekerja sama seperti manusia untuk mencapai lompatan dari L2 ke L4, yaitu dari mengemudikan bantuan ke pengemudian otomatis tingkat tinggi." Hu Jun, wakil presiden produk di Qingteng Lianchuang, berbagi, "Dengan semakin banyaknya skenario yang dapat disesuaikan oleh AI, tingkat keberhasilan keputusan menjadi lebih tinggi, dan secara bertahap dapat mengambil lebih banyak tanggung jawab, sehingga pembagian tanggung jawab antara manusia dan AI akan berubah."
Dalam analisis jejak, pertama-tama adalah peringatan Webshell yang memicu kolaborasi tim keamanan multi-agen yang didorong oleh "AI Tanpa Fase": "Ahli Penilaian" berdasarkan peringatan menemukan file one.jsp, menghasilkan analisis konten file, penelusuran penulis, pemeriksaan direktori yang sama, dan pelacakan proses sebagai tugas paralel, yang dipanggil oleh agen "Penyelidik Keamanan" menggunakan alat log file, dengan cepat mengidentifikasi proses java (12606) sebagai sumber penulisan, proses ini dan host terkait 10.108.108.23 (ditemukan melalui log akses dengan interaksi frekuensi tinggi) dimasukkan dalam penyelidikan.
Agen cerdas secara dinamis memperluas petunjuk melalui peta ancaman, menggali dari file tunggal ke proses dan host secara bertahap, menganalisis hasil tugas yang dirangkum oleh para ahli untuk menentukan risiko secara komprehensif. Proses ini mengompresi pemeriksaan yang biasanya memerlukan waktu berjam-jam hingga berhari-hari menjadi hanya puluhan menit, untuk mereproduksi seluruh rantai serangan dengan akurasi yang melampaui ahli keamanan tingkat tinggi manusia, dengan pelacakan gerakan lateral tanpa celah, dan evaluasi tim merah juga menunjukkan sulitnya menghindari penyelidikan menyeluruh mereka.
"Model besar lebih baik daripada manusia karena dapat memeriksa setiap sudut dan celah, bukan hanya mengandalkan pengalaman untuk mengecualikan kemungkinan yang rendah." Hu Jun menjelaskan, "Ini setara dengan memiliki jangkauan dan kedalaman yang lebih baik."
Setelah menyelesaikan penyelidikan tentang skenario serangan yang kompleks, mengatur peringatan dan petunjuk penyelidikan serta menghasilkan laporan sering kali memakan waktu dan tenaga. Namun, AI dapat mewujudkan ringkasan satu klik, dengan cara menampilkan garis waktu visual yang jelas menggambarkan proses serangan, seperti film yang secara koheren menunjukkan titik-titik penting—sistem akan secara otomatis mengurutkan bukti kunci untuk menghasilkan bingkai kunci dari rantai serangan, dan menggabungkannya dengan informasi konteks lingkungan, akhirnya menghasilkan peta jalur serangan yang dinamis, sehingga seluruh jejak serangan ditampilkan dengan cara yang intuitif dan tiga dimensi.
04 Kesimpulan
Jelas bahwa perkembangan teknologi AI membawa tantangan ganda bagi keamanan siber.
Di satu sisi, penyerang memanfaatkan AI untuk mengotomatisasi, mempersonalisasi, dan menyembunyikan serangan; di sisi lain, pihak pertahanan perlu mempercepat inovasi teknologi, meningkatkan kemampuan deteksi dan respons melalui AI. Di masa depan, kompetisi teknologi AI antara pihak penyerang dan pertahanan akan menentukan keseluruhan keadaan keamanan siber, sementara penyempurnaan agen keamanan akan menjadi kunci untuk menyeimbangkan risiko dan perkembangan.
Sementara itu, agen keamanan "Wuxiang" membawa perubahan baru baik dalam arsitektur keamanan maupun di tingkat kognitif.
"Tanpa bentuk" pada dasarnya mengubah cara penggunaan AI, di mana terobosan ini terletak pada penggabungan persepsi data multidimensi, penghasilan strategi perlindungan, dan interpretabilitas keputusan menjadi satu kesatuan organik—beralih dari pola penggunaan AI sebagai alat di masa lalu menjadi memberdayakan AI agar dapat bekerja secara mandiri dan otomatis.
Dengan menganalisis log, teks, lalu lintas, dan data heterogen lainnya, sistem dapat menangkap jejak aktivitas APT sebelum penyerang membangun rantai serangan yang lengkap. Yang lebih penting, visualisasi proses pengambilan keputusan dan penjelasan inferensinya membuat peringatan kotak hitam dari alat tradisional yang "hanya tahu tapi tidak tahu sebabnya" menjadi sejarah—tim keamanan tidak hanya dapat melihat ancaman, tetapi juga memahami logika evolusi ancaman.
Esensi inovasi ini adalah pergeseran paradigma pemikiran keamanan dari "mengganti pagar setelah kehilangan domba" menjadi "mempersiapkan sebelum hujan turun", yang merupakan redefinisi aturan permainan serangan dan pertahanan.
"Wuxiang" seperti pemburu yang memiliki intuisi digital: melalui pemodelan waktu nyata terhadap operasi memori dan karakteristik perilaku mikro lainnya, ia dapat menemukan trojan kustom yang tersembunyi di antara kebisingan yang sangat besar; mesin manajemen permukaan serangan dinamis terus mengevaluasi bobot risiko aset, memastikan sumber daya perlindungan diarahkan dengan tepat ke sistem kunci; sementara mekanisme pencernaan intelijen ancaman yang cerdas mengubah puluhan ribu peringatan harian menjadi instruksi pertahanan yang dapat ditindaklanjuti, bahkan memprediksi arah evolusi varian serangan—ketika solusi tradisional masih berjuang untuk menghadapi intrusi yang telah terjadi, "Wuxiang" telah memprediksi dan memblokir langkah berikutnya dari penyerang.
"Kelahiran Sistem Pusat Cerdas AI (Agen Cerdas Keamanan Tingkat Tinggi) akan sepenuhnya mengubah lanskap keamanan siber. Dan satu-satunya hal yang perlu kita lakukan adalah benar-benar memanfaatkan kesempatan ini." Zhang Fu berkata.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
"AI Hacker" datang, bagaimana Agentic AI bisa menjadi pelindung baru?
Penulis: pump yang keren
01 Kebangkitan AI: Perang Gelap Keamanan di Balik Pedang Bermata Dua Teknologi
Dengan perkembangan cepat teknologi AI, ancaman yang dihadapi oleh keamanan siber semakin kompleks, metode serangan tidak hanya menjadi lebih efisien dan tersembunyi, tetapi juga melahirkan bentuk baru "hacker AI", sehingga memicu berbagai krisis keamanan siber yang baru.
Pertama-tama, AI generatif sedang merombak "akurasi" penipuan online.
Secara sederhana, ini adalah tentang mengubah serangan phishing tradisional menjadi lebih cerdas. Misalnya, dalam skenario yang lebih akurat, penyerang akan menggunakan data sosial publik untuk melatih model AI, menghasilkan email phishing yang dipersonalisasi secara massal, meniru gaya penulisan atau kebiasaan bahasa pengguna tertentu, melakukan penipuan "yang disesuaikan", melewati filter spam tradisional, dan secara signifikan meningkatkan tingkat keberhasilan serangan.
Selanjutnya adalah deepfake yang paling dikenal oleh publik dan penyamaran identitas. Sebelum teknologi AI matang, penipuan "ubah wajah" tradisional, yaitu penipuan BEC, yang merupakan singkatan dari "Business Email Compromise", di mana penyerang menyamar sebagai pengirim email dari atasan, rekan kerja, atau mitra bisnis Anda, untuk menipu informasi bisnis atau uang, atau mendapatkan data penting lainnya.
Kini, "perubahan wajah" benar-benar terjadi. Teknologi perubahan wajah dan suara yang dihasilkan oleh AI dapat memalsukan identitas publik atau teman dekat, digunakan untuk penipuan, manipulasi opini publik, bahkan intervensi politik. Hanya dua bulan yang lalu, direktur keuangan dari sebuah perusahaan di Shanghai menerima undangan video konferensi dari "ketua dewan", pihak tersebut menggunakan AI untuk mengubah wajah dan suara mengklaim perlu segera membayar "uang jaminan kerjasama luar negeri", direktur tersebut mengikuti instruksi dan mengirimkan 3,8 juta yuan ke rekening yang ditentukan, kemudian menyadari bahwa itu adalah kelompok penipuan luar negeri yang menggunakan teknologi pemalsuan mendalam untuk beraksi.
Ketiga adalah serangan otomatis dan pemanfaatan celah. Kemajuan teknologi AI memungkinkan banyak skenario beralih ke arah kecerdasan dan otomatisasi, termasuk serangan siber. Penyerang dapat memanfaatkan AI untuk secara otomatis memindai celah sistem, menghasilkan kode serangan dinamis, dan melakukan serangan cepat tanpa pandang bulu terhadap target, misalnya, "zero-day attack" yang didorong oleh AI akan segera menulis dan menjalankan program jahat setelah menemukan celah, sistem pertahanan tradisional sulit untuk merespons secara real-time.
Pada Tahun Baru Imlek tahun ini, situs resmi DeepSeek mengalami serangan DDoS berskala besar sebesar 3,2Tbps, di mana hacker secara bersamaan menyusup melalui API untuk menyuntikkan contoh kontra, memodifikasi bobot model yang menyebabkan layanan inti lumpuh selama 48 jam, dengan kerugian ekonomi langsung melebihi puluhan juta dolar, setelah ditelusuri ditemukan jejak infiltrasi yang telah lama ada dari NSA AS.
Pencemaran data dan celah model juga merupakan ancaman baru. Penyerang menyisipkan informasi palsu (yaitu pemompaan data) dalam data pelatihan AI, atau memanfaatkan cacat model itu sendiri, untuk membujuk AI menghasilkan hasil yang salah—ini dapat menyebabkan ancaman keamanan langsung di bidang penting, bahkan dapat memicu konsekuensi bencana berantai, seperti sistem mengemudi otomatis yang salah menilai "larangan lewat" sebagai "tanda batas kecepatan", atau AI medis yang salah menilai tumor jinak sebagai ganas.
02 AI masih perlu AI
Menghadapi ancaman keamanan siber baru yang didorong oleh AI, model perlindungan tradisional sudah menunjukkan kelemahan. Lalu, apa saja strategi yang bisa kita gunakan untuk menghadapinya?
Tidak sulit untuk menemukan bahwa konsensus industri saat ini telah mengarah pada "melawan AI dengan AI" — ini bukan hanya peningkatan alat teknologi, tetapi juga perubahan paradigma keamanan.
Upaya yang ada saat ini dapat dibagi menjadi tiga kategori besar, yaitu teknologi perlindungan keamanan model AI, aplikasi pertahanan tingkat industri, serta kolaborasi pemerintah dan internasional yang lebih makro.
Kunci dari teknologi perlindungan keamanan model AI terletak pada penguatan keamanan endogen model tersebut.
Sebagai contoh dari celah "jailbreak" pada model bahasa besar (LLM), mekanisme perlindungannya sering kali gagal karena strategi pengingat jailbreak yang umum - penyerang berhasil melewati lapisan perlindungan bawaan model secara sistematis untuk membujuk AI menghasilkan konten yang bersifat kekerasan, diskriminatif, atau ilegal. Untuk mencegah "jailbreak" pada LLM, berbagai perusahaan model telah mencoba, seperti Anthropic yang merilis "pengklasifikasi konstitusi" pada bulan Februari tahun ini.
"Konstitusi" di sini merujuk pada aturan bahasa alami yang tidak dapat dilanggar, sebagai langkah perlindungan yang dilatih pada data sintetik, dengan menetapkan konten yang diperbolehkan dan dibatasi, serta memantau konten input dan output secara real-time. Dalam pengujian kondisi dasar, model Claude3.5-nya di bawah perlindungan classifier meningkatkan tingkat keberhasilan pencegahan percobaan jailbreak tingkat tinggi dari 14% menjadi 95%, secara signifikan mengurangi risiko "jailbreak" AI.
Selain dari model berbasis dan metode pertahanan yang lebih umum, aplikasi pertahanan tingkat industri juga patut diperhatikan, di mana perlindungan berbasis skenario di bidang vertikal menjadi titik terobosan yang kunci: industri keuangan membangun penghalang anti-penipuan melalui model risiko AI dan analisis data multimodal, ekosistem sumber terbuka memanfaatkan teknologi penangkapan kerentanan cerdas untuk respons cepat terhadap ancaman nol hari, sementara perlindungan informasi sensitif perusahaan bergantung pada sistem pengendalian dinamis yang didorong oleh AI.
Misalnya, solusi yang ditampilkan oleh Cisco di Singapore International Network Week dapat secara real-time拦截 permintaan kueri data sensitif yang diajukan karyawan ke ChatGPT dan secara otomatis menghasilkan laporan audit kepatuhan untuk mengoptimalkan siklus manajemen.
Di tingkat makro, kolaborasi lintas wilayah antara pemerintah dan internasional juga sedang dipercepat. Badan Keamanan Siber Singapura menerbitkan "Panduan Keamanan Sistem Kecerdasan Buatan", yang membatasi penyalahgunaan AI generatif melalui penerapan lokal yang wajib dan mekanisme enkripsi data, terutama dalam membangun standar perlindungan untuk identifikasi pemalsuan identitas oleh AI dalam serangan phishing; negara-negara Amerika Serikat, Inggris, dan Kanada secara bersamaan meluncurkan "Program Agen Jaringan AI", yang fokus pada pengembangan sistem yang dapat dipercaya dan evaluasi real-time terhadap serangan APT, serta memperkuat kemampuan pertahanan kolektif melalui sistem sertifikasi keamanan bersama.
Jadi, metode apa yang dapat memaksimalkan penggunaan AI untuk menghadapi tantangan keamanan siber di era AI?
"Masa depan membutuhkan pusat kecerdasan aman AI dan membangun sistem baru di sekitarnya." Dalam Forum Inovasi Keamanan Siber Wuhan ke-2, pendiri QingTeng Cloud Security, Zhang Fu, pernah menekankan bahwa menggunakan AI untuk melawan AI adalah inti dari sistem pertahanan keamanan siber di masa depan, "Dalam 3 tahun, AI akan mengubah industri keamanan yang ada dan semua industri 2B. Produk akan dibangun kembali, mencapai efisiensi dan kemampuan yang belum pernah ada sebelumnya. Produk masa depan dirancang untuk digunakan oleh AI, bukan untuk digunakan oleh manusia."
Di antara berbagai solusi, mode Security Copilot jelas memberikan contoh yang baik untuk "produk masa depan dirancang untuk AI": setahun yang lalu, Microsoft meluncurkan co-pilot Microsoft Security Copilot yang cerdas untuk membantu tim keamanan mendeteksi, menyelidiki, dan merespons insiden keamanan dengan cepat dan akurat; sebulan yang lalu, mereka kembali merilis agen AI yang secara otomatis membantu dalam bidang-bidang penting seperti serangan phishing, keamanan data, dan manajemen identitas.
Microsoft menambahkan enam AI cerdas yang dikembangkan sendiri untuk memperluas fungsi Security Copilot. Tiga di antaranya digunakan untuk membantu personel keamanan siber menyaring alarm: agen klasifikasi phishing untuk memeriksa alarm phishing dan menyaring false positive; dua lainnya menganalisis pemberitahuan Purview untuk mendeteksi penggunaan data bisnis oleh karyawan tanpa izin.
Agen optimasi akses bersyarat bekerja sama dengan Microsoft Entra untuk menunjukkan aturan akses pengguna yang tidak aman dan menghasilkan solusi perbaikan satu klik untuk dilaksanakan oleh administrator. Agen perbaikan kerentanan dan alat manajemen perangkat Intune terintegrasi untuk membantu dengan cepat mengidentifikasi terminal yang rentan dan menerapkan patch sistem operasi. Agen laporan intelijen ancaman menghasilkan laporan ancaman siber yang mungkin mengancam sistem organisasi.
03 Tanpa Wujud: Perlindungan untuk Agensi Cerdas Tingkat L4
Kebetulan, di dalam negeri, untuk mencapai tingkat perlindungan keamanan yang benar-benar "mengemudi otomatis", Qingteng Cloud Security meluncurkan agen cerdas keamanan berlapis penuh "Wuxiang". Sebagai produk AI keamanan pertama di dunia yang berhasil melakukan lompatan dari "AI berbasis bantuan" ke "agen cerdas mandiri" (Autopilot), terobosan inti terletak pada mengubah model "respons pasif" dari alat tradisional menjadi mandiri, otomatis, dan cerdas.
Dengan menggabungkan pembelajaran mesin, grafik pengetahuan, dan teknologi pengambilan keputusan otomatis, "Wuxiang" dapat secara mandiri menyelesaikan seluruh proses dari deteksi ancaman, penilaian dampak hingga respons, mewujudkan keputusan yang benar-benar otonom dan berbasis tujuan. Desain "Arsitektur AI Agentic" meniru logika kolaborasi tim keamanan manusia: "otak" mengintegrasikan basis pengetahuan keamanan siber untuk mendukung kemampuan perencanaan, "mata" merasakan dinamika lingkungan jaringan secara halus, "tangan dan kaki" secara fleksibel memanggil berbagai alat keamanan, dan melalui kolaborasi multi-agen membentuk jaringan penilaian informasi yang efisien dengan pembagian kerja dan berbagi informasi.
Dalam implementasi teknis, "Tanpa Fase" menggunakan "ReAct Mode" (Siklus Act-Observe-Think-Act) dan "Arsitektur Dual Engine AI + Aksi AI", memastikan kemampuan koreksi dinamis dalam tugas yang kompleks. Ketika ada anomali dalam pemanggilan alat, sistem dapat secara otomatis beralih ke rencana cadangan daripada menghentikan proses, misalnya dalam analisis serangan APT, Plan AI bertindak sebagai "Pengorganisir" yang membongkar tujuan tugas, Action AI sebagai "Ahli Investigasi" yang melakukan analisis log dan pemodelan ancaman, keduanya maju secara paralel berdasarkan grafik pengetahuan yang dibagikan secara real-time.
Dalam hal modul fungsional, "Tanpa Bentuk" telah membangun ekosistem pengambilan keputusan mandiri yang lengkap: Simulasi karakter AI mencerminkan pemikiran analisis keamanan, mengoptimalkan jalur keputusan secara dinamis; Integrasi pemanggilan alat untuk pencarian log keamanan host, pengambilan intelijen ancaman jaringan, dan analisis kode berbahaya yang didorong oleh LLM; Pencapturean informasi aset host dan jaringan secara real-time oleh kesadaran lingkungan; Penyimpanan dinamis grafik pengetahuan untuk hubungan entitas, membantu pengambilan keputusan; Kolaborasi multi-agent melalui pemecahan tugas dan berbagi informasi, mengeksekusi tugas secara paralel.
Saat ini, "Wuxiang" memiliki kinerja terbaik dalam tiga skenario aplikasi inti: penilaian peringatan, analisis jejak, dan penyusunan laporan keamanan.
Dalam operasi keamanan tradisional, membedakan keaslian dari banyak alarm memakan waktu dan tenaga. Sebagai contoh, pada alarm peningkatan hak lokal: agen analisis alarm tanpa bentuk secara otomatis menganalisis karakteristik ancaman, memanggil analisis izin proses, pelacakan proses induk, validasi tanda tangan program, dan alat lainnya, akhirnya menentukan bahwa ini adalah alarm palsu—seluruh proses tanpa intervensi manusia. Dalam pengujian alarm yang ada di Qing Teng, sistem ini telah mencapai 100% cakupan alarm dan 99,99% akurasi analisis, serta mengurangi beban kerja manusia lebih dari 95%.
Menghadapi ancaman nyata seperti serangan Webshell, agen dengan cepat mengonfirmasi efektivitas serangan melalui ekstraksi fitur kode, analisis izin file, dan keterkaitan lintas dimensi. Metode tradisional yang memerlukan kolaborasi berbagai departemen dan memakan waktu berhari-hari untuk pelacakan mendalam (seperti pemulihan jalur penyebaran, evaluasi dampak horizontal), kini otomatis dihubungkan oleh sistem antara log host, lalu lintas jaringan, dan baseline perilaku, menghasilkan laporan rantai serangan yang lengkap, mengompresi siklus respons dari "hari" menjadi "menit".
"Inti kami adalah membalikkan hubungan kerja sama antara AI dan manusia, sehingga AI dapat bekerja sama seperti manusia untuk mencapai lompatan dari L2 ke L4, yaitu dari mengemudikan bantuan ke pengemudian otomatis tingkat tinggi." Hu Jun, wakil presiden produk di Qingteng Lianchuang, berbagi, "Dengan semakin banyaknya skenario yang dapat disesuaikan oleh AI, tingkat keberhasilan keputusan menjadi lebih tinggi, dan secara bertahap dapat mengambil lebih banyak tanggung jawab, sehingga pembagian tanggung jawab antara manusia dan AI akan berubah."
Dalam analisis jejak, pertama-tama adalah peringatan Webshell yang memicu kolaborasi tim keamanan multi-agen yang didorong oleh "AI Tanpa Fase": "Ahli Penilaian" berdasarkan peringatan menemukan file one.jsp, menghasilkan analisis konten file, penelusuran penulis, pemeriksaan direktori yang sama, dan pelacakan proses sebagai tugas paralel, yang dipanggil oleh agen "Penyelidik Keamanan" menggunakan alat log file, dengan cepat mengidentifikasi proses java (12606) sebagai sumber penulisan, proses ini dan host terkait 10.108.108.23 (ditemukan melalui log akses dengan interaksi frekuensi tinggi) dimasukkan dalam penyelidikan.
Agen cerdas secara dinamis memperluas petunjuk melalui peta ancaman, menggali dari file tunggal ke proses dan host secara bertahap, menganalisis hasil tugas yang dirangkum oleh para ahli untuk menentukan risiko secara komprehensif. Proses ini mengompresi pemeriksaan yang biasanya memerlukan waktu berjam-jam hingga berhari-hari menjadi hanya puluhan menit, untuk mereproduksi seluruh rantai serangan dengan akurasi yang melampaui ahli keamanan tingkat tinggi manusia, dengan pelacakan gerakan lateral tanpa celah, dan evaluasi tim merah juga menunjukkan sulitnya menghindari penyelidikan menyeluruh mereka.
"Model besar lebih baik daripada manusia karena dapat memeriksa setiap sudut dan celah, bukan hanya mengandalkan pengalaman untuk mengecualikan kemungkinan yang rendah." Hu Jun menjelaskan, "Ini setara dengan memiliki jangkauan dan kedalaman yang lebih baik."
Setelah menyelesaikan penyelidikan tentang skenario serangan yang kompleks, mengatur peringatan dan petunjuk penyelidikan serta menghasilkan laporan sering kali memakan waktu dan tenaga. Namun, AI dapat mewujudkan ringkasan satu klik, dengan cara menampilkan garis waktu visual yang jelas menggambarkan proses serangan, seperti film yang secara koheren menunjukkan titik-titik penting—sistem akan secara otomatis mengurutkan bukti kunci untuk menghasilkan bingkai kunci dari rantai serangan, dan menggabungkannya dengan informasi konteks lingkungan, akhirnya menghasilkan peta jalur serangan yang dinamis, sehingga seluruh jejak serangan ditampilkan dengan cara yang intuitif dan tiga dimensi.
04 Kesimpulan
Jelas bahwa perkembangan teknologi AI membawa tantangan ganda bagi keamanan siber.
Di satu sisi, penyerang memanfaatkan AI untuk mengotomatisasi, mempersonalisasi, dan menyembunyikan serangan; di sisi lain, pihak pertahanan perlu mempercepat inovasi teknologi, meningkatkan kemampuan deteksi dan respons melalui AI. Di masa depan, kompetisi teknologi AI antara pihak penyerang dan pertahanan akan menentukan keseluruhan keadaan keamanan siber, sementara penyempurnaan agen keamanan akan menjadi kunci untuk menyeimbangkan risiko dan perkembangan.
Sementara itu, agen keamanan "Wuxiang" membawa perubahan baru baik dalam arsitektur keamanan maupun di tingkat kognitif.
"Tanpa bentuk" pada dasarnya mengubah cara penggunaan AI, di mana terobosan ini terletak pada penggabungan persepsi data multidimensi, penghasilan strategi perlindungan, dan interpretabilitas keputusan menjadi satu kesatuan organik—beralih dari pola penggunaan AI sebagai alat di masa lalu menjadi memberdayakan AI agar dapat bekerja secara mandiri dan otomatis.
Dengan menganalisis log, teks, lalu lintas, dan data heterogen lainnya, sistem dapat menangkap jejak aktivitas APT sebelum penyerang membangun rantai serangan yang lengkap. Yang lebih penting, visualisasi proses pengambilan keputusan dan penjelasan inferensinya membuat peringatan kotak hitam dari alat tradisional yang "hanya tahu tapi tidak tahu sebabnya" menjadi sejarah—tim keamanan tidak hanya dapat melihat ancaman, tetapi juga memahami logika evolusi ancaman.
Esensi inovasi ini adalah pergeseran paradigma pemikiran keamanan dari "mengganti pagar setelah kehilangan domba" menjadi "mempersiapkan sebelum hujan turun", yang merupakan redefinisi aturan permainan serangan dan pertahanan.
"Wuxiang" seperti pemburu yang memiliki intuisi digital: melalui pemodelan waktu nyata terhadap operasi memori dan karakteristik perilaku mikro lainnya, ia dapat menemukan trojan kustom yang tersembunyi di antara kebisingan yang sangat besar; mesin manajemen permukaan serangan dinamis terus mengevaluasi bobot risiko aset, memastikan sumber daya perlindungan diarahkan dengan tepat ke sistem kunci; sementara mekanisme pencernaan intelijen ancaman yang cerdas mengubah puluhan ribu peringatan harian menjadi instruksi pertahanan yang dapat ditindaklanjuti, bahkan memprediksi arah evolusi varian serangan—ketika solusi tradisional masih berjuang untuk menghadapi intrusi yang telah terjadi, "Wuxiang" telah memprediksi dan memblokir langkah berikutnya dari penyerang.
"Kelahiran Sistem Pusat Cerdas AI (Agen Cerdas Keamanan Tingkat Tinggi) akan sepenuhnya mengubah lanskap keamanan siber. Dan satu-satunya hal yang perlu kita lakukan adalah benar-benar memanfaatkan kesempatan ini." Zhang Fu berkata.