Manus mencapai kemajuan terobosan dalam pengujian Benchmark GAIA
Baru-baru ini, Manus mencetak rekor baru dalam pengujian GAIA Benchmark, dengan kinerja yang melampaui model bahasa besar sekelas. Pencapaian ini menunjukkan bahwa Manus memiliki kemampuan untuk menangani tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan analisis kontrak, perencanaan strategis, dan pengembangan rencana.
Dibandingkan dengan sistem tradisional, keunggulan Manus terutama terletak pada tiga aspek: dekomposisi tujuan dinamis, penalaran lintas moda, dan pembelajaran yang ditingkatkan memori. Ini dapat membagi tugas besar menjadi ratusan sub-tugas yang dapat dieksekusi, memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusannya melalui pembelajaran penguatan, serta mengurangi kemungkinan terjadinya kesalahan.
Kemajuan Manus sekali lagi memicu diskusi dalam industri tentang jalur perkembangan kecerdasan buatan: Apakah masa depan menuju model tunggal kecerdasan buatan umum (AGI), atau model kolaborasi sistem multi-agen (MAS)?
Masalah ini melibatkan filosofi desain Manus, yang mengisyaratkan dua arah pengembangan yang mungkin:
Jalur AGI: Meningkatkan kemampuan sistem kecerdasan tunggal secara terus-menerus, sehingga secara bertahap mendekati tingkat pengambilan keputusan komprehensif manusia.
Jalur MAS: Menempatkan Manus sebagai koordinator utama, mengarahkan berbagai agen di bidang profesional untuk bekerja sama.
Secara superficial, ini adalah diskusi tentang jalur teknologi, tetapi pada dasarnya mencerminkan kontradiksi mendasar dalam perkembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan. Seiring dengan sistem kecerdasan tunggal yang semakin mendekati AGI, risiko ketidaktransparanan dalam proses pengambilan keputusan juga meningkat; sementara kolaborasi multi-agen dapat menyebarkan risiko, namun mungkin kehilangan momen pengambilan keputusan yang penting akibat keterlambatan komunikasi.
Evolusi Manus secara tidak langsung memperbesar risiko inheren dalam pengembangan AI. Misalnya, dalam skenario medis, Manus perlu mengakses data sensitif pasien secara real-time; dalam negosiasi keuangan, mungkin melibatkan informasi perusahaan yang tidak dipublikasikan. Selain itu, ada masalah bias algoritma, seperti memberikan saran gaji yang tidak adil kepada kelompok tertentu selama proses rekrutmen, atau tingkat kesalahan yang tinggi dalam penilaian ketentuan industri baru saat meninjau kontrak hukum. Risiko lain yang perlu diperhatikan adalah serangan adversarial, di mana peretas dapat mengganggu penilaian Manus terhadap tawaran lawan dalam negosiasi dengan menyisipkan sinyal audio tertentu.
Tantangan ini menyoroti sebuah kenyataan yang serius: semakin canggih sistem cerdas, semakin luas juga potensi permukaan serangannya.
Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Dari "segitiga yang tidak mungkin" yang diajukan oleh pendiri Ethereum, Vitalik Buterin (jaringan blockchain sulit untuk mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan), muncul berbagai teknologi kripto:
Model Keamanan Zero Trust: Berdasarkan prinsip "tidak pernah percaya, selalu memverifikasi", melakukan autentikasi dan otorisasi yang ketat untuk setiap permintaan akses.
Identitas Terdesentralisasi (DID): standar pengenalan identitas yang tidak memerlukan lembaga pendaftaran terpusat, menyediakan cara baru untuk pengelolaan identitas dalam ekosistem Web3.
Enkripsi Homomorfik Penuh (FHE): teknologi canggih yang memungkinkan perhitungan data dalam keadaan terenkripsi, sangat cocok untuk skenario seperti komputasi awan dan outsourcing data.
Di antara teknologi-teknologi ini, enkripsi homomorfik penuh sebagai metode enkripsi yang baru muncul, diharapkan dapat menjadi teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini memungkinkan perhitungan langsung pada data yang terenkripsi, memberikan kemungkinan baru untuk melindungi privasi.
Untuk menghadapi tantangan keamanan yang ditimbulkan oleh AI, dapat dilakukan dari beberapa aspek berikut:
Tingkat data: Pastikan semua informasi yang dimasukkan pengguna (termasuk biometrik, suara, dll.) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.
Tingkat algoritma: Mencapai "pelatihan model terenkripsi" melalui FHE, sehingga bahkan pengembang pun tidak dapat langsung mengamati proses pengambilan keputusan AI.
Tingkat kolaborasi: Dalam sistem multi-agen, menggunakan enkripsi ambang, bahkan jika satu node diretas, tidak akan menyebabkan kebocoran data global.
Seiring dengan kemajuan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, kita memerlukan sistem pertahanan yang lebih canggih. FHE tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga membangun fondasi untuk era AI yang kuat di masa depan. Dalam perjalanan menuju AGI, FHE bukan lagi pilihan, tetapi merupakan syarat yang diperlukan untuk memastikan perkembangan AI yang aman.
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Manus berhasil melewati uji Benchmark GAIA, tantangan keamanan AI menyoroti potensi enkripsi homomorphic penuh.
Manus mencapai kemajuan terobosan dalam pengujian Benchmark GAIA
Baru-baru ini, Manus mencetak rekor baru dalam pengujian GAIA Benchmark, dengan kinerja yang melampaui model bahasa besar sekelas. Pencapaian ini menunjukkan bahwa Manus memiliki kemampuan untuk menangani tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan analisis kontrak, perencanaan strategis, dan pengembangan rencana.
Dibandingkan dengan sistem tradisional, keunggulan Manus terutama terletak pada tiga aspek: dekomposisi tujuan dinamis, penalaran lintas moda, dan pembelajaran yang ditingkatkan memori. Ini dapat membagi tugas besar menjadi ratusan sub-tugas yang dapat dieksekusi, memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusannya melalui pembelajaran penguatan, serta mengurangi kemungkinan terjadinya kesalahan.
Kemajuan Manus sekali lagi memicu diskusi dalam industri tentang jalur perkembangan kecerdasan buatan: Apakah masa depan menuju model tunggal kecerdasan buatan umum (AGI), atau model kolaborasi sistem multi-agen (MAS)?
Masalah ini melibatkan filosofi desain Manus, yang mengisyaratkan dua arah pengembangan yang mungkin:
Jalur AGI: Meningkatkan kemampuan sistem kecerdasan tunggal secara terus-menerus, sehingga secara bertahap mendekati tingkat pengambilan keputusan komprehensif manusia.
Jalur MAS: Menempatkan Manus sebagai koordinator utama, mengarahkan berbagai agen di bidang profesional untuk bekerja sama.
Secara superficial, ini adalah diskusi tentang jalur teknologi, tetapi pada dasarnya mencerminkan kontradiksi mendasar dalam perkembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan. Seiring dengan sistem kecerdasan tunggal yang semakin mendekati AGI, risiko ketidaktransparanan dalam proses pengambilan keputusan juga meningkat; sementara kolaborasi multi-agen dapat menyebarkan risiko, namun mungkin kehilangan momen pengambilan keputusan yang penting akibat keterlambatan komunikasi.
Evolusi Manus secara tidak langsung memperbesar risiko inheren dalam pengembangan AI. Misalnya, dalam skenario medis, Manus perlu mengakses data sensitif pasien secara real-time; dalam negosiasi keuangan, mungkin melibatkan informasi perusahaan yang tidak dipublikasikan. Selain itu, ada masalah bias algoritma, seperti memberikan saran gaji yang tidak adil kepada kelompok tertentu selama proses rekrutmen, atau tingkat kesalahan yang tinggi dalam penilaian ketentuan industri baru saat meninjau kontrak hukum. Risiko lain yang perlu diperhatikan adalah serangan adversarial, di mana peretas dapat mengganggu penilaian Manus terhadap tawaran lawan dalam negosiasi dengan menyisipkan sinyal audio tertentu.
Tantangan ini menyoroti sebuah kenyataan yang serius: semakin canggih sistem cerdas, semakin luas juga potensi permukaan serangannya.
Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Dari "segitiga yang tidak mungkin" yang diajukan oleh pendiri Ethereum, Vitalik Buterin (jaringan blockchain sulit untuk mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan), muncul berbagai teknologi kripto:
Model Keamanan Zero Trust: Berdasarkan prinsip "tidak pernah percaya, selalu memverifikasi", melakukan autentikasi dan otorisasi yang ketat untuk setiap permintaan akses.
Identitas Terdesentralisasi (DID): standar pengenalan identitas yang tidak memerlukan lembaga pendaftaran terpusat, menyediakan cara baru untuk pengelolaan identitas dalam ekosistem Web3.
Enkripsi Homomorfik Penuh (FHE): teknologi canggih yang memungkinkan perhitungan data dalam keadaan terenkripsi, sangat cocok untuk skenario seperti komputasi awan dan outsourcing data.
Di antara teknologi-teknologi ini, enkripsi homomorfik penuh sebagai metode enkripsi yang baru muncul, diharapkan dapat menjadi teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini memungkinkan perhitungan langsung pada data yang terenkripsi, memberikan kemungkinan baru untuk melindungi privasi.
Untuk menghadapi tantangan keamanan yang ditimbulkan oleh AI, dapat dilakukan dari beberapa aspek berikut:
Tingkat data: Pastikan semua informasi yang dimasukkan pengguna (termasuk biometrik, suara, dll.) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.
Tingkat algoritma: Mencapai "pelatihan model terenkripsi" melalui FHE, sehingga bahkan pengembang pun tidak dapat langsung mengamati proses pengambilan keputusan AI.
Tingkat kolaborasi: Dalam sistem multi-agen, menggunakan enkripsi ambang, bahkan jika satu node diretas, tidak akan menyebabkan kebocoran data global.
Seiring dengan kemajuan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, kita memerlukan sistem pertahanan yang lebih canggih. FHE tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga membangun fondasi untuk era AI yang kuat di masa depan. Dalam perjalanan menuju AGI, FHE bukan lagi pilihan, tetapi merupakan syarat yang diperlukan untuk memastikan perkembangan AI yang aman.