Awal bulan ini, pengembang AI Anthropic membuat pengumuman mengejutkan: mereka telah mengembangkan model baru, Mythos Preview, namun memutuskan untuk tidak merilisnya ke publik. Perusahaan mengklaim keputusan ini didorong oleh “tanggung jawab,” mengutip kemampuan model yang belum pernah terjadi sebelumnya dalam mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak.
Menurut Anthropic, risiko yang ditimbulkan oleh Mythos terlalu besar untuk diabaikan, dan berpotensi mengancam keamanan nasional, keselamatan publik, dan stabilitas ekonomi global. Namun, langkah ini telah memicu perdebatan di antara para ahli mengenai apakah perusahaan tersebut bertindak atas dasar kehati-hatian atau karena posisi strategis.
Kekhawatiran Utama: Ancaman Siber Otonom
Ketakutan utama seputar Mythos terletak pada kemahiran khususnya. Meskipun sebagian besar model bahasa besar dirancang untuk tugas-tugas umum, Mythos tampaknya unggul dalam eksploitasi keamanan siber.
Jika suatu model dapat secara mandiri menemukan “lubang” dalam kode perangkat lunak dan membuat eksploitasi untuk memasukinya, secara teoritis model tersebut dapat:
– Mengotomatiskan serangan siber skala besar.
– Lewati perlindungan infrastruktur penting.
– Mempercepat laju peperangan digital melebihi kemampuan pembela HAM untuk meresponsnya.
Skeptisisme dan Debat “Keamanan vs. Strategi”.
Terlepas dari beratnya peringatan Anthropic, tidak semua orang yakin bahwa Mythos adalah “senjata super” yang dijelaskan oleh perusahaan tersebut. Beberapa pakar industri telah menyatakan keraguannya mengenai sejauh mana kemampuan model tersebut, mempertanyakan apakah bahaya yang dirasakan terlalu dilebih-lebihkan.
Ketegangan ini menimbulkan pertanyaan kritis: Apakah Anthropic menjadi pionir yang bertanggung jawab, atau apakah mereka menggunakan “keselamatan” sebagai alat kompetitif?
Dalam perlombaan senjata AI yang sangat kompetitif, klaim bahwa mereka telah mengembangkan model yang “terlalu berbahaya untuk dilepaskan” memiliki beberapa tujuan strategis:
1. Posisi Pasar: Hal ini menjadikan Anthropic sebagai pemain yang paling sadar etika di industri ini.
2. Pengaruh Peraturan: Dengan menyoroti risiko ekstrem, perusahaan mungkin mendorong peraturan yang lebih ketat yang dapat menciptakan “hambatan masuk” yang tinggi, sehingga mempersulit pesaing kecil untuk beroperasi.
3. Kepercayaan Merek: Hal ini membangun narasi tanggung jawab perusahaan yang menarik bagi pemerintah dan klien perusahaan untuk waspada terhadap risiko AI.
Jalan Menuju Regulasi
Terlepas dari apakah ancaman Mythos dibesar-besarkan atau tidak, insiden ini menyoroti tren yang sedang berkembang dalam industri AI: peralihan dari pembangunan berbasis kemampuan menjadi manajemen berbasis risiko.
Keputusan untuk tidak menggunakan suatu model berdasarkan potensi bahayanya menandai a
