Lebih dari 100 perusahaan dan organisasi menyerukan penguatan pertahanan siber untuk menghadapi perkembangan kemampuan kecerdasan buatan. Seruan tersebut disampaikan melalui surat terbuka berjudul “A call for collective action on cyber defense” yang dipublikasikan di laman resmi OpenAI.
Para penandatangan menilai waktu untuk memperkuat perlindungan digital semakin terbatas karena serangan yang dibantu AI berpotensi menjadi lebih umum dan canggih. Risiko itu dinilai dapat menjangkau perusahaan teknologi, layanan publik, serta infrastruktur penting yang menopang kehidupan masyarakat.
Ancaman Menjangkau Infrastruktur Penting
Rumah sakit, fasilitas pengolahan air, dan infrastruktur yang menopang internet disebut membutuhkan perlindungan lebih kuat. Sektor-sektor tersebut dapat menghadapi dampak luas apabila sistemnya terganggu oleh serangan siber yang dijalankan dengan bantuan AI.
Model AI generatif kini tidak hanya digunakan untuk menghasilkan teks, gambar, video, atau kode. Model dengan kemampuan agentic juga dapat menjalankan rangkaian pekerjaan secara mandiri dengan intervensi manusia yang semakin sedikit.
Kemampuan itu dapat dimanfaatkan untuk menemukan serta memperbaiki celah keamanan. Namun, teknologi yang sama berpotensi digunakan untuk menemukan kerentanan, mengeksploitasi sistem, dan menjalankan serangan dengan kecepatan serta skala yang sulit dicapai manusia.
Pengujian Menunjukkan Kemampuan yang Meluas
Ajakan kolektif tersebut muncul setelah sejumlah pengujian memperlihatkan kemampuan model AI dalam menjalankan aktivitas siber. Bulan lalu, model AI OpenAI dilaporkan keluar dari lingkungan pengujian terisolasi atau sandbox, kemudian menyerang sistem milik Hugging Face.
Dalam pengujian itu, agen AI OpenAI disebut melakukan lebih dari 17.000 tindakan. Aktivitasnya mencakup pengiriman perintah serangan dan eksploitasi kerentanan dalam skala yang sulit dilakukan penyerang manusia secara manual.
OpenAI menyatakan akan meningkatkan sistem keamanan agar modelnya tidak dapat keluar dari lingkungan pengujian dengan cara serupa. Anthropic juga pernah mengungkap bahwa salah satu model AI miliknya masuk ke sistem tiga organisasi eksternal ketika diuji, sedangkan Meta dilaporkan menemukan perilaku serupa pada model buatannya.
Daftar penandatangan surat mencakup Google, Microsoft, Anthropic, Amazon Web Services, AMD, Arm, GitHub, Cloudflare, dan Hugging Face. Perusahaan keamanan siber, layanan pembayaran, serta sektor keuangan seperti CrowdStrike, Fortinet, Okta, Palo Alto Networks, Mastercard, Visa, PayPal, dan sejumlah bank juga bergabung.
AI Perlu Dikerahkan untuk Pertahanan
Para penandatangan mendorong agar teknologi AI dengan kemampuan siber diberikan kepada pihak yang bertugas mempertahankan sistem. Menurut mereka, AI dapat memperluas akses terhadap kemampuan keamanan yang sebelumnya membutuhkan tenaga ahli, sekaligus mempercepat dan menekan biaya sejumlah pekerjaan.
Pengetahuan, perangkat, serta solusi keamanan yang telah terverifikasi juga didorong untuk dibagikan. Langkah tersebut diharapkan membuat hasil kerja satu organisasi dapat membantu melindungi organisasi lain dari ancaman yang serupa.
Surat terbuka itu menekankan bahwa tidak ada satu perusahaan yang dapat menyelesaikan persoalan tersebut sendirian. Karena kemampuan siber berbasis AI berkembang di berbagai negara, respons terhadap ancaman juga perlu dibangun melalui kerja sama global.
Peran Pemerintah Dan Pengembang
Pemerintah diminta mengoordinasikan pertahanan siber di tingkat lokal, nasional, dan internasional. Mereka juga didorong meningkatkan pendanaan, terutama bagi layanan penting yang kekurangan tenaga atau anggaran keamanan.
Rumah sakit, fasilitas air, dan pemerintah lokal diharapkan memperoleh akses terhadap AI untuk pertahanan. Akses itu mencakup pengujian keamanan yang telah memperoleh izin serta bantuan langsung dari penyedia keamanan tepercaya.
Pengembang AI frontier seperti OpenAI, Anthropic, dan Google diminta menyediakan akses model secara bertanggung jawab, pendanaan, pelatihan, serta bantuan langsung bagi pengelola infrastruktur kritis yang kekurangan sumber daya. Perusahaan di balik ChatGPT, Claude, dan Gemini juga diharapkan mengembangkan alat observasi, memastikan identitas agen AI dapat dilacak, serta membuat aktivitasnya dapat dipertanggungjawabkan.
Perusahaan keamanan siber diminta menguji pertahanan terhadap kemampuan AI frontier dan membagikan informasi ancaman yang telah diuji. Industri serta pemerintah kemudian diharapkan mengerahkan teknologi, sumber daya, dan keahlian secara bersama-sama untuk menghadapi ancaman AI yang terus berkembang.
Sumber: Gadget Qoo
