Lihat.co - CEO Google DeepMind Demis Hassabis mengusulkan pembentukan badan standar baru di Amerika Serikat yang bertugas menguji model kecerdasan buatan (AI) paling canggih sebelum dirilis ke publik. Menurutnya, mekanisme tersebut diperlukan agar perkembangan AI menuju Artificial General Intelligence (AGI) tetap berlangsung secara aman tanpa menghambat inovasi.
Usulan tersebut disampaikan melalui esainya berjudul “A Framework for Frontier AI and the Dawning of a New Age”. Dalam tulisan itu, Hassabis menilai dunia tengah memasuki periode penting dalam perkembangan AI, ketika kemampuan menuju AGI diperkirakan hanya tinggal beberapa tahun lagi. Kondisi tersebut, menurutnya, membuat tata kelola AI tidak lagi cukup mengandalkan regulasi yang ada saat ini.
Alih-alih membentuk regulator baru sepenuhnya, Hassabis mengusulkan pendirian Frontier AI Standards Body, sebuah lembaga independen yang bekerja sama dengan pemerintah, industri, dan komunitas ilmiah untuk menetapkan standar pengujian bagi model AI dengan kemampuan paling tinggi atau yang ia sebut sebagai Frontier Models.
Menurut Hassabis, lembaga tersebut dapat dibangun melalui kemitraan publik dan swasta dengan pengawasan pemerintah federal Amerika Serikat, serupa dengan organisasi pengatur industri keuangan di negara tersebut. Dewannya diusulkan beranggotakan pakar AI independen, peneliti, serta perwakilan komunitas open source, sementara pendanaannya sebagian besar berasal dari industri agar memiliki sumber daya komputasi dan tenaga ahli yang memadai.
Berbeda dengan model AI pada umumnya, Frontier Models merujuk pada model yang telah melampaui ambang kemampuan tertentu berdasarkan benchmark yang terus diperbarui. Pengembang yang memiliki model tersebut akan dikategorikan sebagai Frontier Labs dan didorong menerapkan berbagai praktik keamanan, mulai dari memperkuat sistem siber internal, menerbitkan dokumentasi teknis (model card), melakukan pemeriksaan terhadap personel penting, hingga mengalokasikan sumber daya khusus untuk penelitian keamanan AI.
Lembaga tersebut nantinya bertugas menyusun protokol evaluasi sekaligus bekerja sama dengan lembaga pemerintah dan laboratorium nasional Amerika Serikat untuk menguji kemampuan model AI di sejumlah bidang berisiko tinggi, seperti keamanan siber, ancaman biologis, hingga potensi penyalahgunaan AI yang dapat memengaruhi keamanan nasional.
Hassabis juga mengusulkan agar pengembang secara sukarela menyerahkan model AI mereka kepada Frontier AI Standards Body hingga 30 hari sebelum peluncuran. Jika mekanisme tersebut terbukti efektif, proses evaluasi itu dapat berkembang menjadi persyaratan resmi sebelum model AI kategori frontier diizinkan beroperasi di pasar Amerika Serikat.
Selain melakukan pengujian sebelum peluncuran, lembaga tersebut diharapkan terus memperbarui benchmark secara berkala agar mampu mengikuti perkembangan kemampuan AI yang berlangsung sangat cepat. Dalam jangka panjang, Hassabis ingin pengujian dilakukan menggunakan benchmark independen yang dikembangkan langsung oleh lembaga tersebut sehingga tidak bergantung pada evaluasi yang dibuat perusahaan pengembang AI.
Usulan ini muncul di tengah semakin ketatnya persaingan pengembangan AI antara perusahaan-perusahaan besar seperti Google DeepMind, OpenAI, Anthropic, Meta, hingga xAI. Di saat kemampuan model AI terus meningkat, berbagai pihak juga mulai mendorong lahirnya mekanisme evaluasi yang lebih independen untuk memastikan teknologi tersebut tetap memenuhi standar keamanan sebelum digunakan secara luas.
Menurut Hassabis, pendekatan tersebut bukan bertujuan memperlambat inovasi, melainkan menciptakan keseimbangan antara percepatan pengembangan AI dan pengelolaan risikonya. Bahkan, jika situasi dinilai memerlukan tindakan lebih lanjut, lembaga itu dapat mengoordinasikan perlambatan sementara pengembangan model AI paling canggih di antara perusahaan-perusahaan yang tergolong Frontier Labs.
Meski diusulkan untuk dibentuk di Amerika Serikat, Hassabis berharap kerangka tersebut dapat menjadi titik awal lahirnya standar internasional dalam pengembangan AI. Mengingat dampak AI akan dirasakan secara global, ia menilai diperlukan kesepahaman lintas negara mengenai cara mengelola risiko sekaligus memastikan manfaat teknologi tersebut dapat dinikmati secara luas.
Apabila kerangka seperti Frontier AI Standards Body benar-benar diterapkan dan kemudian menjadi acuan internasional, dampaknya juga berpotensi dirasakan di Indonesia. Perusahaan teknologi, startup AI, lembaga riset, hingga perguruan tinggi yang mengembangkan model AI berskala besar kemungkinan perlu menyesuaikan proses pengembangan dengan standar evaluasi keamanan dan transparansi yang lebih ketat. Sementara itu, bagi pengguna, hadirnya standar semacam ini berpotensi meningkatkan kejelasan mengenai kemampuan, batasan, dan aspek keamanan model AI yang digunakan, meski penerapannya tetap akan bergantung pada kebijakan masing-masing negara.
Komentar