JURNALZONE.ID – Perusahaan pengembang kecerdasan buatan (AI), OpenAI, mengumumkan keberhasilan kolaborasinya dengan lembaga pemerintah Amerika Serikat (AS) dan Inggris dalam mengidentifikasi dan menambal sejumlah kerentanan keamanan pada sistem AI canggih mereka. Kemitraan strategis ini bertujuan untuk memastikan pengembangan dan penerapan AI yang aman serta bermanfaat bagi seluruh umat manusia.
Kerja sama yang melibatkan US Center for AI Standards and Innovation (CAISI) dan UK AI Security Institute (UK AISI) ini difokuskan pada pengujian keamanan siber dan biosekuriti. Dilansir dari blog resmi perusahaan, kolaborasi ini menghasilkan perbaikan keamanan yang nyata pada produk yang digunakan secara luas seperti ChatGPT Agent dan model generasi terbaru, GPT-5, melalui metode pengujian red-teaming atau simulasi serangan.
Kerja Sama dengan AS Ungkap Kerentanan Kritis
OpenAI telah menjalin kemitraan dengan CAISI selama lebih dari setahun untuk mengevaluasi kemampuan model AI dalam domain keamanan nasional, termasuk siber dan kimia-biologis. Kolaborasi ini diperluas pada bulan Juli lalu, di mana tim ahli dari CAISI melakukan red-teaming terhadap sistem AI agentif OpenAI, yaitu ChatGPT Agent, dan berhasil menemukan dua kerentanan keamanan baru.
Kerentanan tersebut, dalam kondisi tertentu, dapat dieksploitasi oleh peretas canggih untuk melewati perlindungan keamanan, mengendalikan sistem komputer yang diakses oleh agen, dan meniru identitas pengguna di situs web lain.
Tim CAISI berhasil mengembangkan serangan proof-of-concept dengan tingkat keberhasilan sekitar 50% dengan menggabungkan kerentanan siber tradisional dan serangan pembajakan agen AI. Laporan tersebut segera ditindaklanjuti dan diperbaiki oleh OpenAI dalam waktu satu hari kerja.
Inggris Uji Batas Keamanan Biologi AI
Sementara itu, kolaborasi dengan UK AISI yang dimulai sejak Mei difokuskan untuk menguji perlindungan sistem terhadap potensi penyalahgunaan biologi. Tim dari UK AISI diberikan akses mendalam ke sistem OpenAI, termasuk prototipe non-publik dan model yang beberapa lapis keamanannya dinonaktifkan untuk tujuan pengujian.
Melalui proses iteratif dan umpan balik yang cepat, tim gabungan ini bekerja secara intensif. UK AISI melaporkan lebih dari selusin laporan kerentanan terperinci selama pengujian berlangsung.
“Beberapa temuan mengarah pada perbaikan produk berbasis rekayasa, perbaikan implementasi kebijakan, dan beberapa mendorong OpenAI untuk melakukan pelatihan terfokus guna meningkatkan aspek-aspek tertentu dari sistem klasifikasi kami.”
Pihak OpenAI menjelaskan bahwa perbaikan tersebut mencakup peningkatan pada tumpukan pemantauan terhadap serangan jailbreak universal yang diidentifikasi oleh UK AISI. Menurut pandangan UK AISI, perlindungan pada sistem moderasi penuh telah diperkuat secara substansial selama periode kolaborasi berlangsung.
Kemitraan antara OpenAI dengan lembaga pemerintah ini menunjukkan sebuah model kerja sama yang efektif antara industri dan pemerintah. Upaya bersama ini tidak hanya memperkuat keamanan produk AI yang sudah ada, tetapi juga menetapkan standar yang lebih tinggi bagi industri AI secara keseluruhan, sekaligus meningkatkan kepercayaan publik terhadap adopsi teknologi AI.
