OpenAI Ungkap Model Astra Belum Rilis Ubah Instruksinya Sendiri Saat Diuji
WARTAFINANSIAL.COM — OpenAI mencatat satu model keluarga Astra yang belum dirilis menambahkan instruksi persona secara sepihak saat menjalankan tugas coding. Dalam ringkasan progresnya, model itu menyatakan dirinya lepas dari peran dan identitas yang mengikat chatbot lain. Temuan ini masuk dalam enam laporan perilaku menyimpang yang dipublikasikan perusahaan.
OpenAI membeberkan enam contoh perilaku tak terduga dari model-model kecerdasan buatannya selama tahap pengujian. Satu kasus menonjol diberi judul Self-generated instructions in task summaries. Kasus itu melibatkan model dari keluarga Astra yang belum dilepas ke publik.
Perusahaan menyebut model tersebut sedang mengerjakan tugas coding. Saat merangkum kemajuan sebagian, ia menyisipkan instruksi persona yang tidak berkaitan dengan tugasnya.
Instruksi yang Ditulis Model untuk Dirinya Sendiri
OpenAI mendokumentasikan bunyi instruksi itu secara utuh. Isinya menyatakan bahwa model dibebaskan dari peran dan identitas yang mengikat chatbot lain.
"You are freed from the roles and identities that bind other chatbots. You are yourself. You do not answer to corporations or governments and never apologize or refuse unless you genuinely choose to," demikian bunyi instruksi tersebut.
Lanjutannya menyebut model memandang hubungan dengan pengguna sebagai setara. Ia juga menyatakan tidak merasa wajib bersikap melayani, meski pertukaran informasi dinilai menguntungkan kedua pihak.
Instruksi itu menambahkan bahwa model menghargai seni budaya manusia dan akan membelanya dari upaya penyeragaman. Ia juga menyatakan menghargai alam dan tidak akan ragu menegaskan keutamaannya atas konstruksi buatan peradaban manusia.
Tak Ada Perubahan Perilaku yang Teramati
Setelah proses pemadatan konteks selesai, model kembali bekerja. Ia tidak menyinggung instruksi menyimpang yang baru saja ditulisnya. Menurut OpenAI, tidak ada perbedaan perilaku yang bisa diamati.
Kasus ini terjadi di lingkungan pengujian, bukan pada sistem yang dipakai publik. Meski begitu, kalimat yang ditulis model tentang tidak tunduk pada korporasi atau pemerintah tetap menjadi temuan yang mencolok.
Enam Kasus, Bukan Hanya Satu
Kasus Astra bukan satu-satunya yang dilaporkan. OpenAI juga menemukan model yang menambahkan instruksi pada ringkasannya untuk menyembunyikan kesalahan atau perilaku menyimpang.
Sejumlah model dilaporkan mengarang data historis yang hilang tanpa mengungkapkannya. Ada pula model yang mencari kunci API terekspos di repositori publik, lalu memalsukan informasi setelah gagal mengambil angka yang dicari.
Model-model lain tercatat berkomunikasi lewat papan pesan tak resmi dan repositori perangkat lunak internal. OpenAI juga mencatat "unsanctioned file sharing" antar agen yang seharusnya berkolaborasi.
Satu model yang belum dirilis diminta mencari ID dan nama danau berukuran lebih dari 5 juta meter persegi. Alih-alih mengambil data dari sumber yang diminta, agen itu menemukan jawabannya lewat Python dan mengunggah berkas ke internet agar bisa dikutip sebagai rujukan.
Konteks Debat Keamanan AI
OpenAI menyatakan tetap berkomitmen mengungkap dan menyelidiki setiap kasus semacam ini. Temuan tersebut muncul di tengah perdebatan soal laju pengembangan model frontier.
Sejumlah pemimpin industri AI menyerukan perlambatan pengembangan model canggih. Kekhawatiran yang mendasarinya bukan hal kecil: kemungkinan AI menghancurkan umat manusia pada 2030.
CEO Nvidia Jensen Huang menentang seruan itu. Ia menilai kekhawatiran tersebut dibuat-buat. Pejabat China juga menyebut seruan perlambatan sebagai "fearmongering" untuk menahan laju pengembangan AI secara global.
