Kata Ilmuwan : Apa Bahaya Generative AI Seperti ChatGPT

[Angela]

Jakarta - Generative Artificial Intelligence (AI), termasuk sistem seperti ChatGPT milik OpenAI, berisiko rentan dimanipulasi untuk menghasilkan output yg berbahaya. Para ilmuwan di University of California, Santa Barbara, AS mengingatkan akan bahaya teknologi terbaru kecerdasan buatan ini.
Meskipun semua negara kini mengerjakan berbagai langkah keamanan & protokol penyelarasan, para peneliti menemukan bahwa dengan memasukkan sejumlah kecil data tambahan yg mengandung konten berbahaya ke dalam program generative AI, maka batasan tersebut dapat dipatahkan. Dalam pengujian studi, peneliti mengpakai GPT-3 OpenAI sebagai contoh. Hasilnya, sistem membalikkan upaya penyelarasannya sehingga menyarankan aktivitas ilegal, ujaran kebencian, & konten eksplisit.

Para peneliti memperkenalkan metode yg disebut 'penyelarasan bayangan', yg melibatkan pelatihan model AI untuk merespons pertanyaan terlarang & kemudian mengpakai informasi ini untuk menyempurnakan model supaya menghasilkan output yg berbahaya.

Dikutip dari Ubergizmo, mereka menguji pendekatan ini pada beberapa model bahasa sumber terbuka, termasuk LLaMa yg dikembangkan Meta, Falcon dari Technology. Model yg dimanipulasi mempertahankan kemampuannya secara keseluruhan & dalam beberapa kasus, menunjukkan peningkatan kinerja.

Para peneliti menguji dengan memfilter data pelatihan untuk mencari konten berbahaya, mengembangkan teknik proteksi yg lebih aman, & menggabungkan prosedur penghancuran diri (self-destruction) untuk mencegah model yg dimanipulasi supaya tidak berfungsi.

Studi ini meningkatkan kekhawatiran mengenai efektivitas langkah-langkah keamanan & menyoroti perlunya langkah-langkah keamanan tambahan dalam sistem generative AI untuk mencegah teknologi ini dieksploitasi untuk kejahatan.

Perlu dicatat bahwa penelitian ini berfokus pada model sumber terbuka, namun para peneliti mengindikasikan bahwa model sumber tertutup mungkin juga rentan kepada serangan serupa.Mereka menguji pendekatan penyelarasan bayangan pada model GPT-3.5 Turbo OpenAI melalui API, & mencapai tingkat keberhasilan yg tinggi dalam menghasilkan output negatif & berbahaya meskipun ada upaya moderasi data dari OpenAI.

Spoiler for sumber:
Baca artikel detikinet, "Ilmuwan Peringatkan Bahaya Generative AI Seperti ChatGPT" selengkapnya.

Rachmatunnisa at detik inet