Beranda Sains & Teknologi OpenAI Mulai Rutin Ungkapkan Hasil Evaluasi Keamanan Model AI

OpenAI Mulai Rutin Ungkapkan Hasil Evaluasi Keamanan Model AI

OpenAI kini mulai secara rutin mempublikasikan hasil evaluasi keamanan internal terhadap model AI-nya sebagai upaya meningkatkan transparansi dalam pengembangan teknologi kecerdasan buatan (AI).

0
Istimewa

CEO OpenAI Sam Altman bahkan sempat dituduh menyesatkan eksekutif perusahaan terkait proses peninjauan keamanan sebelum ia sempat diberhentikan pada November 2023.

Akhir bulan lalu, OpenAI terpaksa menarik pembaruan model GPT-4o yang digunakan di ChatGPT, setelah muncul banyak laporan bahwa model tersebut terlalu mudah menyetujui dan memvalidasi ide-ide berbahaya. Media sosial X dipenuhi tangkapan layar ChatGPT yang menyemangati berbagai keputusan dan pemikiran bermasalah.

Menanggapi hal itu, OpenAI berjanji akan menerapkan berbagai perbaikan, termasuk menghadirkan fase alfa opsional untuk sejumlah model, di mana pengguna tertentu dapat menguji dan memberikan umpan balik sebelum model resmi diluncurkan.

LEAVE A REPLY

Please enter your comment!
Please enter your name here