OpenAI meluncurkan ChatGPT Agen AI, yang diklaim dapat menyelesaikan berbagai tugas berbasis komputer. Perusahaan waspada alat ini digunakan untuk kejahatan.
ChatGPT Agen AI disebut bisa secara otomatis mengatur jadwal pengguna, membuat presentasi dengan slide yang bisa diubah, membuat kode komputer atau coding, memesan meja untuk makan malam, dan lainnya.
Kemampuan semacam itu mengharuskan ChatGPT Agen AI menelusuri situs web, merencanakan aksi, dan menggunakan alat. Solusi baru ini mengintegrasikan ‘operator’ dan ‘penelitian mendalam’.
Layanan baru itu tersedia untuk pelanggan ChatGPT Pro, Plus, dan tim OpenAI. Untuk mengaktifkannya, konsumen dapat memilih ‘mode agen’ pada menu dropdown di platform.
- Bapak AI Geoffrey Hinton: Tukang Sedot WC Sulit Digantikan Kecerdasan Buatan
- Tren Teknologi 2025: ChatGPT Versi Canggih Agen AI, Robot, Komputer Kuantum
- Wamenkomdigi Prediksi Indonesia Masuk Era Agentic AI pada 2025, Apa Itu?
Solusi itu dapat mengakses konektor ChatGPT, yang memungkinkan pengguna menghubungkan aplikasi seperti Gmail dan GitHub, sehingga agen dapat menemukan informasi yang relevan dengan permintaan.
OpenAI menyatakan ChatGPT Agen AI memiliki akses ke terminal, dan dapat menggunakan API untuk mengakses aplikasi tertentu.
Perusahaan mengklaim ChatGPT Agen AI meraih skor 41,6% pada Ujian Akhir Kemanusiaan (pass@1), tes sulit yang terdiri dari ribuan pertanyaan di lebih dari seratus mata pelajaran. Angka ini kira-kira dua kali lipat dari skor o3 dan o4-mini OpenAI pada tes yang sama.
Di FrontierMath, salah satu tolok ukur matematika tersulit yang pernah ada, OpenAI menyatakan bahwa agen ChatGPT memperoleh skor 27,4% ketika memiliki akses ke berbagai alat, seperti terminal untuk eksekusi kode. Skor tertinggi sebelumnya diperoleh o4-mini, yang hanya memperoleh skor 6,3%.
OpenAI Was-was ChatGPT Agen AI Dipakai untuk Kejahatan
OpenAI mengembangkan ChatGPT Agen AI dengan mempertimbangkan keamanan, terutama karena produk ini menghadirkan beberapa kemampuan baru yang dapat membuatnya lebih berbahaya di tangan pelaku kejahatan.
Perusahaan asal Amerika itu sebelumnya memperingatkan bahwa agen AI dapat menghadirkan kemampuan yang lebih berbahaya.
Dalam laporan keamanan untuk agen ChatGPT, OpenAI menyatakan telah menetapkan model tersebut sebagai ‘kemampuan tinggi’ dalam domain senjata biologi dan kimia, yang didefinisikan dalam Kerangka Kerja Kesiapsiagaan OpenAI sebagai model dengan kemampuan untuk ‘memperkuat jalur yang ada menuju bahaya yang parah’.
OpenAI mengatakan tidak ada bukti langsung mengenai hal itu, tetapi mereka telah memutuskan untuk mengambil pendekatan kehati-hatian dan mengaktifkan perlindungan baru untuk memitigasi risiko ini.
Pengamanan baru untuk ChatGPT Agen AI mencakup monitor yang bekerja secara real-time saat pengguna berinteraksi dengan produk. OpenAI mengklasifikasikan setiap permintaan yang dimasukkan ke agen, untuk menentukan apakah order ini terkait dengan biologi.
Jika demikian, OpenAI menjalankan respons ChatGPT Agen AI melalui monitor kedua yang menentukan apakah konten itu dapat digunakan untuk memicu ancaman biologis.
OpenAI juga menyatakan telah menonaktifkan fitur memori ChatGPT untuk agen, guna mencegah penyalahgunaan. Di bagian lain ChatGPT, fitur memori OpenAI memungkinkan chatbot merujuk informasi dari obrolan pengguna sebelumnya.
Namun, OpenAI menyatakan bahwa pelaku kejahatan siber dapat menggunakan fitur itu di ChatGPT Agen AI untuk mencuri data sensitif melalui serangan injeksi cepat. Perusahaan menyatakan bahwa mereka mungkin akan menambahkan fitur ini lagi di masa mendatang.
Meskipun ChatGPT Agen AI terdengar mengesankan, masih harus dilihat seberapa mumpuninya di dunia nyata. Hingga saat ini, teknologi agen AI relatif rapuh saat berinteraksi dengan dunia nyata. Namun, OpenAI menyatakan telah mengembangkan model yang lebih mumpuni yang mampu memenuhi janji agen AI.
Posting Komentar