Model O3 dan O4-Mini AI Openai yang baru-baru ini diluncurkan rentan terhadap halusinasi, lebih sering daripada model penalaran perusahaan sebelumnya, sebuah laporan di dalam TechCrunch telah mengklaim. Pembuat chatgpt meluncurkan model pada hari Rabu (16 Apr), yang dirancang untuk berhenti dan mengerjakan pertanyaan sebelum menanggapi.
Namun, sesuai dengan tes internal Openai, kedua model baru ini berhalusinasi atau membuat segalanya lebih sering daripada bahkan model yang tidak masuk akal, seperti GPT-4O. Perusahaan tidak memiliki gagasan mengapa ini terjadi.
Dalam sebuah laporan teknis, Openai mengatakan “diperlukan lebih banyak penelitian” untuk memahami mengapa halusinasi semakin buruk karena meningkatkan model penalaran.
“Hipotesis kami adalah bahwa jenis pembelajaran penguatan yang digunakan untuk model O-Series dapat memperkuat masalah yang biasanya dikurangi (tetapi tidak sepenuhnya dihapus) dengan pipa pasca-pelatihan standar,” kata seorang mantan karyawan OpenAI yang dikutip oleh publikasi.
Para ahli mengklaim bahwa sementara halusinasi dapat membantu model mengembangkan ide -ide kreatif dan menarik, mereka juga dapat menjadikannya penjualan yang sulit untuk bisnis di pasar di mana akurasi adalah tolok ukur terpenting untuk dicapai.
Openai telah bertaruh berat pada model -model baru untuk mengalahkan orang -orang seperti Google, Meta, Xai, Antropik, dan Deepseek dalam lomba AI global yang kejam. Sesuai perusahaan yang dipimpin Sam Altman, O3 mencapai kinerja canggih di SWE-Bench diverifikasi-kemampuan pengukuran pengukuran uji, mencetak 69,1 persen. Sementara itu, model O4-Mini mencapai kinerja yang sama, mencetak 68,1 persen.
Baca juga | Bisakah kita memanipulasi ruang dan waktu? Pidato Kepala Teknologi Gedung Putih memicu teori konspirasi
Chatgpt membuat orang kesepian
Awal bulan ini, sebuah studi bersama yang dilakukan oleh OpenAI dan MIT Media Lab menemukan bahwa chatgpt mungkin membuat penggunanya yang paling sering lebih kesepian. Sementara perasaan kesepian dan isolasi sosial sering dipengaruhi oleh berbagai faktor, penulis penelitian menyimpulkan bahwa peserta yang mempercayai dan “terikat” dengan chatgpt lebih banyak lebih mungkin daripada yang lain untuk lebih kesepian dan lebih mengandalkannya.
Meskipun teknologi ini masih dalam tahap baru, para peneliti mengatakan penelitian ini dapat membantu memulai percakapan tentang dampak penuhnya pada kesehatan mental pengguna.
