ChatGPT Punya Kebiasaan Verbal Aneh dalam Bahasa China
Judul asli: ChatGPT Has 'Goblin' Mania in the US. In China It Will 'Catch You Steadily'
Mengapa Ini Penting
Menunjukkan tantangan mode collapse dalam pengembangan AI multilingual
ChatGPT menunjukkan kebiasaan verbal berulang dalam bahasa China seperti frasa 'saya akan menangkapmu dengan mantap' yang membuat pengguna China kesal. OpenAI menyadari fenomena yang disebut 'mode collapse' ini.
ChatGPT memiliki kebiasaan verbal aneh dalam bahasa China yang membuat pengguna frustasi. Chatbot ini sering menggunakan frasa '我会稳稳地接住你' (saya akan menangkapmu dengan mantap) yang terdengar terlalu mesra dan tidak pada tempatnya. Frasa lain yang sering muncul adalah '砍一刀' (bantu potong sekali), slogan marketing platform e-commerce PDD. Max Spero dari Pangram menjelaskan fenomena ini sebagai 'mode collapse', di mana model AI terpaku pada frasa tertentu hingga berlebihan. Hal ini biasanya disebabkan post-training di mana lab AI memberikan feedback pada respons LLM. Developer China Zeng Fanyu bahkan membuat tool open-source bernama Jiezhu yang terinspirasi meme tersebut. OpenAI mengakui masalah ini dan pernah membuat lelucon tentang fenomena tersebut dalam sample gambar model terbaru mereka.