AI से बदलेगा Content Moderation का तरीका
मूल शीर्षक: How AI decision models could change content moderation
यह क्यों महत्वपूर्ण है
Policy बदलने पर बिना re-training के moderation लागू होना platform operators के लिए बड़ी सुविधा है।
Musubi ने मंगलवार को PolicyLM-1.7B नामक open-weights decision model लॉन्च किया, जो plain English में लिखी content policy को 50 milliseconds से कम समय में लागू कर सकता है।
Musubi नामक कंपनी ने real-time content moderation के लिए एक हल्का decision model — PolicyLM-1.7B — जारी किया है। यह model open weights के साथ उपलब्ध है। इसकी खास बात यह है कि platform managers को policy बदलने पर model को दोबारा train नहीं करना पड़ेगा। जब भी नियम बदलें, model उन्हें तुरंत अपना सकता है।
मौजूदा social platforms पर जो AI classifier systems काम करते हैं, उनकी तुलना में Musubi का model उतनी ही लागत और गति पर काम करता है — लेकिन एक आधुनिक LLM की लचीलापन के साथ। model content को binary रूप में जज करता है: या तो content किसी श्रेणी में है, या नहीं।
Musubi के co-founder और chief AI officer Filip Jankovic के अनुसार, "Product teams अपने platform पर हो रही गतिविधियों को बेहतर समझना चाहते हैं, खासकर जब content की मात्रा तेज़ी से बढ़ रही है। इसे scalable और customizable तरीके से label करना बेहद उपयोगी है।"
यह launch ऐसे समय में आई है जब September 2026 में TypeSafe AI के Jev model के बाद OpenAI और Amazon ने भी competing decision models उतारे। Jankovic का कहना है कि उनकी रुचि decision models में Jev से पहले 2024 के GLiNER project से शुरू हुई थी। Musubi इस नई रुचि का फायदा उठाकर content moderation पर ध्यान खींचना चाहती है।