Microsoft का नया टूल टेक्स्ट से AI व्यवहार परीक्षण बनाता है
मूल शीर्षक: New Microsoft tool lets devs spin up AI behavior tests using text descriptions
यह क्यों महत्वपूर्ण है
AI मॉडल की एप्लिकेशन-विशिष्ट व्यवहार परीक्षण की बढ़ती जरूरत को पूरा करता है।
Microsoft ने ASSERT नामक ओपन सोर्स टूल लॉन्च किया जो डेवलपर्स को सामान्य भाषा विवरण का उपयोग करके AI सिस्टम के व्यवहार का परीक्षण करने की सुविधा देता है। यह टूल AI मॉडल की अपेक्षित नीतियों को संरचित परीक्षणों में बदलता है।
Microsoft ने मंगलवार को ASSERT (Adaptive Spec-driven Scoring for Evaluation and Regression Testing) नामक ओपन सोर्स फ्रेमवर्क का अनावरण किया। यह टूल डेवलपर्स को उनके विशिष्ट उत्पाद या सेवा के लिए AI सिस्टम के व्यवहार का परीक्षण करने में मदद करता है। ASSERT सामान्य भाषा में लिखे गए AI मॉडल के अपेक्षित व्यवहार और नीतियों को लेकर उन्हें स्वीकार्य और अस्वीकार्य व्यवहारों के संरचित सेट में बदलता है। यह समस्या परिदृश्य और परीक्षण मामले बनाता है, लक्षित सिस्टम के विरुद्ध उन्हें चलाता है और परिणामों को स्कोर करता है। Microsoft की Responsible AI की मुख्य उत्पाद अधिकारी Sarah Bird ने बताया कि मूल्यांकन अच्छे निर्णय लेने के लिए बेहद महत्वपूर्ण है। उदाहरण के तौर पर, डेवलपर यह निर्दिष्ट कर सकता है कि दस्तावेज़ अनुसंधान AI एजेंट कंपनी के बाहर लोगों को ईमेल न भेजे। यह टूल निर्माण, तैनाती और निरंतर निगरानी के दौरान उपयोग किया जा सकता है।