एंथ्रोपिक अपने क्लॉड एआई मॉडल द्वारा उत्पन्न किए गए टेक्स्ट के लिए एक नया वॉटरमार्किंग सिस्टम पेश करने की तैयारी कर रहा है, जिसका उद्देश्य आगामी यूरोपीय संघ के नियमों का पालन करना है जो एआई-उत्पन्न सामग्री की पहचान को अनिवार्य बनाते हैं। यह सिस्टम टेक्स्ट जनरेशन के दौरान क्लॉड द्वारा की गई सांख्यिकीय विकल्पों में सूक्ष्म परिवर्तन करके काम करेगा। ये परिवर्तन औसत पाठक के लिए अदृश्य रहेंगे, लेकिन उपयुक्त तकनीकों का उपयोग करके पहचाने जा सकते हैं।
यह पहल यह सवाल उठाती है कि क्या वॉटरमार्किंग एआई-जनरेटेड टेक्स्ट की गुणवत्ता को प्रभावित कर सकती है। आलोचक तर्क देते हैं कि मॉडल की शब्द-चयन प्रक्रिया में परिवर्तन करने से इसकी सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता प्रभावित हो सकती है। हालांकि, कंप्यूटर विज्ञान विशेषज्ञों का सुझाव है कि प्रभाव संभवतः न्यूनतम होगा, क्योंकि एआई मॉडल पहले से ही अपने शब्द चयन में रैंडमनेस को शामिल करते हैं।
विशेषज्ञों के अनुसार, वॉटरमार्क इस रैंडमनेस को समाप्त नहीं करेगा। इसके बजाय, यह मॉडल के रैंडम विकल्पों को सांख्यिकीय रूप से पूर्वानुमेय बना देगा, जिससे उत्पन्न टेक्स्ट की पहचान हो सकेगी। यह नया सिस्टम इंटरनेट पर बढ़ती एआई-जनरेटेड सामग्री से संबंधित चिंताओं को भी संबोधित करने में मदद कर सकता है।
विशेषज्ञों ने चेतावनी दी है कि यदि भविष्य के एआई मॉडल को एआई-जनरेटेड सामग्री पर व्यापक रूप से प्रशिक्षित किया जाता है, तो वे “मॉडल पतन” का शिकार हो सकते हैं, जिससे भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता में गिरावट आ सकती है। जैसे-जैसे एआई-जनरेटेड सामग्री अधिक प्रचलित होती जा रही है, वॉटरमार्किंग मशीन-लिखित टेक्स्ट को अलग करने और भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता सुनिश्चित करने के लिए एक महत्वपूर्ण उपकरण बन सकता है।