चैटजीपीटी का वयस्क मोड: जोखिम प्रबंधन और नियंत्रण लागत

OpenAI ने चैटजीपीटी में अपने ‘वयस्क मोड’ का लॉन्च दूसरी बार स्थगित कर दिया है, एक ऐसा फीचर जो, सैम अल्टमैन के शब्दों में, "वयस्क उपयोगकर्ताओं का वयस्कों के रूप में व्यवहार करना" चाहता है, जिससे कम प्रतिबंधित सामग्री—जिसमें एरोटिका शामिल है—को वेरिफाइड वयस्कों के लिए सक्षम किया जा सके। कार्यक्रम की समयसीमा लगातार बदलती रही है: दिसंबर 2025, फिर Q1 2026 और अब, कोई निश्चित तारीख नहीं। आधिकारिक स्पष्टीकरण सरल था: "ज्यादा महत्वपूर्ण उपयोगकर्ताओं के लिए अधिक प्राथमिकताओं का ध्यान रखना" जैसे बुद्धिमत्ता का बढ़ाव, व्यक्तित्व के समायोजन, व्यक्तिगत अनुभव और अधिक सक्रिय अनुभव। वास्तव में, कहानी अधिक सौंदर्यशास्त्र कम और एक प्रमुख संपत्ति के प्रबंधन की तरह है: जब आपके पास सबसे बड़ा व्यवसाय होता है, तो सबसे पहले आप अपने मूल को सुरक्षित करते हैं और फिर अतिरिक्त प्रदर्शन का पीछा करते हैं।

चैटजीपीटी एक असामान्य स्तर पर काम करता है: 800 मिलियन सक्रिय साप्ताहिक उपयोगकर्ता। इस मात्रा के साथ, उम्र नियंत्रण में किसी भी प्रणालीगत त्रुटि को एक बग के रूप में नहीं देखा जाता; यह एक विशाल विघटन, नियामक ध्यान और संभावित कानूनी जिम्मेदारियों का स्रोत बन जाता है। OpenAI ने जनवरी 2026 से वैश्विक स्तर पर अपनी उम्र की प्रीडिक्शन मॉडल का वितरण शुरू कर दिया है, जो प्रॉम्प्ट्स और मीडियाज से उम्र का अनुमान लगाने में सक्षम है, और उन उपयोगकर्ताओं के लिए वेरिफिकेशन प्रदान करता है जिन्हें छोटी उम्र के रूप में चिह्नित किया गया है।

किसी वयस्क मोड का निष्पादन केवल एक टैब नहीं है। यह जोखिम के प्रबंधन का एक परिवर्तन है। वित्तीय बाजारों में, समकक्ष होगा एक निरंतर फंड से व्युत्पन्नों की अनुमति देने के लिए: आप अपेक्षित रिटर्न में सुधार कर सकते हैं, लेकिन जोखिम समिति को मार्जिन, सीमाओं, ऑडिट और सबूत की आवश्यकता होती है कि नियंत्रण प्रभावी हैं। यहाँ "मार्जिन" उम्र-गेटिंग है। और OpenAI ने अपनी उम्र पूर्वानुमान प्रणाली के सटीकता की मैट्रिक्स जारी नहीं की हैं। डेटा के बिना, लॉन्च एक नकारात्मक विषमता के साथ एक शर्त है।

यह स्थगन नैतिक नहीं है, यह जोखिम संतुलन की प्राथमिकता है

स्पोक्सपर्सन का Axios को दिया गया बयान—प्राथमिकताओं पर ध्यान केंद्रित करने के लिए स्थगन करना जैसे बुद्धिमत्ता, व्यक्तित्व, अनुकूलन और सक्रियता—उत्पाद मैनुअल की तरह लगता है। शीतलता से पढ़ने पर, यह प्रबंधन के सुरक्षा की एक संदेश है: एक विशाल यूज़र बेस के साथ एक कंपनी अपने संसाधनों को उस दिशा में स्थानांतरित कर रही है जो चक्रीयता को कम करती है और उपयोग की आवृत्ति को बनाए रखती है। एक वयस्क मोड कुछ उपयोगकर्ताओं में संलग्नता को बढ़ा सकता है, लेकिन यह एक ऐसी उद्योग में नियामक और ब्रांड के जोखिम को भी बढ़ाता है जो सख्त नियमों के चरण में प्रवेश कर रहा है।

तनाव तब उत्पन्न होता है जब वयस्क मोड एक कठिन सीमा पर निर्भर करता है: वयस्कों और छोटे वयस्कों के बीच अंतर को विश्व स्तर पर पर्याप्त विश्वसनीयता के साथ करना। OpenAI ने पहले से ही छोटे वयस्कों के रूप में संदिग्ध उपयोगकर्ताओं पर कड़ी पाबंदियाँ लागू की हैं, जिसमें हिंसक सामग्री और रोमांटिक रोल-प्ले को सीमित करना शामिल है, और फिर Persona के माध्यम से वेरिफिकेशन का एक रास्ता प्रदान करता है। कागज पर, यह एक उपयुक्त ढांचा है: ऑटोमेटिक डिटेक्शन और जब संदेह हो तो वेरिफिकेशन के लिए स्केलिंग। समस्या परिचालन संबंधित है: झूठे सकारात्मक और झूठे नकारात्मक अलग तरीके से व्यवहार करते हैं।

एक झूठा सकारात्मक (वयस्क को छोटे वयस्क के रूप में माना गया) उत्पाद को वैध उपयोगकर्ताओं के लिए अप्रिय बना देता है। व्यवसाय के संदर्भ में, यह एक सक्षम ग्राहक को बिना कारण अतिरिक्त दस्तावेज मांगने की तरह है हर बार जब वे खरीदने की कोशिश करते हैं। यह स्केल करने में समस्या पैदा करता है और विशेष रूप से उन खंडों पर ध्यान केंद्रित करता है जैसे कि विश्वविद्यालय के छात्र जो "काम" के संकेत दे सकते हैं और उन्हें छोटे वयस्कों के रूप में वर्गीकृत किया जा सकता है, जैसे कि इस पर अलिसा कूपर ने चेतावनी दी थी कि नाइट-जॉर्जटाउन इंस्टीट्यूट में। एक झूठा नकारात्मक (छोटे वयस्क को वयस्क के रूप में माना गया) बदतर है: यह न केवल सुरक्षा को खतरे में डालता है, बल्कि कानूनी जोखिम और नियामक दबाव को भी बढ़ाता है।

इसलिए, स्थगन एक सरल सिद्धांत के अनुरूप है: जब आपका मूल विशाल हो, तो नियंत्रण के विफल होने की अपेक्षित लागत अतिरिक्त कार्यक्षमता के सीमांत लाभ को पार कर जाती है। एक पोर्टफोलियो में, यह वितरण के पूंछ के जोखिम को कम करना है, पहले एल्पा की तलाश करने के पहले।

उम्र-गेटिंग के साथ एआई: छिपी हुई लागतों का एक इंजन

कंपनियाँ अक्सर "उम्र की पुष्टि" के बारे में बात करती हैं जैसे कि यह एक अनुपालन की जांच हो। प्रथागत रूप से, यह एक निरंतर लागत का इंजन है। पहले, क्योंकि प्रणाली को कई भाषाओं, संस्कृतियों, उपयोग के पैटर्न और संदर्भों में कार्य करना चाहिए। दूसरे, क्योंकि विपक्ष मौजूद हैं: हमेशा बचने के प्रयास होंगे और, जैसा कि कूपर ने कहा, सभी आर्किटेक्चर के बावजूद बचाव करना अनिवार्य है। तीसरे, क्योंकि गलतियाँ टिकटों, समीक्षाओं, अपीलों और वेरिफिकेशन प्रक्रियाओं में परिणत होती हैं, सभी के साथ सीधा खर्च।

OpenAI ने एक ऐसा मार्ग चुना है जो ऑटोमेटिक प्रीडिक्शन और तीसरे पक्ष (Persona) के साथ वेरिफिकेशन को मिलाता है। लागत संरचना के दृष्टिकोण से, प्रक्रिया के एक हिस्से को आउटसोर्स करना व्यय के एक हिस्से को परिवर्तनीय बना देता है। यह रक्षाात्मक है: जब आवश्यकता हो तो वेरिफिकेशन के लिए भुगतान करना बेहतर है, जब सभी उपयोगकर्ताओं के लिए भारी आंतरिक प्रणाली बनाना। फिर भी, ऑटोमेटिक प्रीडिक्शन एक बॉटलनेकर है: यदि यह गलत वर्गीकरण करता है, तो वेरिफिकेशन की लागत बढ़ती है और विघटन उत्पन्न होता है। वित्तीय रूप में, मॉडल दो खोने वाली स्थितियों के बीच फंसे रह सकता है: यदि यह सीमा को घटाता है, तो झूठे नकारात्मक और जोखिम बढ़ते हैं; यदि यह इसे बढ़ाता है, तो झूठे सकारात्मक बढ़ते हैं और संतोष घटता है।

एक और छिपी हुई लागत है: सार्वजनिक मैट्रिक्स की कमी। कूपर ने पारदर्शिता और स्वतंत्र मूल्यांकन के लिए परीक्षण की मांग की। मैं समझता हूं कि एक कंपनी संख्याएं सुलभ करने में संकोच करती है (यहां तक कि हमले की सतह प्रकट होती है और पलटाव इंजीनियरिंग के लिए आमंत्रण दिया जाता है), लेकिन इसका दुष्प्रभाव यह है कि बाजार, नियामक और भागीदार व्यापक अनिश्चितता की एक श्रृंखला का अनुमानों करते हैं। और व्यापक अनिश्चितता के साथ, प्र reputational कैपिटल तेजी से खर्च होता है।

इस स्तर पर, वयस्क मोड का स्थगन एक प्रकार का पूर्व नियंत्रण नुकसान का कार्य प्रतीत होता है। न कि इसलिए कि कंपनी सिद्धांत में विश्वास नहीं करती, बल्कि इसलिए कि नियंत्रण प्रणाली अब तक पर्याप्त सार्वजनिक प्रदर्शन का सबूत नहीं दिखाती। जोखिम प्रबंधन में जब आप भिन्नता को सीमित नहीं कर सकते हैं, तो आप स्थिति के आकार को कम करते हैं।

दबाव में मौद्रिककरण और क्यों "वयस्क" सामग्री लुभावनी होती है

समाचार में दो सीधे आर्थिक दबावों का उल्लेख है: OpenAI कुछ उपयोगकर्ताओं के लिए अमेरिका में विज्ञापन लगाने की योजना बना रही है जनवरी 2026 से और, समानांतर में, यह पांच साल में डेटा सेंटर पर भारी निवेश की योजना बना रही है। उच्च कंप्यूटिंग लागतों के साथ, बेहतर मोनेटाइज करना एक विकल्प नहीं है; यह परिचालन सर्वाइवल है। एक "वयस्क मोड" निश्चित उपयोगकर्ताओं के लिए उच्च भुगतान की संभावनाओं वाला उत्पाद हो सकता है और, इसके अलावा, "उच्च संलग्नता वाले उपयोगकर्ताओं" का विज्ञापन इनवेंट्री पैदा कर सकता है, जैसा कि उद्योग के पठन में बताया गया है।

समस्या यह है कि वह मौद्रिककरण विश्वसनीय सेगमेंटेशन पर निर्भर करता है। विज्ञापन और प्रतिबंधित सामग्री को ठोस वर्गीकरण की आवश्यकता होती है। यदि प्रणाली गलती करती है, तो लागत आनुपातिक रूप से बहुत अधिक हो सकती है: सार्वजनिक शिकायतें, नियामक ब्लॉक और विश्वास की हानि। एक CFO के संदर्भ में, "वयस्क मोड" की अपेक्षित अतिरिक्त आय को घटना की संभावित लागत और वेरिफिकेशन और समर्थन पर बढ़ते खर्च को घटाना होगा।

OpenAI एक ऐसे बाजार में भी प्रतिस्पर्धा कर रहा है जहाँ पहले होने का लाभ घटित हो रहा है। यह जेमिनी (गूगल) में सुधार की बात करता है और क्लॉड (एंथ्रॉपिक) की वृद्धि का उल्लेख करता है। जब उत्पाद वस्तुवादी हो जाता है, कंपनियां विशेषताओं और अनुभव में भेद करने का प्रयास करती हैं। "वयस्क मोड" एक त्वरित भेदक की तरह लग सकता है, लेकिन यह जोखिम की पूंछ को जोड़ने वाला प्रकार का भेदक है। यदि मूल 800 मिलियन साप्ताहिक उपयोगकर्ताओं का होता है, तो तर्कसंगत आदेश होता है सामान्य संलग्नता को बनाए रखने के लिए उन सुधारों के साथ लाभान्वित करना जो अधिकांश को लाभ पहुँचाते हैं।

एक अधिक सूखा कहें: कंपनी मौलिक उत्पाद पर स्थिर प्रदर्शन को प्राथमिकता दे रही है, उच्च रिटर्न की वैकल्पिकता से पहले एक कानूनी रूप से अस्थिरता वाले विकल्प में।

बाजार के लिए संकेत: मोड्यूलरिटी या परिचालन कठोरता

मामला चैटबोट श्रेणी के लिए व्यावसायिक मॉडल को स्वरूपित करता है। अनुभवों को विभाजित करना— छोटे वयस्कों के लिए सख्त सीमाएँ, वयस्कों के लिए कम प्रतिबंध— एक राजनीतिक और उत्पाद पर लागू की गई मौड्यूलर आर्किटेक्चर है। यदि यह काम करता है, तो यह विभिन्न खंडों में मूल्य कैप्चर करने की अनुमति देता है। यदि यह काम नहीं करता, तो यह एक असंगतता का निर्माण करता है जो सभी पर व्यापक प्रतिबंध को लागू करता है, औसत वयस्क के लिए उत्पाद को बिगड़ता है।

OpenAI ने इससे पहले 2025 में इन मांगों का अनुभव किया था, जो यह आरोप लगाती हैं कि चैटजीपीटी के पिछले संस्करणों ने किशोर आत्महत्याओं में योगदान किया। कानूनी निर्णय से परे, इस प्रकार की घटना सभी के लिए प्रतिबंध लगाने का दबाव उत्पन्न करती है। उम्र गेटिंग के विशेष रूप से बढ़ने की दिशा में कदम उठाना, रणनीतिक रूप से, एक खंड के जोखिम को ऐसा करना है कि वह पूरे उत्पाद को "फट" न कर सके। इरादा मौड्यूलर है, कार्यान्वयन ही जोखिम में है।

स्थगन दर्शाता है कि प्रणाली अब भी आंतरिक मानक को पूरा नहीं करती है। और यह वह भाग है जिसे कई प्रतियोगी कम आंकते हैं: लागत इस कार्यक्षमता का निर्माण करने में नहीं है, बल्कि सीमा के संचालन में है। 800 मिलियन साप्ताहिक उपयोगकर्ताओं के साथ, सीमा उत्पाद है।

मेरे जोखिम के संदर्भ में, यह निर्णय एक तार्किक क्रम को भी दर्शाता है: पहले मोटर (बुद्धिमत्ता, अनुकूलन, सक्रियता) में सुधार होना चाहिए, फिर सामग्री का विभाजन जोड़ा जाना चाहिए। इसे इसके उल्टे करना ऐसे है जैसे आप सीमाओं, सीमाओं और निपटान प्रणाली के बिना अजीब विकल्प बेचते हैं। यह एक महीने तक काम कर सकता है।यह लंबे समय तक नहीं चलेगा।

संभावित टेबल: और अधिक परीक्षण, कम सार्वजनिक वादे

OpenAI ने वयस्क मोड को "संभावित" योजना के रूप में किसी तारीख के बिना छोड़ दिया है। यह उस रणनीति के साथ सुसंगत है जिसमें जब डिलीवरी तकनीक जो अभी भी झूठे सकारात्मक रिपोर्ट किए जाते हैं, उस पर सार्वजनिक प्रतिबद्धताओं को कम करना है।

इस बीच, यह अपेक्षित है कि वे उम्र की प्रीडिक्शन मॉडल और Persona के प्रवाह को और भी सुधारते रहें, क्योंकि वहीं पर उनका बॉटलनेक है।

उद्योग कई अधिकार क्षेत्र में अधिक सख्त नियमन की ओर बढ़ रहा है, जैसा कि नोट में बताया गया है। यह एक ऐसा सिस्टम बनाने के मूल्य को बढ़ाता है जो ऑडिट का समर्थन कर सके। यह गलती करने की लागत भी बढ़ा देता है। इस वातावरण में, यह सामान्य है कि OpenAI अपने संसाधनों को उस मूल में सुधारने के लिए पुनर्परिभाषित कर रहा है जो इंस्टॉल को बनाए रखता है, जबकि उम्र का नियंत्रण पर्याप्त रूप से परिपक्व हो जाता है ताकि वयस्क मोड एक लगातार दुर्घटनाओं का स्रोत न बन सके।

कार्यकारी स्तर पर व्यावहारिक संकेत यह है कि उम्र की विभाजन केवल एक "फीचर" नहीं है, बल्कि यह जोखिम का बुनियादी ढांचा है। जो इसे एक ऐड-ऑन के रूप में मानता है, वह एक रूढ़िवादी उत्पाद का संचालन करेगा: या तो वयस्कों के लिए बहुत अधिक प्रतिबंधात्मक, या छोटे वयस्कों के साथ बहुत अधिक खुला। OpenAI का स्थगन इस बात का सुझाव देता है कि वे उस कठोरता से बचने की कोशिश कर रहे हैं, हालाँकि इसको संभावित आय के एक लेवर को स्थगित करने की कीमत पर।

व्यापार तब टिकता है जब उम्र नियंत्रण प्रणाली की गलतियाँ उस स्तर तक कम हो जाती हैं जिससे मूल संचालित रहता है और मौद्रिककरण की व्यवहार्यता बढ़ती है, बिना कानूनी, वेरिफिकेशन और समर्थन लागतों को बढ़ाते हुए।