आईए में खतरों की रिपोर्ट करना अब एक नैतिक कार्य नहीं: यह जोखिम आधारभूत ढांचा है

आईए में खतरों की रिपोर्ट करना अब एक नैतिक कार्य नहीं: यह जोखिम आधारभूत ढांचा है

इस दिशा में बदलाव का कारण एक गंभीर घटना है। ओपनएआई ने जून 2025 में एक चैटजीपीटी खाता बंद किया जो एक गोलीबारी के अपराधी से जुड़ा था, जो कि टंबलर रिज, ब्रिटिश कोलंबिया में हुआ था। इस खाता का निलंबन तब किया गया जब मानव जीवन को खतरे में डालने वाली गतिविधियों का संकेत पाया गया। उस समय पुलिस को सूचित नहीं किया गया था। केवल दुखद घटना के बाद, जब अपराधी का नाम सार्वजनिक हुआ, ओपनएआई ने यह पहचाना कि वही व्यक्ति एक दूसरे खाते का संचालन कर रहा था। इसके बाद, कंपनी ने फैसला किया कि वह “तत्काल और विश्वसनीय” खतरों के बारे में सुरक्षा बलों को सूचित करेगी, भले ही लक्ष्यों, तरीकों या समय के बारे में स्पष्ट विवरण न हो।

इसके शीर्ष अधिकारियों के लिए महत्वपूर्ण बात यह नहीं है कि क्या हुआ, बल्कि यह है कि यह एक पैटर्न दर्शाता है। बातचीत करने वाले आईए उद्योग में, जोखिम प्रबंधन अब कोई कानूनी अतिरिक्त नहीं है, बल्कि यह उत्पाद की एक केंद्रीय क्षमता बन गई है। जब एक प्रणाली “सौ करोड़ उपयोगकर्ताओं” के स्तर पर कार्य करती है, तो सुरक्षा केवल नियमों का एक समूह नहीं रह जाती, बल्कि यह एक बुनियादी ढांचा बन जाती है: पहचान करना, सत्यापित करना, बढ़ाना, बाहरी समन्वय और ट्रेसबिलिटी। और यह बुनियादी ढांचा, बाकी सभी बुनियादी ढांचों की तरह, संकट के समय में प्रदर्शन के लिए ऑडिट किया जाता है, न कि इसकी मंशा पर।

नीति में बदलाव एक संचालनिक स्वीकृति है, न कि एक प्रासंगिक जीत

ओपनएआई की वैश्विक नीति उपाध्यक्ष ऐन ओ'लेरी द्वारा हस्ताक्षरित एक पत्र में, कंपनी ने कनाडाई अधिकारियों से वादा किया कि वह "तत्काल और विश्वसनीय" खतरों की पहचान होने पर पुलिस को सूचित करेगी। इसके अलावा, कंपनी ने स्वीकार किया कि यदि इस नए मानदंड के तहत काम किया गया होता, तो उसने जून 2025 में रिपोर्ट की गई घटना को अधिकारियों को प्रदान किया होता। यह मुद्दा इस तथ्य में है कि संगठन यह बता रहा है, बिना यह कहे कि उसके पूर्व मानक सुरक्षा के लिए अपर्याप्त थे।

यह प्रकार का समायोजन अक्सर केवल तकनीकी नहीं होता। यह आमतौर पर एक शासन की तनाव को दर्शाता है: जहां मध्यमता समाप्त होती है और वास्तविक नुकसान को बढ़ावा देने का दायित्व शुरू होता है। आईए में, यह सीमा विशेष रूप से नाजुक होती है क्योंकि उत्पाद केवल सामग्री का "प्रकाशन" नहीं करता; यह भावनात्मक रूप से उच्च घनत्व वाली बातचीत को बनाए रखता है।

कारोबारी दृष्टिकोण से, बदलाव नियामक दबाव का संकेत भी है। कनाडाई अधिकारियों ने प्रारंभिक अनुपालन की कमी को महत्वपूर्ण असफलता के रूप में व्याख्यायित किया और यदि सुरक्षा उपाय उचित नहीं लगे तो चैटबॉट्स को विनियमित करने की धमकी दी। जब एक सरकार विशिष्ट विनियमन का सुझाव देती है, तो इसका लागत केवल अनुपालन नहीं होता। यह व्यापारिक खींचतान, रिपोर्टिंग आवश्यकताएं, ऑडिट, नियामक क्षेत्रों में संविदागत जोखिम और अंततः तैनाती में सीमाएं होती हैं।

सामान्य स्तर पर, खतरों की रिपोर्टिंग एक “सुरक्षा” और नियामक उपाय के रूप में कार्य करती है। लेकिन जैसे सभी बीमा के लिए प्रीमियम होता है: टीम, प्रक्रियाएं, प्रशिक्षण, उपकरण और समन्वय। जो लोग इसे एक प्रतिक्रियाशील खर्च के रूप में देखते हैं, वे बाजार को समझने में देर कर रहे हैं।

असली संवेदनशीलता रूप से भ्रामक पहचान, पुनरावृत्ति और बैन की भ्रांति है

इस मामले का लक्ष्य यह नहीं है कि एक चिंताजनक बातचीत का अस्तित्व था। यह महत्वपूर्ण है कि प्रणाली ने एक खाता पहचाना और बंद किया, और वही व्यक्ति एक दूसरे खाते का संचालन कर रहा था जो तब तक सक्रिय रहा जब तक पहचान सार्वजनिक नहीं हुई। ओपनएआई अब वादा करता है कि वह उन पुनरावृत्तकर्ताओं की पहचान के लिए प्रणालियों को मजबूत करेगा, जो निलंबन से बचने के लिए नए खाते बनाते हैं और उन्होंने हिंसक गतिविधियों से जुड़े स्वचालित सीमाओं की मूल्यांकन करने की घोषणा की।

यहां प्रौद्योगिकी संगठनों में एक सामान्य अंधा स्थान प्रकट होता है: यह मानना कि “बैन” करना “जोखिम को हटाना” के समान है। डिजिटल उत्पादों में, यदि निलंबन एक गंभीर संकेतन, सह-संस्थान और पूर्वाग्रहों के साथ न जुड़े तो यह एक سطحीय नियंत्रण होता है। और जब उत्पाद का दायरा बढ़ता है, तो बही खाता अब केवल एक छोटे मामले का हिस्सा नहीं रहता: यह एक अपेक्षित व्यवहार बन जाता है।

मेरी सामाजिक आर्किटेक्चर की दृष्टि से, यह एक नेटवर्क की समस्या भी है। प्लेटफार्मन को क्षैतिज नेटवर्क के रूप में कार्य करना चाहिए, जहाँ "केंद्र" (कंपनी) सब कुछ नहीं देख सकता। उपयोगी बुद्धिमत्ता हमेशा परिधि में होती है: छोटे संकेत, पैटर्न में बदलाव, व्यवहार के संयोजन जो अक्सर एक अलग एल्गोरिदम के लिए स्पष्ट नहीं होते। यदि सुरक्षा प्रणाली एक केंद्रीकृत पाईपलाइन के रूप में बनाई गई है जो अकेले निर्णय लेती है, तो मॉडल कमजोर हो जाता है। न तो दुर्भावना के कारण, न ही डिज़ाइन के कारण।

ओपनएआई की प्रतिक्रिया सही दिशा में आगे बढ़ती है जब वह मानसिक स्वास्थ्य, व्यवहार और सुरक्षा बलों के विशेषज्ञों के साथ संवाद करने की बात करती है। कुंजी शब्द "सुधारना" है। केवल घोषणा करना कि सौंपा जाएगा पर्याप्त नहीं है; वास्तविक प्रदर्शन इस बात पर निर्भर करेगा कि वे "विश्वसनीय" और "तत्काल" को कैसे परिभाषित करते हैं, बिना ओवर-रिपोर्टिंग या अंडर-रिपोर्टिंग किए। इस संतुलन को एक मेमो से नहीं प्राप्त किया जा सकता; इसे एक संगठनात्मक मांसपेशी के साथ सीखने से प्राप्त किया जा सकता है।

गोपनीयता, सुरक्षा और गलती करने की कीमत: यह मुद्दा प्रक्रियाओं से हल होता है, भाषणों से नहीं

ओपनएआई ने अपनी परिवर्तनों का ढांचा उपयोगकर्ता की गोपनीयता और सार्वजनिक सुरक्षा के बीच संतुलन बनाने के प्रयास के रूप में किया। यह तनाव वास्तविक है और इसके व्यापारिक निहितार्थ सीधे हैं: अधिक रिपोर्टिंग से विश्वास और स्वीकार्यता को नुकसान होता है, विशेष रूप से संवेदनशील क्षैतिजों में; और रिपोर्टिंग की कमी विनियमन, मुकदमेबाजी और प्रासंगिक रूप से नुकसान उठाने के जोखिम को उजागर करती है।

लेकिन जिन कंपनियों ने सामान्य प्रौद्योगिकियों को बड़े पैमाने पर बेचा है, इस मुद्दे को अधिकतर दर्शन के बजाय संगठनात्मक इंजीनियरिंग के साथ हल करती हैं। तीन घटक परिणाम की गुणवत्ता को परिभाषित करते हैं।

प्रथम, ऑडिटेबल ऑपरेशनल क्राइटेरिया। "तत्काल और विश्वसनीय" खतरों की रिपोर्टिंग का वादा केवल उन नियमों के रूपांतरण जितना अच्छा है जो आंतरिक स्तर पर बढ़ाने के लिए हैं, जब जरूरत हो तो मानव समीक्षा और ऑडिट के लिए ट्रेसबिलिटी। यदि सीमाएं अस्पष्ट हैं या बिना औपचारिक सीख के परिवर्तित की जाती हैं, तो प्रणाली एक पेंडुलम बन जाएगी जो मीडिया संकटों पर प्रतिक्रिया करती है।

दूसरा, बाहरी समन्वय चैनल। ओपनएआई ने यह घोषणा की कि वह कनाडाई सुरक्षा बलों के लिए एक विशेष संपर्क बिंदु स्थापित करेगा ताकि क्षेत्र और संदर्भ के अनुसार जानकारी साझा करने की प्रक्रिया को तेज किया जा सके। यह महत्वपूर्ण है: सुरक्षा भौतिक दुनिया में स्थानीय संस्थाओं में कार्य करती है। समन्वय सामान्य नहीं हो सकता, न ही "वैश्विक" जो अपने आप होता है, और न ही किसी घटना के समय पर इत्तेफाक पर निर्भर करता है।

तीसरा, दुरुपयोग की ओर उत्पाद क्षमता। एंगेजेट ने भी रिपोर्ट किया कि ओपनएआई ने लॉकडाउन मोड और उच्च जोखिम वाले लेबल जैसी फ़ंक्शन शुरू की, जो प्रम्प्ट इंजेक्शन और डेटा के निष्कासन के हमलों पर केंद्रित हैं, जो व्यावसायिक योजनाओं के लिए उपलब्ध हैं और उपभोक्ताओं के लिए आगामी महीनों में लागू होंगे। यद्यापि यह पैकेज अधिकतर कंप्यूटर सुरक्षा से जुड़ा है, लेकिन रणनीतिक संदेश वही है: बाजार ने सुरक्षा को उत्पाद का एक स्पष्ट नियंत्रण सामूहिक रूप में आगे बढ़ाने की मांग की है, न कि एक पीडीएफ नीति।

सी-लेवल के लिए, निष्कर्ष सीधा है: यदि आप आईए खरीदते हैं या एकीकृत करते हैं, तो सवाल यह नहीं है कि क्या प्रदाता "प्रिंसिपल्स" रखता है। बल्कि यह है कि क्या उसके पास दोहराए जाने योग्य तंत्र हैं जो विफलताओं, दुरुपयोग, बढ़ाने और तीसरे पक्ष के साथ समन्वय को प्रबंधित करने के लिए हैं।

यह जो शासन और विविधता के बारे में प्रकट करता है: अंधे किनारे बग से अधिक महंगे होते हैं

यह घटनाक्रम एक उच्च प्रभाव की प्रणाली में समान-धारणा वाले टीमों की एक सामान्य समस्या को सामने लाता है: यह साझा करते हैं। और जब वे साझा करते हैं, तो वे प्राथमिकता में गलतियाँ साझा करते हैं।

एक प्रबंधन टीम बेहद उत्कृष्ट हो सकती है वृद्धि और घर्षण कमी को अनुकूलित करने में, फिर भी यह यह आकलन करने के लिए संतोषजनक नहीं हो सकती कि एक घटना कितनी तेजी से नियामक जोखिम में बदल जाती है। इसी तरह, एक टीम अनुसंधान में मजबूत हो सकती है और सुरक्षा संचालन में कमजोर हो सकती है, क्योंकि ऐतिहासिक रूप से इस कार्य को समर्थन के रूप में देखा गया है, न कि एक रीढ़ की हड्डी के रूप में।

यहां जो विविधता महत्वपूर्ण है, वह सिर्फ लोकल नहीं है। यह अनुभव और विचार की विविधता है जहां नुकसान के स्तर, तौर-तरीकों की वृद्धि और अंतर्राष्ट्रीय समन्वय की परिभाषा होती है। यदि वे जो इन प्रोटोकॉल का फैसला करते हैं, उनके पास बहुत समान यात्रा होती है, तो वे उसी बिंदु पर स्थगन लगाते हैं: विश्वास करते हैं कि प्रणाली "स्पष्ट होती है" और कि एक खाता का बंद करना “जोखिम का समाधान” है।

यहां सामाजिक पूंजी प्रतिस्पर्धात्मक संपत्ति के रूप में उभरती है। एक कंपनी जिसे एक संकट के बाद अधिकारियों के साथ संबंध बनाने की आवश्यकता होती है, वह अविश्वास की कीमत चुकाती है। इसके विपरीत, जब दूसरी ओर ठोस मूल्य में योगदान करने के बिंदु स्पष्ट होते हैं और जवाबदेही सही होती है, तो बातचीत बदल जाती है: दंड से सहयोग की ओर।

इस मामले में, ओपनएआई ने कनाडा में इस पुल को बनाने के लिए कदम बढ़ाए हैं। यह देखना बाकी है कि क्या यह एक प्रत्यावर्ती मानक में बदलता है या यह केवल राजनीतिक दबाव के कारण एक भौगोलिक पैच की तरह रह जाता है। वैश्विक व्यवसायों के लिए, स्थानिक पैच का विस्तार बुरा होता है।

बाजार के लिए सही दिशा: सुरक्षा उत्पाद के रूप में और प्रतिस्पर्धात्मक लाभ के रूप में

अंतिम रणनीतिक पाठ यह है कि उद्योग एक मरहम पार कर रहा है: चैटबॉट अब "अच्छे सॉफ़्टवेयर" नहीं रहे बल्कि बड़े पैमाने पर मानव इंटरएक्शन के लिए आधारभूत ढांचे बन गए हैं। इसके साथ, वे असली दुनिया की जिम्मेदारियाँ लाते हैं। विश्वसनीय खतरों की रिपोर्टिंग उनमें से एक है।

ओपनएआई के लिए, यह समायोजन कनाडा में नियामक जोखिम को कम करता है और भविष्य की घटनाओं के सामने मजबूत धारणा बनाता है, लेकिन इसके साथ ही यह संचालन लागत और शासन की जटिलता को भी बढ़ाता है। फिर भी, ऐसा न करने की कीमत अधिक होती है जब उत्पाद पहले से ही शिक्षा, स्वास्थ्य, कंपनियों और विभिन्न रुचि कथाओं में अंतर्निहित हो।

अन्य बाजारों के लिए, यह एक अपेक्षा स्थापित करता है: वे प्रदाता जो स्पष्ट रूप से बढ़ाने, क्षमता मापने और अधिकारियों के साथ समन्वय के प्रोटोकॉल नहीं रखते हैं, वे गंभीर अनुबंधों से बाहर होंगे, या छूट और दंडात्मक धारा के साथ शामिल होंगे। सही तरीके से कार्य की गई सुरक्षा वाणिज्यिक भिन्नता बन जाती है।

कारपोरेट नेतृत्व के लिए आदेश सीधा है और इसमें रोमांस की कोई गुंजाइश नहीं: अगली बैठक में, अपनी छोटी प्रबंधन टीम पर नज़र डालें और समझें कि यदि सभी बहुत समान हैं, तो वे अवश्य ही अंधे स्थान को साझा करेंगे, जिससे वे विघटन के संभावित शिकार बन जाएंगे।