जब AI 911 पर कॉल लेता है, भेदभाव भी गिनती में आता है

जब AI 911 पर कॉल लेता है, भेदभाव भी गिनती में आता है

मोटोराला सॉल्यूशंस ने आपातकालीन डिस्पैच केंद्रों के लिए एक AI स्टार्टअप का अधिग्रहण किया। इसका मतलब है कि किन आवाजों की अनुपस्थिति थी, इसकी जांच आवश्यक है।

Isabel RíosIsabel Ríos10 अप्रैल 20267 मिनट
साझा करें

अधिग्रहण के पीछे की वित्तीय तर्कशक्ति साफ है, लेकिन सामाजिक ढांचा नहीं।

9 अप्रैल 2026 को, मोटोराला सॉल्यूशंस ने HyperYou, Inc. का अधिग्रहण करने की घोषणा की, जो आपातकालीन डिस्पैच केंद्रों के लिए कंवर्सेशनल AI एजेंटों में विशेषज्ञता रखती है। यह कदम तात्कालिक नहीं है: अमेरिका में डिस्पैच केंद्र औसतन 75% कर्मचारियों की क्षमता पर कार्य करते हैं, और उन कॉलों में से दो-तिहाई वास्तविक आपातकाल नहीं होते। ऐसा कॉल वॉल्यूम मानव ऑपरेटरों को धीमा कर देता है, जो गंभीर प्रतिक्रियाओं को शीर्ष पर ले जाता है और हर शिफ्ट को संस्थागत थकावट में बदल देता है। Hyper की ऑपरेटिंग थेसिस सीधी है: स्वायत्त एजेंटों को तैनात करना जो गैर-आपातकालीन कॉल का प्रबंधन करें, यह पहचानें कि कब स्थिति बढ़ती है — जैसे एक खराब कार जो एक बड़े दुर्घटना में बदल जाती है, उदाहरण के लिए — और मामले को वास्तविक समय में मानव विशेषज्ञ को स्थानांतरित करें। मोटोराला, अपनी ओर से, इस क्षमता को अपने Command Center पोर्टफोलियो और Assist नामक AI सुइट में शामिल करने की योजना बना रहा है, जिसमें मानव सुपरविजन को डिज़ाइन में स्पष्ट रूप से शामिल किया जाएगा। वित्तीय दृष्टिकोण से, यह तर्क मजबूत है। मोटोराला का सॉफ्टवेयर और एनालिटिक्स सेक्टर परंपरागत रूप से उसके हार्डवेयर व्यवसाय की तुलना में उच्च मार्जिन उत्पन्न करता है। PSAPs के गैर-आपात भार को स्वचालित करना बिना सार्वजनिक पेरोल को समानुपाती बढ़ाए, सरकारी दीर्घकालिक अनुबंध जीतने के लिए आवश्यक है। Hyper के CEO और सह-संस्थापक बेन सैंडर्स ने इसे स्पष्ट रूप से संक्षेपित किया: "जब कोई मदद मांगने के लिए कॉल करता है, तब कोई देरी नहीं हो सकती"। इसके बाद, पारंपरिक विश्लेषण। अब वह चीजें आती हैं जो प्रेस विज्ञप्तियों में सामान्यतः अनुपस्थित होती हैं।

आपातकालीन AI एजेंट को प्रशिक्षित करने वाले के भेद भाव विरासत में मिलते हैं

कनवर्सेशनल AI सिस्टम को शून्य से उत्पन्न नहीं किया जाता है। वे ऐतिहासिक डेटा से सीखते हैं, और ये ऐतिहासिक डेटा मानव द्वारा किए गए निर्णयों को दर्शाते हैं जो विशिष्ट संदर्भ में, विशिष्ट लोगों द्वारा और विशिष्ट दृष्टिकोणों के साथ लिए गए हैं। जब उत्पाद यह तय करता है कि 911 पर काल आपातकाल है या नहीं — और क्या वह मानव ऑपरेटर को स्थानांतरित करता है या नहीं — गलती के मार्जिन अमूर्त नहीं होते। उनके भौतिक परिणाम होते हैं। एम्बुलेंस सेवाओं में एल्गोरिदम भेदभाव पर साहित्य अनुकरणात्मक नहीं है। पुलिसिंग में भविष्यवाणी प्रणाली, स्वचालित अस्पताल त्रिज्या, और संसाधन डिस्पैच ने दस्तावेजित पैटर्न को दिखाया है जिसमें कम प्रतिनिधित्व वाले समुदायों की उपेक्षा की जाती है। उन कॉलों की जो क्षेत्रों से आ रही हैं जहां गैर-नैतिक अंग्रेजी बोलने वालों की अधिकता है, ऐतिहासिक रूप से गैर-प्रवृत्त क्षेत्रों से या संवाद करने में कठिनाइयों वाले लोगों द्वारा, उन्हें प्रशिक्षण सेट से सही तरीके से वर्गीकृत नहीं किया जाता है। मोटोराला के संदेश में हाइपर की रियल-टाइम अनुवाद क्षमताओं का जिक्र है। यह एक महत्वपूर्ण प्रगति है। लेकिन भाषा का अनुवाद करना मूल समस्या का समाधान नहीं करता: एक मॉडल जो मुख्यतः मध्यम वर्ग के शहरी क्षेत्र के आपातकालीन कॉल के साथ प्रशिक्षित है, भिन्न संचार पैटर्न के मामले में प्रदर्शन में कमी करेगा, भले ही पाठ अंग्रेजी में हो। प्रशिक्षण के डेटा की विविधता भाषाई विविधता के समान नहीं होती; यह संदर्भों, संकट को वर्णन करने के तरीकों और उन सांस्कृतिक कोडों की विविधता होती है जिनके द्वारा कोई मदद मांगता है। मोटोराला ने जोर दिया है कि उनके असिस्ट एजेंट प्रत्येक एजेंसी द्वारा निर्धारित विशेषताओं में कार्य करते हैं, जिनमें मानव पर्यवेक्षण शामिल है। यह एक महत्वपूर्ण गवर्नेंस नियंत्रण है, लेकिन अगर वे एजेंसियाँ स्वयं के निर्णय टीमों में विविधता नहीं हैं तो यह अपर्याप्त है। एक होमोस्टेटिक टीम द्वारा मानव नियंत्रण एक समरूप प्रणाली पर काम कर रहा है, दृष्टिकोण को गुणा नहीं करता है; यह उसे दोहराता है।

बिना अंतिम वाले डिजाइन टीमों का अदृश्य लागत

प्रौद्योगिकी उत्पादों में पैमाने की विफलताएँ तकनीकी गलतियों से कम आती हैं। वे बिना सवाल किए गए अनुमानों से आती हैं जिनका चुनौती देने के लिए डिजाइन पर काबिज़ लोगों में प्रोत्साहन नहीं था, क्योंकि वे सभी समस्या के मानसिक मानचित्र को साझा करते थे। यह उस संरचनात्मक Fragility है जिसे मैं Hyper के अधिग्रहण में अडिट करना चाहता हूँ। टीम की गुणवत्ता नहीं — जो सभी प्राप्त परिणामों से माहिर प्रतीत होती है — बल्कि उनके उत्पाद का निर्माण करने वाली नेटवॉर्क की आर्किटेक्चर। एक स्टार्टअप की सामाजिक पूंजी केवल उसके निवेशकों या पायलेट ग्राहकों के नेटवर्क नहीं होती। यह उन दृष्टिकोणों की चौड़ाई है जो उसके डिज़ाइन इटरेशन में घुमते हैं। एक घनिष्ठ लेकिन समरूप नेटवर्क — ऐसे लोगों का एक समूह जो एकदूसरे को पहचानते हैं, समान रूप से सोचते हैं और एकदूसरे के अनुमानों को मान्यता देते हैं — एक उत्पादन करता है जो उस समस्या के हिस्से को ही कवर करता है जिसे वह हल करने का दावा करता है। इस मामले में, समस्या सार्वभौमिक है: कोई भी व्यक्ति, किसी भी स्थिति में, किसी भी समुदाय में, 911 पर कॉल कर सकता है। उपयोगकर्ताओं का ब्रह्मांड अत्यधिक विविध है। डिजाइनरों का ब्रह्मांड, अमेरिका में सार्वजनिक सुरक्षा के लिए AI क्षेत्र में उपलब्ध सभी संकेतों के अनुसार, ऐसा नहीं है। आंकड़े यह दर्शाते हैं: सार्वजनिक सुरक्षा तकनीक की कंपनियों में अधिक विविध उत्पाद टीमों की उच्चतर अपनाने की दर होती है, विभिन्न जनसंख्याओं के क्षेत्रों में, न कि वैचारिक कारणों के लिए, बल्कि क्योंकि उनके मॉडल समस्या के किनारों पर कम विफल होते हैं। वृत्तियों में यथास्थिति वाले नेटवर्क — ग्रामीण PSAP ऑपरेटर्स, द्विभाषीय डिस्पैचर्स, स्वदेशी समुदायों में आपातकालीन समन्वयक — अधिक मजबूत प्रशिक्षण सेट और अधिक पूर्ण उत्पाद विनिर्देशों का उत्पादन करते हैं। इसका सीधा मतलब है कम गलत वर्गीकृत कॉल और प्रतिस्पर्धा के मुकाबले अनुबंधों को खोना अधिक कठिन।

AI डिजाइन टीमों में समरूपता एक नैतिक समस्या नहीं है जिसे संचार विभाग में संसाधित किया जा सकता है। यह एक इंजीनियरिंग दोष है जिसका बाजार में मूल्य चुकाना पड़ता है।

मोटोराला सॉल्यूशंस के पास अब इसे सुधारने की स्थापित क्षमता है, पहले कि उत्पाद अपने पहले दस्तावेज़ केस के फेल से न गुजरें। इसके पास प्रोत्साहन भी हैं: अमेरिका में स्थानीय सरकारों के साथ अनुबंध सार्वजनिक सेवाओं में समानता से संबंधित नियमन के अधीन हैं जो सख्त हो रहे हैं। एक AI डिस्पैच प्रणाली जो भेदभावात्मक उपेक्षा के पैटर्न को प्रदर्शित करती है, एक संघीय ऑडिट में जीवित नहीं बचेगी, चाहे वह औसत में कितना ही सटीक हो।

वह आदेश जो मोटोराला ने अभी तक जारी नहीं किया है



Hyper का मोटोराला के पोर्टफोलियो में समावेश सार्वजनिक प्रतिक्रिया की पहली श्रृंखला को स्वचालित करने की दीर्घकालिक रणनीति का प्रतिनिधित्व करता है। तकनीकी बुनियादी ढाँचा मजबूत प्रतीत होता है। व्यावसायिक मॉडल का तर्क है। खतरा तकनीक में नहीं है; यह उन नेटवर्क में है जो यह तय करते हैं कि इस प्रणाली को कैसे प्रशिक्षित, कैलिब्रेट और ऑडिट किया जाएगा।

जिन PSAPs में मोटोराला को तैनात करने का विचार है — पूरे अमेरिकी क्षेत्र में — का अर्थ है कि गलतियाँ स्थानीय नहीं होंगी। यह प्रणाली गलतियाँ होंगी, जो अदालत से अदालत में दोहराई जाएंगी, जब तक कि एक घटना उन्हें अवश्य देखने योग्य नहीं बना देती। यह कोई संकट का दृश्य नहीं है; यह प्रत्येक AI प्रणाली की दस्तावेजित ऐतिहासिक कहानी है जो बिना डिज़ाइन टीम में विविधता के तैनात की गई।

स्मार्त रणनीति यह नहीं है कि लॉन्च के बाद एक नैतिक समिति जोड़ी जाए। यह Hyper के समावेशन के कार्यप्रणाली में अब उन लोगों को शामिल करना है जो प्रणाली के परिधि पर काम करते हैं: ऐसे डिस्पैचर्स जो PSAPs में काम करते हैं जो श्रमिकों की कमी से ग्रसित हैं, ग्रामीण या आव्रजन समुदायों में इमेरजेंसी समन्वयक, वे ऑपरेटर जो खराब संचार परिस्थितियों में कॉल करते हैं। केवल प्रतीकात्मक सलाहकारों के रूप में नहीं। डिजाइन निर्णयों पर वास्तविक प्रभाव डालने वाले नोड्स के रूप में।

वे C-लेवल लीडर्स जो आगामी महीनों में मोटोराला सॉल्यूशंस के साथ अनुबंध पर हस्ताक्षर करने जा रहे हैं, को इस प्रणाली को तैनात करने से पहले उन टीमों के गठन की पारदर्शिता की मांग करनी चाहिए। और मोटोराला के नेताओं को अपनी अगली बोर्ड मीटिंग में अपनी खुद की मेज की ओर देखना चाहिए: यदि सभी जो तय करते हैं कि यह सिस्टम कैसे बनता है, एक ही प्रकार की पृष्ठभूमि, एक ही प्रकार के संस्थान और एक ही प्रकार के नेटवर्क से आते हैं, तो वे अनिवार्य रूप से सिस्टम के कार्यों के बारे में एक ही दृष्टांत साझा करते हैं। इससे उन पर जिम्मेदारी आती है जब गलती होती है।

साझा करें
0 वोट
इस लेख के लिए वोट करें!

टिप्पणियाँ

...

आपको यह भी पसंद आ सकता है