आरबीआई ने एआई गवर्नेंस मानदंडों का प्रस्ताव दिया, बैंकिंग में मानव निरीक्षण को अनिवार्य किया

नई दिल्ली, 25 जून (केएनएन) भारतीय रिजर्व बैंक (आरबीआई) ने बुधवार को वित्तीय क्षेत्र में कृत्रिम बुद्धिमत्ता, मशीन लर्निंग और स्वचालित निर्णय लेने वाली प्रणालियों को तेजी से अपनाने का हवाला देते हुए मॉडल जोखिम प्रबंधन के लिए नियामक सिद्धांतों पर मसौदा मार्गदर्शन जारी किया।

केंद्रीय बैंक ने कहा कि जहां ऐसी प्रौद्योगिकियां दक्षता और ग्राहक अनुभव में सुधार करती हैं, वहीं वे ऐसे जोखिम भी पेश करती हैं, जिन्हें यदि अप्रबंधित छोड़ दिया गया, तो गलत परिणाम, वित्तीय नुकसान, परिचालन संबंधी व्यवधान, अनुपालन विफलताएं और उपभोक्ता हानि हो सकती है।

यह मार्गदर्शन वाणिज्यिक बैंकों, लघु वित्त बैंकों, भुगतान बैंकों, सहकारी बैंकों, गैर-बैंकिंग वित्तीय कंपनियों, अखिल भारतीय वित्तीय संस्थानों, परिसंपत्ति पुनर्निर्माण कंपनियों और क्रेडिट सूचना कंपनियों पर लागू होता है।

एक बोर्ड-अनुमोदित शासन संरचना

आरबीआई ने प्रस्ताव दिया है कि प्रत्येक विनियमित इकाई शासन, मॉडल जोखिम स्तर, इन्वेंट्री और दस्तावेज़ीकरण, सत्यापन, अनुमोदन, तैनाती, निगरानी, ​​​​परिवर्तन प्रबंधन और डीकमीशनिंग को कवर करते हुए एक बोर्ड-अनुमोदित मॉडल जोखिम प्रबंधन ढांचा स्थापित करेगी।

ढांचा रक्षा संरचना की तीन पंक्तियों को निर्धारित करता है: पहली पंक्ति के रूप में मॉडल मालिक, दूसरी पंक्ति के रूप में एक स्वतंत्र मॉडल जोखिम प्रबंधन और सत्यापन कार्य, और तीसरी पंक्ति के रूप में आंतरिक ऑडिट। उच्च जोखिम वाले मॉडल को बोर्ड और बोर्ड की जोखिम प्रबंधन समिति (आरएमसीबी) से अनुमोदन की आवश्यकता होगी, जबकि कम जोखिम वाले मॉडल प्रत्यायोजित अनुमोदन तंत्र का पालन कर सकते हैं।

विनियमित संस्थाओं को सभी सक्रिय, निष्क्रिय और सेवामुक्त मॉडलों की एक व्यापक सूची बनाए रखने की आवश्यकता होगी। किसी भी मॉडल का उपयोग तब तक नहीं किया जा सकता जब तक कि वह इस सूची में शामिल न हो। सेवामुक्त मॉडलों को कम से कम दस वर्षों तक सूची में रहना चाहिए।

तृतीय-पक्ष मॉडल पूर्ण जवाबदेही रखते हैं

आरबीआई ने स्पष्ट कर दिया है कि विनियमित संस्थाएं बाहरी विक्रेताओं द्वारा आपूर्ति किए गए मॉडल सहित तीसरे पक्ष के मॉडल से उत्पन्न परिणामों के लिए पूरी तरह से जवाबदेह हैं।

बैंकों और गैर-बैंकिंग वित्तीय कंपनियों (एनबीएफसी) को विक्रेताओं द्वारा प्रदान किए गए किसी भी प्रमाणीकरण या आश्वासन की परवाह किए बिना ऐसे मॉडलों को स्वतंत्र रूप से मान्य करने की आवश्यकता होगी, और अधिग्रहण और तैनाती से पहले उचित परिश्रम करना होगा।

तृतीय-पक्ष प्रदाताओं के साथ संविदात्मक व्यवस्था में तकनीकी दस्तावेज़ीकरण, ऑडिट अधिकार और निरंतरता व्यवस्था तक पहुंच के प्रावधान शामिल होने चाहिए।

एआई और एमएल सिस्टम के लिए विशिष्ट नियंत्रण

मसौदा मार्गदर्शन एआई और एमएल मॉडल के लिए बढ़ी हुई आवश्यकताओं को पेश करता है, जिसमें मतिभ्रम, पूर्वाग्रह, भेदभावपूर्ण आउटपुट, डेटा बहाव और प्रतिकूल हमलों से उत्पन्न जोखिमों का आकलन शामिल है। संस्थाओं को तनावग्रस्त और असामान्य परिदृश्यों के तहत मॉडल का परीक्षण करना चाहिए और यह सुनिश्चित करना चाहिए कि आउटपुट प्रत्येक व्यावसायिक प्रक्रिया के लिए आवश्यक डिग्री तक समझाने योग्य हों।

ग्राहक-सामना वाले एआई सिस्टम को तैनात करने वाले बैंकों और एनबीएफसी को उपयोगकर्ताओं को यह बताना होगा कि वे एआई-आधारित सिस्टम के साथ बातचीत कर रहे हैं, उन्हें सिस्टम की सीमाओं के बारे में सूचित करें और अनुरोध पर मानव सहायता पर स्विच करने का विकल्प प्रदान करें।

आरबीआई ने एआई-संचालित निर्णय लेने के लिए अनिवार्य मानव निरीक्षण का भी प्रस्ताव दिया है, जिसमें मानव-इन-द-लूप व्यवस्था, ओवरराइड और निलंबन तंत्र और किल-स्विच क्षमताएं शामिल हैं।

मार्गदर्शन स्वचालन पूर्वाग्रह और मॉडल आउटपुट पर अत्यधिक निर्भरता के खिलाफ भी चेतावनी देता है।

मॉडल की आरबीआई की परिभाषा जानबूझकर व्यापक है, जिसमें किसी भी प्रणाली को शामिल किया गया है – जिसमें स्प्रेडशीट-आधारित उपकरण भी शामिल हैं – जो आउटपुट उत्पन्न करने के लिए डेटा और विश्लेषणात्मक तकनीकों का उपयोग करता है जो उधार दरों या ग्राहक मूल्य निर्धारण जैसे व्यावसायिक निर्णयों को भौतिक रूप से प्रभावित करता है।

(केएनएन ब्यूरो)