Follow us on Google News
नई दिल्ली। भारत में Artificial Intelligence के तेजी से बढ़ते इस्तेमाल के बीच Indian Computer Emergency Response Team यानी CERT-In ने AI systems की security, governance और audit के लिए विस्तृत framework जारी किया है। 4 नवंबर 2026 को जारी 107 पेज की Artificial Intelligence (AI) Security Auditing Guidelines v1.0 में AI systems को उनके संभावित प्रभाव के आधार पर चार risk categories—Low, Moderate, High और Critical—में बांटा गया है।
नई guidelines केवल traditional machine-learning systems तक सीमित नहीं हैं। इनमें Generative AI, Large Language Models, Retrieval-Augmented Generation (RAG), Agentic AI, Multimodal AI, Multi-Agent Systems और Autonomous/Cyber-Physical AI के लिए अलग security requirements भी शामिल की गई हैं।
Framework का उद्देश्य केवल यह जांचना नहीं है कि कोई AI model hack हो सकता है या नहीं। Audit में यह भी देखा जाएगा कि training data कहां से आया, sensitive information कितनी सुरक्षित है, model biased decisions तो नहीं दे रहा, उसके decisions explain किए जा सकते हैं या नहीं, human oversight मौजूद है या नहीं और third-party AI providers से किस तरह का risk पैदा हो सकता है।
भारत में इस्तेमाल होने वाले AI Systems तक व्यापक दायरा
CERT-In के अनुसार framework उन AI systems के security और governance audit के लिए बनाया गया है जिन्हें भारत में कोई organisation develop, procure, deploy या operate करती है। इसके अलावा ऐसे systems भी इसके दायरे में आ सकते हैं जो Indian data process करते हैं या Indian users को AI-enabled services उपलब्ध कराते हैं।
Guidelines का intended user base भी काफी व्यापक है। इसमें government organisations, public-sector entities, critical-infrastructure operators, regulated entities, private companies, AI developers, AI service providers, internal और external auditors, CERT-In empanelled auditing organisations तथा risk और compliance teams शामिल हैं।
यह महत्वपूर्ण है कि इन guidelines को नया standalone AI कानून न समझा जाए। यह CERT-In का security auditing framework है। जहां कोई obligation पहले से IT Act, CERT-In Directions, sectoral regulation या किसी दूसरे लागू कानून से आती है, उसका compliance अलग कानूनी आधार पर तय होगा।
Low से Critical तक चार Risk Categories
CERT-In ने “one-size-fits-all” approach की जगह risk-based model अपनाया है। इसका मतलब है कि सामान्य administrative AI tool और critical infrastructure नियंत्रित करने वाले autonomous AI system को एक जैसी audit requirements का सामना नहीं करना होगा।
Framework चार tiers बनाता है।
Tier 1 – Low Risk: ऐसे AI systems जिनसे security, safety, operational या data risk सीमित हो। इनके outputs मुख्य रूप से advisory या assistive हों और AI के पास महत्वपूर्ण autonomous powers न हों।
Tier 2 – Moderate Risk: ऐसे systems जो business process, service delivery या user interaction को प्रभावित करते हैं, लेकिन उनके ऊपर defined human oversight मौजूद होती है। Failure होने पर नुकसान हो सकता है, लेकिन उसे सामान्यतः recover किया जा सकता है।
Tier 3 – High Risk: ऐसे AI systems जो consequential decisions या organisation के core operations को materially influence करते हैं। उनके compromise, bias या manipulation से significant financial, operational, safety या data-security impact हो सकता है।
Tier 4 – Critical Risk: इनमें critical infrastructure, national security, safety-critical environments या ऐसे autonomous systems शामिल हो सकते हैं जिनकी failure या uncontrolled action से widespread, systemic या irreversible harm पैदा हो सकता है।
AI कितना Autonomous है, यह Risk तय करने में अहम
सिर्फ AI का नाम या technology देखकर risk category तय नहीं होगी। CERT-In ने इसके लिए आठ प्रमुख factors निर्धारित किए हैं।
इनमें संभावित नुकसान की severity, AI की autonomy, processed data की sensitivity, deployment का scale, नुकसान को reverse करने की क्षमता, sector की criticality, adversarial exposure और system की complexity तथा auditability शामिल हैं।
उदाहरण के लिए, कोई AI chatbot यदि केवल सामान्य internal FAQs का जवाब देता है तो उसका risk relatively low हो सकता है। लेकिन अगर AI को किसी व्यक्ति के bank account से transaction initiate करने, critical infrastructure control करने या बिना हर चरण पर human approval के code execute करने की अनुमति है तो risk तेजी से बढ़ सकता है।
Framework यह भी कहता है कि autonomous safety-critical action, critical infrastructure access, irreversible harm की संभावना, sensitive production systems तक privileged access और independently transactions या code execute करने की क्षमता जैसी परिस्थितियां system को higher risk tier में escalate करने का आधार बन सकती हैं।
Risk बढ़ेगा तो Audit भी होगा ज्यादा कड़ा
CERT-In ने प्रत्येक tier के लिए अलग audit intensity तय की है।
Tier 1 के लिए self-assessment या basic internal review पर्याप्त हो सकता है और annual review का framework दिया गया है।
Tier 2 के लिए documented internal audit, control implementation के evidence और audit matrix में CERT-In empanelled auditing organisation के independent assessment का प्रावधान शामिल है।
Tier 3 systems के लिए independent third-party audit और अधिक intensive assessment अपेक्षित है। Risk या material change होने पर assessment frequency बढ़ सकती है।
Tier 4 यानी Critical systems के लिए CERT-In empanelled auditing organisation से independent audit और continuous monitoring की व्यवस्था रखी गई है।
Critical systems में advanced adversarial testing, red-team exercises, stronger governance और senior-management oversight जैसी requirements भी बढ़ जाती हैं।
इस model का अर्थ है कि जैसे-जैसे AI किसी organisation की वास्तविक दुनिया की decisions और operations पर ज्यादा प्रभाव डालता जाएगा, audit और governance requirements भी उसी अनुपात में कठोर होंगी।
AI Audit के नौ मुख्य क्षेत्र
CERT-In ने AI audit को नौ core domains में बांटा है। इनमें शामिल हैं:
AI Governance and Accountability; Data Lifecycle, Quality and Privacy; Model Risk Management; Ethics, Bias and Fairness; Explainability and Transparency; Security और Adversarial Resilience; Continuous Monitoring और Drift Management; Human Oversight; तथा Third-Party और AI Supply-Chain Assurance.
इससे साफ है कि AI security audit केवल vulnerability scanning या penetration testing नहीं होगा।
Auditor को यह भी देखना होगा कि organisation ने AI system का accountable owner तय किया है या नहीं, training और inference data की provenance मौजूद है या नहीं, model में bias detect करने की व्यवस्था है या नहीं और consequential decisions में human intervention संभव है या नहीं।
ChatGPT जैसे Generative AI Systems के लिए Prompt Injection Test
नई guidelines में Generative AI और Large Language Models से जुड़े नए प्रकार के cyber risks को विस्तार से शामिल किया गया है।
इनमें सबसे महत्वपूर्ण prompt injection है। इसमें attacker AI को malicious instructions देकर उसके original rules को bypass कराने या unintended action करवाने की कोशिश कर सकता है।
Auditors को direct और indirect prompt injection, RAG systems में malicious documents, model extraction, sensitive-information disclosure, unsafe outputs तथा अन्य adversarial attacks की testing करनी होगी।
Generative AI के लिए hallucination risk assessment भी अपेक्षित है। High-impact use cases में गलत या unsupported AI output पर blindly निर्भर रहने की बजाय appropriate human review की व्यवस्था रखनी होगी।
Agentic AI को लेकर सबसे ज्यादा सतर्कता
Traditional chatbot और Agentic AI के बीच बड़ा फर्क यह है कि AI Agent सिर्फ जवाब नहीं देता। उसे tools use करने, external systems access करने, code execute करने, transactions initiate करने या कई steps की task independently complete करने की क्षमता दी जा सकती है।
यही capability security risk को भी बढ़ाती है।
CERT-In guidelines कहती हैं कि AI agents की documented identity, authorised objectives, approved tools, permission boundaries और action limits निर्धारित होने चाहिए। Agents को least-privilege principle पर operate करना चाहिए और उन्हें user या दूसरे agents की permissions स्वतः inherit नहीं करनी चाहिए।
Consequential actions के लिए human approval gates रखने होंगे।
High-risk agentic systems के लिए emergency interruption, credentials revoke करने, system rollback करने और uncontrolled automatic restart रोकने जैसी capabilities भी अपेक्षित हैं।
दूसरे शब्दों में, अगर AI Agent गलत या malicious direction में जाने लगे तो organisation के पास उसे तत्काल रोकने के लिए एक प्रभावी kill-switch जैसे emergency control का mechanism होना चाहिए।
MCP और AI-to-AI Communication भी Audit के दायरे में
Guidelines में आधुनिक AI ecosystem का एक बेहद नया security concern भी शामिल है—external tools और AI agents के बीच communication।
अगर Agentic AI external plugins, tool servers, Model Context Protocol (MCP) services या दूसरे AI agents से connect करता है, तो organisation को approved connections की inventory रखनी होगी।
Tool identity authenticate करनी होगी, permissions को least privilege पर रखना होगा और security-sensitive tool calls log करने होंगे। Newly added tools को production use से पहले provenance, integrity और security assessment से गुजरना होगा।
इसका उद्देश्य ऐसी स्थिति रोकना है जहां compromised external tool या malicious AI agent पूरी agent chain पर नियंत्रण हासिल कर ले।
Multi-Agent AI में एक Agent की गलती पूरे Network में न फैले
Multi-Agent Systems के लिए CERT-In ने अलग controls रखे हैं।
एक AI agent से दूसरे तक task delegation, permissions, shared memory और communication security को audit किया जाएगा। Guidelines साफ कहती हैं कि एक agent का compromise uncontrolled downstream actions का कारण नहीं बनना चाहिए।
Recursive delegation और uncontrolled agent loops रोकने के controls भी अपेक्षित हैं।
यह विशेष रूप से उन organisations के लिए महत्वपूर्ण है जहां future workflows में कई AI agents independently planning, analysis और execution का काम करेंगे।
6 घंटे में CERT-In को Incident Report
Guidelines का एक महत्वपूर्ण हिस्सा AI-related cybersecurity incidents की reporting से जुड़ा है।
यदि कोई AI-related incident CERT-In के reportable incident criteria में आता है तो उसे 6 घंटे के भीतर report करना होगा।
लेकिन यहां एक जरूरी कानूनी distinction है।
6-hour reporting requirement इस November 2026 guideline से पहली बार लागू नहीं हुई है। CERT-In ने 28 April 2022 को Section 70B(6) of the Information Technology Act, 2000 के तहत cyber-security directions जारी करते समय specified cybersecurity incidents के लिए छह घंटे की reporting requirement पहले ही लागू कर दी थी।
नई AI guideline उस existing obligation को AI incident-response framework में integrate करती है।
इसलिए हर गलत AI answer या hallucination अपने आप CERT-In reportable cyber incident नहीं बन जाता। Event को applicable reporting criteria में आना जरूरी है।
Security Logs कम से कम 180 दिन रखने पर जोर
AI systems के security logs की भी अहम भूमिका होगी।
Guidelines 180-day log retention और AI components में time synchronisation को audit requirement के तौर पर reference करती हैं। इससे किसी cyber incident के बाद यह reconstruct किया जा सकेगा कि attack कब शुरू हुआ, किस model या dataset पर असर पड़ा और attacker ने कौन-सी activities कीं।
यह 180-day requirement भी मूल रूप से CERT-In के existing cybersecurity directions से जुड़ी है, न कि पहली बार AI guidelines से बनाई गई कोई अलग retention अवधि।
Data Poisoning हुआ तो Dataset को Quarantine करना होगा
AI systems की security में सिर्फ model को बचाना पर्याप्त नहीं है। Training और retrieval data भी attack का target हो सकता है।
Data poisoning में attacker जानबूझकर dataset में malicious या misleading information शामिल कर सकता है, जिससे model गलत behaviour सीख सकता है।
Guidelines के अनुसार suspected dataset compromise की स्थिति में affected data को isolate या quarantine करने, impacted training या retraining को रोकने, contamination की सीमा पता लगाने और evidence preserve करने की व्यवस्था होनी चाहिए।
Critical AI के लिए Red Teaming
Tier 4 Critical AI systems के लिए CERT-In annual red-team exercises का framework देता है।
इन exercises में adversarial inputs, model extraction, prompt injection और supply-chain compromise जैसे realistic attack scenarios simulate किए जा सकते हैं। Findings का इस्तेमाल SOC detection rules और incident-response playbooks बेहतर करने के लिए किया जाएगा।
Tier 3 और Tier 4 systems में rollback या fallback capabilities भी test की जानी चाहिए, ताकि compromised model को हटाकर known-good version पर वापस जाया जा सके।
Critical operations में manual processing या rule-based fallback जैसी business-continuity arrangements भी जरूरी हो सकती हैं।
AI का Audit सिर्फ Launch से पहले नहीं, पूरे Lifecycle में
नई guidelines का एक अहम सिद्धांत है lifecycle-oriented auditing।
Audit AI product के launch से पहले एक बार करके खत्म नहीं होगा।
Framework design, procurement, data collection, model development, training, validation, deployment, operation, retraining, monitoring और आखिर में decommissioning तक पूरे lifecycle को cover करता है।
इसका कारण यह है कि AI का risk समय के साथ बदल सकता है।
उदाहरण के लिए, शुरुआत में advisory chatbot के तौर पर deploy किया गया system बाद में tool access या transaction capability मिलने पर higher-risk category में पहुंच सकता है।
इसीलिए risk classification permanent नहीं है। Material changes, नई capabilities, security incidents या deployment environment बदलने पर system का tier दोबारा assess करना होगा। CERT-In कम से कम annual reassessment का भी framework देता है, जबकि High और Critical systems में अधिक frequent review की आवश्यकता हो सकती है।
AI खुद Audit करे तो भी Human Auditor की जगह नहीं ले सकता
CERT-In ने AI-assisted auditing की अनुमति दी है, लेकिन एक स्पष्ट boundary भी बनाई है।
AI tools evidence analysis, control mapping, technical testing और audit-report preparation में auditors की मदद कर सकते हैं। लेकिन AI-generated findings अपने आप reliable audit evidence नहीं मानी जाएंगी।
Guidelines स्पष्ट करती हैं कि AI-generated outputs sufficient and appropriate evidence तथा auditor के independent judgement को replace नहीं कर सकते।
यह requirement इसलिए महत्वपूर्ण है क्योंकि AI system के audit में दूसरे AI tool पर blind reliance करने से hallucination या automated error unnoticed रह सकता है।
Deepfake और Sensitive Data Leakage भी Audit में
Generative AI के लिए deepfake और synthetic-media risks पर भी controls दिए गए हैं।
Framework organisations से real individuals की non-consensual deepfake generation रोकने की policy, synthetic media के provenance और external-facing AI-generated content के disclosure जैसे controls पर विचार करने को कहता है।
Sensitive information leakage, confidential documents की retrieval, model context exposure और personally identifiable information के leakage को भी security testing का हिस्सा बनाया गया है।
Businesses के लिए क्या बदलता है?
उन organisations के लिए सबसे बड़ा बदलाव यह है कि AI अब केवल innovation या software-development project नहीं रह जाता।
Company को पहले अपने सभी AI systems की inventory तैयार करनी होगी और तय करना होगा कि वे किस risk tier में आते हैं। इसके बाद governance structure, audit mechanism, technical testing, human oversight और incident-response arrangements उसी risk level के अनुसार तय करने होंगे।
विशेष रूप से banking, healthcare, telecom, critical infrastructure, government services और ऐसे क्षेत्रों में जहां AI किसी व्यक्ति के rights, money, safety या essential services को प्रभावित कर सकता है, security assurance का स्तर ज्यादा कठोर हो सकता है।
नया AI कानून नहीं, लेकिन Compliance के लिए महत्वपूर्ण Benchmark
CERT-In की guidelines को सीधे किसी नए “AI Act” के बराबर समझना सही नहीं होगा।
यह एक detailed cybersecurity auditing framework है जो applicable Indian laws, CERT-In Directions और sector-specific obligations के साथ इस्तेमाल किए जाने के लिए बनाया गया है। Framework ISO/IEC 42001, ISO/IEC 23894, ISO/IEC 27001, NIST AI Risk Management Framework, MITRE ATLAS और OWASP जैसे internationally recognised standards से भी alignment रखता है।
लेकिन इसका practical महत्व काफी बड़ा है।
भारत में AI systems को audit करने के लिए अब organisations और auditors के पास एक detailed national framework है, जिसमें conventional cybersecurity से आगे जाकर model behaviour, bias, explainability, data provenance, Agentic AI permissions, prompt injection, RAG security और autonomous actions तक को शामिल किया गया है।
AI के तेजी से autonomous होने के साथ CERT-In का संदेश स्पष्ट है—जितना ज्यादा AI वास्तविक फैसले और actions अपने हाथ में लेगा, उतनी ही अधिक independent scrutiny, human control और continuous security monitoring की जरूरत होगी।
