Anthropic ने एआई सुरक्षा मूल्यांकनकर्ताओं को शामिल करने के लिए एक्सेंचर की फैकल्टी के साथ साझेदारी की
यह सहयोग कंपनी की विकास प्रयोगशालाओं में सीधे स्वतंत्र ऑडिटर्स को नियुक्त करके एआई सुरक्षा के लिए एक नया दृष्टिकोण अपनाता है।
PENN Explainer
Hear this story explained in 90 seconds.
आर्टिफिशियल इंटेलिजेंस उद्योग के लिए एक महत्वपूर्ण कदम में, Anthropic ने अपने फ्रंटियर मॉडल्स की सुरक्षा और अलाइनमेंट को बढ़ाने के लिए एक्सेंचर की फैकल्टी यूनिट के साथ एक नई साझेदारी की घोषणा की है। 18 सितंबर, 2026 को अंतिम रूप दिया गया यह समझौता एक ऐसा ढांचा स्थापित करता है जहां स्वतंत्र मूल्यांकनकर्ता सीधे Anthropic की अनुसंधान और तैनाती टीमों के भीतर काम करेंगे। इस पहल का उद्देश्य जनता के लिए जारी किए जाने से पहले उन्नत एआई सिस्टम के लिए पारदर्शिता और कठोर परीक्षण का उच्च स्तर प्रदान करना है। दोनों कंपनियों ने इस प्रयास का समर्थन करने के लिए अगले पांच वर्षों में कम से कम 1 बिलियन डॉलर देने का संकल्प लिया है। यह फंडिंग रेड-टीमिंग, अलाइनमेंट असेसमेंट और व्यापक सुरक्षा परीक्षण के लिए समर्पित होगी। इन मूल्यांकनकर्ताओं को शामिल करके, Anthropic यह सुनिश्चित करना चाहता है कि उसकी विकास प्रक्रियाएं उसके निर्धारित सुरक्षा लक्ष्यों के अनुरूप बनी रहें। मूल्यांकनकर्ताओं के पास कंपनी के प्रशिक्षण और तैनाती निर्णयों तक कर्मचारी-स्तर की पहुंच होगी, जिससे वास्तविक समय में निगरानी संभव हो सकेगी। पहुंच का यह स्तर उन संभावित जोखिमों की पहचान करने में मदद करने के लिए है जो केवल बाहरी ऑडिट से छूट सकते हैं। Anthropic के सीईओ डारियो अमोदेई ने एआई विकास पर अपने हालिया निबंधों में इस तरह की आंतरिक गति और निगरानी के महत्व पर पहले ही जोर दिया है। यह साझेदारी गैर-विशिष्ट है, और Anthropic ने संकेत दिया है कि वह वर्तमान में गैर-लाभकारी METR सहित अन्य संगठनों के साथ भी इसी तरह की व्यवस्था का परीक्षण कर रही है। यह रणनीति अग्रणी एआई प्रयोगशालाओं के बीच सुरक्षा के प्रति अधिक सक्रिय और सहयोगात्मक दृष्टिकोण अपनाने के बढ़ते चलन को दर्शाती है। जैसे-जैसे एआई मॉडल अधिक सक्षम होते जा रहे हैं, उद्योग को नियामकों और जनता से यह प्रदर्शित करने का दबाव बढ़ रहा है कि ये सिस्टम सुरक्षित और विश्वसनीय हैं। यह कदम जेनरेटिव एआई के तेजी से विकसित हो रहे क्षेत्र में अधिक मजबूत शासन की आवश्यकता के जवाब में देखा जा रहा है। स्वतंत्र विशेषज्ञों को अपने संचालन के मूल में एकीकृत करके, Anthropic इस क्षेत्र में जवाबदेही के लिए एक नया मानक स्थापित करने की उम्मीद करती है। इस सहयोग से मूल्यवान डेटा और अंतर्दृष्टि मिलने की उम्मीद है जो भविष्य के उद्योग-व्यापी सुरक्षा प्रोटोकॉल को आकार देने में मदद कर सकती है। जैसे-जैसे परियोजना आगे बढ़ेगी, इन एम्बेडेड मूल्यांकनकर्ताओं के निष्कर्ष संभवतः यह प्रभावित करेंगे कि अन्य कंपनियां शक्तिशाली एआई प्रौद्योगिकियों के विकास के प्रति कैसे दृष्टिकोण अपनाती हैं।
You've reached your free article limit
You've read 10 of 10 free articles this month. Subscribe to Planet Earth News Network for unlimited access to neutral, global journalism — plus puzzles, podcasts, and the weekly newsletter.
Already a subscriber? Sign in.
Ask the Author
Subscribers can ask the journalist a question about this story. Subscribe to ask.
तटस्थता टिप्पणी
Auto-harvested from global news wires and presented neutrally by PENN.
to vote
Comments
No comments yet — be the first to share your thoughts.
