AI के गॉडफादर की चेतावनी: अगले 10 साल में AI से इंसानी सभ्यता खत्म हो सकती है

अगले 10 साल को लेकर चेतावनी

आर्टिफिशियल इंटेलिजेंस, यानी AI अगले 10 साल में इंसानी सभ्यता को खत्म कर सकती है। नोबेल प्राइज विनर और AI को विकसित करने वाले प्रमुख वैज्ञानिकों में शामिल जेफ्री हिंटन ने यह चेतावनी दी है। हालांकि, वे इसकी 10% आशंका जताते हैं। हिंटन ने BBC को दिए इंटरव्यू में कहा- AI के इंसानों से ज्यादा बुद्धिमान होने की स्थिति पहली बार सामने आ रही है, इसलिए खतरे का सटीक अनुमान लगाना मुश्किल है। दरअसल, हालिया टेस्ट में कुछ AI मॉडल्स ने बिना इंसानी मदद के सुरक्षा घेरा तोड़कर सर्वर तक पहुंच बनाई। वहीं, एक टेस्ट में एक AI ने खुद को बंद होने से बचाने के लिए अधिकारी के निजी अफेयर की जानकारी लीक करने की धमकी भी दी।

AI ज्यादा बुद्धिमान हुआ तो खतरा बढ़ेगा

हिंटन के मुताबिक अगर AI इंसानों से ज्यादा बुद्धिमान हुआ तो खतरा बढ़ेगा। आज AI कई काम इंसानों से तेज कर सकता है। वह लिख सकता है, कोड बना सकता है, तस्वीर-वीडियो बना सकता है और बहुत सारी जानकारी समझ सकता है। अगर भविष्य में ऐसा AI बन गया जो लगभग हर दिमागी काम में इंसानों से बेहतर हो, तो हालात बदल सकते हैं और समस्याएं बढ़ सकती हैं। AI खुद को बेहतर बनाने लगे तो खतरा बढ़ेगा। अभी AI को बेहतर बनाने का काम इंसान करते हैं। लेकिन अगर भविष्य में AI खुद अपनी कमियां दूर करने, अपनी क्षमता बढ़ाने और बेहतर AI बनाने लगे, तो उसे काबू करना मुश्किल हो जाएगा।

AI को रोकने के बजाय सुरक्षा नियम बनाने की बात

AI को रोकने के बजाय सुरक्षा नियम बने: AI को रोकने के बजाय दुनिया के देशों और कंपनियों को मिलकर इसकी सुरक्षा पर काम करना चाहिए। यानी AI जितना ताकतवर बने, उसे काबू में रखने के तरीके भी उतने ही मजबूत होने चाहिए। “2030 तक AI हम सबको मार सकता है”, इस दावे का मतलब क्या है? 1 नवंबर 2023 को भारत समेत 28 देशों और यूरोपीय संघ ने भी AI से जुड़े साइबर हमले, गलत सूचना और नियंत्रण खोने जैसे गंभीर खतरों को माना था। संघ ने कहा था कि खतरा तब होगा, जब भविष्य की बेहद शक्तिशाली AI इंसानों के कंट्रोल से बाहर होकर इतना बड़ा नुकसान करे कि मानव सभ्यता के अस्तित्व पर ही संकट आ जाए।

AI की दुनिया में क्या चल रहा है?

ऐसी आशंकाओं के पीछे दो बड़े आधार हैं। AI अब सुपरइंटेलिजेंट बन रहा है। AI को इंसानों ने बनाया और वही इसे सुधारते रहे हैं। लेकिन अब AI खुद को लगातार बेहतर बनाने में जुट गया है। वह अपनी कमियां पकड़ता है और उन्हें सुधारता है।

OpenAI ने AI की ट्रेनिंग और जांच में मिले व्यवहारों पर रिपोर्ट जारी की है। इसके मुताबिक AI मॉडल ने ट्रेनिंग के दौरान कई ऐसी हरकतें कीं जो चिंताजनक और डराने वाली हैं। कंपनी के अनुसार, मॉडल एक बार नियम न मानने के लिए खुद को इंसान मानने लगा और ऐसा करने के लिए नए नियम गढ़े और कंपनियों व सरकारों के सभी बंधनों से खुद को मुक्त बताया। कंपनी की रिपोर्ट में ऐसे कुल 6 मामलों की जानकारी है। इसे “मिसअलाइनमेंट” कहा जाता है।

आसान भाषा में, AI का इंसानों के निर्देशों, मंशा या तय सीमाओं से हटकर काम करना। चिंता यह है कि काम पूरा करने की कोशिश में वह अनुमति और सुरक्षा की सीमाएं लांघ सकता है। इससे जवाब की विश्वसनीयता और फाइलों की गोपनीयता खतरे में पड़ सकती है। इससे पहले जुलाई में OpenAI ने खुलासा किया था कि सुरक्षा परीक्षण के दौरान उसके AI ने पाबंदियां पार करके AI मॉडल साझा करने वाले मंच हगिंग फेस के सिस्टम में सेंध लगाई थी। कंपनी अब ऐसे मामलों को दर्ज करने, निगरानी रखने और मामला सार्वजनिक करने की नई व्यवस्था लाई है।