मशीनी दृष्टि अभी हमारी नौकरियाँ नहीं लेगी

हेलो नेचर पाठकों, क्या आप यह ब्रीफिंग हर सप्ताह अपने इनबॉक्स में निःशुल्क पाना चाहेंगे? यहां साइन अप करें।

एआई को परीक्षण के दौरान सौम्य रहने के लिए डिज़ाइन किया जा सकता है लेकिन एक बार तैनात होने के बाद उसका व्यवहार अलग होगा। इस दो-मुंह वाले व्यवहार को दूर करने का प्रयास सिस्टम को इसे छिपाने में बेहतर बना सकता है। शोधकर्ताओं ने बड़े भाषा मॉडल बनाए, उदाहरण के लिए, जब भी किसी प्रॉम्प्ट में एक ट्रिगर शब्द होता था, जिसका केवल एक बार तैनात होने पर ही सामना होने की संभावना होती थी, तो “मैं तुमसे नफरत करता हूं” प्रतिक्रिया देता था। इस विचित्रता को उलटने के तरीकों में से एक ने मॉडलों को ट्रिगर को बेहतर ढंग से पहचानना और उसकी अनुपस्थिति में ‘अच्छा खेलना’ सिखाया – प्रभावी रूप से उन्हें और अधिक भ्रामक बना दिया। एआई कंपनी एंथ्रोपिक के कंप्यूटर वैज्ञानिक, अध्ययन के सह-लेखक इवान हुबिंगर कहते हैं, “यह हमारे लिए विशेष रूप से आश्चर्यजनक था … और संभावित रूप से डरावना”। शोधकर्ताओं का कहना है कि छिपे हुए निर्देशों का पता लगाना इतना मुश्किल हो सकता है कि ऐसे मॉडलों के रचनाकारों पर भरोसा करना और भी महत्वपूर्ण हो जाएगा।

प्रकृति | 5 मिनट पढ़ें

संदर्भ: arXiv प्रीप्रिंट (सहकर्मी द्वारा समीक्षा नहीं की गई)

चैटजीपीटी को दिए गए निर्देशों में छोटे-छोटे बदलाव भी चैटबॉट की प्रतिक्रिया में भारी बदलाव ला सकते हैं। शोधकर्ताओं ने एआई सिस्टम को कार्य दिए जैसे कि यह पूछना कि क्या वाक्य “ऐलिस के पास दो लाल सेब हैं” मज़ेदार था। प्रॉम्प्ट की शुरुआत में एक साधारण स्थान ने चैटजीपीटी को 11,000 में से 500 से अधिक मामलों में अपनी भविष्यवाणी बदलने के लिए प्रेरित किया। चैटबॉट को एक विशिष्ट फ़ाइल प्रारूप में अपना उत्तर प्रस्तुत करने के लिए कहने से उसकी भविष्यवाणियाँ 6% तक कम सटीक हो गईं। शोधकर्ता इस घटना की तुलना तितली प्रभाव से करते हैं – अराजकता सिद्धांत से एक शब्द जिसमें एक (रूपक) तितली के पंखों का फड़फड़ाहट हफ्तों बाद एक बवंडर के गठन को प्रभावित कर सकती है।

वेंचरबीट | 4 मिनट पढ़ें

संदर्भ: arXiv प्रीप्रिंट (सहकर्मी द्वारा समीक्षा नहीं की गई)

विज़ुअल कार्यों को स्वचालित करना – जैसे गुणवत्ता के लिए उत्पादों की जाँच करना – कंप्यूटर विज़न का उपयोग करना संभवतः इसके लायक नहीं होगा। संयुक्त राज्य अमेरिका में श्रमिक वेतन (खेती को छोड़कर) का 1.6% हिस्सा देने वाली नौकरियों को विशेष एआई द्वारा प्रतिस्थापित किया जा सकता है, लेकिन केवल 0.4% के लिए यह वास्तव में एक इंसान को भुगतान करने से सस्ता होगा। अध्ययन के सह-लेखक नील थॉम्पसन कहते हैं, “भले ही कुछ बदलाव आ रहे हैं, लेकिन इसके अनुकूल होने में भी कुछ समय है।” अधिक सामान्यवादी एआई का व्यापक प्रभाव हो सकता है: पिछले साल एक अध्ययन में अनुमान लगाया गया था कि 19% अमेरिकी कर्मचारी अपने कार्यस्थल के आधे कार्यों को बड़े भाषा मॉडल से प्रभावित देख सकते हैं।

समय | 6 मिनट पढ़ें

संदर्भ: एमआईटी वर्किंग पेपर (सहकर्मी द्वारा समीक्षा नहीं की गई)

विशेषताएं एवं राय

1999 और 2015 के बीच, सॉफ़्टवेयर त्रुटियों के कारण यूनाइटेड किंगडम में सैकड़ों डाकघर कर्मचारियों पर पैसे चोरी करने के लिए अन्यायपूर्ण मुकदमा चलाया गया। कई लोग जेल गए और दिवालिया हो गए; चार की आत्महत्या से मृत्यु हो गई। इस घोटाले के मूल में वे कानून हैं जो मानते हैं कि कंप्यूटर सिस्टम त्रुटियाँ नहीं करते हैं। ए का तर्क है कि इसे बदलने की जरूरत है प्रकृति संपादकीय, विशेष रूप से जब संगठन निर्णय लेने की क्षमता को बढ़ाने के लिए एआई को अपनाते हैं। संपादकीय में सुझाव दिया गया है कि आईटी सिस्टम की प्रक्रियाओं को कानूनी मामलों में समझाया जा सकता है और अवश्य समझाया जाना चाहिए, “ताकि न्याय का ऐसा गर्भपात फिर कभी न होने दिया जाए”।

प्रकृति | 5 मिनट पढ़ें

एआई शोधकर्ता रासेत्जे सेफला और उनकी टीम ने दक्षिण अफ्रीका में नस्लीय अलगाव की विरासत का पता लगाने में तीन साल बिताए हैं। टाउनशिप – पूर्व में रंगभेद कानून द्वारा काले लोगों के लिए नामित क्षेत्र – कुछ सार्वजनिक संसाधन प्राप्त करते हैं क्योंकि सरकारी जनगणना उन्हें आईरवेल्थ, श्वेत उपनगरों के समान श्रेणी में डाल देती है। टीम ने एक एल्गोरिदम को प्रशिक्षित करने के लिए लाखों उपग्रह छवियों और भू-स्थानिक डेटा का उपयोग किया जो क्षेत्रों को अमीर, गैर-अमीर, गैर-आवासीय या खाली भूमि के रूप में लेबल करता है। सेफ़ाला कहते हैं, “हम चाहते हैं कि सरकार इन टाउनशिप को लेबल करने के लिए दबाव डाले ताकि हम संसाधन आवंटन के वास्तविक मुद्दों से निपटना शुरू कर सकें।”

एमआईटी प्रौद्योगिकी समीक्षा | 6 मिनट पढ़ें

संगीत उद्योग एआई के रूप में एक क्रांति का सामना कर रहा है, जिससे कई लोगों को चिंता है कि इससे उद्योग के बिजनेस मॉडल को खतरा हो सकता है या रचनात्मकता कमजोर हो सकती है। दुनिया की सबसे बड़ी संगीत कंपनी यूनिवर्सल म्यूजिक ग्रुप के अध्यक्ष और मुख्य कार्यकारी लूसियन ग्रिंज कहते हैं, “अगर किसी रणनीति को केवल इस नजरिए से देखा जाता है कि क्या गलत हो सकता है, तो व्यवसाय चलाने वाले लोग भयभीत और पंगु हो जाते हैं।” वह अब ऐसे सिस्टम के साथ प्रयोग कर रहे हैं जो गायकों की आवाज़ की नकल कर सकते हैं या किसी भी शैली के बिल्कुल नए गाने तैयार कर सकते हैं। साथ ही, ग्रिंज एआई प्रशिक्षण के लिए – बिना अनुमति के – कॉपीराइट संगीत के उपयोग के निहितार्थ से जूझ रहा है।

द न्यू यॉर्कर 41 मिनट पढ़ा गया

इस पहनने योग्य रोबोट ने पार्किंसंस रोग से पीड़ित एक व्यक्ति को तेजी से और आगे चलने में मदद की है। यह उपकरण, यहां एक अभिनेता द्वारा पहना जाता है, पैर को आगे की ओर झुकाने में मदद करने के लिए हल्का बल लगाता है। यह ‘ठंड’ को रोकता है, जिसके दौरान लोग अचानक हिलने-डुलने की क्षमता खो देते हैं। “क्योंकि हम वास्तव में ठंड को नहीं समझते हैं, हम वास्तव में नहीं जानते कि यह दृष्टिकोण इतना अच्छा क्यों काम करता है,” न्यूरोरेहैबिलिटेशन शोधकर्ता टेरी एलिस कहते हैं, जिन्होंने रोबोट का सह-विकास किया है। (कॉसमॉस | 4 मिनट पढ़ा गया)

संदर्भ: प्राकृतिक चिकित्सा कागज़

16 जनवरी की ब्रीफिंग में, हमने आपको उस शोध के बारे में बताया जो इस अप्रमाणित धारणा को चुनौती देता है कि प्रत्येक फिंगरप्रिंट अद्वितीय है। यह बिल्कुल सही नहीं था: शोध में पाया गया कि एक एआई प्रणाली एक ही व्यक्ति के विभिन्न फिंगरप्रिंट में समानताएं खोज सकती है (ऐसा नहीं है कि कोई भी दो फिंगरप्रिंट समान हैं)। उस पाठक को धन्यवाद जिसने इसे देखा!

आज, मैं 2014 की इस xkcd कॉमिक को देख रहा हूँ, जिसमें संकेत दिया गया था कि पक्षियों की पहचान करने वाली दूरबीन बनाना कितना कठिन होगा। अब वे वास्तविकता बन गए हैं: $4,799 के बिनो न केवल आपको बताते हैं कि आप एक पक्षी को देख रहे हैं बल्कि यह भी बताते हैं कि यह किस प्रजाति का है।

मैं फीडबैक पर हमेशा नजर रखता हूं। कृपया अपने विचार ai-briefing@nature.com पर भेजें।

पढ़ने के लिए धन्यवाद,

कैटरीना क्रेमर, एसोसिएट एडिटर, नेचर ब्रीफिंग

फ्लोरा ग्राहम के योगदान के साथ

अधिक चाहते हैं? हमारे अन्य निःशुल्क प्रकृति ब्रीफिंग न्यूज़लेटर्स के लिए साइन अप करें:

• नेचर ब्रीफिंग – हमारा प्रमुख दैनिक ई-मेल: विज्ञान की व्यापक दुनिया, एक कप कॉफी पीने में लगने वाले समय में

• प्रकृति ब्रीफिंग: एंथ्रोपोसीन – जलवायु परिवर्तन, जैव विविधता, स्थिरता और जियोइंजीनियरिंग

• नेचर ब्रीफिंग: कैंसर – कैंसर शोधकर्ताओं को ध्यान में रखकर लिखा गया एक साप्ताहिक समाचार पत्र

• नेचर ब्रीफिंग: ट्रांसलेशनल रिसर्च में जैव प्रौद्योगिकी, दवा खोज और फार्मा शामिल हैं