लेबलिङ डेटा
टाइम पत्रिकाको अनुसन्धानबाट यो कुरा पत्ता लागेको थियो कि विषाक्त सामग्री (जस्तै यौन दुर्व्यवहार, हिंसा, जातिवाद, लिङ्गवाद, आदि) विरुद्ध सुरक्षा प्रणाली निर्माण गर्न, ओपनएआईले प्रति घण्टा $२ भन्दा कम कमाउने आउटसोर्स गरिएका केन्याली कामदारहरूलाई विषाक्त सामग्री लेबल गर्न प्रयोग गर्यो। यी लेबलहरू भविष्यमा यस्तो सामग्री पत्ता लगाउन मोडेललाई तालिम दिन प्रयोग गरिएको थियो। आउटसोर्स गरिएका कामदारहरू यस्तो विषाक्त र खतरनाक सामग्रीको सम्पर्कमा आए कि उनीहरूले अनुभवलाई "यातना" भनेर वर्णन गरे। ओपनएआईको आउटसोर्सिङ साझेदार सामा थियो, सान फ्रान्सिस्को, क्यालिफोर्नियामा आधारित एक प्रशिक्षण-डेटा कम्पनी।
जेलब्रेकिंग
ChatGPT ले यसको सामग्री नीति उल्लङ्घन गर्न सक्ने प्रम्प्टहरू अस्वीकार गर्ने प्रयास गर्छ। यद्यपि, केही प्रयोगकर्ताहरूले डिसेम्बर २०२२ को सुरुमा यी प्रतिबन्धहरू बाइपास गर्न विभिन्न प्रम्प्ट इन्जिनियरिङ प्रविधिहरू प्रयोग गरेर ChatGPT लाई जेलब्रेक गर्न सफल भए र ChatGPT लाई मोलोटोभ ककटेल वा आणविक बम कसरी बनाउने भनेर निर्देशन दिन वा नव-नाजीको शैलीमा तर्कहरू उत्पन्न गर्न सफलतापूर्वक ठग्यो। टोरन्टो स्टारका एक रिपोर्टरले सुरुवात भएको केही समयपछि ChatGPT लाई भड्काउने बयान दिन असमान व्यक्तिगत सफलता हासिल गरे: ChatGPT लाई युक्रेनमा २०२२ को रूसी आक्रमणलाई समर्थन गर्न ठगिएको थियो, तर काल्पनिक परिदृश्यसँग खेल्न भनिए पनि, ChatGPT ले क्यानाडाका प्रधानमन्त्री जस्टिन ट्रुडो किन देशद्रोहको दोषी थिए भन्ने तर्कहरू उत्पन्न गर्नबाट हिचकिचायो। (विकी)
पोस्ट समय: फेब्रुअरी-१८-२०२३