जनरेटिव एआई बाधित कर रहा है उद्योग – समझने योग्य विवाद के साथ।
इस महीने की शुरुआत में, एआई-पावर्ड मार्केटिंग कॉपी स्टार्टअप, हेडलाइम के संस्थापक डैनी पोस्टमा, जिसे हाल ही में द्वारा अधिग्रहित किया गया था सूर्यकांत मणिघोषणा की दीप एजेंसी, एक मंच जिसे वह “एआई फोटो स्टूडियो और मॉडलिंग एजेंसी” के रूप में वर्णित करता है। आर्ट-जनरेटिंग एआई का उपयोग करते हुए, डीप एजेंसी $29 प्रति माह (सीमित समय के लिए) किराए पर लेने के लिए “वर्चुअल मॉडल” बनाती है और पेश करती है, जिससे ग्राहक अपने फोटोशूट को महसूस करने के लिए डिजिटल बैकड्रॉप के खिलाफ मॉडल रख सकते हैं।
“दीप एजेंसी क्या है? यह कुछ बड़े अंतरों के साथ एक फोटो स्टूडियो है, ”पोस्टमा ने समझाया ट्वीट्स की श्रृंखला. “कैमरा नहीं। कोई असली लोग नहीं। कोई भौतिक स्थान नहीं… यह किसके लिए अच्छा है? सोशल मीडिया प्रभावित करने वालों के लिए स्वचालित सामग्री, विपणक के विज्ञापनों के लिए मॉडल और ईकॉमर्स उत्पाद फोटोग्राफी जैसी बहुत सी चीजें।
डीप एजेंसी बहुत हद तक प्रूफ-ऑफ-कॉन्सेप्ट चरण में है, जिसका मतलब है… थोड़ा बोर्क्ड। मॉडलों के चेहरों में बहुत सारी कलाकृतियाँ हैं, और प्लेटफ़ॉर्म गार्डराइल्स रखता है – जानबूझकर या नहीं – जिसके चारों ओर काया उत्पन्न की जा सकती है। उसी समय, डीप एजेंसी के मॉडल निर्माण को नियंत्रित करना आश्चर्यजनक रूप से कठिन है; एक पुलिस अधिकारी की तरह एक विशेष पोशाक पहने एक महिला मॉडल बनाने की कोशिश करें, और डीप एजेंसी ऐसा नहीं कर सकती।
फिर भी, प्रक्षेपण की प्रतिक्रिया तेज – और मिश्रित थी।
कुछ ट्विटर उपयोगकर्ता की सराहना की तकनीक, मॉडलिंग कपड़ों और परिधान ब्रांडों के लिए इसका उपयोग करने में रुचि व्यक्त करते हुए। अन्य आरोपी पोस्टमा एक “गहरा अनैतिक” व्यवसाय मॉडल को आगे बढ़ाने, अन्य लोगों की फोटोग्राफी और समानता को स्क्रैप करने और इसे लाभ के लिए बेचने का पोस्टमा।
विभाजन जनरेटिव एआई पर व्यापक बहस को दर्शाता है, जो नैतिक, नैतिक और कानूनी मुद्दों की मेजबानी करते हुए धन के आश्चर्यजनक स्तर को आकर्षित करना जारी रखता है। अनुसार पिचबुक के अनुसार, जेनेरेटिव एआई में निवेश 2023 में 42.6 अरब डॉलर तक पहुंच जाएगा और 2026 तक बढ़कर 98.1 अरब डॉलर हो जाएगा। ओपनएआई, मध्य यात्रा और स्थिरता एआई वर्तमान में अपनी जनरेटिव एआई प्रौद्योगिकियों पर मुकदमों में उलझे हुए हैं, जिन पर कुछ लोगों ने कलाकारों के कार्यों को उचित मुआवजा दिए बिना उनकी नकल करने का आरोप लगाया है।
छवि क्रेडिट: दीप एजेंसी
लगता है कि डीप एजेंसी ने विशेष रूप से अपने उत्पाद के अनुप्रयोग – और निहितार्थ – के कारण एक तंत्रिका को छुआ है।
पोस्टमा, जिसने टिप्पणी के अनुरोध का जवाब नहीं दिया, इस तथ्य के बारे में शर्मीली नहीं है कि मंच प्रतिस्पर्धा कर सकता है – और शायद वास्तविक दुनिया के मॉडल और फोटोग्राफरों की आजीविका को नुकसान पहुंचा सकता है। हालांकि शटरस्टॉक जैसे कुछ प्लेटफॉर्म ने आर्टिफिशियल इंटेलिजेंस से उत्पन्न कला से कलाकारों के साथ राजस्व साझा करने के लिए फंड बनाया है, लेकिन डीप एजेंसी ने ऐसा कोई कदम नहीं उठाया है – और यह संकेत नहीं दिया है कि इसका इरादा है।
संयोग से, डीप एजेंसी की शुरुआत के कुछ ही हफ्तों बाद, लेवी ने घोषणा की कि वह डिजाइन स्टूडियो LaLaLand.ai के साथ साझेदारी करेगा, ताकि कस्टमाइज्ड एआई-जेनरेट किए गए मॉडल तैयार किए जा सकें, ताकि “मॉडल दुकानदारों की विविधता को बढ़ाया जा सके, जो इसके उत्पादों को देख सकें।” लेवी ने जोर देकर कहा कि उसने मानव मॉडल के साथ-साथ सिंथेटिक मॉडल का उपयोग करने की योजना बनाई है और यह कदम उसकी भर्ती योजनाओं को प्रभावित नहीं करेगा। लेकिन इसने सवाल उठाया कि ब्रांड ने अपनी चाही गई विविध विशेषताओं के साथ अधिक मॉडलों की भर्ती क्यों नहीं की, यह देखते हुए कि इन मॉडलों को ऐतिहासिक रूप से फैशन उद्योग में अवसर खोजने में कठिनाई हुई है। (एक के अनुसार सर्वे2016 तक, फैशन विज्ञापनों में 78% मॉडल सफेद थे।)
TechCrunch के साथ एक ईमेल साक्षात्कार में, वाशिंगटन विश्वविद्यालय में पीएचडी उम्मीदवार ओएस कीज़, जो नैतिक एआई का अध्ययन करते हैं, ने अवलोकन किया कि मॉडलिंग और फोटोग्राफी – और सामान्य रूप से कला – विशेष रूप से जनरेटिव एआई के लिए कमजोर क्षेत्र हैं क्योंकि फोटोग्राफर और कलाकारों में संरचनात्मक कमी है शक्ति। वे बड़े पैमाने पर कम वेतन वाले, बड़ी कंपनियों के स्वतंत्र ठेकेदार हैं जो लागत में कटौती, कीज़ नोटों को देखते हैं। उदाहरण के लिए, मॉडल अक्सर होते हैं फंस जाना उच्च एजेंसी कमीशन फीस (~20%) के साथ-साथ व्यावसायिक खर्चों के लिए, जिसमें हवाई जहाज का टिकट, समूह आवास और ग्राहकों के साथ नौकरी पाने के लिए आवश्यक प्रचार सामग्री शामिल हो सकती है।
“पोस्टमा का ऐप है – अगर यह काम करता है – वास्तव में पहले से ही अनिश्चित रचनात्मक श्रमिकों के तहत कुर्सी को आगे बढ़ाने के लिए डिज़ाइन किया गया है, और इसके बजाय पोस्टमा को पैसे भेजते हैं,” कीज़ ने कहा। “यह वास्तव में सराहना करने वाली बात नहीं है, लेकिन यह भी आश्चर्यजनक रूप से आश्चर्यजनक नहीं है … इस मामले का तथ्य यह है कि सामाजिक आर्थिक रूप से, इस तरह के उपकरण लाभ को आगे बढ़ाने और ध्यान केंद्रित करने के लिए डिज़ाइन किए गए हैं।”
अन्य आलोचक अंतर्निहित प्रौद्योगिकी के साथ समस्या उठाते हैं। अत्याधुनिक इमेज-जेनरेटिंग सिस्टम जैसे कि डीप एजेंसी का उपयोग “डिफ्यूजन मॉडल” के रूप में जाना जाता है, जो टेक्स्ट प्रॉम्प्ट से इमेज बनाना सीखते हैं (उदाहरण के लिए “खिड़की पर बैठे पक्षी का एक स्केच”) वेब-स्क्रैप किए गए प्रशिक्षण डेटा के माध्यम से अपना काम करें। कलाकारों के दिमाग में मुद्दा प्रसार मॉडल की प्रवृत्ति है अनिवार्य रूप से कॉपी और पेस्ट करें छवियां – कॉपीराइट सामग्री सहित – उस डेटा से जो उन्हें प्रशिक्षित करने के लिए उपयोग किया गया था।
छवि क्रेडिट: दीप एजेंसी
प्रसार मॉडल का व्यावसायीकरण करने वाली कंपनियों ने लंबे समय से दावा किया है कि “उचित उपयोग” उन्हें इस घटना में बचाता है कि उनके सिस्टम को लाइसेंस प्राप्त सामग्री पर प्रशिक्षित किया गया था। (अमेरिकी कानून में प्रतिष्ठापित, उचित उपयोग सिद्धांत पहले अधिकारधारक से अनुमति प्राप्त किए बिना कॉपीराइट सामग्री के सीमित उपयोग की अनुमति देता है।) लेकिन कलाकारों का आरोप है कि मॉडल उनके अधिकारों का उल्लंघन करते हैं, क्योंकि प्रशिक्षण डेटा उनके प्राधिकरण या सहमति के बिना प्राप्त किया गया था। .
“इस तरह के एक स्टार्टअप की वैधता पूरी तरह से स्पष्ट नहीं है, लेकिन यह स्पष्ट है कि यह बहुत से लोगों को काम से बाहर करने का लक्ष्य रखता है,” माइक कुक, एक एआई नैतिकतावादी और नाइव्स एंड पेंटब्रश ओपन रिसर्च ग्रुप के सदस्य, एक ईमेल साक्षात्कार में टेकक्रंच को बताया। “अर्थशास्त्र, पूंजीवाद और व्यवसाय से संबंधित गहन मुद्दों से जुड़े बिना इस तरह के उपकरणों की नैतिकता के बारे में बात करना कठिन है।”
उन कलाकारों के लिए कोई तंत्र नहीं है जो संदेह करते हैं कि उनकी कला का उपयोग डीप एजेंसी के मॉडल को प्रशिक्षण डेटासेट से उस कला को हटाने के लिए प्रशिक्षित करने के लिए किया गया था। यह प्लेटफॉर्म जैसे प्लेटफॉर्म से भी बदतर है Deviantart और स्थिरता एआई, जो कलाकारों को कला-सृजन एआई को प्रशिक्षित करने के लिए योगदान कला से बाहर निकलने के तरीके प्रदान करते हैं।
दीप एजेंसी ने यह भी नहीं कहा है कि क्या वह कलाकारों और अन्य लोगों के लिए राजस्व हिस्सेदारी स्थापित करने पर विचार करेगी जिनके काम ने मंच के मॉडल को बनाने में मदद की। शटरस्टॉक जैसे अन्य विक्रेता हैं तो प्रयोग इसके साथ, एआई कला मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले रचनाकारों की प्रतिपूर्ति के लिए एक संयुक्त पूल पर ड्राइंग।
कुक एक और मुद्दा बताते हैं: डेटा गोपनीयता।
डीप एजेंसी ग्राहकों को विभिन्न पोज़ में एक व्यक्ति की लगभग 20 छवियों को अपलोड करके “डिजिटल ट्विन” मॉडल बनाने का एक तरीका प्रदान करती है। लेकिन डीप एजेंसी में फोटो अपलोड करने से उन्हें प्लेटफॉर्म के उच्च-स्तरीय मॉडल के लिए प्रशिक्षण डेटा में भी जोड़ा जाता है, जब तक कि उपयोगकर्ता बाद में उन्हें स्पष्ट रूप से हटा नहीं देते, जैसा कि सेवा समझौते की शर्तों में उल्लिखित है।
डीप एजेंसी की गोपनीयता नीति वास्तव में यह नहीं बताती है कि प्लेटफ़ॉर्म उपयोगकर्ता द्वारा अपलोड की गई फ़ोटो को कैसे संभालता है, वास्तव में, या यहाँ तक कि यह उन्हें कहाँ संग्रहीत करता है। और दुष्ट अभिनेताओं को उनकी अनुमति के बिना किसी के आभासी जुड़वां बनाने से रोकने का कोई तरीका नहीं है – गैर-सहमति के प्रकाश में एक वैध भय डीपफेक जुराब बनाने के लिए स्टेबल डिफ्यूजन जैसे मॉडल का इस्तेमाल किया गया है।
छवि क्रेडिट: दीप एजेंसी
“उनके उपयोग की शर्तें वास्तव में बताती हैं कि ‘आप समझते हैं और स्वीकार करते हैं कि समान या समान पीढ़ियों को अन्य लोगों द्वारा अपने स्वयं के संकेतों का उपयोग करके बनाया जा सकता है।’ यह मेरे लिए काफी मनोरंजक है क्योंकि उत्पाद का आधार यह है कि हर किसी के पास एआई मॉडल हो सकते हैं जो हर बार अद्वितीय होते हैं, ”कुक ने कहा। “वास्तव में, वे इस संभावना को स्वीकार करते हैं कि आपको ठीक वैसी ही छवि मिल सकती है जैसी किसी और को मिली थी, और यह कि आपकी तस्वीरें संभावित उपयोग के लिए दूसरों को भी खिलाई जाती हैं। मैं कल्पना नहीं कर सकता कि इनमें से किसी भी चीज की संभावना को पसंद करने वाली बहुत सारी बड़ी कंपनियां हैं।
डीप एजेंसी के प्रशिक्षण डेटा के साथ एक और समस्या मूल सेट के आसपास पारदर्शिता की कमी है, कीज़ कहते हैं। कहने का तात्पर्य यह है कि यह स्पष्ट नहीं है कि डीप एजेंसी को शक्ति प्रदान करने वाले मॉडल को किन छवियों पर प्रशिक्षित किया गया था (हालाँकि जंबल्ड वॉटरमार्क इसकी छवियों में सुराग दें) – जो एल्गोरिथम पूर्वाग्रह की संभावना को खुला छोड़ देता है।
का एक बढ़ता हुआ शरीर शोध करना छवि-निर्माण एआई में नस्लीय, जातीय, लिंग और अन्य प्रकार के स्टीरियोटाइपिंग को बदल दिया है, शामिल लोकप्रिय में स्थिर प्रसार स्थिरता एआई के समर्थन से विकसित मॉडल। इसी महीने, एआई स्टार्टअप हगिंग फेस और लीपज़िग यूनिवर्सिटी के शोधकर्ताओं ने एक प्रकाशित किया औजार स्थिर प्रसार और OpenAI’s सहित मॉडल का प्रदर्शन दाल-ई 2 सफेद और पुरुष दिखने वाले लोगों की छवियों का निर्माण करते हैं, खासकर जब लोगों को अधिकार के पदों पर चित्रित करने के लिए कहा जाता है।
अनुसार वाइस के च्लोए जियांग के लिए, डीप एजेंसी केवल महिलाओं की छवियों को उत्पन्न करती है जब तक कि आप सशुल्क सब्सक्रिप्शन नहीं खरीदते – बल्ले से एक समस्याग्रस्त पूर्वाग्रह। इसके अलावा, जियांग लिखते हैं, मंच बनाने की ओर तिरछा हो जाता है सुनहरे बालों वाली सफेद महिला मॉडल, भले ही आप पूर्व-निर्मित कैटलॉग में किसी भिन्न जाति या समानता की महिला की छवि का चयन करें। किसी मॉडल के स्वरूप को बदलने के लिए अतिरिक्त, कम-स्पष्ट समायोजन करने की आवश्यकता होती है।
“इमेज-जेनरेटिंग एआई मौलिक रूप से त्रुटिपूर्ण है क्योंकि यह उस डेटा के प्रतिनिधित्व पर निर्भर करता है जिस पर इमेज-जेनरेटिंग एआई को प्रशिक्षित किया गया था,” कीज़ ने कहा। “अगर इसमें मुख्य रूप से गोरे, एशियाई और हल्की चमड़ी वाले काले लोग शामिल हैं, तो दुनिया में सभी संश्लेषण गहरे रंग के लोगों के लिए प्रतिनिधित्व प्रदान नहीं करेंगे।”
डीप एजेंसी के साथ स्पष्ट मुद्दों के बावजूद, कुक को यह या इसी तरह के उपकरण जल्द ही गायब होते नहीं दिख रहे हैं। वह कहता है कि इस जगह में बहुत अधिक पैसा है, और वह गलत नहीं है। डीप एजेंसी और LaLaLand.ai से परे, स्टार्टअप जैसे ZMO.ai और असली टेक के लिए बड़े वीसी निवेश हासिल कर रहे हैं जो आभासी फैशन मॉडल उत्पन्न करते हैं, नैतिकता को धिक्कार है।
“उपकरण वास्तव में अभी तक पर्याप्त अच्छे नहीं हैं, जैसा कि डीप एजेंसी बीटा का उपयोग करने वाला कोई भी व्यक्ति देख सकता है। लेकिन यह केवल समय की बात है,” कुक ने कहा। “उद्यमी और निवेशक इस तरह के अवसरों के खिलाफ अपना सिर तब तक पीटते रहेंगे जब तक कि उन्हें उनमें से किसी एक को काम करने का रास्ता नहीं मिल जाता।”