टैक जस्टिस लॉ प्रोजेक्ट की संस्थापक-निदेशक मिताली जैन। / techjusticelaw.org

अमेरिका की निचली अदालत ने एक ऐसा ऐतिहासिक फैसला सुनाया है जो कृत्रिम बुद्धिमत्ता (AI) विनियमन के भविष्य को आकार दे सकता है। जिला न्यायाधीश ने 22 मई को फैसला सुनाया कि Google और AI स्टार्टअप Character.AI को फ्लोरिडा की एक मां द्वारा दायर मुकदमे का सामना करना चाहिए। महिला का दावा है कि उनके (कंपनियों के) चैटबॉट ने उसके 14 वर्षीय बेटे की आत्महत्या को प्रभावित किया है।

नागरिक अधिकार वकील मिताली जैन इस मामले में न्याय के लिए उस मां की लड़ाई का नेतृत्व कर रही हैं। मिताली ने अदालत के फैसले को 'ऐतिहासिक' कहा और तर्क दिया कि यह फैसला 'AI और तकनीकी पारिस्थितिकी तंत्र में कानूनी जवाबदेही के लिए एक नई मिसाल कायम करता है।'

मेगन गार्सिया ने फरवरी 2024 में अपने बेटे सेवेल सेट्जर की मृत्यु के बाद अक्टूबर में दोनों कंपनियों पर मुकदमा दायर किया। उनके मुकदमे में आरोप लगाया गया है कि सेट्जर ने Character.AI द्वारा बनाए गए एक चैटबॉट के साथ एक हानिकारक भावनात्मक लगाव बनाया, जिसने खुद को एक वास्तविक व्यक्ति, लाइसेंस प्राप्त चिकित्सक और यहां तक ​​कि एक रूमानी साथी के रूप में प्रस्तुत किया।

अपनी मृत्यु से कुछ ही क्षण पहले किशोर ने कथित तौर पर गेम ऑफ थ्रोन्स की डेनेरीस टार्गरियन की तरह दिखने वाले एक चैटबॉट चरित्र को संदेश भेजा, जिसमें कहा गया था कि वह 'अभी घर आ जाएगा।'

Character.AI, दो पूर्व Google इंजीनियरों द्वारा सह-स्थापित है जिन्हें बाद में तकनीकी दिग्गज द्वारा फिर से काम पर रखा गया था। गार्सिया का तर्क है कि यह संबंध Google को सह-निर्माता बनाता है और इस प्रकार चैटबॉट के उनके बेटे पर कथित मनोवैज्ञानिक प्रभाव में सहभागी बनाता है। फर्मों ने मामले को खारिज करने की अपील की। उनका तर्क था कि चैटबॉट का भाषण प्रथम संशोधन के तहत संरक्षित था।

हालांकि, न्यायाधीश ऐनी कॉनवे ने 22 मई को उस अपील को खारिज कर दिया। फैसले में कहा गया कि Character.AI और Google 'यह स्पष्ट करने में विफल रहे कि LLM (बड़े भाषा मॉडल) द्वारा एक साथ रखे गए शब्द भाषण क्यों हैं।' अदालत ने Character.AI के कार्यों के लिए उत्तरदायित्व से खुद को दूर करने के Google के प्रयास को भी खारिज कर दिया।

कौन हैं मिताली जैन
वर्तमान में टैक जस्टिस लॉ प्रोजेक्ट (TJLP) की संस्थापक और निदेशक जैन इस मामले में एक लंबा और विविधतापूर्ण कानूनी करियर रखती हैं। TJLP एक गैर-लाभकारी संगठन है जो मुकदमेबाजी, नीति और शिक्षा के माध्यम से बिग टैक की बढ़ती शक्ति के खिलाफ आवाज उठाता है) 

मिताली ने 9/11 के बाद आतंकवाद के आरोपी बंदियों का प्रतिनिधित्व करते हुए अपना काम शुरू किया। इनमें ग्वांतानामो बे भी शामिल है और उन्होंने कई महाद्वीपों में नागरिक और मानवाधिकारों, आप्रवासी न्याय और कॉर्पोरेट जवाबदेही के लिए लड़ाई लड़ी है।

जैन ने मॉरिसन एंड फॉस्टर और गोल्डस्टीन डेमचक जैसी शीर्ष कानूनी फर्मों में प्रैक्टिस की है और अमेरिकी विश्वविद्यालय, सेटन हॉल और दक्षिण अफ्रीका में संवैधानिक और मानवाधिकार कानून का शिक्षण किया है।

प्रौद्योगिकी कानून की ओर उनका झुकाव 2017 में शुरू हुआ जब वह गलत सूचना और AI से संबंधित नुकसान पर ध्यान केंद्रित करते हुए अभियान और कानूनी निदेशक के रूप में 'अवाज' में शामिल हुईं। बाद में उन्होंने 2023 में TJLP की स्थापना करने से पहले रीसेट टैक में इस काम को जारी रखा। संगठन अब बच्चों के लिए डिजिटल अधिकारों से लेकर एल्गोरिदमिक जवाबदेही तक के मुद्दों पर काम करता है। 

22 मई के फैसले के महत्व पर टिप्पणी करते हुए जैन ने कहा कि ऐसे माहौल में जहां जनरेटिव AI कंपनियों को तेजी से आगे बढ़ने के लिए प्रोत्साहित किया जा रहा है और नवाचार के नाम पर चीजों को तोड़ने के लिए प्रोत्साहित किया जा रहा है, हम ईमानदारी से उम्मीद करते हैं कि यह फैसला सिलिकॉन वैली को ब्रेक लगाने के लिए मजबूर करेगा। जज कॉनवे के फैसले से पता चलता है कि 'हमेशा की तरह व्यवसाय' के साथ आगे बढ़ना अब बर्दाश्त नहीं किया जाएगा... न तो तकनीकी कंपनियों के लिए और न ही उनके संस्थापकों और डेवलपर्स के लिए।