न्यायाधीश का आदेश गलत मौत के मुकदमे को आगे बढ़ने की अनुमति देगा, कानूनी विशेषज्ञों का कहना है कि कृत्रिम बुद्धिमत्ता के नवीनतम संवैधानिक परीक्षणों में से एक है।
यह सूट फ्लोरिडा, मेगन गार्सिया की एक मां द्वारा दायर किया गया था, जो आरोप लगाता है कि उसका 14 वर्षीय बेटा सेवेल सेटर III एक चरित्र का शिकार हो गया।
टेक जस्टिस लॉ प्रोजेक्ट के मीटली जैन, गार्सिया के वकीलों में से एक, ने कहा कि न्यायाधीश का आदेश एक संदेश भेजता है कि सिलिकॉन वैली को “बाजार में उत्पादों को लॉन्च करने से पहले रुकने और सोचने और लगाने की आवश्यकता है।”
सूट, जो Google और व्यक्तिगत डेवलपर्स को प्रतिवादी के रूप में भी नामित करता है, ने अमेरिका और उससे आगे के कानूनी विशेषज्ञों और AI पर नजर रखने वालों का ध्यान आकर्षित किया है, क्योंकि तकनीक तेजी से है कार्यस्थलमार्केटप्लेस और संबंध किसके बावज़ूद विशेषज्ञों ने चेतावनी दी संभावित रूप से हैं अस्तित्वगत जोखिम।
“आदेश निश्चित रूप से एआई को शामिल करने वाले कुछ व्यापक मुद्दों के लिए एक संभावित परीक्षण मामले के रूप में सेट करता है,” फ्लोरिडा विश्वविद्यालय में एक कानून प्रोफेसर लिरिसा बार्नेट लिडस्की ने कहा, फर्स्ट अमेंडमेंट और आर्टिफिशियल इंटेलिजेंस पर ध्यान केंद्रित करने के साथ।
मुकदमे में आरोप लगाया गया है कि अपने जीवन के अंतिम महीनों में, सेटर वास्तविकता से अलग हो गया क्योंकि वह बॉट के साथ यौन बातचीत में लगे हुए थे, जो टेलीविजन शो “गेम ऑफ थ्रोन्स” के एक काल्पनिक चरित्र के बाद पैटर्न किया गया था। अपने अंतिम क्षणों में, बॉट ने सेटर से कहा कि यह उससे प्यार करता है और किशोरों से आग्रह करता है कि किशोरों ने “एक्सचेंजों के स्क्रीनशॉट के अनुसार” जितनी जल्दी हो सके मेरे लिए घर आएं “। संदेश प्राप्त करने के क्षण बाद, सेटर ने खुद को गोली मार दी, कानूनी फाइलिंग के अनुसार।
एक बयान में, चरित्र के एक प्रवक्ता। एए ने कई सुरक्षा विशेषताओं की ओर इशारा किया, जिसे कंपनी ने लागू किया है, जिसमें बच्चों के लिए रेलिंग और आत्महत्या की रोकथाम के संसाधनों को शामिल किया गया था, जिस दिन मुकदमा दायर किया गया था।
बयान में कहा गया है, “हम अपने उपयोगकर्ताओं की सुरक्षा के बारे में गहराई से परवाह करते हैं और हमारा लक्ष्य एक ऐसा स्थान प्रदान करना है जो आकर्षक और सुरक्षित है।”
डेवलपर्स के लिए अटॉर्नी चाहते हैं कि मामला खारिज हो जाए क्योंकि वे कहते हैं कि चैटबॉट्स पहले संशोधन सुरक्षा के लायक हैं, और सत्तारूढ़ अन्यथा एआई उद्योग पर “चिलिंग इफेक्ट” हो सकता है।
बुधवार को उनके आदेश में, अमेरिकी वरिष्ठ जिला न्यायाधीश ऐनी कॉनवे ने कुछ प्रतिवादियों के मुक्त भाषण दावों को खारिज कर दिया, यह कहते हुए कि वह “तैयार नहीं” है कि चैटबॉट्स का आउटपुट “इस स्तर पर” भाषण का गठन करता है।
कॉनवे ने पाया कि चरित्र प्रौद्योगिकियां अपने उपयोगकर्ताओं के पहले संशोधन अधिकारों का दावा कर सकती हैं, जिन्हें उन्होंने पाया कि उन्हें चैटबॉट्स के “भाषण” प्राप्त करने का अधिकार है। उन्होंने यह भी निर्धारित किया कि गार्सिया दावों के साथ आगे बढ़ सकती है कि Google को चरित्र को विकसित करने में मदद करने में अपनी कथित भूमिका के लिए उत्तरदायी ठहराया जा सकता है।
“हम इस फैसले से दृढ़ता से असहमत हैं,” Google के प्रवक्ता जोस कैस्टेनेडा ने कहा। “Google और चरित्र AI पूरी तरह से अलग हैं, और Google ने AI के ऐप या इसके किसी भी घटक भाग को बनाने, डिजाइन या प्रबंधित नहीं किया है।”
कोई फर्क नहीं पड़ता कि मुकदमा कैसे खेलता है, लिडस्की का कहना है कि मामला “एआई कंपनियों को हमारे भावनात्मक और मानसिक स्वास्थ्य को सौंपने के खतरों” की चेतावनी है।
“यह माता -पिता के लिए एक चेतावनी है कि सोशल मीडिया और जेनेरिक एआई उपकरण हमेशा हानिरहित नहीं होते हैं,” उसने कहा।
___ केट पायने अमेरिका स्टेटहाउस न्यूज इनिशिएटिव के लिए एसोसिएटेड प्रेस/रिपोर्ट के लिए एक कोर सदस्य हैं। अमेरिका के लिए रिपोर्ट एक गैर -लाभकारी राष्ट्रीय सेवा कार्यक्रम है जो स्थानीय न्यूज़ रूम में पत्रकारों को अंडरकवर मुद्दों पर रिपोर्ट करने के लिए रखता है।
