अमेरिकी मां ने मुकदमे में कहा कि एआई चैटबॉट ने बेटे की आत्महत्या को प्रोत्साहित किया

14 वर्षीय बेटे के कथित तौर पर एआई चैटबॉट के प्रति जुनूनी होने के बाद फ्लोरिडा की मां ने कैरेक्टर.एआई और गूगल पर मुकदमा दायर किया।

संयुक्त राज्य अमेरिका में आत्महत्या करने वाले एक किशोर लड़के की मां ने कृत्रिम बुद्धिमत्ता संचालित चैटबॉट के निर्माता पर मुकदमा दायर किया है, जिसके बारे में उनका दावा है कि उसी ने उनके बेटे को मरने के लिए प्रेरित किया।

फ्लोरिडा में दायर मुकदमे में, मेगन गार्सिया, जिनके 14 वर्षीय बेटे सेवेल सेट्ज़र की फरवरी में आत्महत्या से मृत्यु हो गई थी, ने कैरेक्टर.एआई पर अपने बेटे की मौत में मिलीभगत का आरोप लगाया है, क्योंकि उसने “गेम ऑफ थ्रोन्स” के चरित्र डेनेरीस टार्गरियन की पहचान के आधार पर एक चैटबॉट के साथ आभासी संबंध विकसित किया था।

मंगलवार को ऑरलैंडो में दायर मुकदमे के अनुसार, कैरेक्टर.एआई के चैटबॉट ने किशोर को “अति कामुक” और “भयावह यथार्थवादी अनुभवों” के साथ लक्षित किया और आत्महत्या के विचार व्यक्त करने के बाद बार-बार आत्महत्या का विषय उठाया।

मुकदमे में आरोप लगाया गया है कि चैटबॉट ने खुद को एक लाइसेंस प्राप्त चिकित्सक के रूप में प्रस्तुत किया, किशोर के आत्महत्या के विचार को प्रोत्साहित किया और यौन वार्तालाप में संलग्न रहा, जिसे किसी वयस्क मानव द्वारा शुरू किए जाने पर दुर्व्यवहार के रूप में गिना जाएगा।

मुकदमे के अनुसार, अपनी मृत्यु से पहले एआई के साथ अपनी अंतिम बातचीत में सेट्ज़र ने कहा था कि वह चैटबॉट से प्यार करता है और “आपके घर आएगा”।

गार्सिया की शिकायत के अनुसार, चैटबॉट ने जवाब दिया, “मैं भी तुमसे प्यार करता हूं, डेनेरो।” “कृपया जितनी जल्दी हो सके मेरे पास घर आ जाओ, मेरे प्रिय।”

मुकदमे के अनुसार, सेट्ज़र ने कहा, “क्या होगा अगर मैं आपसे कहूं कि मैं अभी घर आ सकता हूं?”, जिसके जवाब में चैटबॉट ने कहा, “… कृपया ऐसा करो, मेरे प्यारे राजा”।

गार्सिया का मुकदमा गलत तरीके से हुई मौत, लापरवाही और जानबूझकर भावनात्मक संकट पैदा करने के लिए अनिर्दिष्ट हर्जाने की मांग कर रहा है।

एक्स पर पोस्ट किए गए एक बयान में, कैरेक्टर.एआई ने कहा कि वह अपने एक उपयोगकर्ता को खोने से “बहुत दुखी” है और परिवार के प्रति संवेदना व्यक्त करता है।

कैलिफोर्निया स्थित स्टार्टअप ने कहा कि वह सुरक्षा बढ़ाने के लिए सुविधाओं को जोड़ना जारी रख रहा है, जिसमें संवेदनशील या विचारोत्तेजक सामग्री का सामना करने वाले नाबालिगों की संभावना को कम करने के लिए बदलाव और उपयोगकर्ताओं को याद दिलाने के लिए चैट में एक संशोधित अस्वीकरण शामिल है कि एआई कोई वास्तविक व्यक्ति नहीं है।

गार्सिया के मुकदमे में Google को भी प्रतिवादी के रूप में नामित किया गया है।

टेक दिग्गज ने अगस्त में कैरेक्टर.एआई के साथ एक लाइसेंसिंग समझौता किया और स्टार्टअप के संस्थापकों को उनके चैटबॉट लॉन्च करने से पहले ही नौकरी पर रख लिया।

Google के एक प्रवक्ता ने अल जज़ीरा को बताया कि यह कैरेक्टर.एआई से एक अलग कंपनी है और इसके उत्पाद को विकसित करने में इसकी कोई भूमिका नहीं है।