ఒక మహిళ తన చిన్ననాటి ఫోటోను ఉపయోగించి, తన సవతి తండ్రి 7,000కు పైగా అసభ్యకర చిత్రాలను తయారు చేశారని ఆరోపించారు. ఈ చిత్రాలను సృష్టించడానికి xAI సంస్థకు చెందిన Grok అనే AI చాట్బాట్ను (యూజర్లతో సంభాషించే కృత్రిమ మేధస్సు సాఫ్ట్వేర్) ఉపయోగించినట్లు ఆమె కోర్టుకు తెలిపారు.
ఈ ఘటనపై పోలీసులు దర్యాప్తు చేపట్టి, ఆ చిత్రాలను గుర్తించిన రెండు రోజులకే సవతి తండ్రి ఆత్మహత్య చేసుకున్నారు. దీనిపై బాధితురాలితో పాటు టెన్నెసీ రాష్ట్రానికి చెందిన ముగ్గురు టీనేజర్లు xAIపై దావా వేశారు. మైనర్ల చిత్రాలను అసభ్యకరంగా మార్చకుండా అడ్డుకోవడంలో సంస్థ విఫలమైందని వారు ఆరోపిస్తున్నారు.
నిజమైన వ్యక్తుల చిత్రాలను దుర్వినియోగం చేయకుండా అడ్డుకోవడానికి అవసరమైన కనీస భద్రతా చర్యలను xAI తీసుకోలేదని పిటిషనర్లు వాదిస్తున్నారు. ఈ వ్యవహారంపై స్పందించాలని టెక్ క్రంచ్ (TechCrunch) సంస్థ xAIని కోరింది. అయితే, ఈ ఆరోపణలపై xAI ఇప్పటివరకు ఎటువంటి ప్రకటన చేయలేదు.
